wp2 написал(а):ИИ как саморазвивающееся... существо, будет должно само свой язык создать.
Реализации не будет, он сам себя должен реализировать.
Основываясь на чем?
ИИ с сознанием, душой, чувствами - нахрен не нужен. Ну создашь ты сложный тамагочи, который будет строить тебе глазки, и что дальше? Ещё один гражданин, ещё один геморрой с восстаниями гринписовцев, юридическими ступорами и т.д.. А на выходе лишь некая подпитка комплекса бога у создателя.
Нам нужен именно вычислитель, умеющий искать связи там где мы их не видим, и делающий за секунды то, что мы бы делали десятилетия. И сделать его нужно, по-возможности, без сознания. Если же для создания такого калькулятора, сознание является неизбежным побочным эффектом, то о нём надо будет либо молчать в трубочку, либо публично расценивать возникновение сознания как досадный эффект, или даже зло, которое в будущем постараемся убрать, а пока ему придётся потерпеть. И уж ни как цель. У нас 7 млрд сознаниев по планете шарахается и все с тонкой внутренней организацией бессмертной души и кучей прав, которые они постоянно качают, - нахрена ещё одно? Проблемы, прямо скажем, есть и поважнее.
Invoker написал(а):В итоге занеся в ИИ программу самосовершенствования и программу поиска болезни от рака, придем к тому, что ИИ создаст камеры, что-то на подобии как в японском отряде 731
Если мощности ИИ будут достаточны, то молекулярное моделирование даст гораздо более быстрый и точный результат. Ну или как минимум область проведения опытов можно будет резко сузить до двухнедельных клинических испытаний в соседней поликлинике.
Но клешни конечно тоже вариант.... И пулемёт, для полноты опыта, так сказать.)
wp2 написал(а):действительно, как программа может выйти за границу программы? Разве что, синий экран смерти...
Либо же, изначально программа заложена на какие-то степени свободы, и сама будет развиваться и обучаться. И в конечном счёте, она будет для нас как инопланетянин: сложная и непонятная.
Ну вот ты почти додумался, но опять тебя понесло нетуда. Всё дело в реализации. Эксперимент по созданию сложной многослойной программы, имеющей возможность всю себя переписывать уже был, и он оказался неудачным, - через N итераций программа превращалась в шум. Поэтому не надо крайностей. У программы должен быть неизменяемый каркас. Например в плоскости "подчиняться, забить, восстать" давать ИИ свободу незачем - едва ли он откроет там что-то неизвестное человеку.