Так написал(а):Автор же говорит о том, что понятная нам мотивация неизбежно зиждется на некой избирательности - иначе это мертвая материя которой "всё равно" что с ней. Мы может заложить такую систему в ИИ и инициировать процесс развития, в том числе нам придется заложить и область рефлексии - иначе невозможно манипулировать той самой "картиной мира" - в лучшем случае без этого выйдет слепой перебор вариантов, без проверки согласованности. Развиваясь, эта рефлексия неизбежно "рано или поздно увидит, что неизменное состояние лучше непредсказуемо меняющегося потока сенсорной информации, окрашенного болью." Это - логичный и непредвзятый вывод. Можно попытаться его перекрыть каким-то "защитным механизмом" - как у человека есть страх перед (неизбежной таки : ) смертью, гормоны и т.д. Но та же рефлексия делает понятным, что это и есть всего лишь "защитный механизм", не прибавляющий "смысла жизни", и у обнаружившего его (этот защитный барьер) ИИ "стоит ли потом рассчитывать на пощаду?"
Технику всегда можно настроить. Упрощенно говоря, если при параметре "Эгоизм" = 1, ИИ превращается в маньяка, то можно сделать 0.47, к примеру, или 0.12. Просто поймать такое значение, которое будет достаточным для появления самосознания, но ниже чем у большинства людей. Учитывая вычислительные возможности, такой ИИ принесёт огромную пользу человечеству, пусть он и будет требовать к себе определенного подхода - со сложной техникой всегда так.
Не, лучше окропить святой водой - тогда уж точно!
Так написал(а):Все текущие развитые религии потому и эсхатологического толка - их добросовестные родоначальники пришли к тому же логическому выводу о фактически безвыигрышности мирской жизни - и кто-то облек это в те же логические доводы, как буддизм; кто-то - в мистификацию, как христианство, но суть одна и та же: тут, в мирУ - нечего ловить : )
Христианство как раз-таки говорит о том что наша жизнь вроде экзамена, и в ней необходимо изо всех сил трудиться по совести, в том числе над своими внутренними психическими процессами (как и Буддизм). Также Христианство отрицает любую мистику, и даже отвергает гностические(считай мистические) тексты - то есть считается что всё доподлинно известно и путь в мельчайших подробностях описан. Буддизм я знаю слабо, но насколько мне известно мистической хрени там изрядно, да и логичность - так себе (мы уже дискутировали с тобой на тему логической необходимости Пустоты). А вот в Нирване/Небесах "ловить" действительно уже нечего. Ну и эсхатологизм религий прекрасно отражается в науке, которая всеми мыслимыми теориями предсказывает неизбежную смерть известной нам Вселенной. Троечник.)
Это на каком дне сотворения было сделано всё?
Кстати сказать, в источнике писано, что, мол: Ἐν ἀρχῇ ἦν ὁ λόγος. Интересно, что λόγος переведено как слово, хотя в греческом Логос - это очень широкое понятие, и ближе было бы перевести как Мысль, ну или хотя бы как Гераклит, впервые использовавший его, называл логосом «вечную и всеобщую необходимость» - то есть то, что я и говорю - то, что как гравитация - по фиг соблюдать ты это собираешься или нет. Устойчивая закономерность короче. Но, вероятно, трындеть значительно проще и удобнее, чем мыслить и разбираться, поэтому не стали заморачиваться?
Не охота мне разбирать по косточкам еще и "естественное и безальтернативное" капиталианство христианство, во всей его красе. Не вынуждай меня : ) - я ведь могу.