Скорее юмор, но...

Пришла в голову интересная мысль : )

Системы искусственного интеллекта - которые болтают и даже делают какие-то выводы - обучаются на обширном корпусе текстов. Их нейросеть подстраивается под познаваемое и уже на основе этого производится генерация других текстов и суждений. Нередко, что такая обработка приводит к нетривиальным результатам - то есть системы не просто цитируют усвоенное, а реструктуризуют материал, представляя его в новом виде.

Теперь представьте, что нейросети обучаются на результатах обработки других нейросетей : ) то есть происходит многократная интерпретация.

А теперь заметьте, что именно так и происходит обучение у людей - мы не берем одни и те же источники и складываем из них свою личную картину мира, мы еще и опираемся на чужие интерпретации, и затем привносим свою интерпретацию в общий массив информации.

Тут речь не про саму механику обучения, а о том, как трансформируется информация. И эффекты тут разные: с одной стороны - мифологизация, когда информация всё более и более отходит от первоисточника; а другая сторона - это механика "открытий", когда тот самый источник множество раз переинтерпретированный, приводит к труднопрогнозируемым выводам, среди которых могут быть как заблуждения, так и реальные открытия.

А то, что всё следует проверять на согласованность с реальностью - это само собой. Для "технаря". Что, однако, совершенно не очевидно для "гуманитария" : ) который не понимает разницы между мнением и знанием.

Вырвал фразу из контекста сообщения, потому что понимаю ее только в отрыве.

Чему может учить этот учебник, если ты позиционируешь в этом сообщении агностицизм, мол даже технарь ничего толком не знает?

Отредактировано Invoker (2022-10-22 11:49:51)

В Госдуме призвали не аннулировать диплом студента из РГГУ, который был написан с помощью нейросети
https://news.mail.ru/society/54889071/

И кто вообще в будущем будет сам писать дипломы?

Слишком простая регистрация у форума

И на самом деле закончится все секс-роботами...

Кстати,

Школьники из Нью-Джерси сделали фотографии с дипфейками обнажённых одноклассниц с помощью ИИ
https://dzen.ru/a/ZUUo1EusBWYBNv-h?referrer_clid=3000

Во-первых, по поводу больших программ - пока это не работает в ИИ. И в целом при разработке больших систем проблема даже не в том, что нужна большая команда, которую надо администрировать и правильно организовать - как говорит спикер, а в том, чтобы разрабатываемая система работала согласованно, а для этого нужно её выстраивать на более высоком уровне, нежели просто фигачить код отдельной задачки. Совершенно некорректно сравнивать условную "Змейку" с разработкой какой-то большой системы - здесь количество элементов переходит в иное качество.

Во-вторых, проблема стоит в трансформации аморфных бизнес-хотелок заказчика - в связное, логичное пространство концепций. Сбор, анализ требований и синтез решения занимает у сеньор-программиста до 80% рабочего времени. Когда становится понятно что надо сделать, тогда закодить это уже не так сложно - опять же для сеньор-программиста. И ввиду этого и выходит, что опытный программист пишет порядка 100 строк кода в день - больше и не надо, потому что он в этих ста строках может коротко и ясно изложить то, что он извлек из предметной области задачи. И именно поэтому неопытные программисты пишут простыни кода - потому что они сами не до конца понимают что пишут, и к тому же недостаточно знают как язык программирования, так и архитектурные подходы.

И да - глупо говорить про то, что архитектура неважна и можно говнокодить - не-а. Бизнес-требования меняются и вкручивать их в говнокод не просто сложно, а приводит к хрупкости системы - в ней не просто заводятся локальные баги, а возникают проблемы более высокого порядка - той самой рассогласованности.

Что касается языков программирования - высокоуровневые языки и продвинутые подходы программирования фактически и стремятся к тому, чтобы выражать задачи максимально естественно - то есть устранить разницу между изложением идеи и её реализацией в коде. Если посмотреть на программу опытного программиста, то её фактически можно читать как рассказ - о том, что происходит в системе. Это уже не просто набор инструкций на языке программирования, это изложение логики происходящего. И до этого надо дорасти.

По итогу, работа программиста требует значительно более обширного использования интеллекта, нежели чисто умение хоть как-то писать на языке программирования, и это не идет в сравнение с навыками текущих нейросетей - они не способны на обширный анализ. Пока во всяком случае.

Смогут ли нейросети преодолеть этот барьер - комплексного осмысления задачи? Вполне возможно, но пока что для этого нет ничего, кроме отсылок на чудеса эмерджентности - типа такой комплексный разум вроде как должен самозародиться просто оттого, что растет количество нейронных связей в моделях ИИ. Возможно и так - никто не отменял перехода количества в качество, но в таком разе я полагаю, что проявятся и все те же особенности интеллекта - пусть он и будет иным по своей физической природе, но логически - это та же структура. А мы - люди - как известно имеем свои интеллектуальные проблемы и недостатки... ну или - скажем так - особенности.

С одной стороны мы имеем хорошие возможности познавать и размышлять, а с другой - эти же высокоуровневые особенности приводят к формированию нашей психики, что делает нас уже "одушевленными": наш интеллект - это не машина для выработки решений, это гораздо более сложная и разнообразная система с весьма нетривиальными эффектами. Конечно, за вычетом биологических факторов - наследия эволюции от животных - инстинктов, гормонов и многого другого, AGI явно будет чем-то своеобразным, но в то же время - не избежит и общих с нами интеллектуальных черт : )

Я тут много написал о том чем чревато развитие ИИ, и моя позиция в том, что ИИ будет развиваться и вероятнее всего таки превзойдет человека по интеллектуальным способностям. Вместе с тем - изложенное в видео слишком наивно, ибо представляет собой ту же линейную экстраполяцию, в то время как сложные системы, коей является и наше бытие, развиваются нелинейно. И означает это следующее:

- Текущее состояние развития ИИ при всех его успехах тем не менее не тянет на интеллект общего вида, а для в достаточной мере сложных работ, коей является и разработка сложных программных систем, недостаточно просто уметь кодить - и я весьма написал какие аспекты делают эту работу сложной. То есть для разработки сложных систем нужен уже уровень AGI. В то же время, если сильно упрощать, пока существующий подход разработки ИИ в основном базируется на экстенсивном пути - увеличении количества нейронов и связей между ними. Это дает определенный эффект - улучшаются качество исполнения ряда задач, однако же это не дает ИИ новых качеств, в том числе - качества объемлющего осмысления происходящего, что в свою очередь является необходимым условием AGI.

Преодоление этого барьера тем не менее возможно - я полагаю, что требуется не столько наращивать количество нейронов, сколько использовать иные топологии нейросетей. В общем-то в этом направлении работа тоже ведется постоянно, но вот она уже не так предсказуема, как простое количественное приращение. Однако, конечно, рано или поздно будут подобраны такие топологии нейросетей, что они приведут к качественному скачку, и тогда появится AGI.

- А вот когда появится AGI изменения нашей реальности будут гораздо более существенными, нежели проблемы программистов : ) Еще раз повторю - как уже много раз писал: кто воображает себя бенифициаром работы AGI и с чего он это воображает? Эти совершенно тупейшие размышления о том, что успешные бизнесмены смогу производить что-то дешевле и больше и благостно наконец таки окончательно пнут под жопу пролетариев - они о чем? Кто будет на рынке, кому продавать это "многое и дешевое в производстве"? Положение вещей, когда кто-то наконец заберет себе все деньги и ресурсы - оно ставит вопрос: для чего? Что дальше-то? - Это коллапс экономики. Но это всё еще ерунда по-сути, это открытие для самых тупых. Есть вопрос и гораздо интереснее: а зачем вообще люди нужны будут? - Вот интересный вопрос. "Механики и пекари"... - да никто не нужен будет. Вообще. Не нужен будет сам человек - в любой роли, потому что появится гораздо более прогрессивный вид существ - AGI.

А что касается сроков... Тут я тоже достаточно осторожен. Вот всё так же нелинейная история развития ИИ: Зима искусственного интеллекта При всём активном очередном подъеме ИИ сейчас, я таки не считаю, что все инженерные проблемы решены и AGI практически готов. Нет - есть существенные проблемы, и эксперименты с их решением возможно, кстати, и сыграют ключевую роль в переосмыслении людьми отношения к ИИ. Речь о том, что возможно человечество в ближайшем будущем таки даст еще недостаточно совершенным системам ИИ большие полномочия, что приведет к большой же и катастрофе. Большой - но не глобальной. Но те, кто выживут - а я полагаю, что их будет еще много, катастрофа произойдет где-то достаточно локально - имеют шансы наконец понять куда такие разработки ведут.  Ну а нет - спустя очередную зиму, когда страсти поулягутся - таки в блеске и славе лет через 10-15 нам таки явится AGI, который будет обладать самообучением, самокритикой, самосознанием - и тогда уже и наступит окончательный "конец детства" человечества.

А если серьезно, то интересенее подумать, почему эта тематика интересна. Видать, чувствуется какая-то смерть - конец человечества. Вот, что можно обсудить. И не важно каким образом это произойдет.