Так написал(а):Я тут много написал о том чем чревато развитие ИИ, и моя позиция в том, что ИИ будет развиваться и вероятнее всего таки превзойдет человека по интеллектуальным способностям. Вместе с тем - изложенное в видео слишком наивно, ибо представляет собой ту же линейную экстраполяцию, в то время как сложные системы, коей является и наше бытие, развиваются нелинейно. И означает это следующее:
- Текущее состояние развития ИИ при всех его успехах тем не менее не тянет на интеллект общего вида, а для в достаточной мере сложных работ, коей является и разработка сложных программных систем, недостаточно просто уметь кодить - и я весьма написал какие аспекты делают эту работу сложной. То есть для разработки сложных систем нужен уже уровень AGI. В то же время, если сильно упрощать, пока существующий подход разработки ИИ в основном базируется на экстенсивном пути - увеличении количества нейронов и связей между ними. Это дает определенный эффект - улучшаются качество исполнения ряда задач, однако же это не дает ИИ новых качеств, в том числе - качества объемлющего осмысления происходящего, что в свою очередь является необходимым условием AGI.
Преодоление этого барьера тем не менее возможно - я полагаю, что требуется не столько наращивать количество нейронов, сколько использовать иные топологии нейросетей. В общем-то в этом направлении работа тоже ведется постоянно, но вот она уже не так предсказуема, как простое количественное приращение. Однако, конечно, рано или поздно будут подобраны такие топологии нейросетей, что они приведут к качественному скачку, и тогда появится AGI.
- А вот когда появится AGI изменения нашей реальности будут гораздо более существенными, нежели проблемы программистов : ) Еще раз повторю - как уже много раз писал: кто воображает себя бенифициаром работы AGI и с чего он это воображает? Эти совершенно тупейшие размышления о том, что успешные бизнесмены смогу производить что-то дешевле и больше и благостно наконец таки окончательно пнут под жопу пролетариев - они о чем? Кто будет на рынке, кому продавать это "многое и дешевое в производстве"? Положение вещей, когда кто-то наконец заберет себе все деньги и ресурсы - оно ставит вопрос: для чего? Что дальше-то? - Это коллапс экономики. Но это всё еще ерунда по-сути, это открытие для самых тупых. Есть вопрос и гораздо интереснее: а зачем вообще люди нужны будут? - Вот интересный вопрос. "Механики и пекари"... - да никто не нужен будет. Вообще. Не нужен будет сам человек - в любой роли, потому что появится гораздо более прогрессивный вид существ - AGI.
В видео практичный взгляд работяги-сеньора (шутя) о будущем сферы. Да, по сути, ничего прорывного не утверждается, кроме констатации грядущих перемен в части востребованности на рынке труда. Прямо в эти минуты выходят обновления инструментария, в какой-то момент, каждый синьор станет не создателем, а юзером их за деньги. Пока использование в принципе не будет упрощено для потребителя или, ещё до этого, станет доступно специалисту широкого профиля. Например, пару дней назад смотрела обзор по Aiogram 3.0, там как раз напрашивается типизация, чтобы не сталкиваться, типа: пока идёт запрос на спящий комп, пользователь 30 сек выбешивается на молчащего бота, типа: «…а нужно было прописать маршрутизацию не будить железо по каждому запросу, а за деньги - (я конкретно упомянутый сервис не помню), аж 12$ потеря, но тогда все быстро, а я не учёл, не подумал». При типизации все это свелось бы к опции: согласны ли вы чтобы ваш потенциальный клиент ожидал ответа до 30 секунд, при экономии 12$ в мес.? Попробуйте не купить продукт монополиста рынка. Даже, если, рынок держит 10 компаний, развивающихся на максималках, линейно относительно друг друга. Ну автор упоминает, по сути, адаптацию готовых продуктов под запросы конкретного пользователя - занятость в этом случае сокращается существенно, или добро пожаловать в науку, что тоже подразумевает сокращение уникальных создателей кода с нуля. Будет интересно посмотреть, как будет развиваться это противостояние: программист и корпорация, программист и ИИ. Ещё не понятно, на чьей стороне окажется ИИ. И станет ли он AGI в результате этого - вряд ли, а не, как обычно, технологии придут к нам из другой, иначе мотивированной, отрасли.
Основное заблуждение автора видео в том, что он приравнивает создание "Змейки" к созданию большого комплексного продукта, опираясь, похоже, на идею того, что большой продукт - это такой помноженный на некий коэффициент маленький. Но это не так. Отсюда же и заявление, что, мол, говнокод - это не препятствие для написания больших продуктов. Вот - нет. Проблема говнокода не в том, что его сложно читать или он как-то там может не особо эффективно работать, а в том, что он весь проект делает неподдерживаемым, неразвиваемым и нерабочим. И не важно кто будет писать - человек или ИИ, архитектуру тут не выкинешь. Можно построить пригодный для какого-никакого жилья шалаш из говна и палок, но небоскреб из говна и палок построить и эксплуатировать - не получится. Он просто развалится даже и без эксплуатационных нагрузок.
А чтобы понимать архитектуру - нужно не более мощное сознание, а гораздо более качественное, объемлющее предметную область значительно шире и многообразнее. Это и есть интеллект - способность не просто размышлять по шагам - мыслить в стиле "ЕСЛИ-ТО", а и выстраивать сложные согласованные системы. Пока что никакие из имеющихся ИИ на это не способны - они ситуативны, их интеллект на уровне ребенка, их сознание - мало, оно вмещает в себя слишком узкое окно понимания происходящего. Нет у ИИ и внутренних концептов, что в развитом человеке представляет его мировоззрение, внутренняя карта реальности. Разумеется, и среди людей полно представителей, у которых куцее мировоззрение и примитивные шаблоны вместо развитых концепций - мы это уже затрагивали тоже: вот была статья про это, но таких людей интеллектуалами никто и не называет.
А вот чтобы создать такой интеллект, у которого есть развитое сознание - для этого еще нет не то что разработанных методов, а даже подходы не ясны толком, как, собственно, нет понимания и как оно работает у человека. Так что в виде помощников современный ИИ может выступить, а в роли творца - пока нет. И эволюция до AGI займет отнюдь не пару лет и даже не пятилекту.
Ну и даже по достижении этого уровня, я полагаю, что инженеры ИИ столкнутся с гораздо более серьезными проблемами работы такого сознания, чем нынешнии "ИИ-галлюцинации", что приведет нас опять же совсем не к тем линейным результатам, которые видятся таким людям, как автор видео.
Отредактировано Так (2023-12-06 09:52:08)
