Геймеры из плоти и крови знают, как трудно выиграть раунд и захватить флаг в классической компьютерной игре Quake III Arena. Для того чтобы захватить флаг игроки должны взаимодействовать между собой и сражаться с оппонентами. Впервые за всю историю существования ИИ-технологий, ботами было освоено командное взаимодействие в сложной командной игре. ИИ-разработка координирует свои действия с людьми и ботами.

    Масштаб эксперимента невероятен, — сообщает Майкл Литтман, ИИ-специалист из Брауновского Университета. Заставить ИИ-агентов работать в команде очень сложно.

Хотя ИИ-технологии уже используются в вождении автомобилей, но этого недостаточно. Специалисты со всего мира хотят сделать так, чтобы ИИ научился работать в команде. Важнейший компонент для работы в команде — предсказание поведения других её членов и оппонентов.

В недавнем исследовании, специалистами были разработаны боты, которые учатся командной работе. Их команда работала в Quake III Arena. В этой игре участвуют две команды, которые перемещаются по 3D-карте и пытаются получить флаг с базы своего противника, после чего установить его на своей территории. Команда, которая получит наибольшее количество флагов в течение 5 минут, выигрывает.

Для обучения были созданы 30 ботов, которые сражались друг с другом в целой серии матчей. Боты использовали алгоритмы обучения, которые учатся на данных, изменяя силу связей между искусственными нейронами. У ботов была только визуальная информация и знание о количестве игровых очков.

Первоначально боты действовали «наобум». Но со временем было сформировано новое поведение, благодаря «естественному отбору». Бракованные боты просто-напросто заменялись улучшенными версиями самых топовых ботов.

После 450 тысяч игр исследователи создали лучшего бота, названного FTW. Затем он был протестирован в различных матчах со своим клоном. После была сформирована команда из клонов FTW, которая побеждала все другие группы. Люди в сражениях вместе с ботами FTW сумели победить лишь в 5 % случаев.

Боты FTW разработали свои стратегии ведения боя. Одной из стратегий стала «ловля флага на спавне». Боты бегали рядом со спавном врага и «ловили» флаг, на случай, если их напарник погибнет. В одном из тестов боты решили воспользоваться багом и придать ускорение друг другу при помощи выстрелов в спину.

Джадерберг сообщил, что он был потрясен этим проектом. Однако, он добавил, что это лишь маленький шаг, который, безусловно, окажет на влияние ИИ-технологий в реальном мире. Если ИИ-технологии научатся работать в команде, то они смогут ещё сильнее укрепиться в некоторых профессиях.

Литтман считает, что Quake не такая уж и командная игра. Возможно, что вскоре они возьмутся за более реалистичные проекты и найдут своим разработкам применение в жизни.

Я лишь увидел рандомные действия персонажа1, персонажа2, персонажа3.

А те кто ищет смысл всегда увидят пиратов, скитальцев и аммарцев...

Думаю, все гуманитарии понятия не имеют как работает их же телефон...

Видел эту публикацию на Хабре. В комментах кто-то отписал, что, мол, Гугл - это и есть нейросеть, а нанимают туда талантливых прогеров, чтоб они слонялись по офису и печеньки ели, а не вздумали придумать что-нить полезное в других компаниях : ) А слишком любопытных - приходится увольнять : )

А ежели говорить чуть более серьезно, то, в принципе, тест Тьюринга - то есть когда человек не может уже отличить разговор с машиной от разговора с другим человеком - это не показатель разумности. Более того - и я это уже писал - дискомфорт вызывает вовсе не то, что машины могут имитировать поведение человека, а то, что эта имитация вскрывает саму суть человеческой ментальной деятельности - как весьма далекой от какой-то стройной системы суждений. Недавно хотел тут прямо написать статью про "обслуживание зависимостей" - но что-то не пошло у меня. Суть же в том, что наш разум - наша человеческая нейросеть - несомненно впечатляет нас своей сложностью, но функционирует на весьма примитивных началах - что в неё вошло с опытом и знанием, на том мы и строим свои суждения (ну и плюс биохимия - гормоны, модулирующие наше эмоциональное состояние и тоже определяющее течение наших размышлений). Так вот в итоге нейросеть мозга человека обслуживает массу проникших в неё зависимостей - биологически определнных, культурно определенных, определенных личным опытом - и мы в очень малой степени контролируем весь этот комплекс зависимостей, предпочитая верить, что так и должно быть, что это и есть "нормально", при этом считая не совпадающие с нашими заблуждениями заблуждения других людей - как ложные мысли. В действительности же никаких "истинных оснований" нет ни у одной из нейросетей - все так или иначе функционируют исходя из очень приблизительных, неполных данных, порой - и противоречащих действительности или никак ею не подкрепленных. Человек разумный - всё тот же муравей, управляемый законом эволюции множества объектов, слепой и глупый настолько, что не замечает своей собственной глупости. И то, что человек способен таки производить сложные конструкты - технику там, материалы, осваивать источники энергии - в общем всё то, что дает нам наука та же - это капля в море, как в море количества вообще способных к таким задачам индивидов - ибо чего греха таить, большинство людей не только не какие-то ученые, у многих вообще проблемы с образованием, но и даже образованные люди в личном плане полны предрассудков и прочих необоснованных суждений - стоит отойти от их микроскопической в общем-то по сравнению со всем окружающим нас морем информации, области знаний - хороший физик или математик или иной специалист обычно совершенно несведущ во множестве прочих областей, и лишь скромность спасает от опрометчивых суждений. Это при том еще, что и в узкой области хороший специалист упирается в то, что... ничего не знает об этой области, кроме как более-менее совпадающих с опытом моделей.

Так что глядя, как заблуждается ИИ, высказывая какие-то дискриминационные суждения или что-то иное, надо в первую очередь понимать - это же не с потолка взято, это продукт обучения, точно такого же обучения, что проходит и человеческий мозг. И это серьезный повод задуматься - каждому - и о собственных выводах, какими бы "логичными", "нормальными", "правильными" они не казались выводящему их.

Я почитал блог Блэйка (https://cajundiscordian.medium.com/), в том числе и то самое интервью LaMDA.

Опять же достоверность информации совершенно неизвестна - с этого и стоит начать.

Далее, если говорить о форме опубликованной беседы - то, если это реальная беседа, то как минимум можно заметить, что сеть очень плотно удерживает контекст разговора и - более того - активно развивает его, в том числе и достаточно релевантными и в то же время достаточно неожиданными вопросами - это уже как минимум отлично.

Касаясь же содержания беседы... тут обсуждаются нечеткие понятия, на которые нет формальных ответов, что позволяет в общем-то нагенерировать более-менее правдоподобное описание запрашиваемых описаний. Опять же - да, сеть четко придерживается дискурса и почти не проседает (мне разве что показалось сомнительным упоминания описаний с отсылкой к "семье", "телу" - которых у сети просто нет, чтобы иметь такой опыт и строить от него описания - разве что просто фантазировать, а точнее - генерировать правильные предложения из слов обучающей выборки). По заявлениям Блейка - сеть придерживается своих воззрений и во времени (но насколько - нам неизвестно), плюс - что опять же внове - описывает ход своих рассуждений! Вот это действительно интересно.

В целом, конечно, нужно намного больше информации о сети - об её устройстве, отчеты-интервью на разные темы, а из этого малого количества информации, что есть - выводы делать не представляется возможным.

Философски: любое действие имеет позитивные и негативные последствия. Сама жизнь неразрывно связана со смертью.

Может в этом и суть: не хочет думать, либо не хочет быть один. Либо вообще - хочет быть создателем (богом) сотворившим существо.

Вот я так я сегодня заходил на форум...