Не так давно задумался над простыми вещами. Научить машину здороваться.
Привет  - говоришь ты машине.
Привет - отвечает она.

И тут возникла мысль, еще раз сказать машине "Привет", и вот тут возникли непонятки...

Нет ничего удивительного, если здороваешься каждый день: 1 раз в сутки. Значит, машине надо включать таймер, чтобы засекать частоту "Приветов". Однако, и тут возможны варианты, если идёт постоянно общение с машиной, то делать Привет "по будильнику" уже не имеет смысла. Но не это я хочу сказать, допустим человек два раза в короткое время сказал "привет", что должна сделать машина? Если ответит опять "привет", то так можно зациклиться на приветах бесконечно, но машина-то должна прореагировать на странную ситуацию! Она может спросить: "почему ты повторяешься?". В ответ можно промолчать. И еще раз сказать "Привет". И теперь машине уже надо не зациклиться над повторением двух предыдущих вариантов ("Привет", "Почему ты повторяешься?"), а выдумать что-то третье!

А что люди обычно в таких ситуациях сделают? Скорее всего, каждый будет реагировать по-разному в зависимости от личности: кто-то пошлёт нахуй, кто-то морду набьет, кто-то уйдёт... То есть, на данную ситуацию, машина должна реагировать с каким-то характером индивидуальным, иначе ей вообще не справиться с ситуацией.

А вы тут рассуждаете про какие-то высокие задачи ИИ. Тут хотя бы поздороваться её научить...

Алиса девушка весьма непосредственная, не удивлюсь если однажды вежливо пошлёт.

У человека примерно так же. У каждого своя база используемых реакций.

Кстати, где-то в новостях было, что Яша этим летом берет на стажировку кучу студентов, которые должны добавить Алисе человечности. Кажется, у них уже неплохо получается.

Вот только у человека есть лимит терпения.

Хуйня эт все)))...

Короче, скоро все сведётся не к: «Давайте, попробуйте сделать как человек», а к: «А вы попробуйте сделать не как Алиса».

Сегодня я напишу о некоторых технических аспектах ИИ. Я подумываю - не стоит ли мне записаться на курсы по машинному обучению, ну и как обычно - немного прошелся по этой теме предварительно, поизучав поверхностно некоторые публикации и заодно поразмышлял. И вот что наразмышлял например о модных нейронных сетях.

Нейронные сети по моему мнению имею большое сходство с рефлексами и вообще с бессознательными реакциями. В самом деле, обученная сеть выдает ответ быстро - подобно рефлексивной реакции, но понять почему именно такой ответ - не представляется возможным. Аналитические модели над этими реакциями либо начинают разрастаться до неоперируемых самой же аналитикой размеров, либо и вовсе заходят в тупик, а между тем, ответы сети вполне могут быть адекватными ожидаемому. Происходит это из-за того, что механизм ответа построен на совпадении с шаблоном, который сеть и должна сформировать за период обучения. Шаблон этот велик, и описать его в аналитической форме крайне затруднительно из-за того, что количество аналитических примитивов будет очень велико, если вообще выразимо в доступных нам цифрах, и оперировать аналитически такой сложной системой - также ресурсоемкая задача. Ввиду отсутствия простых аналитических правил в шаблоне, не получается и легко и целенаправлено его поменять, что мы и наблюдаем как в сфере психики, так и и в нейронных сетях - человеку сложно менять свои рефлексивные реакции, а нейросеть - практически невозможно переучить, по крайней мере вносить точечные целевые коррективы, кроме как переучивая её заново на новых наборах данных. У человека это всё же несколько проще, но, опять же, ввиду наличия того, чего нет у нейросети - аналитического блока мышления, а вот уже у иных животных - практически единственный способ обучить животное - это дрессура. Очевидно так же, что без некоторой надсистемы управления шаблонами, совершенно невозможна и адаптивность, и сама эта адаптивность связана, очевидно, с абстрагированием, формированием абстрактных понятий и манипулирование ими. Надо полагать, что у животных есть эта надсистема, ибо они всё же в состоянии адаптироваться к изменениям окружающей среды, хотя, пожалуй, и не так быстро как человек, и, как я полагаю, на ранних стадиях развития жизни, эта адаптация шла только как жесткий естественный отбор - то есть те, кто формировали релевантные условиям (но неосознаваемые) шаблоны поведения и оставались в живых, передавая этот шаблон потомкам - в основном через жестко прошитые рефлексы. Затем, вероятно, начало заметную роль играть и обучение  - то есть создание шаблонов в период лайфтайма особи - это есть и у животных и людей - мы одинаково учим своих детенышей через подражание. Наконец у человека развилась вторая сигнальная система и передача шаблонов/знаний через символы... ну и далее. В свою очередь, эта "символизация" - это и есть абстракция, отделение от непосредственного потока данных и формирование иной картины миры.

Этот переход от непосредственного к абстрактному и есть основа человеческого интеллекта, и базируется он на более низших слоях, но его нет в нынешних нейросетях. Пока, имея дело с нейросетями, мы по-сути имеем дело с примитивными шаблонизаторами, уступающими даже не слишком интеллектуально развитым животным.

Отредактировано Так (2019-03-04 07:14:22)

Это не непреодолимая проблема, просто нейронные сети - по крайней мере в нынешнем исполнении - её не решают. Вместе с тем, однако, нейронные сети - на мой взгляд вполне соответствуют базису интеллекта, формируя в качестве продукта - протопонятия. Как мне кажется, попытки создать аналитически мыслящие машины проваливаются как раз из-за того, что они строятся на "оторванных" от потока абстракциях.

Если подумать, например, о любом нашем человеческом абстрактном понятии, то оно в конечном счете упирается в некий чувственный образ - как раз в эту до-сознательную бездну шаблонов. Любые описания понятий в других понятиях всего лишь сводятся к бессмысленному жонглированию терминами. Можно до бесконечности пытаться объяснять человеку что-то, чего он никогда сам не ощущал: видел, слышал, осязал и т.д. - и в конце концов в лучшем случае выйдешь на аналогии и понятия, которые он уже имеет. Например, попробуйте объяснить что такое апельсин ребенку, который никогда его не видел. Максимум, вы опишете его как "круглый", "оранжевый", "с шероховатой поверхностью" и тд., ну или, например, если ребенок видел мандарин, то сможете сказать - "он похож на мандарин, только крупнее, более округлый и с несколько иным вкусом".

Очевидно, так же, что и даже имея доступ к одному и тому же классу объектов или даже к одному и тому же объекту (апельсинам и конкретному апельсину, соответственно), у разных людей при одном и том же термине возникают разные чувственные ассоциации, весьма широко варьирующиеся, но в целом они в состоянии за счет соглашений достигать консенсуса - так, словно говорят об одном и том же. Но при этом наиболее точным будет всё же отсылка непосредственно к объекту - то есть: вот ЭТО я называю апельсином, сынок : ) Разумеется, это совершенно не значит, что при этом "сынок" воспринимает показанное так же, как и отсылающий, но тем не менее они устанавливают тождество наименований своих ощущений.

Так вот, эта привязка к собственным ощущениям просто необходима для того, чтобы вообще начать продуцировать шаблоны, из которых уже потом можно вырастить кое-что и посложнее. С машинами же поступают так - им впихивают некую аналитическую модель без привязки к данным, и ждут, что те её осознают - это глупо.

С противоположного конца - мы имеем те самые искусственные нейронные сети, где наоборот - обеспечиваем поток данных (ощущений), но не обеспечиваем аналитические механизмы - абстрагирования в понятия.

Отредактировано Так (2019-03-04 12:37:32)

Я всё же думаю, что люди своё отэволюционировали - пора и честь знать : ) В лучшем случае человеки прокачают своё мясо имплантами, но это будут уже не совсем человеки - и в плане соматики, и в плане психическом, да и то - это временное решение без особых перспектив.

Это если не пускаться в совсем в фантазирование мистику.

P.S.
А, да - еще биоинженерия, но здесь совсем всё непредсказуемо пока...

Отредактировано Так (2019-03-05 14:38:49)

Для меня это прозаично, поэтому я и предпочитаю эти "кривые, глухие окольные тропы" : )

Вот, кстати, путь разрешения Китайской комнаты. Покуда у говорящего нет соотнесенности с чувственным опытом, его манипуляции оторванными от его опыта понятиями - это явно Китайская комната.

Обратное, впрочем, не делает систему адекватной, "реальной" - наличие чувственного опыта никак не говорит о какой-то объективности системы - любой, в том числе и человеческой - это всего лишь говорит о том, что есть некое поле чувственного опыта, на который можно сослаться. По вполне очевидным причинам, сам этот чувственный опыт ограничен и специфичен, даже в рамках примерно схожих наборов механизмов - то есть те же люди при наличие схожих сенсоров чувствуют одно и то же -  каждый по своему, и их коммуникация строится на соглашениях, через что люди почитают свои представлени адекватными и даже объективными, что в свою очередь приводит их к представлениям о наличие "объективной реальности" : )

Это крайне поверхностное впечатление. Я даже не могу сказать, например, что я представляю на слово "листок дерева" - для меня это может быть огромным массивом разнообразных форм, которые я когда-либо видел в натуре или зарисованных, плюс их различные состояния, плюс... плюс...

Я не знаю к чему это приведет - я об этом и говорил. Просто одно то, что кто-то потенциально смог бы за пару часов (ну или даже за год) "изобрести" всё то, что человек изобрел за века (в силу своей специализации на этой изобретательской деятельности), а потом с той же скоростью двинуться дальше... для меня выглядит будоражаще, а что там за горизонтом самых смелых предположений и даже наших возможностей воображения - это...

Поэтому я и обходил стороной ИИ.

Отредактировано Так (2019-03-12 15:48:36)

Тут проблема и не только в слишком широком котексте - мы можем начать уточнять, например: лист конкретного вида березы в период вегетации, такого-то размера и прочая, и прочая... как бы сужая расхождения... Но мы так и проваливаемся в попытки аналитически описать выводы нейросети, о чём я писал выше. Кроме того, мы пытаемся описать статичный объект, и стоит чуть листок повертеть - например, просто в другую плоскость развернуть - и всё наше описание может не сработать...

А еще проблема в ограниченности и специфичности самих наших сенсоров. Тут можно много, очень много написать - сейчас у меня нет времени на это описание, как-нибудь потом.

Мимо майи во сансаре я Так просто не хожу: то стишок на форум тисну, то теорью сочиню : )

Тащем-то "будоражит" меня - в смысле впечатляет, а не является стимулом. И будоражат меня порой разные вещи.

И как теперь жить? : )

Отредактировано Так (2019-03-13 07:00:36)

Во-первых, речь в приведенном выше комментарии о сложностях коммуникации, а именно о том, что при всей предполагаемой похожести впечатлений систем со сходно устроенными сенсорными системами и интерпретаторами этих сенсорных сигналов, таки мы сталкиваемся с различными оценами одного и того же.

Во-вторых, приведенный пример с земляникой говорил снова о сложности сличения ощущений разных дегустаторов. Но, допустим возьмем и описанную тобой ситуацию, которая очищенная от частностей, формулирует другую проблему - распознавания. Грубо говоря, один раз попробовав землянику и будучи ориентированным на запоминание этих ощущений - как профессиональный дегустатор - можно утверждать, что я и в дальнейшем распознаю землянику исключительно по вкусу...

Но здесь возникает вопрос выбора системы сравнения параметров. Тут можно привести просто огромное количество таких систем: сравниваем ли мы вообще по похожести ощущений, или нас интересует год урожая, например. Потом, очевидно ягоды в разной степени зрелости - тогда сможем ли мы указать на степень их зрелости? А как насчет того - можем ли мы сказать, что вот эта земляника росла на солнце, а вон та - росла на краю поляны, и её заслонял от солнца лист лопуха? А вот ту землянику немного подъел жучок, добавив в её вкус немного своего "вкуса"?...

Короче говоря, само по себе утверждение о "вкусе земляники" - это грубое обощение и приближение, так, словно все ягоды - это четко одно и то же. То, что мы согласны на эти упрощения и обощения - это одно, но ягоды-то реально уникальны - каждая!

Так что же тогда есть "вкус земляники", кроме как соглашение, основанное на упрощении?

Отредактировано Так (2019-03-13 11:52:27)