А недавно я прочел статью на тему Будут ли андроиды видеть сны? Она про информацию, в широком смысле - о той же принципиальной восстановимости всей цепочки событий. Так вот автор статьи задается вопросом о том - где хранить всю уйму накапливающейся информации в электронных мозгах в условиях ограниченности памяти, и как эта накопленная информация отражается на адекватности.

В пример он приводит гугловскую нейросеть, обучавшуюся распознавать фото и теперь упорно показывающей на запрос "обезьяна" в том числе фотографии представителей негроидной расы - прецедент в западном обществе, обеспокоенном толерантностью -из ряда вон выходящий и недопустимый совершенно. Но поделать с этой "ошибкой" в гугле ничего не могут - как именно к такому "умозаключению" нейросеть пришла - никто сказать не может, и не может и предложить решения и "переучить" сеть - ибо это процесс не прошивки вопросов/ответов, а анализа большого числа данных. Но автор рассматривает вопрос как возможность нейросети делать "неправильные" в результате обучения, которое в целом вроде как привело к адекватным (я бы сказал - ожидаемым человеком) выводам, и лишь в некоторых моментах - "ошибочных". Автор говорит о том, что "взять и отменить" целиком результаты длительного обучения - слишком накладно, директивно вмешаться с исправлениями - тоже не получится, но что делать тогда, чтоб исправить некий ответ на желаемый?

Здесь автор статьи пишет о том, что сон в жизни человека, похоже и играет роль корректора поступившей информации, в том числе - через "забывание" части информации. Автор утверждает, приводя результаты исследований, что без сна человек попросту погибает - если не давать спать человеку, то примерно через месяц наступают необратимые последствия нарушения функционирования психики, так что даже возврат к возможности спать уже не восстанавливает психику - она разрушается. Аналогично, считает автор, любая компьютерная система рано или поздно встает колом из-за каких-то внутренних ошибок, приводя в пример Виндоуз, хотя тут я могу сказать, что сам был свидетелем того, что сервера - правильно настроенные - могли функционировать без сбоев годами. При условии, опять же, что не них функционировали хорошо отлаженные сервисы и ни в состав сервисов, ни в их настройки, не вносилось существенных изменений - то есть это были достаточно консервативные системы, явно далекие от нейросетей, в которых происходит обучение.

Так вот автор говорит о том, что сон - есть механизм сброса состояния данных в памяти, и андроидам он тоже понадобится. Иначе - система начнет терять адекватность и на каком-то этапе станет просто "сумасшедшей" : )

Как по мне - теория довольно ладная. Но я думал про этот самый "природный блокчейн" - причинно-следственные связи. Результат размышлениев я написал чуть выше - что, предположительно, природа не хранит все данные, она хранит текущее состояние плюс средства вывода для предыдущих состояний и расчета последующих. Грубо говоря, по нашей планете когда-то топтались стада динозавров, но давно вымерли - оставив, однако, после себя следы в настоящем - в геологических отложениях, в коде современных нам организмов - тех же птиц, и мы таким образом, отталкиваясь от текущих данных и полагая некие правила вывода, можем восстановить историю - и представить себе динозавров, живших миллионы лет назад. Разумеется, речи не идет о точности этих выводов, но теоретически - это работает так.

А теперь пристегнем сюда то, что я писал выше уже в этом сообщении - то есть возможность "забывания". Что такое это забвение? По сути - это несвязанные куски информации. Примерно - как битый файл. Файл даже может физически в полном объеме существовать на диске, но из-за того, что в одном блоке поломалась ссылка на следующий за ним блок, весь остаток файла оказывается недоступен - система не сможет его прочитать и воспроизвести. Аналогично в мозгах человека предполагается, что актуальное содержание памяти выстраивается за счет связей нейронов. Если какой-то нейрон теряет связь с другими - он "забыт". Этот нейрон (или группа нейронов) может быть связующим мостом и к целому кластеру памяти, и нарушение связи с одним единственным нейроном-мостиком (или повреждение небольшой области в связующей группе нейронов-мостиков) приведет к потере большого объема информации - она продолжит существовать в мозгу, но доступа к ней - больше нет.

А представьте такой эффект в масштабах Вселенной с её причинно-следственным блокчейном. Представляете?

Я - нет : )