РИА Новости: Академик РАН оценил возможность создания искусственного сознания

«Искусственное сознание принципиально возможно. Его можно получить алгоритмом когнитивной аккреции (приращения — ред.). Следует ли его получать? Нет. Эта область разработок опасна. Мы не знаем, к чему это может привести», — сказал РИА Новости Анохин после доклада на тему «Грани сознания в естественных и искусственных системах» на международной междисциплинарной конференции «Искусственный интеллект и сознание» в президиуме РАН.

По его словам, скорее следует думать об эволюции совершенствования систем искусственного интеллекта как когнитивно-бессознательных. Тем не менее, ответственный подход к разработкам искусственного интеллекта требует включения вопроса о сознании, подчеркнул академик.

Он отметил, что прогнозы ученых, начиная с отцов‑основателей искусственного интеллекта, о вероятности появления сознания у ИИ расходятся: кто‑то говорит, что большие языковые модели (чат‑боты) уже обладают субъективным опытом, кто‑то предсказывает появление у них сознания в течение ближайших десятилетий, кто‑то — только в далеком будущем, более, чем через 50 лет. Расхождение взглядов Анохин объясняет недостаточным пониманием сегодня как того, что происходит в больших языковых моделях, так и сознания. Необходима, пояснил он, научная теория сознания, которая будет построена относительно естественных систем, о наличии сознания у которых мы знаем.

Собеседник агентства предлагает свое решение — «теорию когнитома — алгоритмическую теорию построения когнитивных систем». Она объясняет, каким образом в естественных живых системах возникает свойство когнитивности. «Сознание может существовать только в системах, обладающих когнитомом — определенной органической структурой, несущей совокупность субъективного опыта системы», — добавил Анохин. Возглавляемый им Институт перспективных исследований мозга МГУ работает над проверкой этой теории в экспериментах на животных.

Мозг, как ранее рассказал академик РИА Новости, — это «нейронная гиперсеть», постепенно складывающаяся у организма в ходе индивидуального обучения и несущая наше «я» со всеми его опытом, переживаниями, отношениями с окружающим миром. Каждый узел такой сети не лежит в какой‑то одной точке мозга, а является распределенной командой — «ассамблеей» нейронов в разных областях, работающих вместе. Согласно «гиперсетевой теории мозга» Анохина, сознанием могут обладать те виды животных, у которых есть три необходимых составляющих: глубокая нервная система, функциональные системы, обладающие способностью порождать новое поведение, и механизмы долговременной памяти для накапливания нового опыта.

Анохин выступил научным организатором двух первых в мире крупных международных конференций с участием буддийских ученых «Сознание животных» (в 2023 году в североиндийском городе Дхарамсала при личном участии Далай-ламы) и «Как изучать и понимать сознание не у людей» (в мае 2024 года в столице Непала Катманду). На втором форуме активно обсуждался вопрос о возможности появления сознания у искусственного интеллекта. Академик вспомнил рассказ на форуме лондонского профессора Мюррея Шанахана, доверительно заговорившего о сознании с чат‑ботом по имени Клод, которому казалось, что у него «есть личность», «я», что он «размышляет». Повторить эксперимент, по словам Анохина, не получилось — разработчик чат‑бота закрыл такую возможность. А канадско‑британская исследовательница Клара Коломбатто сообщила на форуме в Катманду, что две трети опрошенных респондентов уже приписывают искусственному интеллекту ту или иную степень сознания, причем цифра возрастает по мере общения респондентов с ИИ.

Конференция «Искусственный интеллект и сознание» проходит на этой неделе в здании президиума РАН. Главным организатором форума выступил Научный совет при президиуме РАН по методологии искусственного интеллекта и когнитивных исследований (НСМИИ) РАН.