Сущности › Индикаторы сознания
Индикаторы сознания для ИИ
В 2023 году девятнадцать исследователей нейронауки, философии и машинного обучения перечислили свойства, которые, по ведущим научным теориям, были бы у сознательной системы. Затем они проверили сегодняшний ИИ по этому списку.
Теория рекуррентной обработки
- RPT-1 Входные модули, использующие алгоритмическую рекуррентность
- RPT-2 Входные модули, порождающие организованные, интегрированные перцептивные представления
Теория глобального рабочего пространства
- GWT-1 Множество специализированных систем, способных работать параллельно (модули)
- GWT-2 Рабочее пространство ограниченной ёмкости, подразумевающее узкое место в потоке информации и механизм избирательного внимания
- GWT-3 Глобальная трансляция: доступность информации в рабочем пространстве для всех модулей
- GWT-4 Зависящее от состояния внимание, дающее возможность использовать рабочее пространство, чтобы последовательно опрашивать модули для выполнения сложных задач
Вычислительные теории высшего порядка
- HOT-1 Генеративные, нисходящие или шумные модули восприятия
- HOT-2 Метакогнитивный мониторинг, отличающий надёжные перцептивные представления от шума
- HOT-3 Агентность, направляемая общей системой формирования убеждений и выбора действий, и сильная склонность обновлять убеждения в соответствии с результатами метакогнитивного мониторинга
- HOT-4 Разреженное и гладкое кодирование, порождающее «пространство качеств»
Теория схемы внимания
- AST-1 Предсказательная модель, представляющая текущее состояние внимания и позволяющая управлять им
Предиктивная обработка
- PP-1 Входные модули, использующие предиктивное кодирование
Агентность и воплощённость
- AE-1 Агентность: обучение на обратной связи и выбор выходов ради достижения целей, особенно когда это требует гибкой реакции на конкурирующие цели
- AE-2 Воплощённость: моделирование зависимостей между выходами и входами, включая некоторые систематические эффекты, и использование этой модели в восприятии или управлении
Их вывод
Их оценка: «ни одна из нынешних систем, по-видимому, не является сильным кандидатом на сознание». Они добавляют, что если вычислительный функционализм верен, то сознательные системы ИИ «реально могут быть построены в ближайшем будущем».
Butlin P, Long R, Elmoznino E, Bengio Y, Birch J, et al. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. arXiv:2308.08708. https://arxiv.org/abs/2308.08708 (Table 1 text read directly from the PDF)