Сознания, мозги и искусственные миры

Подробные модели нейронов

Один нейрон как разветвлённый электрический кабель с ионными каналами, по Ходжкину и Хаксли.

Вопрос, на который отвечает: Как форма этого нейрона меняет то, что он вычисляет?

Не учитывает: Тонкая химия одного нейрона всё ещё упрощена до нескольких токов.

Работает на: около 10¹² FLOPS приблизительно ноутбук, в реальном времени для одного нейронаС: 1952 Хаксли вручную интегрировал уравнения Ходжкина—Хаксли на механическом калькуляторе, около трёх недель на один потенциал действия. Позже эту работу взяли на себя компьютеры источникВ дереве симуляций: Ходжкин и Хаксли вручную

Крупномасштабные цепи мозга

Миллионы импульсных нейронов, соединённых в схему, похожую на участок коры.

Вопрос, на который отвечает: Можем ли мы воспроизвести ритмы и отклики мозга только по схеме связей?

Не учитывает: Схема связей часто статистическая, а не реальные измеренные связи животного.

Работает на: около 10¹⁵ FLOPS приблизительно университетский кластер, часы на участок корыС: 2006 к 2006 году: первые крупномасштабные симуляции кортикальной колонкиВ дереве симуляций: Микросхема неокортекса

Сетевые модели всего мозга

Области мозга как узлы, соединённые измеренными связями и подогнанные под снимки.

Вопрос, на который отвечает: Как повреждение в одной области меняет активность всего мозга?

Не учитывает: Регионы считаются отдельными точками, и всё, что внутри них, теряется.

Работает на: около 10¹⁴ FLOPS приблизительно университетский кластер, минуты на смоделированный сценарийС: 2008 к 2008 году: первые модели сети всего мозга, подогнанные под связи по диффузионной МРТ

Смоделированные мелкие организмы

Полная нервная система крошечного животного, например 302 нейрона круглого червя, подключена к смоделированному телу в виртуальной чашке.

Вопрос, на который отвечает: Хватит ли схемы связей, чтобы получить поведение?

Не учитывает: Одна схема соединений по-прежнему не полностью объясняет поведение животного.

Работает на: около 10¹² FLOPS приблизительно ноутбук, в реальном времени для всей нервной системыС: 1997 к 1997 году: первые симуляции на основе карты связей круглого червя 1986 годаВ дереве симуляций: OpenWorm

Симуляция нейроморфного оборудования

Микросхемы, где цепи ведут себя как нейроны и синапсы прямо в оборудовании, а не вычисляют уравнения шаг за шагом в программе.

Вопрос, на который отвечает: Может ли нейроморфное оборудование вычислять то же, что и мозг, используя гораздо меньше энергии?

Не учитывает: У настоящих нейронов химия намного богаче, чем в схеме, построенной для имитации их импульсов.

Работает на: около 10¹³ FLOPS приблизительно нейроморфный исследовательский чип, в реальном времениС: 1989 Ранние кремниевые схемы нейрона и сетчатки Карвера Мида

Болезни мозга и распространение приступов

Аномальная электрическая активность или неправильно свёрнутые белки распространяются по смоделированной сети мозга, как при эпилепсии или деменции.

Вопрос, на который отвечает: Где начинается приступ и как далеко он распространится?

Не учитывает: Путь болезни у каждого настоящего мозга свой; модель показывает закономерность, а не прогноз для одного пациента.

Работает на: около 10¹³ FLOPS приблизительно кластер больницы или университета, минуты на модель пациентаС: 1997 к 1997 году: первые сетевые модели распространения приступов по мозгу

Модели всего мозга, ограниченные коннектомом

Нейронная симуляция использует полную измеренную схему связей мозга насекомого и простые модели нейронов, чтобы предсказать, как стимулы порождают поведение.

Вопрос, на который отвечает: Предсказывает ли одна лишь схема связей, как мозг превращает ощущения в действие?

Не учитывает: Силы синаптических связей и динамика нейронов задаются простыми правилами.

Работает на: около 10¹² FLOPS приблизительно Спайковая сеть примерно из 130 000 нейроновС: 2024 A Drosophila computational brain model reveals sensorimotor processing (2024) источник

Нейронные массовые и полевые модели

Популяция нейронов сведена к одной-двум усреднённым переменным активности, которые дают ритмы и волны целых областей.

Вопрос, на который отвечает: Какие коллективные ритмы могут возникать между популяциями из-за возбуждения и торможения?

Не учитывает: Отдельные нейроны растворяются в среднем значении.

Работает на: около 10⁹ FLOPS приблизительно ноутбук, секундыС: 1972 к 1972 году: Wilson and Cowan, Excitatory and inhibitory interactions in localized populations of model neurons источник

Функциональные импульсные модели мозга

Сеть импульсных модельных нейронов, построенная для когнитивных задач: вспомнить, сосчитать, скопировать нарисованную цифру.

Вопрос, на который отвечает: Может ли модель из нейронов выполнять задачи, с которыми справляется мозг?

Не учитывает: Набор её задач невелик, а связи спроектированы, а не измерены.

Работает на: около 10¹⁵ FLOPS приблизительно университетский кластер, часыС: 2012 к 2012 году: Eliasmith and others, A large-scale model of the functioning brain (Spaun) источник

Сети с аттракторной памятью

Сеть простых элементов, чьи связи хранят образы как устойчивые состояния, так что частичная подсказка оседает в полное воспоминание.

Вопрос, на который отвечает: Как сеть может вспомнить целое воспоминание по фрагменту?

Не учитывает: Ёмкость мала, а настоящие нейроны гораздо сложнее.

Работает на: около 10⁸ FLOPS приблизительно ноутбук, секундыС: 1982 к 1982 году: Hopfield, Neural networks and physical systems with emergent collective computational abilities источник

Модели мозга насекомых на основе коннектома

Целый мозг мухи, смоделированный по измеренной схеме связей, где каждый нейрон и синапс взят из реконструкции.

Вопрос, на который отвечает: Какое поведение следует из одной только схемы связей, когда известна каждая связь?

Не учитывает: Силы синаптических связей и химия нейронов выводятся, а не измеряются.

Работает на: около 10¹⁴ FLOPS приблизительно рабочая станция, минуты на смоделированную секундуС: 2024 к 2024 году: Dorkenwald and others, схема связей мозга взрослой мухи, и Shiu and others, вычислительная модель на её основе источник

Клеточные автоматы

Сетки клеток, живущих по простым правилам, например «Жизнь» Джона Конвея. На них вырастают глайдеры, репликаторы и даже работающие компьютеры.

Вопрос, на который отвечает: Какая сложность может вырасти из какого простого правила?

Не учитывает: Простые правила редко чётко ложатся на настоящие физические или биологические системы.

Работает на: около 10¹² FLOPS приблизительно ноутбук, огромные сетки за секундыС: 1970 Игра «Жизнь» Джона КонвеяВ дереве симуляций: «Жизнь», сыгранная вручную

Запустить интерактивную модель

Цифровая эволюция

Самокопирующиеся компьютерные программы мутируют и соперничают за время процессора в смоделированной машине.

Вопрос, на который отвечает: Может ли эволюция изобрести сложные признаки, за которыми можно наблюдать шаг за шагом?

Не учитывает: Программы эволюционируют в искусственном компьютерном мире, а не в настоящей биохимии.

Работает на: около 10¹² FLOPS приблизительно настольный компьютер, миллионы поколений за ночьС: 1953 Эксперименты Баричелли по численной эволюции на компьютере Института перспективных исследований источник

Выведенные виртуальные существа

Тела и мозги эволюционируют вместе в физической симуляции и учатся плавать, ходить или прыгать.

Вопрос, на который отвечает: Какие тела и модели поведения изобретает эволюция, когда мы ею не управляем?

Не учитывает: Выведенные походки часто выглядят совсем не так, как у живых существ, потому что смоделированная физика слегка отличается от настоящей.

Работает на: около 10¹³ FLOPS приблизительно настольный компьютер или небольшой кластер, часы на эволюцию популяцииС: 1994 Карл Симс вывел эволюцией существ, которые плавают и ходят в физической симуляции

Самоорганизованная критичность

Песчинки добавляют в кучу по одной, пока не начнутся лавины всех размеров.

Вопрос, на который отвечает: Почему землетрясения, пожары и вымирания подчиняются одной и той же статистике?

Не учитывает: У настоящих землетрясений и пожаров своя физика, которую куча песка лишь утрирует.

Работает на: около 10¹¹ FLOPS приблизительно ноутбук, секунды на большую кучу пескаС: 1987 Модель песчаной кучи Бака, Танга и Визенфельда

Запустить интерактивную модель

Алгоритмы роевого интеллекта

Простые виртуальные агенты оставляют следы или копируют соседей. Идею заимствовали у муравьёв и птиц, чтобы решать абстрактные задачи вроде маршрутизации и составления расписаний.

Вопрос, на который отвечает: Может ли простое копирование и следование по следу решить трудную задачу оптимизации?

Не учитывает: Хорошо работает на корректно поставленных задачах, на которых проверялся. Настоящие, нерегулярные задачи требуют более тонкой настройки.

Работает на: около 10¹¹ FLOPS приблизительно ноутбук, от секунд до минут на запускС: 1992 Алгоритм муравьиной колонии Марко Дориго

Запустить интерактивную модель

Случайные булевы сети

Переключатели, соединённые случайным образом: каждый включается или выключается в зависимости от нескольких других; изучают, когда вся сеть успокаивается, а когда бесконечно бурлит.

Вопрос, на который отвечает: Сколько связей нужно, чтобы сеть переключателей стала хаотичной?

Не учитывает: Случайные связи — грубая замена тщательно эволюционировавшим связям настоящей клетки или мозга.

Работает на: около 10¹¹ FLOPS приблизительно ноутбук, секунды на сетьС: 1969 Случайные сети генетических переключателей Стюарта Кауфмана

Непрерывные клеточные автоматы

Клеточные автоматы, у которых состояния клеток, пространство и время непрерывны и порождают плавные самоорганизующиеся существа.

Вопрос, на который отвечает: Какие жизнеподобные узоры возникают в непрерывном клеточном автомате?

Не учитывает: Правила искусственные и не моделируют настоящую химию.

Работает на: около 10¹¹ FLOPS приблизительно Обновление сетки на видеокартеС: 2018 Lenia: biology of artificial life (2018) источник

Нейронные клеточные автоматы

Каждая клетка содержит небольшую нейросеть, которая выучивает местное правило, так что сетка растёт и восстанавливает заданный узор.

Вопрос, на который отвечает: Может ли локальное обученное правило заставить глобальный узор расти и самовосстанавливаться?

Не учитывает: Целевые узоры невелики, а правила обучаются, а не открываются.

Работает на: около 10¹¹ FLOPS приблизительно Небольшое дифференцируемое обучениеС: 2020 Growing Neural Cellular Automata (2020) источник

Супы из самовоспроизводящихся программ

Пул случайных программ взаимодействует случайно, пока из смеси не появятся самокопирующиеся.

Вопрос, на который отвечает: Могут ли репликаторы появиться без заданного замысла?

Не учитывает: Выбор языка определяет результат, и он далёк от химии.

Работает на: около 10¹⁰ FLOPS приблизительно Миллионы крошечных взаимодействий программС: 2024 Computational Life: how well-formed, self-replicating programs emerge from simple interaction (2024) источник

Искусственная химия

Пул абстрактных молекул, реагирующих по правилам, так что самоподдерживающиеся структуры могут появляться без всякой настоящей химии.

Вопрос, на который отвечает: Может ли самоподдерживающаяся химическая организация возникнуть из простых правил реакций?

Не учитывает: Молекулы — символы; настоящих энергий связей и геометрии нет.

Работает на: около 10⁹ FLOPS приблизительно ноутбук, часыС: 1991 к 1991 году: AlChemy Fontana, представленная на Второй конференции по искусственной жизни источник

Эволюционная робототехника

Контроллеры или тела смоделированных роботов выводятся на протяжении многих поколений отбором по выполнению задачи.

Вопрос, на который отвечает: Можно ли вывести мозг и тело робота, а не проектировать?

Не учитывает: Контроллеры, выведенные в симуляции, часто не работают на настоящем оборудовании.

Работает на: около 10¹⁴ FLOPS приблизительно университетский кластер, дниС: 1993 к 1993 году: Cliff, Husbands and Harvey, Evolving visually guided robots источник

Непрерывная искусственная жизнь

Клеточный автомат с непрерывными состояниями, пространством и временем, который порождает движущиеся самоорганизующиеся «живые» узоры.

Вопрос, на который отвечает: Какие жизнеподобные формы возникают, когда правила гладкие, а не дискретные?

Не учитывает: Узоры напоминают организмы, но не следуют никакой настоящей биологии.

Работает на: около 10¹¹ FLOPS приблизительно игровой ПК, в реальном времениС: 2018 к 2018 году: Chan, Lenia: Biology of Artificial Life (arXiv 1812.05433) источник

Искусственные иммунные модели

Популяции взаимодействующих агентов, подобных антителам, учатся распознавать образцы через отбор и сетевые эффекты.

Вопрос, на который отвечает: Как система распознавания приспосабливается, используя только локальные взаимодействия?

Не учитывает: Она заимствует идеи иммунологии для вычислений, а не является калиброванной моделью настоящего иммунного ответа.

Работает на: около 10⁸ FLOPS приблизительно ноутбук, часыС: 1986 к 1986 году: Farmer, Packard and Perelson, The immune system, adaptation, and machine learning источник

Сражения Core War

Программы, написанные на крошечном ассемблере, борются за контроль над общей смоделированной памятью и затирают друг друга.

Вопрос, на который отвечает: Какая самокопирующаяся программа выживает, когда вся память — поле боя?

Не учитывает: Машина — выдуманный набор инструкций, поэтому уроки не переносятся на настоящие вредоносные программы.

Работает на: около 10⁷ FLOPS приблизительно ноутбук, секунды на сражениеС: 1984 к 1984 году: Core War Джонса и Дьюдни в журнале Scientific American источник

Среды для обучения с подкреплением

Смоделированные миры, где искусственный агент действует, получает награду и улучшается за миллионы попыток.

Вопрос, на который отвечает: Может ли агент выучить этот навык одними пробами и ошибками?

Не учитывает: Навыки, выученные в упрощённом мире, не всегда переносятся на сложность реальности.

Работает на: около 10¹⁵ FLOPS приблизительно кластер видеокарт, дни смоделированного опытаС: 1992 к 1992 году: TD-Gammon училась стратегии игры в нарды, играя сама с собой

Многоагентные ИИ-общества

Много ИИ-агентов в общем мире, у каждого свои цели, воспоминания и разговоры.

Вопрос, на который отвечает: Какое социальное поведение возникает, когда вместе живёт много искусственных агентов?

Не учитывает: Поведение, которое выглядит социальным, может быть узким трюком, настроенным под условия обучения.

Работает на: около 10¹⁵ FLOPS приблизительно кластер видеокарт, который запускает множество агентов параллельноС: 2017 к 2017 году: первые эксперименты со многими обучающимися агентами в общем мире

Синтетические обучающие данные

Фотореалистичные сцены в бесконечных вариациях, чтобы обучать системы зрения.

Вопрос, на который отвечает: Может ли система, обученная только на отрисованных изображениях, видеть настоящий мир?

Не учитывает: Сгенерированные сцены чище реальности, поэтому обученные системы могут сбиться из-за шума реального мира.

Работает на: около 10¹⁴ FLOPS приблизительно рендер-ферма или кластер видеокарт, часы на набор данныхС: 2016 к 2016 году: первые отрисованные наборы данных обучают системы распознавания изображений

Обученные модели мира

Нейронная сеть, которая предсказывает, что произойдёт в мире дальше, и делает это достаточно хорошо, чтобы создавать игровые сцены.

Вопрос, на который отвечает: Может ли сеть научиться симулировать мир, просто наблюдая за ним?

Не учитывает: Долгосрочные предсказания уходят от всего физически согласованного.

Работает на: около 10¹⁵ FLOPS приблизительно большой кластер видеокарт, дни обученияС: 2018 Ha и Schmidhuber обучили сеть предсказывать игровые сцены и «видеть их во сне»

Обучение стратегии игрой с самим собой

Искусственный агент играет повторные матчи против своих копий в абстрактной стратегической игре и с каждым раундом совершенствуется.

Вопрос, на который отвечает: Насколько сильной может стать стратегия, если учитель у неё только её собственное прошлое?

Не учитывает: Стратегии, подогнанные под копию того же агента, могут иметь слепые пятна, которыми воспользовался бы другой соперник.

Работает на: около 10¹⁶ FLOPS приблизительно большой кластер видеокарт, дни игры с самим собойС: 1959 Шашечная программа Артура Сэмюэла училась, играя сама с собой

Среды «красных команд» для безопасности ИИ

Смоделированная обстановка, созданная для того, чтобы соблазнить искусственного агента нежелательным поведением: так сбой удаётся найти до внедрения.

Вопрос, на который отвечает: При каких условиях эта система ведёт себя так, как не должна?

Не учитывает: Проверяет только те сбои, которые «красная команда» додумалась искать.

Работает на: около 10¹⁴ FLOPS приблизительно сервер с видеокартами исследовательской группы, часы на набор тестовС: 2016 к 2016 году: первые тренажёрные среды с состязательным тестированием для агентов обучения с подкреплением

Симуляторы домашнего хозяйства для воплощённых агентов

Трёхмерные виртуальные дома, где агент видит, двигается и обращается с предметами. На них обучают и проверяют воплощённый ИИ.

Вопрос, на который отвечает: Может ли агент научиться задачам в виртуальном доме так, чтобы они переносились на настоящие?

Не учитывает: Физика предметов и разнообразие сцен ограничены.

Работает на: около 10¹² FLOPS приблизительно Рендеринг в реальном времени, много параллельных экземпляровС: 2017 AI2-THOR: an interactive 3D environment for visual AI (2017) источник

Генерация открытых сред

Обучающие миры создаются и видоизменяются автоматически по мере того, как учатся агенты, поэтому задачи становятся всё сложнее и разнообразнее.

Вопрос, на который отвечает: Может ли генератор сред продолжать создавать полезные новые задачи?

Не учитывает: Поиск ограничен тем, что способно выразить семейство сред.

Работает на: около 10¹⁵ FLOPS приблизительно Популяция сред и агентовС: 2019 Paired Open-Ended Trailblazer (POET) (2019) источник

Смоделированные веб-среды для агентов

Копии настоящих сайтов на своих серверах, где агент на языковой модели выполняет задания, а оценка идёт по проверке конечного состояния.

Вопрос, на который отвечает: Может ли агент выполнять многошаговые задачи на реалистичных сайтах?

Не учитывает: Сайты — статичные копии, а разнообразие заданий ограничено.

Работает на: около 10¹³ FLOPS приблизительно Сбросы среды и много обращений к моделиС: 2023 WebArena (2023) источник

Симуляторы рекомендательных систем

Настраиваемая смоделированная группа пользователей и каталог товаров для обучения и проверки рекомендательных алгоритмов.

Вопрос, на который отвечает: Как алгоритм рекомендаций повёл бы себя за много взаимодействий с пользователями?

Не учитывает: Поведение пользователей предполагается, а не измеряется.

Работает на: около 10¹⁰ FLOPS приблизительно Дешёвые параллельные прогоныС: 2019 RecSim: a configurable simulation platform for recommender systems (2019) источник

Нейронные игровые движки

Диффузионная модель, обученная на записях игр, генерирует следующий кадр по действиям игрока и заменяет собственный движок игры.

Вопрос, на который отвечает: Может ли нейросеть вести интерактивную игру с играбельной скоростью?

Не учитывает: Память короткая, а детали уплывают при долгой игре.

Работает на: около 10¹⁵ FLOPS приблизительно Тяжёлое обучение; вывод в реальном времени на одном ускорителеС: 2024 Diffusion models are real-time game engines (2024) источник

Интерактивные генеративные миры

Модель учится на видео без разметки создавать управляемые миры, где пользователь может действовать кадр за кадром.

Вопрос, на который отвечает: Можно ли создать играбельный мир только по изображениям?

Не учитывает: Согласованность и частота кадров ограничены, а физика не гарантирована.

Работает на: около 10¹⁷ FLOPS приблизительно Крупномасштабное обучение на видеоС: 2024 Genie: generative interactive environments (2024) источник

Обученные интерактивные симуляторы реального мира

Видеомодель, зависящая от действий, предсказывает, что увидит робот или агент после каждой команды, и заменяет симулятор, собранный вручную.

Вопрос, на который отвечает: Может ли обученная модель симулировать реальные результаты действий?

Не учитывает: Длинные прогоны выдают галлюцинации, а физическая точность не проверена.

Работает на: около 10¹⁷ FLOPS приблизительно Обучение на больших наборах видео и действийС: 2023 Learning interactive real-world simulators (2023) источник

Генеративные модели мира для вождения

Видеомодель, зависящая от скорости и руления, порождает правдоподобные будущие сцены с точки зрения автомобиля для обучения и проверки автономности.

Вопрос, на который отвечает: Какие дорожные сцены могут последовать за заданным действием водителя?

Не учитывает: Сгенерированные сцены могут нарушать физику или поведение в редких случаях.

Работает на: около 10¹⁷ FLOPS приблизительно Обучение больших видеомоделейС: 2023 GAIA-1: a generative world model for autonomous driving (2023) источник

Смоделированный футбол роботов

Две команды программных игроков, каждый из которых видит лишь часть поля через зашумлённые датчики, играют в футбол на смоделированном стадионе, чтобы проверить сотрудничество и стратегию.

Вопрос, на который отвечает: Могут ли независимые программные игроки скоординироваться настолько, чтобы победить команду соперников?

Не учитывает: Поле, мяч и тела роботов идеализированы, поэтому успех показывает тактику, а не мастерство с настоящим оборудованием.

Работает на: около 10⁹ FLOPS приблизительно в реальном времени на рабочей станции для матча.С: 1998 Soccer Server Noda и коллег, инструмент для исследования многоагентных систем. источник

Песочницы для программных агентов-инженеров

Агенту дают настоящий программный проект и сообщение об ошибке; он правит файлы и запускает тесты в песочнице, а оценивают, проходит ли исправление проверку.

Вопрос, на который отвечает: Может ли ИИ-агент самостоятельно исправлять настоящие ошибки в настоящих программных проектах?

Не учитывает: Прохождение тестов не равно верному исправлению, а проекты составляют малую долю всего программного обеспечения.

Работает на: около 10¹⁵ FLOPS приблизительно тысячи прогонов модели, в каждом много обращений и тестовых запусков.С: 2023 SWE-bench Jimenez и коллег: настоящие задачи с GitHub для языковых моделей. источник

Среды агентов на настольном компьютере

Агенту дают полноценный виртуальный компьютер с настоящими программами; он видит экран, щёлкает и печатает, а оценивают, выполнена ли задача.

Вопрос, на который отвечает: Может ли ИИ-агент выполнять задачи на компьютере так, как это делает человек?

Не учитывает: Задачи фиксированы и написаны по сценарию, тогда как настоящая работа открыта, прерывается и делится с другими людьми.

Работает на: около 10¹⁵ FLOPS приблизительно тысячи прогонов, в каждом работает виртуальная машина и много обращений к модели.С: 2024 OSWorld Се с коллегами, тест для агентов в настоящих компьютерных средах. источник