エンティティ › 意識の指標
AIの意識の指標
2023年、神経科学、哲学、機械学習の研究者19人が、有力な科学理論が、意識をもつシステムがもつはずだとする性質を挙げました。そのうえで、現在のAIをそのリストに照らして調べました。
再帰処理理論
- RPT-1 アルゴリズム的な再帰を使う入力モジュール
- RPT-2 組織化され統合された知覚表象を生み出す入力モジュール
グローバルワークスペース理論
- GWT-1 並列に動作できる複数の専門システム(モジュール)
- GWT-2 限られた容量のワークスペース。情報の流れにボトルネックがあり、選択的な注意の仕組みを伴う
- GWT-3 グローバル・ブロードキャスト:ワークスペース内の情報を、すべてのモジュールが利用できること
- GWT-4 状態依存的な注意。これにより、ワークスペースを使ってモジュールを順に呼び出し、複雑な課題をこなす能力が生まれる
計算論的高次理論
- HOT-1 生成的な、トップダウン型またはノイズを含む知覚モジュール
- HOT-2 信頼できる知覚表象とノイズを区別するメタ認知的モニタリング
- HOT-3 一般的な信念形成と行動選択のシステムに導かれる主体性。そして、メタ認知的モニタリングの出力に応じて信念を更新する強い傾向。
- HOT-4 「質の空間」を生み出す、疎で滑らかな符号化
注意スキーマ理論
- AST-1 現在の注意の状態を表し、その制御を可能にする予測モデル
予測処理
- PP-1 予測符号化を使う入力モジュール
主体性と身体性
- AE-1 主体性:フィードバックから学習し、目標を追うように出力を選ぶこと。特に、競合する目標に柔軟に応じる場合。
- AE-2 身体性:出力と入力の随伴関係(系統的な効果を含む)をモデル化し、そのモデルを知覚や制御に使うこと
その結論
彼らの評価は、「現在のシステムで、意識の有力な候補と思われるものはない」です。さらに、計算論的機能主義が正しければ、意識をもつAIシステムは「近い将来に現実的に作れるかもしれない」と付け加えています。
Butlin P, Long R, Elmoznino E, Bengio Y, Birch J, et al. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. arXiv:2308.08708. https://arxiv.org/abs/2308.08708 (Table 1 text read directly from the PDF)