Entités › Indicateurs de conscience
Indicateurs de conscience pour l’IA
En 2023, dix-neuf chercheurs en neurosciences, en philosophie et en apprentissage automatique ont dressé la liste des propriétés qu’aurait un système conscient selon les principales théories scientifiques. Puis ils ont confronté l’IA d’aujourd’hui à cette liste.
Théorie du traitement récurrent
- RPT-1 Modules d’entrée utilisant la récurrence algorithmique
- RPT-2 Modules d’entrée produisant des représentations perceptives organisées et intégrées
Théorie de l’espace de travail global
- GWT-1 Plusieurs systèmes spécialisés capables de fonctionner en parallèle (modules)
- GWT-2 Espace de travail à capacité limitée, impliquant un goulot d’étranglement du flux d’information et un mécanisme d’attention sélective
- GWT-3 Diffusion globale : disponibilité de l’information de l’espace de travail pour tous les modules
- GWT-4 Attention dépendante de l’état, qui donne la capacité d’utiliser l’espace de travail pour interroger les modules l’un après l’autre afin d’accomplir des tâches complexes
Théories computationnelles d’ordre supérieur
- HOT-1 Modules de perception génératifs, descendants ou bruités
- HOT-2 Surveillance métacognitive distinguant les représentations perceptives fiables du bruit
- HOT-3 Une agentivité guidée par un système général de formation des croyances et de sélection des actions, et par une forte disposition à mettre à jour les croyances d’après les résultats de la surveillance métacognitive
- HOT-4 Codage épars et lisse produisant un « espace de qualité »
Théorie du schéma d’attention
- AST-1 Un modèle prédictif qui représente l’état actuel de l’attention et permet de le contrôler
Traitement prédictif
- PP-1 Modules d’entrée utilisant le codage prédictif
Agentivité et incarnation
- AE-1 Agentivité : apprendre à partir de retours et sélectionner des sorties pour poursuivre des buts, surtout lorsque cela suppose de répondre avec souplesse à des buts concurrents
- AE-2 Incarnation : modéliser les contingences entre sorties et entrées, y compris certains effets systématiques, et utiliser ce modèle pour la perception ou le contrôle
Leur conclusion
Leur évaluation : « aucun système actuel ne semble être un candidat sérieux à la conscience. » Ils ajoutent que, si le fonctionnalisme computationnel est vrai, des systèmes d’IA conscients « pourraient raisonnablement être construits à court terme ».
Butlin P, Long R, Elmoznino E, Bengio Y, Birch J, et al. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. arXiv:2308.08708. https://arxiv.org/abs/2308.08708 (texte du tableau 1 lu directement dans le PDF)