개체 › 의식 지표
AI를 위한 의식 지표
2023년 신경과학, 철학, 기계 학습 분야의 연구자 19명이 주요 과학 이론이 의식 있는 시스템에 있다고 말하는 속성을 목록으로 정리했어요. 그다음 오늘날의 AI를 그 목록과 대조했어요.
재귀 처리 이론
- RPT-1 알고리즘적 재귀를 쓰는 입력 모듈
- RPT-2 조직적이고 통합된 지각 표상을 만드는 입력 모듈
전역 작업 공간 이론
- GWT-1 병렬로 작동할 수 있는 여러 전문 시스템(모듈)
- GWT-2 용량이 제한된 작업 공간. 정보 흐름의 병목과 선택적 주의 메커니즘을 수반함
- GWT-3 전역 방송: 작업 공간 안의 정보를 모든 모듈이 이용할 수 있음
- GWT-4 상태에 따른 주의. 복잡한 과제를 하려고 작업 공간으로 모듈에 차례로 질의할 수 있게 해 줌
계산적 고차 이론
- HOT-1 생성적, 하향식 또는 잡음이 섞인 지각 모듈
- HOT-2 믿을 만한 지각 표상과 잡음을 구별하는 메타인지적 모니터링
- HOT-3 일반적인 믿음 형성 및 행동 선택 시스템이 이끄는 행위성, 그리고 메타인지적 모니터링의 출력에 따라 믿음을 갱신하려는 강한 성향
- HOT-4 ‘품질 공간’을 만드는 희소하고 매끄러운 부호화
주의 도식 이론
- AST-1 주의의 현재 상태를 표상하고 그에 대한 제어를 가능하게 하는 예측 모델
예측 처리
- PP-1 예측 부호화를 쓰는 입력 모듈
행위성과 체화
- AE-1 행위성: 피드백에서 배우고 목표를 추구하도록 출력을 선택하는 것, 특히 경쟁하는 목표에 유연하게 반응하는 경우
- AE-2 체화: 출력과 입력 사이의 수반 관계를 일부 체계적 효과까지 포함해 모델링하고, 이 모델을 지각이나 제어에 쓰는 것
그들의 결론
이들의 평가: “현재의 어떤 시스템도 의식의 유력한 후보로 보이지 않는다.” 그러면서 계산적 기능주의가 참이라면 의식이 있는 AI 시스템이 “가까운 미래에 현실적으로 만들어질 수 있다”고 덧붙여요.
Butlin P, Long R, Elmoznino E, Bengio Y, Birch J, et al. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. arXiv:2308.08708. https://arxiv.org/abs/2308.08708 (표 1의 텍스트를 PDF에서 직접 읽음)