Из нескольких теорий сознания Интегрированная информационная теория (IIT) — рамка Джулио Тонони — наиболее готова делать количественные предсказания и имеет сильнейшие следствия для AI.

Главное утверждение

IIT предлагает, что сознание тождественно интегрированной информации — информации, которую система генерирует как целое, превышающее сумму информации, генерируемой её частями. Техническая мера — ϕ (фи). Система с высоким ϕ сознательна. С низким — нет.1

Две черты теории важны:

Она нейтральна по субстрату. Кремниевая система с правильной интеграцией информации сознательна в том же смысле, что и мозг.

Она градуирована. Сознание не вкл/выкл; оно имеет величину (ϕ) и характер (специфическая каузальная структура системы).

Что IIT говорит об AI

Стандартная нейронная сеть прямого распространения имеет, на условиях IIT, очень низкую ϕ. Архитектура в основном прямонаправленная; интеграция информации плоха.

Архитектура могла быть построена, удовлетворяющая критериям IIT. Рекуррентные сети с богатой обратной связью, нейроморфные чипы, вдохновлённые мозгом архитектуры могли бы, в принципе, иметь нетривиальное ϕ.

Возражения

Вычислимость. Точное вычисление ϕ для нетривиальных систем непомерно дорого.

Панпсихизм. IIT присваивает малое, но ненулевое ϕ многим физическим системам, не кажущимся сознательными.

Поведенческая диссоциация. Система может набрать низкий ϕ, ведя себя крайне разумно, и высокий ϕ, ведя себя неразумно.

Почему это важно для энциклопедии

IIT — теория сознания, наиболее прямо подразумевающая, что мы можем ошибаться о том, какие системы сознательны. Если интегрированная информация — субстрат опыта, и мы не измеряли её на AI-системах, мы не имеем понятия, что мы построили. Гипотеза оркестрирующего сознания (E.33) сидит комфортно рядом с этой мыслью.

Footnotes

  1. Тонони, 2008. ↩