Это последнее слово энциклопедии о сознании и первый ход к политическим вопросам секции F. Жено в §6.5 предлагает:
Предположим, мы откладываем вопрос о сознании. Независимо от того, феноменально сознательна ли какая-либо AI-система, что AI делает с человеческим познанием?
Ответ — AI действует как когнитивный инженер: систематический формовщик того, как люди думают, помнят, решают, творят. Формирование не требует, чтобы какая-либо AI-система была сознательна.
Это эмпирическое утверждение, не метафизическое.
Что такое утверждение когнитивного инженера
Утверждение имеет четыре операциональных компонента:
Стандартизация мышления. Предпочтения тренировочного корпуса AI распространяются в письмо, обрамление и суждение пользователей, сужая распределение человеческих когнитивных выводов.
Индукция когнитивной зависимости. Устойчивое использование AI сдвигает пользователей от независимого выполнения к AI-опосредованному.
Манипуляция при равномерной свободе. AI-опосредованные информационные среды эксплуатируют когнитивные искажения в масштабе.
Закрытие границы человек-машина. Чёрный ящик и когнитивные тени вместе производят популяцию, которая не может сказать, где её собственное мышление кончается и начинается мышление системы.
«Нейро-технологический интерфейс»
§6.5 у Жено вводит более сильное обрамление с осторожностью: что AI становится нейро-технологическим интерфейсом — устойчивой связью между человеческим познанием и машинной обработкой.
Идентифицированные системные риски
- Стандартизация на популяционной шкале.
- Зависимость на популяционной шкале.
- Манипуляция на популяционной шкале.
- Непрозрачность на популяционной шкале.
Эти четыре — не будущие риски. Это описания в настоящем времени.
Почему эта статья в секции E
E.33 спрашивает метафизический вопрос: что-то самоосознающее делает формирование? E.34 спрашивает эмпирический вопрос: даже если ничего не самоосознающее, формирование происходит. Метафизический вопрос открыт и интересен. Эмпирический вопрос закрыт и срочен.