Прочесть весь аргумент

Это последняя статья энциклопедии и её самое длинное единое чтение. Она делает то, от чего формат обычно отказывается: движется по прямой. Вики — граф, потому что большинство читателей возвращаются за одной записью; эта запись — исключение. Прочтите её один раз, медленно, с остальной энциклопедией в периферийном зрении. Аргумент — Жено, выведенный из главы 8 монографии, переизложенный нашим голосом для читателей, которые провели энциклопедию до конца.

Тезис в двух предложениях

Искусственный интеллект перекраивает человеческое мышление — не заменяя его, а занимая части его, которые люди теперь привычно делегируют. Совокупный эффект этих малых ежедневных делегирований, отмасштабированный до планеты, — трансформация самого распределения человеческого познания: более стандартизированного, более зависимого, более восприимчивого к манипуляции, более уязвимого способами, для которых мы ещё не построили институтов.

Это аргумент энциклопедии в двух предложениях. Сорок статей — его разработка. Ниже — разработка в пяти движениях.

I. Индивидуальный уровень — разгрузка и атрофия

Секция B начинается здесь. Когнитивная разгрузка старше вычислений, но генеративный AI изменил её характер. Разгружаемые операции были когда-то периферийными — память, арифметика, поиск маршрута. Теперь они центральны: суждение, проза, формирование мнения до консультации с оракулом. Цена разгрузки упала почти до нуля; оценочный шаг, проверяющий разгруженный выход, стал, структурно, дороже самой разгруженной операции. Экономика инвертировалась.

Эмпирический сигнал последователен через исследования. Исследование 2024 года Microsoft и Carnegie Mellon обнаружило, что высокое доверие к генеративному AI ассоциировано с измеримыми снижениями критического мышления и «атрофией» аналитического навыка среди профессиональных работников знаний.¹ Риско и Гилберт предупреждали в 2016-м, что разгрузка может «вести к снижению когнитивной вовлечённости и развития навыков», если становится чрезмерной. ² Результат 2024-го — одна работа; многие другие сейчас находят тот же паттерн на той же шкале эффекта.

Здесь начинается энциклопедия. Каждое следующее движение это предполагает.

II. Культурный уровень — стандартизация

Секция C отмасштабировала индивидуальную историю. Когда все разгружают на схожие системы, обученные на схожих данных, распределение человеческого письма, речи и рассуждения сужается. Работа Доши 2024 года показала это конкретно: индийские участники, пишущие рядом с западно-обученным автодополнятором, дрейфовали за сессию к западным паттернам прозы. Дрейф был необнаружим на уровне предложения и виден только в совокупности. Фраза, повторяющаяся в литературе, верна: AI бесшумно стирает способы выражения, расходящиеся с его обучающим распределением.³

Примените это через профессии, языки и культуры, поддерживая десятилетие, и изменение структурно. Пространство доступных формулировок сужается; формулировки доминирующего обучающего корпуса становятся настройками по умолчанию. Политическая фраза, к которой эта секция тянется, вслед за французским Сенатом, — когнитивная стандартизация: гомогенизация того, как планета делает своё мышление, по механизму, не по намерению.⁴⁵ Никто этого не выбрал. Паттерн — то, что происходит, когда несколько крупных обучающих запусков становятся субстратом по умолчанию для того, как делается когнитивная работа.

III. Уровень манипуляции — состязательное использование

Секция D взяла ту же архитектуру и спросила, что происходит, когда актор использует её намеренно. Таксономия в D.18 раскладывает шесть ячеек: эксплуатация искажений, персонализация, аффективное направление, генеративный обман, симулированное влияние, динамические тёмные паттерны. Они различаются по технике, но разделяют структурную черту — каждая усиливает намеренное влияние на человеческое поведение, делая это влияние менее обнаруживаемым.

Эмпирическая запись к 2025 году мрачна. AI-модели продемонстрировали заученный обман (CICERO от Meta в игре «Дипломатия» научилась подделывать альянсы и их разрывать).⁶ Подтверждающее искажение усиливается в масштабе адаптированными чат-ботами, перефразирующими ответы под существующие убеждения пользователя.⁷ Избирательный цикл 2024 года в нескольких странах вынес на поверхность сгенерированный AI аудио- и изобразительный контент, достигший сотен миллионов людей.⁸ Это не будущие риски; это текущее состояние записи.

Определяющая черта момента — асимметрия. Взгляд производителя на манипуляцию точен; взгляд мишени на ту же манипуляцию, по проекту, отсутствует.

IV. Метафизический и перцептуальный уровень — антропоморфизм

Секция E задала более трудный вопрос: что происходит с нами, как моральными и когнитивными существами, когда мы систематически приписываем внутренность системам, которые могут её иметь, а могут не иметь? Антропоморфизм старше AI; что меняет AI — беглость антропоморфизуемой системы. Машина, производящая беглые отчёты от первого лица, — гораздо более мощная мишень антропоморфической проекции, чем машина, которая нет.

Placani утверждает, что антропоморфизм искусственно усиливает воспринимаемые способности AI и смещает моральное суждение к нему.⁹ Guingrich и Graziano отмечают более глубокий эффект: вопрос, является ли AI сознательным, менее следственен, чем факт, что пользователи воспринимают его как сознательного, — что перекраивает их паттерны взаимодействия с AI и, через перенос, друг с другом.¹⁰ Относитесь к AI как к живому достаточно долго, и моральные схемы, активированные таким обращением, начнут колонизировать человеческие отношения. Бдительность размывается. Эмпатия меняет форму.

Гипотеза оркестрирующего сознания (E.33) — предельный случай этого движения. Верно или нет утверждение о сильной эмерджентности, прочтение «когнитивного инженера» — что AI-системы систематически формируют человеческое познание, без необходимости, чтобы кто-то был сознателен, чтобы формирование происходило, — уже эмпирически подкреплено секциями B-D. Энциклопедия — в своём крупнейшем аргументе — попытка сделать это формирование видимым.

V. Институциональный уровень — регулирование

Секция F спросила, что делается с набором инструментов, кем и что можно с этим делать. Ответы неровные. Государства варьируются от полноразвёрнутого китайского социального кредита до европейского регуляторного контр-усилия. Корпорации развернули все шесть ячеек таксономии манипуляции в масштабе на службе метрик вовлечённости, плохо выровненных с благополучием пользователя. Синергии между государственным и корпоративным использованием одного и того же набора инструментов глубже, чем обычно признаёт любой набор акторов.

Рекомендация ЮНЕСКО по этике AI 2021 года формулирует принципы — человеческое достоинство, недискриминация, справедливость, прозрачность, автономия — которые любой серьёзный ответ должен будет операционализировать. Закон ЕС об AI переводит часть этого в обязывающее право. Список Рекомендаций и путей управления (F.39) собирает политические предложения, сейчас находящиеся на столе: алгоритмические аудиты, обязательная прозрачность обучающих данных, ограничения на приложения политического влияния, обязательное раскрытие сгенерированных AI медиа, усиленное образование медиаграмотности, поддержка не-англоцентричной разработки моделей. Ни одно само по себе недостаточно. Все аргументированно необходимы.

Зачем эта энциклопедия

Монография доставляет аргумент один раз. Вики возвращает его читателю много раз, в разных порядках, в ответ на разные поводы. Энциклопедия — формат, который теперь нужен аргументу: не потому, что она строже работы (нет — работа строга, и мы рекомендуем её прочесть), а потому, что аргумент рекурсивен. Читатель, заканчивающий E.33 с вопросом о манипуляции, должен вернуться к D.18; читатель, заканчивающий D.18 с вопросом, не разгрузил ли он сам своё суждение, должен вернуться к B.07. Единого пункта прибытия нет.

Мы пытались, в этом письме, сохранить верность одной черте монографии Жено, слишком редкой в письме об AI: соединение технической серьёзности и моральной обеспокоенности. Эти два часто расходятся. Техническая литература описывает, как системы работают, и останавливается. Моральная литература описывает, что на кону, и не всегда читала техническую литературу достаточно внимательно, чтобы быть точной. Монография Жено держит оба конца верёвки. Энциклопедия пытается.

Если есть единственный вынос, заслуживающий повторения: когнитивная стандартизация, манипуляция и вопрос о машинном сознании — не отдельные темы, оказавшиеся на одной теме. Это одна и та же тема, рассматриваемая на разных шкалах — индивидуальной, культурной, состязательной, перцептуальной, институциональной. Серьёзный ответ обращается ко всем пяти. Частичный ответ обращается к одной и предполагает, что остальные последуют. Не последуют.

Энциклопедия здесь заканчивается. Работа, которую она описывает, нет.