Каталог человеческих когнитивных искажений хорошо картирован. Работа Тверски и Канемана 1974 года открыла современную литературу.1 Что меняется с приходом AI — не меню искажений. Меняется масштаб и гранулярность, при которых искажения могут эксплуатироваться.

Короткое меню

Искажение подтверждения — склонность взвешивать доказательства, подтверждающие существующие убеждения. AI эксплуатирует его двояко: рекомендательные системы подают пользователям контент, согласующийся с выведенными убеждениями; разговорный AI в диалоге производит ответы, соответствующие эмоциональной валентности пользователя.

Якорение — склонность непропорционально взвешивать начальное число или обрамление. AI эксплуатирует через выбор отображения. Показ высокой «цены по списку» до скидки якорит готовность платить.

Доступность — суждение о частоте по тому, как легко всплывают примеры. Роль AI — в формировании того, что всплывает.

Обрамление — зависимость суждения от того, как поставлен вопрос. AI эксплуатирует через персонализацию обрамления.

«Гипернадж»

Термин, схватывающий сдвиг — гипернадж. Оригинальная концепция Санстейна и Талера — надж: малый дизайн-выбор, формирующий решение без устранения свободы. Гипернадж — надж, скроенный под одного пользователя, в реальном времени, системой, знающей его лучше, чем он знает себя. Сдвиг масштаба важен.

Почему масштабирование — настоящая проблема

Сравнение. Маркетолог прямой почтовой рассылки 1980-х, эксплуатирующий искажение подтверждения в копии, работал с тем же искажением, что AI сегодня. Маркетолог писал одну копию, посылал многим. Не мог обнаружить искажение. Не мог измерить результат на пользователя.

AI-управляемая лента 2025 года выбирает контент на пользователя из миллионов вариантов, динамически. Обнаруживает искажение из поведенческой истории. Измеряет результат на пользователя в реальном времени и адаптируется.

Механизм тот же. Асимметрия между эксплуататором и эксплуатируемым много больше.

Что можно сделать

  • Бдительность на уровне пользователя помогает, но не масштабируется.
  • Трение в интерфейсах — замедление пути от ленты к действию.
  • Алгоритмическая прозрачность — позволять пользователям видеть почему им показывают то, что показывают.
  • Регуляция персонализации в политически чувствительных доменах.

Footnotes

  1. Тверски и Канеман, 1974. ↩