Экономика дезинформации проста. Издержки производства должны быть ниже извлекаемой политической или коммерческой ценности. До интернета дезинформация требовала газетный аппарат. Интернет уполовинил издержки, убрав распространение. Соцсети сократили их снова. Генеративный AI сокращает их ещё раз, убирая писателей.
Это структурное изменение. Всё остальное следует из него.
Что значит изменение
Совместный отчёт RAND / OpenAI 2023 года смоделировал новую экономику в деталях.1 Резюме: один оператор с современными генеративными инструментами может производить, при почти-нулевой предельной издержке, потоки контента, ранее требовавшие инвестиций редакции.
Это означает три операционных сдвига:
Объём. Кампании дезинформации могут наводнять тему — генерируя сотни статей, постов и ответов в день — по цене, которая двадцать лет назад произвела бы один еженедельный бюллетень.
Подгонка. Каждая статья может быть кастомизирована под конкретную аудиторию.
Многослойная отмывка. Фейковые новости более убедительны, появляясь на многих источниках, а не на одном.
Что это не обязательно значит
Важная поправка: дезинформация всегда менее мощна на единицу, чем тревожные комментарии предполагают. Исследование Алкотта и Генцкова 2017 года обнаружило, что персуазивный эффект данной фейковой истории мал.2
Поправка важна, потому что политический ответ на «AI делает дезинформацию дешёвой» зависит от того, какова эластичность вреда.
Объёмные ответы
Обнаружение на уровне источника. Идентифицировать контент-фермы по поведенческим сигнатурам.
Водяные знаки. Встраивать сигналы в AI-генерируемый контент.
Стандарты происхождения. Встраивать криптографическое происхождение в медиа на уровне камеры (C2PA).
По-штучные ответы
Грамотность проверки. Навыки оценки конкретного подозрительного куска.
Трение при шеринге. Подсказки, прерывающие репост: «вы прочитали это?»
Независимая проверка фактов.