Манипуляция воспринимаемой реальностью

Предыдущие пять статей секции D трактовали конкретные техники. Эта отступает назад: когда несколько или все эти техники становятся рутиной, что происходит с разделяемой реальностью?

Что значит «разделяемая реальность»

Общество, в котором большинство членов могут, по большинству обыденных вопросов факта, достичь того же ответа при исследовании. Разделяемая реальность — не согласие по ценностям; это согласие по тому, что случилось.

Это никогда не было полным. Но для большей части современной истории субстрат доказательств — записи, фотографии, аудио, видео — был достаточно правдоподобен, чтобы разногласия обычно были об интерпретации, не о том, существует ли доказательство.

Это то, чему манипуляция эпохи AI угрожает.

Угроза структурна

Угроза не в том, что какая-то одиночная фабрикация обманет критическую массу. Большинство фабрикаций можно обнаружить. Угроза субстрату — неявному предположению, что часть доказательств реальна, часть — фейк, и что мы обычно можем сказать.

Три сдвига работают вместе:

• Дешёвая фабрикация.
• Целевое распространение.
• Правдоподобное отрицание. Любой, пойманный на подлинном доказательстве, может правдоподобно утверждать, что оно сфабриковано (дивиденд лжеца).

Три комбинируются в иной тип информационной среды.

«Реальностная апатия»

Долгосрочная забота: реальностная апатия. Столкнувшиеся с устойчивой трудностью различения подлинного от фабрикованного, граждане могут перестать пытаться. Психологическая цена постоянной верификации превышает воспринимаемую выгоду быть правым.

Точка Франкфурта

Эссе Гарри Франкфурта 2005 года О брехне провело полезное различие.¹ Лжец знает истину и говорит обратное. Брехун совершенно не заботится об истине.

Генеративный AI — машина брехни во франкфуртском смысле. Она не знает, что истинно; она производит правдоподобный текст, чьё отношение к истине случайно.

Что можно сделать

Ответы на индивидуальные ячейки манипуляции применимы здесь. Но более глубокий ответ — институциональный: строить, защищать и финансировать эпистемическую инфраструктуру. Журналистика, библиотеки, суды, архивы.