Дипфейки

Слово дипфейк — сокращение от «глубокого обучения» и «фейка». Покрывает семейство техник — подмена лиц, клонирование голоса, полностью синтетические изображения — которыми аудиовизуальный материал может быть сфабрикован с качеством, достаточным для обмана. К 2024 году технический порог убедительных подделок упал до потребительского железа.

Два инцидента

Видео Зеленского 2022 года. В первые недели войны фабрикованное видео появилось на взломанных украинских медиа, показывающее президента Зеленского, призывающего украинские силы сложить оружие. Подделка была неубедительной и идентифицирована за часы.

Голосовое сообщение Байдена в Нью-Гэмпшире 2024 года. За дни до демократического праймериза избиратели получили робозвонок голосом, неотличимым от голоса президента Байдена, призывающим избирателей-демократов пропустить праймериз.

Оба инцидента имеют общую структурную черту: каждый был, в каком-то смысле, спроектирован, чтобы быть обнаруженным. Атаки, которые удадутся, будут спроектированы не быть обнаруженными.

Что меняется, когда подделки дешевеют

Бремя доказательства на реальном контенте. Когда фабрикация дёшева, скептический ход по умолчанию — сомневаться в аудиовизуальном материале.

Дивиденд лжеца. Термин Чесни и Цитрона из их работы 2019 года ¹. Когда все знают, что подделки существуют, публичные фигуры, пойманные на подлинных записях, могут правдоподобно утверждать, что записи — подделки.

Издержки доверия повсеместно. Каждое индивидуальное взаимодействие с аудиовизуальным контентом несёт малую новую когнитивную цену.

Обнаружение и происхождение

Обнаружение. Тренировать классификаторы для отличия AI-генерируемого контента. Работают для подделок текущего поколения; проваливаются для следующего.

Происхождение. Инициатива по аутентичности контента и стандарт C2PA представляют более амбициозный ответ.

Что можно сделать политически

• Криминализовать конкретные случаи злоупотребления.
• Обязать раскрытие в политической рекламе.
• Усилить системы верифицированной идентичности.
• Образовывать.