Этические страховки

Секция манипуляции закрывается здесь, вопросом, следующим из шести предыдущих статей: что можно сделать? Ответы группируются в четыре семейства.

I. Маркировка и раскрытие

Самый скромный ответ: требовать, чтобы AI-генерируемый контент маркировался как таковой. Закон ЕС об AI требует раскрытия для AI-генерируемого аудиовизуального контента в определённых категориях.¹

II. Водяные знаки и происхождение

Технический ответ: встраивать сигналы в AI-генерируемый контент.

Генеративные водяные знаки. Модель встраивает невидимый паттерн. Полезно для устойчивого объёма; хрупко против определённых противников.

Подпись происхождения. Криптографические подписи, прикреплённые к контенту на уровне устройства (стандарт C2PA).

III. Ограничения на AI высокого риска

Самый амбициозный ответ. Закон ЕС об AI — ведущая рамка, классифицирующая AI-системы по риску:

• Запрещено. Социальное скоринг государствами, манипулятивный AI, эксплуатирующий уязвимости.
• Высокий риск. Системы в образовании, занятости, основных услугах, правоохранительной деятельности.
• Ограниченный риск. Системы с обязательствами раскрытия (чат-боты, дипфейки).
• Минимальный риск. Большинство других AI-приложений.

США не приняли законов сравнимо. Асимметрия — один из консекутивных политических вопросов периода.

IV. Платформенная ответственность

Наименее развитый ответ, но возможно самый важный: возлагать на платформы ответственность за манипуляцию, происходящую на них.

Что объединяет ответы

• Ни один не достаточен в одиночку.
• Все работают лучше с образованными пользователями.
• Лаг реализации — правило. Технологии движутся быстрее регуляций.

Стоянка энциклопедии — асимметрия между эксплуататором и эксплуатируемым теперь слишком велика, чтобы быть адресованной индивидуальной бдительностью одной.

Секция E — Сознание — поднимает аргумент с другого угла: не что AI делает, а что AI есть.