Секция стандартизации заканчивается здесь, вопросом, организующим большую часть последующего: что можно сделать? Честный ответ — литература сошлась на трёх линиях ответа, каждая реальна, и ни одна сама по себе не достаточна. Реалистичная политика — все три одновременно.

Образование

Самый обсуждаемый ответ: встроить осведомлённость о когнитивной стандартизации в образование с раннего возраста.

  • Распознавать предпочтения модели. Учить студентов, что у LLM есть регистр по умолчанию, примеры по умолчанию, культурные допущения по умолчанию.
  • Практиковать самостоятельные первые черновики. Встраивать в педагогику привычку писать-до-спрашивания.
  • Поддерживать многоязычную грамотность. Студент, свободно говорящий на более чем одном языке, структурно менее стандартизуем.
  • Усилить проверку источников.

Технология

Технические ответы группируются вокруг трёх целей:

Разнообразные тренировочные корпуса. Модели, обученные на более широких, менее англоцентричных данных.

Локально разработанные модели. Модели, построенные локальными командами для локальных пользователей.

Поверхностное представление предпочтений модели. Инструменты, показывающие пользователю какой тип вывода модель производит по умолчанию до его принятия.

Политика

Раскрытие состава тренировочных данных. У пользователей нет права знать, на чём обучен их AI; правовые рамки начинают трактовать это как отсутствующее право.

Алгоритмический аудит. Независимые аудиты предвзятости моделей.

Обязательная совместимость. Регуляции, предотвращающие, чтобы любая одна модель стала единственным практическим выбором для использования.

Государственное финансирование не-WEIRD AI. Поддержка моделей, которые рынок не произвёл бы сам.

Рекомендация ЮНЕСКО 2021 года об этике искусственного интеллекта формулирует принципы — разнообразие, включение, справедливость, прозрачность.1

Форма серьёзного ответа

Утверждение энциклопедии — ни один из этих трёх ответов не работает в одиночку. Образование без политики производит осведомлённых пользователей в захваченной среде. Политика без технологии производит театр соблюдения. Технология без образования производит инструменты, которыми никто не умеет хорошо пользоваться.

Форма серьёзного ответа — делать все три, в координации, на временных горизонтах длиннее любого бюджетного цикла.

Footnotes

  1. ЮНЕСКО 2021 Рекомендация об этике AI. ↩