Из множества эмпирических исследований когнитивной стандартизации одно заслуживает отдельной статьи: работа Доши и коллег 2024 года. Исследование поставило в пару индийских писателей с системой автозавершения текста, обученной на западных данных, и наблюдало за их прозой.
Знаменитый результат: AI «гомогенизировал письмо к западным стилям, тихо стирая не-западные модусы выражения».1
«Гомогенизировал»
Главное открытие — статистическое: распределение стилистических особенностей сжалось за сессию. Выбор лексики, структуры предложений, риторические паттерны — особенности, варьировавшиеся широко в начале сессии, стали более похожими к концу.
«К западным стилям»
Направление сноса не было случайным. Тренировочный корпус модели ошеломляюще англоязычный и западный, и её предпочтения, кодированные как вероятности подсказок, тянули прозу писателей к этим паттернам.
«Тихо»
Экспериментальная процедура спрашивала участников, чувствовали ли они, что модель их направляет. Большинство сказали «нет». Большинство, при показе их до-после текстов, не могли идентифицировать конкретные принятые подсказки. Гомогенизация произошла ниже порога сознательного выбора.
«Стирая не-западные модусы выражения»
Участники не производили худшую письменную работу. Они производили меньше своей собственной. Идиомы, синтаксические паттерны, риторические конвенции, отличающие их культурные и языковые предпосылки, тихо заменены по умолчаниям модели.
Классная версия
Тот же паттерн задокументирован в образовательных условиях. Предпочтение ChatGPT формального академического английского вытесняет диалект, регистр и идиому из работы студентов — не потому что учителя просят, а потому что модель предлагает.2
То, что на кону, больше эстетики. Язык — носитель мысли. Диапазон доступных формулировок в культуре — часть того, что культура способна думать. По мере сужения диапазона определённые мысли становятся труднее формулируемы.
Что можно сделать
Осведомлённость и замечание. Учить пользователей распознавать стилистическое умолчание модели и сопротивляться ему намеренно.
Разнообразные выводы модели. Настраивать модели на производство более широких стилистических диапазонов.
Локально обучаемые модели. Финансировать модели на местных языках и культурных корпусах.