Книга Эли Парайзера 2011 года дала феномену его прочное имя. Пузырь фильтров: персонализированная информационная среда, производимая рекомендательными алгоритмами, оптимизирующими вовлечённость, окружающая каждого пользователя содержимым, подтверждающим то, что он уже предпочитает думать.1
Касс Санстейн расширил аргумент к эхо-камерам — не просто персонализированным лентам, но активному, социальному производству единомышленных сообществ онлайн.2
Что прояснила эмпирическая литература
Пятнадцать лет тщательных исследований произвели более сложную картину:
- Алгоритмический эффект реален, но меньше боявшегося. Большинство пользователей встречают онлайн больше разнообразных взглядов, чем из до-интернетных источников.
- Эффект отбора велик. Пользователи активно само-курируют — отписываясь, выбирая платформы. Большая часть фильтра — собственный выбор пользователя, не алгоритма.
- Асимметричные эффекты. Эффект пузыря сильнее на политических и культурных крайностях, чем посередине.
Честное резюме: пузыри фильтров реальны, слабее тревоги 2011 года, сильнее противоудара 2018 года, и сосредоточены там, где политические последствия наиболее острые.
Где это связано с вопросом AI
Интерес энциклопедии — пузыри фильтров как механизм когнитивной стандартизации. Роль пузыря:
- Гомогенизирует то, что видит каждый пользователь, что со временем гомогенизирует то, что каждый пользователь ожидает увидеть.
- Награждает контент, соответствующий тому, что алгоритм узнал о пользователе, что подавляет удивление — предусловие изменения мнения.
- Взаимодействует с алгоритмическим искажением на уровне модели: те же предпочтения, что производят гомогенизацию в генеративном AI (см. C.13), производят гомогенизацию в рекомендательном AI.
Замечание о языке
Термины пузырь фильтров и эхо-камера иногда используются взаимозаменяемо. Энциклопедия пытается их различать. Пузырь фильтров — то, что делают алгоритмы; эхо-камера — то, что делают сообщества.