Критическое мышление в эпоху LLM

В 2024 году исследовательская команда Microsoft и Carnegie Mellon обследовала около 660 работников знаний об их использовании генеративного AI на работе. Исследование почти сразу стало канонической эмпирической ссылкой для утверждения, которое литература делала с 2016 года: что высокая зависимость от AI ассоциирована с измеримым снижением критического мышления.¹

Что показало исследование

Методология — самоотчёт: анкеты, протоколы «думать вслух», структурированный рубрик для оценки упражнений на критическое мышление.

Основные выводы:

• Высокое доверие к AI коррелирует с меньшими усилиями, потраченными на критическое мышление. Работники с высокой уверенностью в выводах AI тратили меньше времени на оценку, проверку и сомнение.
• Усилие сдвигается с выполнения на надзор. Когда работники вкладывались критически, вложение группировалось вокруг принятия/отклонения/редактирования выводов AI, а не вокруг производства оригинального анализа.
• Сдвиг коррелирует с самоотчётной «когнитивной атрофией». Работники, активно использующие AI, сообщали, что их независимые аналитические навыки чувствовались слабее, чем раньше.

Фраза, которую использует работа: критическое мышление при интенсивном использовании AI становится больше об оценке вывода AI и меньше о формулировании собственного. Оба — формы мышления. Они не та же форма. Первая не сохраняет вторую.

Что такое «критическое мышление»

В образовательной литературе у критического мышления по меньшей мере четыре компонента, и AI влияет на каждый по-разному.

1. Независимое рассуждение. Формирование позиции из собственных материалов, до консультации с авторитетами. Наиболее затронуто использованием AI.
2. Оценка источников. Суждение о достоверности доказательств. AI действует амбивалентно — ускоряет извлечение, но затемняет происхождение, и производит свободную прозу, которая выглядит подкреплённой источниками, не будучи таковой.
3. Анализ аргументов. Идентификация структуры утверждения и того, где оно может провалиться. AI может помочь, но его собственные выводы часто имеют поверхности в форме аргументов с структурными пробелами.
4. Метакогниция. Осознание собственного рассуждения, включая его характерные режимы провала. Единственный компонент, который AI прямо не задействует — и наиболее необходимый, если пользователь должен оставаться критичным к самому AI.

Структурная проблема

Самый глубокий вклад работы — называние структурной проблемы за эмпирическим выводом. Генеративный AI поднимает стоимость критического вовлечения относительно стоимости принятия. Принять вывод AI — значит ничего не делать. Вовлечься критически — значит делать что-то: внимательно читать, выявлять слабые места, проверять утверждения, формулировать контраргументы. Асимметрия благоприятствует принятию.

В нормальной информационной среде — книга, учитель, коллега — та же асимметрия существует в более мягкой форме. Что меняет AI — объём правдоподобного материала для оценки резко поднимается, а подсказки, маркирующие часть его как подозрительный, ослаблены равномерной свободой медиума.

Что можно сделать

Три направления ответа повторяются:

Образование. Учить структурным особенностям выводов LLM явно — включая их характерные режимы провала.

Дизайн инструментов. Поверхностно показывать неуверенность и рассуждение AI. Модели, показывающие свою работу, дают пользователю что-то, с чем вовлечься критически.

Рабочий процесс. Встраивать моменты, когда от пользователя требуется думать самостоятельно — формулировать черновики до запроса.

Закрывающее наблюдение

Соблазн прочесть эмпирическую литературу так: генеративный AI плох для мышления. Заключение слишком сильное. Защитимое — более слабое и более полезное: при настройках по умолчанию, у популяций со стандартной подготовкой, генеративный AI ассоциирован со снижениями критического мышления. Утверждение условно. Обе зависят от рабочих процессов и обучения. Обе достижимы.