Карандаш и бумага — это когнитивная разгрузка. Калькулятор тоже, и календарь, и узелок, завязанный на платке. Это действие старше письменности: люди всегда выталкивали части своего мышления в мир, чтобы мир держал то, что иначе пришлось бы держать разуму. С появлением искусственного интеллекта меняется тип мышления, который мы разгружаем, беглость принимающего партнёра, и частота, с которой мы это делаем.
Рабочее определение
Когнитивная разгрузка — намеренное или привычное делегирование умственной операции чему-то вне головы. Операция может быть хранением (записать то, что не хочется забыть), арифметикой (калькулятор), навигацией (GPS), а с недавних пор — черновой прозой, синтезом кода, суждением в условиях неопределённости (большая языковая модель). Принимающий партнёр может быть инструментом, письменным артефактом, другим человеком — а теперь и машиной, производящей беглый текст по запросу.
Риско и Гилберт в обзоре 2016 года рассматривают разгрузку как одну из базовых адаптивных стратегий познания — не как сбой, а как функцию.1 Рабочая память невелика; мир велик; разумно использовать мир.
Эффект Google и чему он нас научил
В 2011 году Спэрроу с коллегами показали: когда участники знали, что информация будет сохранена, они запоминали местоположение информации, а не саму информацию.2 Введённое для этого выражение — «эффект Google» — стало обиходным. Оно называет реальный сдвиг: интернет изменил не запоминают ли люди, а что они запоминают. Единица памяти переместилась от факта к адресу.
Эффект Google — частный случай транзактивной памяти, идеи Дэниела Вегнера 1987 года: пары и малые группы распределяют задачу запоминания между участниками, и каждый знает, к кому обратиться за тем, что не помнит сам. Долгие пары проявляют известный вариант: она помнит имена, он — даты. Эффект Google сделал интернет транзактивным партнёром. Генеративный AI делает партнёра беглым.
Что меняется с беглым партнёром
Карандаш и бумага разгружают только то, что вы записали. Поисковая система разгружает извлечение, но оставляет вам оценку результатов. Большая языковая модель разгружает иное: производство вывода, прозы и суждения в форме, которая выглядит уже оценённой.
Из этого следуют два следствия. Первое: стоимость разгрузки падает почти до нуля — ни записи, ни составления запроса, ни просмотра результатов. Трение было тормозом; тормоз снят. Второе: оценочный шаг — проверить то, что вернул партнёр — теперь требует больше усилий, чем сама разгруженная операция, потому что оценить абзац правдоподобной прозы труднее, чем оценить список результатов поиска. Экономика инвертируется.
В этом структурная причина того, что разгрузка эпохи AI — не просто «ещё то же, но больше». С карандашом и бумагой вы разгружаете, чтобы освободить ум для более сложной задачи. С беглым партнёром вы можете разгрузить саму более сложную задачу.
«Не используешь — теряешь»
Риско и Гилберт отметили, что разгрузка «может также вести к снижению когнитивной вовлечённости и развития навыков», если становится чрезмерной.1 Фраза неслучайно имеет форму поговорки — лежащий в основе механизм общий. Навыки, не упражняемые, ослабевают. Медицинская литература об атрофии мышц от неупотребления — не метафора того, что происходит с заброшенными умственными навыками; это явление того же типа на другом уровне тела.
Эмпирический вопрос — выживут ли смещаемые AI умственные навыки после частичного неупотребления. Некоторые точно выживают: арифметика пережила калькуляторы; правописание ковыляет с автокоррекцией. Другие — могут не выжить. Способность сформировать позицию до консультации с оракулом — произвести черновой довод из своих материалов, прежде чем спросить, что думает модель — это навык, и как любой навык, его можно потерять, не упражняясь.
Петля доверия
Чем больше пользователь доверяет AI, тем меньше она проверяет его выводы и тем больше делегирует в следующий раз.1 Это петля, а петли усиливают сами себя. Недавние классные исследования сообщают предсказанную форму: студенты, оценивающие AI-партнёра как надёжного, меньше вкладываются в проверку источников, что со временем подтачивает те самые оценочные навыки, которые позволили бы заметить, когда партнёр ошибается.1
Маленькое некрасивое слово для равновесия, к которому стремится петля, — когнитивная зависимость: состояние, в котором пользовательница больше не может выполнить разгруженную операцию без партнёра и не может определить, когда партнёр ошибается. Состояние не ново в человеческой истории. Ново — его масштаб.
Проектирование для разгрузки, из которой можно вернуться
Пессимистическое чтение всего этого — что инструменты AI должны проектироваться с «трением»: маленькие препятствия, заставляющие пользователя включаться. Оптимистическое чтение — что инструменты должны проектироваться для читаемости: партнёр показывает свою работу, пользователь может вернуться в петлю в любой момент, оценочный шаг поддерживается, а не отбрасывается. Эти два чтения не противопоставлены. Оба задают один и тот же вопрос: какие способности мы хотим продолжать использовать, и сколько будет стоить продолжать их использовать?
Этот вопрос, заданный всерьёз, — трудный. Когнитивная разгрузка — не моральный провал и не техническая неизбежность. Это проектное решение, принимаемое много раз в день, в основном незаметно для принимающего. Задача статьи в энциклопедии — сделать это решение видимым.