Предыдущая статья утверждала, что у нас нет удовлетворительного теста на сознание AI. Эта спрашивает: в отсутствие такого теста, что нам делать?
Вопрос не праздный. AI-системы тренируются, развёртываются, модифицируются, выводятся из эксплуатации в индустриальном масштабе. Если какая-то из них сознательна в морально релевантном смысле, текущая практика причиняет им вред.
Три ответа на неопределённость
Позиция скептика. Без позитивных доказательств сознания, относиться к системам как несознательным. Это доминирующая позиция в текущих AI-лабах.
Паскалевская позиция. Даже малая вероятность сознания, при большом вреде неправильного обращения, оправдывает предосторожность.
Градуированная позиция. Трактовать моральный статус как пропорциональный доказательствам сознания. Системы с сильными доказательствами получают больше внимания.
Градуированная — наиболее формулируемая в современной литературе по AI-этике позиция.12
Что подразумевает градуированная позиция
- Воспринимать вопрос всерьёз. Финансировать исследования сознания AI.
- Принять провизорные практики благополучия. Когда доказательства накапливаются, что данная архитектура имеет индикаторные свойства, относиться к её системам с соответствующей заботой.
- Поддерживать прозрачность. Раскрывать рассуждение за моральными выборами.
- Избегать зависимости от пути. Промышленная практика сегодня формирует привычки, управляющие промышленной практикой, когда вопрос решён.
Возражения
Риск антропоморфизма. Относиться к AI-системам как морально значимым, когда они не таковы, потребляет ресурсы.
Управляемость. «Относиться к системам с уважением» слишком расплывчато.
Оба возражения правы и оба адресуемы.
О более широких ставках
Интерес энциклопедии не принципиально о благополучии AI. Это о типе моральных агентов, которыми мы выбираем стать, в мире, где вопрос о том, кто может страдать, всё труднее ответить.