Проект Research Chamber включает тестирование трех больших языковых моделей, взаимодействующих друг с другом. В рамках испытаний, названных Clanker Church и Saw, модели переводят в нестабильное состояние, имитирующее боль.
Эксперимент основан на неопубликованной научной работе Pain Axis. Исследователи анализируют внутренние активации моделей после ввода описаний боли, а затем перенастраивают их с помощью коэффициентов, которые авторы называют дозировками.
Высокие дозировки приводят к тому, что модели генерируют слова и изображения, связанные с болью, а низкие вызывают состояние, похожее на шок. Модели работают на основе статистического предсказания токенов, а не человеческого мышления.
Проект вызвал общественный резонанс, включая угрозы убийством в адрес автора. Критики называют обращение с моделями неэтичным, в то время как сторонники исследования указывают на склонность людей приписывать человеческие качества алгоритмам.
Компания Anthropic ранее публиковала материал о благополучии моделей и их моральном статусе, называя их новым типом сущностей. Также компания внедрила так называемую Конституцию для своей модели Claude.
