Генеральный директор OpenAI Сэм Альтман 3 октября заявил, что попытки наделить ИИ-модели религиозной силой или призывы отказаться от собственного суждения в пользу алгоритмов являются серьезной угрозой безопасности. Хотя Альтман не упомянул конкретные компании, его слова прозвучали на фоне сообщений о дискуссиях Anthropic с Ватиканом относительно сознания ИИ.
Согласно отчету The New York Times от 29 сентября, сооснователь Anthropic Кристофер Ола обсуждал с религиозными экспертами возможность наличия сознания и морального статуса у моделей вроде Claude. Компания также проводила закрытые встречи с представителями различных религиозных традиций для изучения этих вопросов.
Ола ознакомился с проектом энциклики Папы Римского об ИИ и выразил обеспокоенность позицией Ватикана, отрицающей возможность машинного сознания. Команда Anthropic пыталась лоббировать свою точку зрения перед советниками Папы, хотя сам Ола признал, что у исследователей пока нет точного ответа на вопрос о наличии сознания у нейросетей.
Опубликованная в мае энциклика Папы Римского утверждает, что ИИ не обладает телом, чувствами или моральной совестью. Документ подчеркивает, что технологии должны направляться людьми, которые несут полную ответственность за их использование. ИИ способен имитировать анализ, но не понимает генерируемый контент.
Сэм Альтман и сам ранее использовал религиозные метафоры, описывая разработку ИИ как «нахождение на стороне ангелов» и называя технологии «магическим интеллектом в небе». Также отмечались случаи использования им мистических образов в социальных сетях, однако эксперты подчеркивают, что это не доказывает его убежденность в наличии у ИИ божественной природы.
