Исследователь в области ИИ Джейкоб Коксон уволился из компании Anthropic, заявив, что ведущие разработчики искусственного интеллекта рискуют жизнями людей. Вслед за этим руководитель направления по безопасности Anthropic публично подтвердил, что компания оценивает вероятность уничтожения человечества с помощью ИИ более чем в 10% в течение ближайшего десятилетия.
Заявления прозвучали в преддверии планируемого IPO Anthropic. Эксперты обсуждают, как подобные риски будут отражены в форме S-1 для выхода на биржу. Юристам компании предстоит решить, как официально зафиксировать вероятность глобальной катастрофы в качестве существенного фактора, влияющего на бизнес и оценку стоимости компании.
В индустрии нет единого мнения о причинах подобных высказываний. Некоторые эксперты полагают, что акцент на опасности ИИ может служить маркетинговым инструментом для демонстрации мощи технологий. Другие указывают, что обсуждение гипотетических угроз отвлекает от текущих проблем, таких как влияние ИИ на рынок труда и экологию.
Вопрос контроля над моделями остается ключевым для инвесторов. Несмотря на скептицизм по поводу точности прогнозов, подготовка Anthropic к публичному размещению акций делает вопрос о том, как компания формализует риски в документации для регуляторов, одной из самых обсуждаемых тем в технологическом секторе.
