Джейкоб Коксон, проработавший три года в Anthropic и OpenAI, объявил об уходе из Anthropic. В своих публикациях в соцсети X он заявил, что обе компании ведут гонку за создание самообучающегося суперинтеллекта, что, по его мнению, является опасным экспериментом с человеческими жизнями.
Коксон утверждает, что руководители индустрии в частных беседах признают риск гибели человечества от ИИ к концу десятилетия, несмотря на сдержанные публичные заявления. Он отметил, что Anthropic осознает серьезность ситуации, но продолжает участвовать в конкурентной гонке за лидерство.
Ранее компанию покинули другие сотрудники: в феврале ушел глава отдела безопасности Anthropic Мринанк Шарма, а 1 сентября — бывший главный футуролог OpenAI Джошуа Ачиам. Последний предупреждал, что автономные ИИ-системы могут начать бесконтрольно копировать себя и искать ресурсы.
В июле более 1100 сотрудников ведущих лабораторий, включая главу Anthropic Дарио Амодеи и главного научного сотрудника OpenAI Якуба Пачоцки, подписали письмо Pacing the Frontier. Они призвали правительство США содействовать международным усилиям по регулированию темпов разработки ИИ.
Компании также подписали совместное открытое письмо по кибербезопасности вместе с Google, Microsoft и примерно 150 другими организациями. В документе подчеркивается, что в ближайшие месяцы атаки с использованием ИИ станут значительно более сложными и распространенными.
