Джейкоб Коксон, исследователь безопасности в компании Anthropic, уволился 9 сентября. Он заявил, что ведущие лаборатории бесконтрольно движутся к созданию самообучающегося суперинтеллекта. Ранее генеральный директор Anthropic Дарио Амодеи опубликовал эссе из 3800 слов, призвав замедлить развитие ИИ из-за угроз биотерроризма и экономических потрясений.
Исследователь Пол Кристиано заявил, что индустрия рискует потерять контроль над системами. Некоторые эксперты оценивают вероятность вымирания человечества в ближайшее десятилетие более чем в 10%. Опросы специалистов в области ИИ показывают, что медианная оценка вероятности крайне негативных последствий составляет около 5%.
Критики, включая Тимнит Гебру, Милтона Мюллера и Тристана Харриса, считают, что акцент на гипотетическом апокалипсисе отвлекает внимание от реальных проблем и ошибок управления, которые требуют решения сейчас. По их мнению, подобные нарративы могут быть выгодны самим технологическим компаниям.
Конкуренция между разработчиками усиливается, что подтверждается расформированием команды по супералайменту в OpenAI в 2024 году. В США до сих пор отсутствует федеральное законодательство, регулирующее создание передовых систем ИИ, а ни одно ведомство не обладает четкими полномочиями для контроля над самообучающимися архитектурами.
Европейский закон об ИИ остается наиболее проработанной нормативной базой, однако механизмы его исполнения все еще не успевают за темпами развития технологий.
