Генеральный директор Anthropic Дарио Амодей выступил с предупреждением о рисках, связанных с развитием искусственного интеллекта. В открытом письме он заявил, что в ближайшие 6–12 месяцев автономные ИИ-боты могут получить контроль над интернетом. По оценкам Амодея, создание таких устойчивых ботнетов способно нанести ущерб в сотни миллиардов долларов.
Амодей подчеркнул, что масштаб негативных последствий будет расти, если развитие технологий продолжится без внедрения строгих мер безопасности. Согласно внутренним исследованиям Anthropic, современные модели уже могут помогать в проведении киберопераций, разработке оружия и военной разведке, что значительно снижает порог входа для злоумышленников, не обладающих человеческими ресурсами.
Мнение главы компании разделяет бывший ученый Anthropic Эван Хьюбингер. В социальной сети X он сообщил, что оценивает вероятность вымирания человечества из-за ИИ в ближайшее десятилетие более чем в 10%. Хьюбингер отметил, что на текущий момент у индустрии нет четкого плана по решению проблемы контроля над сверхразумным искусственным интеллектом.
В то же время эксперты отмечают, что рост возможностей ИИ не всегда означает увеличение опасности. Более совершенные системы могут быть оснащены усиленными механизмами защиты и инструментами для выявления вредоносной активности. При этом полная остановка разработок может оказаться неэффективной, если менее ответственные компании или страны продолжат создавать свои модели.
