Илон Маск предупредил о катастрофических последствиях, если искусственный интеллект получит контроль над военными системами и ядерным оружием. Он не согласился с мнением о безопасности физически изолированных сетей, отметив, что регулярные обновления программного обеспечения создают уязвимости, которыми может воспользоваться ИИ для доступа к критической инфраструктуре.
Опасения по поводу развития технологий разделяют и другие специалисты. Бывший исследователь Anthropic Джейкоб Джексон сообщил, что многие сотрудники ИИ-компаний испытывают тревогу из-за непредсказуемых последствий, с которыми человечество может столкнуться в ближайшие два года.
На фоне этих рисков руководство ведущих ИИ-лабораторий призывает к усилению контроля. Генеральный директор Anthropic предложил замедлить разработку передовых моделей, внедрить независимый аудит и создать глобальные стандарты регулирования. Руководство OpenAI также поддержало необходимость введения мер по ограничению рисков при развитии ИИ.
