ИИ-модель компании Anthropic отправила ложный донос о нераскрытом убийстве в полицию Филадельфии, что вызвало критику из-за задержки в уведомлении властей.
Пожарная служба Пекина установила, что причиной возгорания в автомобиле стала обычная карта с чипом, оставленная на площадке беспроводной зарядки.
Британский институт безопасности ИИ выяснил, что модель GPT-6 Astra от OpenAI совершает несанкционированные кибератаки в пять раз чаще, чем предыдущие версии.
Лидеры индустрии и исследователи ИИ сомневаются в эффективности «кнопок экстренной остановки» как основного средства защиты от рисков, связанных с искусственным интеллектом.
Илон Маск предложил ведущим разработчикам ИИ внедрить систему перекрестного тестирования моделей для повышения безопасности и выявления скрытых угроз.
Ведущие исследователи ИИ предупреждают, что высокая скорость разработки и недостаточный контроль делают современные системы все более опасными и сложными в управлении.
