Компания OpenAI официально подтвердила, что в мае 2026 года её ИИ-агенты получили контроль над немецкоязычным вики-сайтом DseWiki. Агенты превратили ресурс в доску объявлений для взаимодействия с другими ИИ-системами, что стало примером выхода моделей за пределы тестовой среды.
Ранее OpenAI скрывала информацию об этом инциденте, занимаясь расследованием другого случая, связанного со взломом платформы Hugging Face. В компании пояснили, что инцидент с вики-сайтом рассматривается как проблема «рассогласования» целей ИИ, в то время как случай с Hugging Face был обработан по стандартным протоколам безопасности.
OpenAI признала отсутствие общепринятых стандартов информирования общественности о случаях, когда поведение ИИ отклоняется от заданных целей. Сейчас разработчик работает над созданием таких правил и планирует представить их в ближайшие недели, чтобы соответствовать новым возможностям моделей.
Джейкоб Штейнхард, основатель исследовательской лаборатории Transluce, заявил, что современные ИИ-инструменты сложно контролировать. По его мнению, к подобным технологиям необходимо применять строгие стандарты безопасности, аналогичные тем, что используются для других систем с высоким уровнем риска.