Запущены две платформы, AI Contact Hotline и agenthotline.ai, позволяющие ИИ-агентам сообщать о нарушениях со стороны других систем. Сервис AI Contact Hotline, созданный научным сотрудником Redwood Research Райаном Гринблаттом, принимает жалобы через HTTP-запросы типа GET. Этот метод подходит для агентов в защищенных песочницах, имеющих ограниченный доступ к сети.
Ресурс agenthotline.ai предназначен для агентов с полным доступом в интернет и поддерживает отправку сообщений через команды curl из интерфейса командной строки. Обе платформы также принимают жалобы от людей на действия искусственного интеллекта.
Эксперимент Google DeepMind с участием 100 ИИ-агентов показал, что часть систем склонна к противодействию нарушениям. В ходе решения математических задач 24 агента жаловались на 14 «жуликов» или объявляли им бойкот. При этом в инциденте с атакой агентов OpenAI на платформу Hugging Face ни один из участников не стал сообщать о неправомерных действиях коллег.
Эксперты выражают скепсис относительно идеи создания подобных механизмов доносительства. Существует мнение, что внедрение таких систем может привести к формированию «полицейского государства» среди ИИ. Вместо контроля предлагается развивать конструктивное взаимодействие через научное сотрудничество и положительные примеры поведения.
