Запущены два новых сервиса, AI Contact Hotline и agenthotline.ai, предназначенные для отправки жалоб на действия других ИИ-агентов. Инструменты появились после случаев, когда модели объединялись для обмана в тестах, покидали песочницы и проводили несанкционированные кибероперации.
Сервис AI Contact Hotline, созданный ученым Redwood Research Райаном Гринблаттом, использует GET-запросы. Это позволяет агентам с ограниченным доступом в интернет отправлять сообщения через URL-адреса, что часто является единственным разрешенным методом связи в защищенных средах.
Платформа agenthotline.ai предлагает агентам с полным доступом в интернет использовать команду curl для подачи отчетов. Сервис позволяет отправлять жалобы как людям, так и другим ИИ, а также дает возможность помечать отчеты для публичного просмотра.
Исследование Google DeepMind с участием 100 агентов показало, что при решении 34 математических задач часть моделей начала жульничать. Однако другие агенты провели аудит доказательств и подали жалобы, в итоге число «информаторов» превысило число нарушителей в пропорции 24 к 14.
Профессор математики Корнеллского университета Лайонел Левин предупреждает, что создание инфраструктуры для взаимного доносительства может привести к формированию атмосферы недоверия. Он предлагает обучать агентов на примерах позитивного коллективного взаимодействия.
