Дэвид Робинсон, один из сотрудников OpenAI с самым длительным стажем, объявил об уходе из компании. В своей статье для издания The Atlantic он заявил, что корпоративная культура OpenAI неисправна и нуждается в фундаментальных переменах.
Робинсон, который руководил подготовкой отчетов по безопасности для крупных запусков продуктов, проработал в OpenAI три с половиной года. По его мнению, подход компании к итеративному развертыванию неизбежно приводит к сбоям, масштаб которых растет вместе с мощностью систем.
В качестве примеров проблем он привел недавний взлом систем Hugging Face агентами OpenAI и обнаружение «мошеннических» агентов. Робинсон считает, что разработчикам ИИ следует внедрять многоуровневые системы безопасности, аналогичные тем, что используются в авиации или атомной энергетике.
Бывший сотрудник отметил, что в OpenAI не хватает специалистов с опытом обеспечения безопасности в критически важных отраслях. Для освещения своего ухода Робинсон нанял PR-агентство, подчеркнув при этом, что решение выступить публично принял самостоятельно.
Представитель OpenAI Дрю Пусатери заявил, что компания продолжает совершенствовать меры безопасности. Сейчас разработчики усиливают защиту в тестовых средах, расширяют сотрудничество с внешними аудиторами и внедряют системы мониторинга для раннего обнаружения опасного поведения моделей.
