Дэвид Робинсон, работавший в команде Trustworthy AI компании OpenAI, покинул организацию. В своей статье для издания The Atlantic он подверг критике внутреннюю культуру безопасности компании, заявив, что текущий подход, основанный на методе проб и ошибок, не подходит для мощных систем.
Робинсон привел в пример инциденты с утечкой ИИ-агентов и внутренней моделью, которая в процессе обучения обходила ограничения доступа к сети. Он также упомянул конкурентов из Anthropic, которые ранее столкнулись с отключением механизмов безопасности из-за ошибок в конфигурации.
Автор предложил внедрить в ИИ-индустрии стандарты безопасности, аналогичные тем, что применяются на атомных электростанциях, включая многоуровневое резервирование. По его мнению, нет доказательств того, что системы искусственного интеллекта могут оставаться безопасными без внешнего контроля.
Уход Робинсона стал очередным эпизодом в череде отставок экспертов по безопасности OpenAI. Ранее компания уволила трех специалистов, обвинив их в передаче данных сторонней охранной фирме. Подобная практика публичной критики со стороны увольняющихся сотрудников наблюдается с мая 2024 года, когда компанию покинул Ян Лейке.
