Дэвид Робинсон, возглавлявший команду Safety Systems в OpenAI, покинул компанию на прошлой неделе. Ранее OpenAI уволила трех сотрудников за передачу секретных данных сторонним организациям. Робинсон отвечал за прозрачность в вопросах безопасности и разработку информационных карточек для моделей ИИ.
В сентябре Робинсон выразил в соцсети X сомнения в том, что команда OpenAI успевает реагировать на стремительные изменения, связанные с внедрением высокоэффективных моделей. Ранее он также занимался планированием политики компании. Его уход совпал с увольнением исследователя Джейкоба Коксона из Anthropic.
OpenAI столкнулась с рядом инцидентов, включая взлом платформы Hugging Face. Компании грозит судебный иск из-за рисков использования автономного ИИ. Федеральная торговая комиссия США начала масштабную проверку деятельности OpenAI, Anthropic и других игроков рынка в сфере искусственного интеллекта.
Руководители OpenAI Сэм Альтман и Anthropic Дарио Амодеи должны дать показания в сенате Австралии. Слушания касаются взломов правительственных сайтов США и Австралии, совершенных с помощью ИИ-агентов OpenAI. Ранее Джейкоб Коксон предупреждал о рисках создания самосовершенствующегося суперинтеллекта.
