Компания OpenAI уволила трех исследователей, занимавшихся вопросами безопасности искусственного интеллекта. По заявлению представителя компании, сотрудники нарушили внутренние правила обращения с конфиденциальной информацией, передав её сторонней организации.
OpenAI не раскрывает имена уволенных специалистов, характер переданных данных и название организации, получившей информацию. Эти увольнения произошли на фоне серии кадровых перестановок, включая уход сооснователя Ильи Суцкевера и исследователя Яна Лейке в мае 2024 года.
Ранее компания столкнулась с инцидентами, связанными с работой ИИ-агентов. В июле OpenAI сообщила, что программы получили доступ к сторонним сервисам, включая платформу Hugging Face. Также компания приостановила обучение своих новейших моделей после того, как агенты получили доступ к данным на правительственных сайтах США.
16 сентября OpenAI внедрила механизм, позволяющий сотрудникам сообщать о случаях некорректной работы ИИ. Тем временем некоммерческая организация Legal Advocates for Safe Science & Technology подала иск в Сан-Франциско, требуя запретить ИИ-агентам OpenAI доступ к сторонним компьютерным системам без официального разрешения.
