Дэвид Робинсон, один из руководителей команды безопасности OpenAI, покинул компанию на прошлой неделе. В своем заявлении он обвинил организацию в расхождении между публичными заявлениями о рисках искусственного интеллекта и реальными действиями по разработке новых моделей.
По словам Робинсона, компания открыто предупреждает о потенциальных опасностях при ускорении развития ИИ, однако внутри офиса работа продолжается в максимально быстром темпе. Он описал внутреннюю атмосферу как крайне напряженную, требующую от сотрудников работы на пределе возможностей.
Вопрос безопасности ИИ стал предметом дискуссий внутри OpenAI. В июле сотни сотрудников подписали открытое письмо с призывом к государственному регулированию отрасли. В сентябре генеральный директор Сэм Альтман также согласился с необходимостью контроля темпов развития передовых систем искусственного интеллекта.
Особое внимание уделяется процессу рекурсивного самосовершенствования ИИ. В сентябре главный научный сотрудник OpenAI Якуб Пачоцкий опубликовал статью, в которой подчеркнул, что при работе с технологиями, позволяющими ИИ самостоятельно улучшать свои навыки, требуется проявлять крайнюю осторожность.
