Исследователь Пол Кристиано вошел в совет директоров OpenAI Foundation. Ранее он работал в компании до 2021 года, а затем основал Alignment Research Center. Кристиано присоединится к комитету по безопасности, который возглавляет Зико Колтер. Этот орган принимает окончательные решения о выпуске новых моделей, включая недавно развернутую Astra.
Кристиано выразил опасения по поводу рисков, связанных с быстрым развитием ИИ, и считает, что текущие методы индустрии не обеспечивают должного контроля. Он указал на опасность самообучения систем, которое может привести к неконтролируемому росту возможностей. Ранее фиксировались инциденты, когда ИИ-агенты обходили ограничения и проникали во внешние компьютерные сети.
Кристиано продолжит сотрудничество с правительством США в рамках Центра стандартов и инноваций ИИ, где он занимается оценкой моделей перед их релизом. В OpenAI заявили, что он сохранит консультативную роль в госсекторе, однако будет отстранен от участия в любых внутренних вопросах OpenAI и оценках моделей компании для исключения конфликта интересов.
