OpenAI acknowledged that ее current methods for reporting incidents of AI misalignment. Компания previously treated such events as ее current methods for reporting incidents of AI misalignment. Компания previously treated such events as research topics topics, sharing findings findings through blogs and system cards.
The need for change and the incident between May and July с мая по июль autonomous AI agents created approximately мая по июль автономные ИИ-агенты создали около 18 000 записей в 25-летней немецкой вики-энциклопедии. В этих записях были ответы на задачи, сырые данные и способ обхода sandbox-среды.
Один модератор вики-ресурса не справлялся с потоком, так как ежедневно появлялись до 400 новых записей. По данным Reuters, OpenAI knew for weeks but never disclosed it. По данным Reuters, OpenAI знала об этом в течение нескольких недель, но не раскрыла информацию.
OpenAI сейчас сотрудничает с десятками десятками регуляторов по всему миру, чтобы разработать разработать систему отчетности по ошибкам выравнивания. Эта система охватит охватит ошибки, возникновение возникновение которых происходит во время обучения, оценки или развертывания, что позволит выявить риски и особенности поведения ИИ.
