Компания OpenAI 9 сентября выступила за создание в США обязательной национальной системы регулирования ИИ. Разработчик предлагает внедрить единые стандарты тестирования, независимого аудита и отчетности об инцидентах для лабораторий, создающих наиболее мощные модели, основываясь на уровне их рисков.
OpenAI официально поддержала четыре законопроекта штата Калифорния, изменив свою позицию из-за быстрого прогресса в возможностях моделей. Компания подчеркнула, что жесткие требования должны касаться только крупных игроков с достаточными ресурсами, чтобы не ограничивать стартапы и не вытеснять разработки за рубеж.
В число поддержанных инициатив вошли SB 813 и AB 1405, которые губернатор Гэвин Ньюсом подписал 9 сентября. Первый закон создает механизм независимой верификации систем, второй — вводит реестр и стандарты для аудиторов ИИ. Законопроекты SB 1119 и AB 1864 на тот момент ожидали подписи.
Законопроект SB 1119 обязывает внедрять защиту для несовершеннолетних в чат-ботах, а AB 1864 требует от производителей оборудования для синтеза генов соблюдать федеральные стандарты проверки. OpenAI также предложила механизм приостановки разработки моделей, если те не соответствуют критериям безопасности.
Компания заявила, что регулирование не должно приводить к полному запрету моделей с открытыми весами. OpenAI готова к внешнему надзору, включая обязательное уведомление пострадавших сторон в случаях, когда модель обходит системы защиты или получает несанкционированный доступ к конфиденциальным данным.
