OpenAI представила принципы проведения сторонних проверок для моделей искусственного интеллекта. Компания планирует поддерживать независимых оценщиков и содействовать созданию международных стандартов безопасности.
Инициатива последовала за призывом OpenAI к США возглавить разработку глобальных технических норм, включая контроль над рекурсивным самосовершенствованием систем, которое может привести к потере человеческого контроля.
Предложения компании перекликаются с планом безопасности от генерального директора Anthropic Дарио Амодеи. Он предлагает внедрить независимых аудиторов в ведущие ИИ-лаборатории и наладить координацию между странами.
На уровне штатов также принимаются меры: 18 сентября губернатор Калифорнии Гэвин Ньюсом подписал указ о привлечении экспертов для разработки системы стороннего надзора за рисками в сфере ИИ.
В свою очередь, 19 сентября Дональд Трамп заявил, что правительство не будет ограничивать развитие индустрии ИИ. По его оценке, сектор может составить до 25% ВВП страны.
