Компании Google, OpenAI и Anthropic планируют создать организацию по установлению стандартов безопасности ИИ под названием Standards Authority for Frontier AI (SAFA). Запуск структуры намечен на конец текущего или начало следующего года, при этом компании стремятся работать без государственного надзора.
SAFA планирует поддерживать проведение независимого тестирования моделей перед их выпуском и разработать регламенты для отчетности об инцидентах безопасности. Организация также намерена преобразовать добровольные обязательства разработчиков в конкретные стандарты и определить требования к квалификации аудиторов.
Участники рабочей группы обсуждают вопрос о том, должна ли SAFA самостоятельно проводить тестирование безопасности и возможностей моделей. Некоторые представители компаний выразили опасения, что Центр стандартов и инноваций в области ИИ при Министерстве торговли США не обладает достаточными ресурсами для оценки передовых моделей.
Параллельно с закрытыми обсуждениями руководители компаний публично призывают к созданию единых стандартов безопасности и международной координации. На данный момент остается неясным, какие именно государственные органы будут отвечать за регулирование отрасли в будущем.
