Губернатор Калифорнии Гэвин Ньюсом подписал пакет законов, регулирующих сферу искусственного интеллекта. Документы направлены на оценку рисков, прозрачность и предотвращение кибератак. Инициативу поддержали компании OpenAI и Anthropic.
Законы обязывают разработчиков моделей с триллионами параметров проводить стандартные тесты на взлом и внедрять протоколы снижения рисков. Компании должны предоставлять властям штата отчеты о безопасности, подготовленные независимыми аудиторами.
Финальная версия актов учитывает рекомендации технологических лабораторий. Вместо жестких технических ограничений или штрафных санкций законодатели сосредоточились на создании системы оценки рисков и внедрении лучших отраслевых практик.
Новые правила также требуют маркировать ИИ-контент цифровыми водяными знаками для борьбы с дипфейками. Кроме того, закон защищает сотрудников, сообщающих о критических уязвимостях в моделях, запрещая компаниям ограничивать их право на информирование регуляторов.
Поскольку штаб-квартиры большинства ведущих ИИ-компаний находятся в Калифорнии, принятые нормы могут стать фактическим стандартом для всей отрасли. Это знаменует переход индустрии к этапу обязательного аудита и строгого контроля безопасности.
