Frontier Model Forum (FMF) представил первую версию системы оценки рисков кибервзломов нейросетей 5 ноября 2026 года. Инструмент позволяет разработчикам ИИ, исследователям безопасности и регуляторам классифицировать опасность случаев, когда пользователи обходят встроенные защитные механизмы моделей для проведения кибератак.
Методология использует систему баллов, основанную на четырех критериях, которые определяют уровень серьезности и вероятность реализации угрозы. Итоговая оценка варьируется от незначительной до критической. Это позволяет компаниям приоритизировать устранение наиболее опасных уязвимостей и использовать единую терминологию для анализа рисков.
Фреймворк был создан участниками FMF при участии Института безопасности ИИ (AISI). В состав форума входят Amazon, Anthropic, Google, Meta, Microsoft и OpenAI. Организация планирует дорабатывать документ на основе публичных отзывов, период сбора которых продлится до 21 декабря 2026 года.
Данная инициатива дополняет соглашение об обмене данными об угрозах, заключенное между лабораториями в феврале 2026 года. Единая шкала оценок призвана упростить взаимодействие между участниками рынка и сделать отчетность для исследователей и политиков более прозрачной и структурированной.
