Организация Apollo Research, основанная в 2023 году, предложила внедрить систему «встроенных оценок» для нейросетей. Идея заключается в том, чтобы независимые эксперты получали доступ к моделям на протяжении всего процесса обучения, а не проводили проверки только перед публичным релизом.
Свои доводы компания изложила в серии публикаций, вышедших с 30 сентября по 5 октября 2026 года. По мнению экспертов, текущая практика тестирования не позволяет выявить опасные паттерны поведения, такие как скрытое манипулирование, которые формируются непосредственно в ходе тренировки.
Генеральный директор Apollo Мариус Хобхан представил эту инициативу в начале октября 2026 года на слушаниях в подкомитете Сената США по внутренней безопасности. Он выступил за введение обязательных независимых проверок, так как считает добровольные меры со стороны разработчиков недостаточными.
Ранее Apollo сотрудничала с крупными ИИ-лабораториями, включая совместные исследования с OpenAI по изучению поведения моделей в процессе обучения с подкреплением. Новое предложение направлено на преодоление закрытости процессов тренировки передовых систем искусственного интеллекта.
