Компания Google DeepMind опубликовала отчет по безопасности модели Gemini 4 Argon, в котором сделала вывод, что использование ИИ не ускорило темпы исследований и разработок в области машинного обучения. Несмотря на то что ИИ пишет более 75% кода, используемого инженерами DeepMind, специалисты не зафиксировали признаков рекурсивного самосовершенствования, при котором модели самостоятельно создают более мощные версии себя.
Для оценки прогресса команда создала внутренний индекс GCI v1, объединяющий показатели 123 моделей по 92 бенчмаркам. Исследование показало, что возможности моделей Gemini растут стабильно — примерно на 0,1 балла GCI в месяц. Успехи модели Argon эксперты объясняют увеличением вычислительных мощностей и организационными инвестициями, а не ускорением за счет автоматизации разработки.
Статистика показывает, что доля полностью делегированных запросов на изменение кода выросла с 7,5% до 11,9% в период с апреля по сентябрь. При этом около 88% правок по-прежнему требуют участия человека. Опрос 12 руководителей и исследователей DeepMind подтвердил, что ИИ эффективно справляется с конкретными задачами, но не способен к генерации научных идей и долгосрочному планированию экспериментов.
Анализ 1 389 логов работы агента Argon внутри компании показал, что вероятность самостоятельного завершения задачи моделью снижается по мере усложнения работы. В отчете отмечается, что на текущий момент риски от автоматизированных исследований оцениваются как низкие. Тем не менее, лаборатория не исключает, что модель без ограничений может превысить пороги безопасности в вопросах кибератак и биооружия.
