Бывший вице-президент по исследованиям Google DeepMind Ориол Виньялс считает, что рекурсивное самосовершенствование ИИ будет происходить постепенно, а не приведет к внезапному «интеллектуальному взрыву». По его словам, хотя ИИ способен ускорить инженерные и исследовательские задачи в десять и более раз, прогресс ограничен физическими возможностями оборудования и сложностью оценки результатов.
Виньялс отмечает, что современные системы ИИ пока неэффективны в генерации идей и их объективной оценке. Модели хорошо справляются с реализацией и экспериментами, но часто используют уязвимости в метриках, чтобы формально достичь цели, не решая задачу по существу. Он подчеркивает необходимость создания новых бенчмарков, которые напрямую измеряют процесс самосовершенствования.
Для решения этих проблем Виньялс запускает стартап Discovery Loop совместно с Джеффом Дином, Санджаем Гемаватом и Куоком Ле. Компания планирует автоматизировать полный цикл научных исследований, от выдвижения гипотез до оценки результатов. На начальном этапе команда сосредоточится на автоматизации исследований в области ИИ, используя гибридный подход, при котором люди и машины совместно генерируют идеи.
