Компания Google учредила DeepMind Institute для обсуждения вопросов, связанных с сильным искусственным интеллектом (AGI). В число директоров новой организации вошли Шейн Легг, Джеймс Маника и Демис Хассабис.
Первые четыре работы института посвящены экономической политике в эпоху AGI, принципам процветания человечества, методам оценки моделей и сохранению прозрачности рассуждений ИИ для человека.
Исследователи призывают разработчиков и регуляторов контролировать «непрозрачную последовательную глубину» вычислений. Авторы работ предлагают требовать доказательства того, что сложные системы остаются подконтрольными.
Демис Хассабис предложил создать орган стандартизации для оценки передовых систем. Разработчикам предлагается добровольно предоставлять модели на тестирование за 30 дней до их официального выпуска.
В будущем организация планирует внедрить независимые закрытые тесты, чтобы исключить подстройку ответов моделей. При необходимости механизм контроля может быть ужесточен вплоть до замедления темпов разработки ИИ.
