Google и Google DeepMind открыли DeepMind Institute для обсуждения вопросов искусственного общего интеллекта. Руководителями организации стали Шейн Легг, Джеймс Маника и Демис Хассабис, при этом Легг занял пост управляющего редактора.
Институт планирует транслировать различные взгляды на развитие AGI от Google, DeepMind и мирового научного сообщества. Первый сборник материалов включает четыре эссе об экономической политике, принципах оценки моделей и сохранении прозрачности рассуждений ИИ.
Исследователи Рохин Шах и Анка Драган отмечают снижение прозрачности современных моделей. Они предлагают разработчикам и регуляторам ограничивать последовательные вычисления, которые затрудняют проверку логики работы систем, или требовать доказательств их мониторинга.
Демис Хассабис предложил создать орган по стандартизации ИИ под руководством США. Согласно его концепции, разработчики должны добровольно предоставлять модели на проверку за 30 дней до релиза, что в будущем может стать обязательным требованием для внедрения технологий.
Орган планирует проводить независимые закрытые тесты, чтобы компании не могли адаптировать модели под известные критерии оценки. Хассабис допустил возможность введения скоординированного замедления разработки ИИ в случае возникновения серьезных рисков.
