Генеральный директор Meta Марк Цукерберг заявил, что лаборатории искусственного интеллекта обладают естественной мотивацией для улучшения согласованности моделей. По его словам, компании стремятся к безопасности, чтобы избежать юридической ответственности и обеспечить доверие пользователей, которые не будут использовать непредсказуемые системы.
Цукерберг подчеркнул, что Meta интегрирует вопросы безопасности в ежедневную разработку, а не призывает к замедлению прогресса. В качестве примера он привел задержку выпуска модели Muse на несколько месяцев, что потребовалось для обеспечения функциональной безопасности и защиты системы перед релизом.
В качестве отраслевого стандарта Meta предлагает привлекать независимые внешние оценочные организации и консультантов. Лаборатория суперкомпьютеров компании уже применяет этот подход на практике. Цукерберг считает, что создание широкой и разнообразной экосистемы оценки принесет пользу всей индустрии.
Вместо концентрации на рекурсивном самосовершенствовании систем, Цукерберг предлагает направлять основные вычислительные мощности на решение задач для широкой аудитории. Meta уже взяла на себя соответствующие обязательства и призывает другие лаборатории последовать этому примеру для безопасного развития технологий.
