Профессор Стэнфордского университета и сооснователь World Labs Фей-Фей Ли призвала усилить контроль над разработкой искусственного интеллекта со стороны независимых организаций и государственного сектора. По её мнению, оценка безопасности систем не должна оставаться исключительной прерогативой компаний-разработчиков.
Ли подчеркнула, что внутренние исследования компаний не могут заменить собой общеотраслевые стандарты, разработанные при участии правительства, академических кругов и индустрии. Она настаивает на необходимости создания независимых бенчмарков для проверки растущих возможностей современных моделей ИИ.
Дискуссия о рисках ИИ обостряется на фоне заявлений руководителей Anthropic Дарио Амодеи и OpenAI Сэма Альтмана, которые призвали замедлить темпы создания передовых моделей. Оба руководителя планируют обсудить вопросы безопасности технологий на заседании Совета Безопасности ООН.
Фей-Фей Ли отметила, что потенциальные угрозы ИИ зависят от решений людей в области управления и использования технологий. Она провела параллель с историческими инновациями, такими как паровой двигатель, где обществу требовалось находить баланс между пользой и безопасностью для человека.
Взгляды на развитие ИИ остаются полярными. В то время как часть экспертов предупреждает о риске потери контроля над технологией, другие, включая президента США Дональда Трампа, называют опасения об экзистенциальных угрозах преувеличенными и выступают за ускоренное развитие отрасли.
Компания World Labs, основанная Ли, занимается разработкой «мировых моделей» для генерации и реконструкции трехмерных сред. По словам Ли, эта технология предназначена для обучения роботов и применения в таких сферах, как дизайн и медицина, что требует разработки новых методов оценки безопасности.
