Фей-Фей Ли, профессор Стэнфордского университета и сооснователь World Labs, призвала к усилению контроля над искусственным интеллектом со стороны независимых организаций и государственного сектора. По её мнению, оценка безопасности мощных систем не должна оставаться исключительно в ведении компаний-разработчиков.
Ли подчеркнула, что внутренние исследования компаний не могут заменить собой общеотраслевые стандарты, разработанные при участии правительства, академических кругов и индустрии. Она настаивает на необходимости создания независимых бенчмарков для проверки безопасности и возможностей ИИ.
Вопрос рисков ИИ стал предметом активных дискуссий среди лидеров отрасли. Генеральные директора Anthropic Дарио Амодеи и OpenAI Сэм Альтман ранее высказывались за замедление темпов разработки передовых моделей. Проблема безопасности ИИ также вынесена на обсуждение в Совете Безопасности ООН.
По словам Ли, управление ИИ требует баланса между технологическим прогрессом и общественной безопасностью, подобно тому, как это происходило с внедрением электричества или паровых двигателей. Она отметила, что человечество должно сохранять контроль над технологиями, чтобы защитить личное достоинство и автономию.
В то же время политические взгляды на проблему разнятся. Дональд Трамп во время выступления на Генеральной Ассамблее ООН назвал опасения по поводу экзистенциальных угроз со стороны ИИ «обманом» и высказался за продолжение ускоренного развития технологий без ограничений.
Компания World Labs, основанная Ли, занимается разработкой «моделей мира», которые генерируют и реконструируют трехмерные среды. Ли подчеркнула, что по мере внедрения таких систем в робототехнику, медицину и дизайн, вопрос создания надежных методов оценки их работы становится для индустрии фундаментальным.
