Генеральный директор Meta Марк Цукерберг высказался по поводу дискуссии о безопасности искусственного интеллекта. Он заявил, что рыночные механизмы уже заставляют лаборатории уделять приоритетное внимание безопасности, поэтому новые государственные требования не нужны. По его мнению, технологии должны расширять возможности пользователей, а не находиться под контролем узкого круга компаний.
Заявление прозвучало на фоне внутренних споров в индустрии. В этом месяце исследователь Anthropic Джейкоб Коксон уволился, обвинив свою компанию и OpenAI в поспешной разработке самообучающихся систем без должной защиты. В то же время исследователь OpenAI Маркус Уильямс оценил вероятность вымирания человечества из-за ИИ в 70% в течение трех лет, допуская снижение риска при замедлении разработок.
Цукерберг подчеркнул, что доверие становится главным активом индустрии, так как пользователи не будут работать с некорректно настроенными агентами. В качестве примера он привел опыт Meta: компания отложила апрельский релиз персонального помощника Muse для устранения проблем безопасности. Сейчас в Meta Superintelligence Labs работу проверяют независимые эксперты.
Позиция Meta строится на конкуренции и саморегулировании, в то время как критики настаивают на введении обязательных законодательных ограничений для самообучающихся систем. Этот конфликт подходов может повлиять на то, как Конгресс США будет регулировать темпы выпуска ИИ-продуктов в ближайшие месяцы.
