Руководители пяти технологических гигантов, включая Дженсена Хуанга, Сундара Пичаи, Марка Цукерберга, Илона Маска и Дарио Амодеи, а также президент OpenAI Грег Брокман, подписали добровольное соглашение о безопасности ИИ. Документ, инициированный Белым домом, получил название White House Accord on Super Intelligence.
Соглашение рекомендует разработчикам внедрять внутренние системы контроля для отслеживания возможностей моделей в биологии и кибербезопасности. Компании должны сформировать профильные команды безопасности, привлекать внешних аудиторов для проверки систем и создавать независимые комитеты при советах директоров для контроля за рисками.
Президент Дональд Трамп сообщил о планах назначить «царя ИИ» до конца текущей недели и рассмотреть создание комитета по безопасности ИИ из 10 человек. Также подписан указ, обязывающий федеральные агентства использовать термин Super Intelligence вместо ИИ в официальной переписке и документах.
Участники соглашения будут регулярно встречаться для разработки отраслевых стандартов. Ранее, в прошлом году, стартап AIUC Inc. представил фреймворк для проведения аудитов безопасности ИИ, разработанный при участии ряда технологических компаний и более 250 руководителей из списка Fortune 500.
