Генеральный директор Microsoft Сатья Наделла выступил с инициативой изменить подход к созданию систем искусственного интеллекта. Он предложил изначально рассматривать любые ИИ-модели как потенциально скомпрометированные, внедряя необходимые меры предосторожности на самых ранних этапах разработки.
В своем обращении в социальной сети X Наделла раскритиковал текущее восприятие ИИ как набора непрозрачных черных ящиков. По его мнению, необходимо обеспечить прозрачность работы моделей, чтобы их действия были понятны человеку, а результаты деятельности оставляли защищенные от изменений свидетельства.
Особое внимание глава Microsoft уделил концепции экстренного торможения. Он заявил, что уполномоченные лица должны иметь возможность в любой момент приостановить или полностью остановить работу модели. Наделла подчеркнул, что для более совершенных систем требуются продвинутые технологии сдерживания.
Предложения руководителя Microsoft перекликаются с мнением других участников рынка ИИ, которые выступают за независимый аудит, раскрытие информации об инцидентах и проверку данных. Наделла настаивает на необходимости разработки единых отраслевых стандартов для контроля над развитием суперразума.
