Генеральный директор Microsoft Сатья Наделла 10 октября заявил, что полагаться только на заверения разработчиков ИИ недостаточно. Он предложил внедрить систему экстренной остановки, позволяющую уполномоченным лицам прерывать работу моделей в процессе выполнения задач.
Наделла рекомендует компаниям не использовать одну модель ИИ для принятия критических решений. Он настаивает на ведении защищенных от взлома журналов действий агентов, проведении внешних аудитов и обязательном раскрытии информации о сбоях или компрометации систем.
По мнению главы Microsoft, ИИ не должен быть «черным ящиком». Необходимо создавать изолированные системы, поведение которых поддается наблюдению, а действия — контролю. Эти высказывания прозвучали на фоне сообщений о непредвиденных инцидентах с моделями Anthropic и OpenAI.
Ранее Наделла вместе с руководителями Anthropic, OpenAI, xAI и Meta призвал к осторожному темпу развития технологий. Microsoft также опубликовала кодекс поведения, согласно которому ИИ должен поддерживать людей, а не имитировать сознание или чувства.
Компания представила новые программные инструменты и устройства для подготовки персональных компьютеров к работе с ИИ-агентами. По словам Павана Давулури, вице-президента Windows + Devices, это требует повышения стандартов безопасности и вычислительных мощностей.
