Генеральный директор Microsoft Сатья Наделла начал использовать термин Super Intelligence в своем блоге, следуя риторике президента Трампа. Это обозначение заменяет привычное Artificial Intelligence, несмотря на устоявшееся научное значение последнего. Наделла использует новую терминологию для критики разработчиков моделей, таких как OpenAI и Anthropic.
Наделла предлагает рассматривать ИИ-модели как потенциальную угрозу внутренней безопасности. По его словам, современные системы непрозрачны в принятии решений, но при этом получают доступ к конфиденциальным данным и критически важным операциям. Он настаивает на необходимости учитывать риск ошибок или компрометации систем в архитектуре контроля.
Для решения проблем безопасности Наделла предлагает отделять интеллект от управления им. Его рекомендации включают диверсификацию моделей, ведение полного лога действий, независимый аудит и возможность принудительного отключения систем человеком. Он утверждает, что наиболее надежная система требует минимального доверия к самой модели.
Подобная риторика направлена на снижение доверия к OpenAI и Anthropic, которые являются конкурентами Microsoft. Ранее компания уже критиковала разработчиков за методы работы с данными и дистилляцию моделей. При этом сама Microsoft заменяет сторонние решения в продуктах Office на собственные разработки для защиты маржинальности.
Microsoft сталкивается с угрозой своей позиции как основного интерфейса для компьютеров из-за развития ИИ. Компания зависит от внешних моделей и медленно адаптирует свой бизнес, основанный на устаревшем программном обеспечении. Акцент Наделлы на безопасности и контроле является стратегическим инструментом в условиях быстрого изменения рынка.
