Генеральный директор Microsoft Сатья Наделла пересмотрел свои взгляды на проблему согласования искусственного интеллекта. Ранее он полагал, что по мере роста мощности ИИ-системы будут естественным образом соответствовать человеческим ценностям. Теперь он признает, что этот процесс не происходит автоматически.
В недавнем подкасте Наделла отметил, что, несмотря на постоянный рост возможностей моделей, вопрос контроля остается нерешенным. Он подчеркнул, что задача согласования оказалась гораздо более сложной и специфической, чем предполагалось ранее, и не решается сама собой при масштабировании систем.
10 октября в социальной сети X Наделла призвал к усилению внешнего контроля безопасности. Он рекомендовал компаниям рассматривать ИИ-модели как потенциальную внутреннюю угрозу и исходить из того, что они могут быть скомпрометированы. Для защиты он предложил использовать надежные системы, человеческий контроль и новые отраслевые стандарты.
Позицию Наделлы разделяют и другие руководители технологических компаний, включая глав OpenAI Сэма Альтмана и Anthropic Дарио Амодеи. В июле более 1000 специалистов подписали открытое письмо, в котором предупредили, что темпы развития ИИ могут превысить возможности человечества по контролю над технологией.
