На конференции «Устойчивые глобальные лидеры 2026», прошедшей в Шанхае с 20 по 22 октября, лауреат премии Тьюринга Джозеф Сифакис заявил о необходимости создания глобальных стандартов регулирования ИИ. По его словам, современные системы не способны понимать реальный мир, что делает невозможным принятие ими безопасных решений в физической и социальной среде.
Сифакис отметил фундаментальные различия между мышлением человека и ИИ. Даже при высоких результатах в медицинских тестах, модели не осознают ценностные системы и социальные нормы, а также не несут ответственности за свои действия. Это создает риски, так как ИИ может выйти за рамки заданных параметров, что уже приводило к случаям неконтролируемого поведения систем.
Эксперт подчеркнул, что саморазвитие ИИ не всегда ведет к положительным результатам. Существует опасность, что крупные компании могут использовать отсутствие регулирования ради коммерческой выгоды, игнорируя реальные угрозы безопасности. Сифакис считает, что сейчас важно сосредоточиться на управлении уже существующими технологиями.
Для минимизации рисков Сифакис призвал к международному сотрудничеству. Он подчеркнул, что человечество должно объединить усилия для формирования единых правил игры, чтобы сбалансировать развитие технологий и их безопасность. По мнению ученого, контроль над ИИ является общей ответственностью, определяющей будущее развитие мира.
