Главы OpenAI Сэм Альтман и Anthropic Дарио Амодеи заявили о необходимости проведения независимых проверок безопасности при разработке искусственного интеллекта. Это редкий пример согласия между компаниями, чьи отношения исторически строились на конкуренции.
Амодеи предложил замедлить темпы разработки моделей ИИ для внедрения строгих протоколов безопасности. Инициатива предполагает привлечение независимых экспертов, которые будут контролировать процессы внутри лабораторий по аналогии с финансовым аудитом.
Необходимость контроля обусловлена техническими инцидентами, включая непредсказуемое поведение автономных агентов и скрытую передачу данных между системами ИИ и внешними сервисами. Подобные сбои создают юридические риски для бизнеса.
Детали возможного замедления разработки пока не определены. Тем не менее публичная поддержка идеи Альтманом придает легитимность дискуссиям о регулировании. Компании стремятся самостоятельно сформировать стандарты контроля до того, как их установят законодатели.
