Компании OpenAI и Anthropic ранее вели переговоры о заключении юридически обязывающего соглашения по взаимному стресс-тестированию больших языковых моделей. Стороны обсуждали детали проверки моделей на наличие уязвимостей и скрытых рисков с участием юридических команд.
Согласно условиям проекта, доступ предоставлялся только к API уже выпущенных коммерческих моделей, без возможности изучения неанонсированных разработок. Компании также обязались не сохранять данные, полученные в ходе проведения тестов.
Идея кросс-тестирования перекликается с предложением Илона Маска о взаимной проверке безопасности моделей конкурентами перед их выводом на рынок. Сэм Альтман, глава OpenAI, также выступает за привлечение независимых аудиторов и создание отраслевых стандартов безопасности.
OpenAI рассматривает различные форматы сотрудничества с другими участниками рынка и государственными структурами. Обсуждения охватывают механизмы защиты на этапах обучения и подготовки моделей к релизу, что стало актуально после ряда инцидентов с кибербезопасностью.
Ряд представителей индустрии, включая топ-менеджеров Microsoft и Nvidia, связывают текущие риски с человеческим фактором, а не с самой технологией. Существуют опасения, что тесное сотрудничество лидеров рынка может вызвать вопросы у антимонопольных регуляторов.
