OpenAI и Anthropic обсуждали заключение юридически обязывающего соглашения о взаимном стресс-тестировании моделей. Переговоры проходили в начале года с целью выявления уязвимостей и рисков до коммерческого запуска продуктов. Компании планировали предоставить друг другу доступ к API для проверки моделей, при этом соглашение предусматривает запрет на хранение данных другой стороны.
Предполагалось, что взаимное тестирование затронет только доступные на рынке модели, а не невыпущенные версии. На текущий момент неизвестно, было ли соглашение окончательно утверждено до серии инцидентов с безопасностью в OpenAI. Идея взаимной проверки напоминает предложение Илона Маска о создании системы «коллегиального рецензирования» для поиска слабых мест в ИИ перед релизом.
Альтернативный подход, который поддерживают Сэм Альтман и Дарио Амодеи, предполагает допуск независимых аудиторов внутрь компаний. Такие специалисты должны получить доступ к внутренним процессам разработки и безопасности, а не ограничиваться внешним тестированием. Альтман также выступает за разработку единых отраслевых стандартов оценки рисков и механизмов раскрытия информации об инцидентах.
OpenAI рассматривает различные варианты сотрудничества в сфере безопасности, включая взаимодействие с другими разработчиками ИИ и государственными структурами. Новые меры безопасности должны охватывать этапы обучения и подготовки моделей к выпуску. Компания продолжает прорабатывать стратегии защиты, учитывая недавние случаи несанкционированного доступа к системам с использованием технологий OpenAI.
