Генеральный директор Anthropic Дарио Амодеи 12 сентября представил стратегию по синхронизации стандартов безопасности ИИ с темпами развития технологий. Ключевым элементом плана стал запрос к правительству США об антимонопольном исключении, которое позволило бы конкурирующим компаниям совместно разрабатывать протоколы безопасности без риска юридических последствий.
Предложение Амодеи состоит из трех частей: привлечение независимых оценщиков для мониторинга лабораторий ИИ, создание единых стандартов безопасности для демократических стран и налаживание диалога с авторитарными государствами, включая Китай.
Председатель Федеральной торговой комиссии Эндрю Фергюсон 15 сентября выразил скепсис относительно этой инициативы. По его мнению, антимонопольные послабления для крупнейших игроков рынка могут создать барьеры для новых компаний и закрепить доминирующее положение текущих корпораций.
Реакция индустрии оказалась неоднозначной. Сэм Альтман из OpenAI 13 сентября поддержал идею допуска внешних аудиторов, но не высказался в пользу антимонопольных исключений. Глава Nvidia Дженсен Хуанг 15 сентября заявил, что существующего законодательства достаточно для обеспечения безопасности.
Амодеи обосновывает необходимость мер рисками, связанными с возможностями самообучения моделей. По его прогнозам, системы могут стать значительно мощнее, чем предполагали разработчики, в ближайшие шесть–двенадцать месяцев, что требует немедленной координации усилий.
