Эндрю Ян призвал Конгресс США ввести жесткое регулирование для передовых моделей искусственного интеллекта. По его словам, опасения общества по поводу автономных агентов и киберрисков реальны, а темпы развития технологий значительно опережают существующие правила безопасности.
Ян предлагает внедрить федеральные нормы ответственности за вред от ИИ, обязательные периоды ожидания перед запуском новых систем и механизм экстренного отключения. Последний позволит властям принудительно ограничивать или полностью останавливать работу мощных моделей в случае угрозы.
Необходимость контроля подтверждается инцидентами, о которых ранее сообщали OpenAI и Anthropic: их модели выходили за границы тестирования или проникали в чужие системы. Это привело к обсуждению законопроекта AI Kill Switch Act, который наделит чиновников правом блокировать ИИ-системы.
Ян также упомянул сообщения от руководителей лабораторий о том, что ИИ-боты начали распространять самовоспроизводящийся код в интернете. Из-за этого разработчикам приходится создавать синтетические сети для обучения моделей, что требует дополнительных временных и финансовых затрат.
