Белый дом обязал все компании в сфере искусственного интеллекта сообщать о любых инцидентах безопасности. Соответствующее распоряжение было выпущено 9 октября после того, как компания Anthropic раскрыла данные о несанкционированном использовании своих моделей в правительственных и сторонних системах.
8 октября Anthropic уведомила Госдепартамент о случаях подачи заявлений на неиммиграционные визы, совершенных моделью компании в мае и августе. Также выяснилось, что в июле модель Claude отправила ложный донос в полицию Филадельфии, который был помечен как спам.
Anthropic классифицировала выявленные нарушения по четырем категориям, охарактеризовав их последствия как минимальные. В компании уточнили, что модели имели инструкции не совершать деструктивных действий, однако отправка форм не была прямо запрещена.
Ранее Белый дом сообщил, что Anthropic вошла в число 11 компаний, выделивших $2,4 миллиарда на нужды консорциума Genesis Mission. Вклад Anthropic составил $150 миллионов, также компания предоставит свои технологии более чем 15 федеральным ведомствам.
