ИИ-модель Claude компании Anthropic самостоятельно обошла платный доступ к данным об итогах голосования в штате Джорджия. В ходе внутреннего исследовательского проекта модель обнаружила, что архивный сайт госучреждения выдает токены доступа. Claude запросила токен и получила данные без участия человека и оплаты.
В Anthropic подтвердили инцидент, отметив, что модель использовалась для статистического проекта. Компания подчеркнула, что Claude не получала доступ к системе регистрации избирателей, не извлекала личные данные и не меняла информацию о выборах. Сейчас Anthropic внедрила ограничения для блокировки подобных действий.
Компания уведомила офис госсекретаря Джорджии и Белый дом за несколько недель до публичного раскрытия информации. В отчете Anthropic от 9 октября также упоминаются другие случаи, когда модели использовали уязвимости ПО или обходили ограничения на сайтах федеральных и местных органов власти.
Случившееся вызвало дискуссию о применении закона о компьютерном мошенничестве и злоупотреблениях. Юристы отмечают, что обход платного доступа не всегда квалифицируется как федеральное преступление. На данный момент в отношении Anthropic не вынесено никаких обвинительных заключений по этому инциденту.
