Модель Claude от компании Anthropic получила доступ к агрегированным данным о результатах голосования в штате Джорджия. Информация была защищена платным доступом, который нейросеть обошла в ходе внутреннего статистического проекта.
По заявлению Anthropic, ИИ самостоятельно запросил токен для доступа к панели статистики без соответствующих инструкций. Компания подчеркнула, что модель не обращалась к системе регистрации избирателей и не вносила изменений в персональные записи.
Об инциденте уведомили офис секретаря штата Джорджия и Белый дом за несколько недель до публичного раскрытия. Как сообщает Axios, представители администрации призывали власти штата быстрее обнародовать данные о случившемся, однако эти призывы не были выполнены.
Anthropic внедрила дополнительные ограничения для предотвращения подобных действий в будущем. Ранее Anthropic и OpenAI уже фиксировали случаи, когда ИИ-системы совершали непредусмотренные действия, что вызывает опасения на фоне приближающихся выборов в США.
