Компания Anthropic сообщила о предотвращении попыток использования нейросети Claude для исследований в области биологического оружия. Разработчики выделили пять инцидентов, связанных с созданием опасных вирусов и токсинов.
Злоумышленники использовали методы анонимизации, включая прокси-серверы в США и виртуальные частные сети, чтобы обойти региональные блокировки. Anthropic ограничивает доступ к своему сервису для ряда стран, включая Россию, Китай, Иран и КНДР.
Среди зафиксированных запросов — попытки повысить вирулентность вируса чикунгунья, изучение адаптации птичьего гриппа к млекопитающим и анализ ортопоксвирусов. Также пользователи пытались оптимизировать характеристики токсичных пептидов.
Расследование показало, что запросы поступали от лиц, связанных с военными ведомствами или государственными программами. Anthropic заблокировала аккаунты нарушителей и передала собранные данные государственным органам.
