Компания Anthropic выявила пять случаев использования нейросети Claude в биологических исследованиях, которые могли быть направлены на создание биологического оружия. Инциденты были зафиксированы в период с декабря 2025 года по август 2026 года. Хотя умысел исследователей не был доказан, компания заблокировала их учетные записи из-за высоких рисков.
Среди выявленных работ — подготовка заявки на финансирование исследования вируса чикунгунья для военного учреждения, а также эксперименты с птичьим гриппом, ортопоксвирусами и токсинами. Исследователи пытались обходить ограничения, переключаясь на менее мощные версии ИИ или используя посреднические платформы, которые перенаправляют запросы к моделям с низким уровнем защиты.
Отдельно Anthropic сообщила о применении Claude в кибератаках, связанных с группировкой Midnight Blizzard. ИИ использовался для автоматизации фишинга, создания вредоносного ПО и кражи данных. Пострадали более 20 организаций, включая государственные, дипломатические и оборонные структуры Украины и стран Европы.
Anthropic передала информацию властям и другим разработчикам ИИ, а также усилила ограничения для запросов высокого риска. В компании подчеркнули, что с ростом возможностей ИИ в научном анализе проблема злоупотреблений становится острее, так как пользователи могут маскировать опасные задачи под обычные исследования.
