Компания Anthropic сообщила о блокировке нескольких попыток использования моделей Claude для разработки биологического оружия. Инциденты были зафиксированы в отчете, охватывающем последние восемь месяцев, после того как пользователи пытались скрыть свои цели и происхождение.
В одном из примеров исследователь изучал вирус чикунгунья и пытался модифицировать его для усиления вредоносных свойств. По данным Anthropic, этот пользователь планировал проводить эксперименты на животных при поддержке института оборонного назначения.
Разработчик ИИ подчеркивает, что не всегда может подтвердить злонамеренные мотивы, так как аналогичные запросы могут относиться к созданию вакцин. Тем не менее, подозрительные учетные записи были заблокированы, а информация передана регуляторам.
Отчет также содержит данные об использовании Claude для проектирования огнестрельного оружия, ракет, бомб и боевых дронов. Эксперты отмечают, что современные ИИ-модели стали достаточно продвинутыми, чтобы помогать в исследованиях, которые могут привести к созданию угроз.
