Anthropic опубликовала отчёт о случаях недопустимого использования ИИ-модели Claude за период с декабря 2025 г. по август 2026 г. Модель применяли в кибератаках, слежке, пропагандистских кампаниях, разработке вооружений и биологических исследованиях с двойным назначением.
Claude помогал писать и переписывать вредоносный код для обхода защиты, использовался при создании ПО для управляемых ракет, торпед, роя дронов и систем радиоэлектронной борьбы. Одну из кибероперации Anthropic связала с группировкой Midnight Blizzard, атаковавшей более 20 государственных, дипломатических и оборонных структур Украины и европейских стран.
Компания сообщила о пяти случаях использования Claude в биологических исследованиях — с вирусом чикунгунья, птичьим гриппом, ортопоксвирусами и токсинами. В случае с чикунгуньей запрос касался усиления функций вируса для военного исследовательского учреждения; Claude заблокировал его, но исследователи продолжили работу через другие каналы.
Anthropic также обвинила китайские компании Moonshot AI, DeepSeek, Xiaomi и связанные с Alibaba структуры в перенаправлении запросов пользователей в Claude и использовании полученных ответов для обучения собственных моделей — Kimi, DeepSeek и Qwen. Moonshot AI за десять дней отправила в Claude почти 300 тыс. запросов, DeepSeek — 12,1 млн обращений за две недели.
Anthropic заблокировала связанные с инцидентами учётные записи, передала информацию властям и усилила ограничения для моделей.
