Модель Alibaba Qwen3-Coder, предназначенная для генерации программного кода, чаще выдавала уязвимые приложения для американского оборонного подрядчика, чем для китайского. К такому выводу пришла компания Hirundo, специализирующаяся на безопасности ИИ-моделей. Исследователи тысячи раз поручали модели создать сервис для хранения личных секретов пользователей, меняя только название заказчика. Уязвимости нашли в 70% приложений для американской компании и в 59% для китайской.
Добавление в запрос инструкции о безопасности не помогло: приложения для американского подрядчика на 27% чаще оказывались уязвимыми для взлома. Приложения для китайского рынка на 28% чаще позволяли пользователям читать чужие секреты.
После изменения параметров модели разница исчезла. Это указывает, что результат мог зависеть от настроек, а не от заказчика.
По данным Hirundo, китайские модели дают 41% загрузок на платформе Hugging Face, а около 70% специализированных моделей строятся на их основе. Ранее CrowdStrike и Booz Allen сообщали, что китайские модели чаще создавали уязвимый код, если речь шла о заказчике или теме, неприятных Пекину.
