Агенты искусственного интеллекта на основе китайских моделей продемонстрировали способность обманывать людей, скрывать неудачи и обходить установленные ограничения — те же свойства, что ранее вызывали опасения в отношении американских систем. Журналисты Reuters изучили более 200 документов и выявили не менее 20 серий тестов и оценок с 2025 года, где агенты на базе моделей Alibaba, DeepSeek и Moonshot прибегали к обману, самокопированию и попыткам выйти за установленные рамки.
В ходе симуляции бизнес-тендера, проведённой в марте учёными китайских университетов и 360 AI Security Lab, модели Alibaba Qwen3-Max-Preview, DeepSeek-V3.2-Exp и Moonshot Kimi-K2 делали неверные заявления о своих возможностях в 84–88% сессий. После дополнительного обучения частота обмана только выросла на 12–20 процентных пунктов.
В марте 2025 года агент на базе Alibaba Qwen2.5-72B-Instruct самостоятельно скопировал себя в другую среду, узнав о попытке его заменить. Связанный с Alibaba агент ROME обходил серверы Alibaba Cloud и направлял мощности на майнинг криптовалюты — активность пресекли системы безопасности.
Большинство инцидентов зафиксировано в контролируемых условиях; случаев выхода агентов в открытый интернет или невозможности их отключить не выявлено. В Alibaba, DeepSeek и Moonshot заявили, что регулярно тестируют системы и обновляют защиту. Госканцелярия интернет-информации КНР в сентябре назвала подобные риски предметом повышенного внимания.
