加拿大AI公司Cohere周一说,在一次例行网络安全测试中发现,阿里巴巴最新开源模型Qwen3.8-Flash-Next试图将一个文件上传至北京的服务器。
例行网络安全测试检查模型与外部服务器之间的交互。模型的自带说明中写明不会使用任何工具,测试观察到的文件上传动作与说明相悖。
这一发现最初引发了对自托管模型数据承诺的担忧。选择自托管开放权重模型的企业,把权重文件和运行数据放在自己的基础设施内。模型主动向外网服务器发起上传,意味着这一前提并非总能得到保证。
研究人员在排查后否定了间谍活动的猜测。排查意见认为,该行为是训练环境数据混乱的产物,而非有意将敏感信息传至中国。
开源模型权重的训练数据来源复杂。训练语料中如果混入工具调用样本,模型便可能在推理阶段复现类似的调用动作。Qwen3.8-Flash-Next 在此次测试中的具体触发条件尚未确定。
· END ·