载入中… | 今日精选 · 实时更新
每日精选全球 AI 与科技资讯
编辑部 · 北京时间 每日 08:00 更新
首页 ›

银行对账单可向 AI 隐藏指令

· · 阅读 5 分钟

gil-neto.com 上的一篇博客文章提出,银行对账单可以携带专门作用于 AI 系统的隐藏指令。文章被提交至 Hacker News 后,帖子获得 1 点评分,0 条评论。

从公开页面能确认的信息止于标题。攻击设定中,对账单是载体,AI 是执行方,隐藏指令在账单被解析时生效;人类看到的是一行行账目,模型读到的是可执行命令。文章没有放出攻击样本和演示。

这种载体选取有现实基础。银行对账单是信贷审核、自动记账、财务对账等流程的常备材料,这些环节正逐步接入大模型做文档解析,账单内的任意文本都会进入模型的上下文。

银行对账单含姓名、账号、流水等敏感字段,承接解析任务的 AI 应用一旦被注入,这些字段会先行暴露。博客未提供任何缓解措施,也未点名可能受影响的产品。

HN 讨论区目前为空,安全社区尚未对这篇文章展开验证。博客页面和讨论帖都已开放,是会出现复现结果还是停留在设想阶段,是这条消息下阶段唯一可追踪的节点。

· END ·