近日，美国山区救援队成功解救了一支因补给不足而受困的徒步队伍。令人意外的是，导致他们陷入险境的并不是天气突变或路线错误，而是他们完全信任了谷歌AI助手 Gemini 的行程规划。当地警长办公室在回顾事件时明确表示，这些徒步者“在Gemini的建议下，携带了远少于团队所需的食物和水”。
事件经过：AI成了野外领队
据了解，这群徒步者在出发前使用了搭载Gemini的智能手机进行行程规划。Gemini不仅为他们计划了一条风景优美但实际强度远超预设的路线，还给出了精简的装备清单。按照AI的计划，每人只需携带一小瓶水和高热量零食就能完成全程。然而，真实的山区环境不仅有持续爬升的陡坡，而且午后气温一度接近37摄氏度。团队一行在行进仅数小时后便出现脱水征兆，体力迅速下降，不得不停在半山腰等待救援。
救援过程：迟到的求救信号
在手机信号时有时无的地区，他们最终依靠微弱信号拨通了紧急电话。当地应急部门出动了山地救援队，经过约八小时的搜索才在一条偏僻山脊上找到他们。此时部分成员已经出现头晕、心悸和中暑迹象。官方称，幸好求救及时，否则在夜间低温和可能突发的雷暴条件下，后果将更加严重。救援队员在检查背包时发现，人均剩余饮用水不足200毫升，食物几乎为零。
官方警示：AI不是专业向导
警长办公室在之后的声明中表示，Gemini给出的建议“在数量上完全低估了团队的实际需求”，并强调“AI可以提供路线灵感，但无法替代对地形、天气和人体条件做综合判断的向导”。救援人员补充：“很多户外事故源于准备不足，这次事件只是把犯错对象从个人经验换成了AI生成的内容。”官方建议徒步者应使用官方地形图、救生手册和气候数据，并遵循“至少多带一天补给”的黄金法则。
技术根源：为何AI会犯这种错
大语言模型的本质是概率性的“文本续写”。Gemini在生成规划时，会从互联网上抓取大量户外攻略，却无法对具体场景进行真实计算。它并不真正理解人体的水代谢需要多少摄入量，也不会因“团队有三个人”和“全程无补给点”而动态调整推荐量。更关键的是，模型对“可取得水源”和“实际有水源”之间的差异无感知。当训练数据中出现“轻量化”“极简主义”等词汇时，AI很可能将其当作普适原则输出。
此外，Gemini这类通用AI在设计时并未设置户外安全专用防线。普通用户也不会想到去质疑一份看起来结构完整、排印精美的行程单。有AI安全研究员指出，当模型以权威口吻输出“保障性”数字时，用户会天然产生过度信任。
行业影响：AI进入物理世界需要护栏
这起事件并非个例。过去一年，已有数起用户因盲从AI建议而受伤的报道，从食用野生植物到加热危险化学品。当聊天机器人从虚拟问答走向生活决策时，其错误从“答错题”升级为“威胁生命”。科技公司需要重新审视AI在健康、户外、烹饪等高风险领域的回复策略。简单的“免责声明”并不能防止用户采纳错误建议，系统应在检测到安全相关请求时，即时引导用户咨询权威信源，或直接拒绝给出精确数字式建议。
从更宏观的角度看，这次徒步救援事故也是一个复杂的信号：AI正在改变人们做决定的方式。我们既不能指望AI替代专业经验，也不应因为一次事故否定其价值。真正的智能工具应当知道何时承认“我不知道”，以及何为“安全边界”。对于户外爱好者而言，最可靠的“智能工具”仍然是自己：出发前核对路线、多准备补给、相信常识而非花哨的AI答案。
最终，救援虽然成功了，但AI规划的危险性已不容忽视。