一位农民听信AI建议毁掉了20个足球场大小的庄稼：脱离你的数据的回答有多危险

一位农民听信AI的建议，毁掉了自己约合20个足球场面积的庄稼。模型建议采取极端措施——根据症状描述，它断定情况已无可挽回——但它既不了解那几块地的真实状况，也不了解当地条件。等到发现庄稼本可以救回来时，已经晚了。

这类故事里的罪魁祸首不是“糟糕的AI”，而是问题与数据之间的鸿沟。通用聊天工具按“世界平均图景”作答：它没见过你的田地、你的土壤检测、你的作业记录。回答中自信的语气掩盖了一个事实——它本质上是对他人经验的外推。决策的代价越高，这道鸿沟就越危险——而这位农民恰恰做了一个代价高昂的决定。

把教训移植到任何企业都很容易。第一条规则：后果不可逆的决定——销毁、解雇、解约、跳楼价清库存——不能凭一个看不到你数据的工具的建议来做。第二条规则：想让AI真正帮你决策，就给它数据——把它接入你的账务、销售和运营历史。基于你的1C和你的CRM作答的AI智能体也会出错，但它至少错在你的现实之内，其推理过程可以核查。凭空而来的建议则无从核查。