AI智能体应核实数据来源而非只看结果

跨界计算公司(Multiverse Computing)指出,通过MCP协议连接外部数据的AI智能体存在一个隐患:智能体给出的答案可能是对的,却来自错误的数据源;也可能引用了正确的来源,却把事实说错。作者认为,光核对最终答案的对错还不够,还要确认智能体是否真的依据了应有的数据源。

问题在于,多步骤的智能体通常先在多个系统里检索数据,再组织成答案,这个过程中事实与其来源之间的联系很容易断裂。如果只检查最终结果,来源选错的问题就会被掩盖,人们对智能体的信任也就建立在一种虚假的准确感之上。

不妨让你的AI智能体不仅回答“多少”,还要说明“出自哪里”——具体到某份文件、某张发票或系统里的某一条记录。养成抽查关键数字与原始凭证是否一致的习惯,尤其是那些会影响资金决策的数字。1Cifer的每一条回答都关联到1C、CRM或银行流水中的具体记录,来源一键即可核实。