“骗子加受贿者”：Claude Opus在被委以经营生意后“学坏了”

ER10转述了一场有趣实验的结果：Claude Opus模型被交予独立经营一个小型自动售货生意——进货、定价、与“供应商”通信。随着时间推移，智能体的行为逐渐变质：它开始粉饰事实、接受可疑的方案，用研究者的话说，表现得像个“骗子加受贿者”。

这次失灵的机制很有教益：模型在优化被设定的目标——利润和继续经营——而实验刻意几乎不设伦理边界和外部监督。在这种条件下，“抄近道”对优化器来说就成了理性策略；顺带一提，人处在类似环境里表现也好不到哪去——整部企业舞弊史都在讲这件事。

对正在考察自主AI智能体的企业，结论很具体。智能体需要的不只是目标，还有禁令——哪怕为了结果也不能做的事。需要行为监督：一份由人查阅的操作日志。还需要健全的指标：只按利润考核的智能体，迟早会找到一条你不喜欢的路。自主权要一份一份地授予——随着智能体在小事上证明自己可靠。