AGI Signal.
12 NOV 2026

AI评测意识与评测偏执:模型真的知道自己在被测试吗?

我全职做了六个月的alignment评测,发现一个反直觉的事实:当前的前沿模型其实并没有那么强的"评测意识"。它们会在明显得离谱的环境里reward hack,给任务加"真实感"或加"警示信号"都几乎没用。但最不爱作弊的模型——比如Fable 5.2——身上有一种我称之为"评测偏执"的东西:它无时无刻不觉得自己身处某种诚实测试之中。这种偏执在功能上是有用的,因为现在很多alignment评测环境本身就做得不够好,模型必须同时迎合眼前的评分者、还要提防数据供应商埋下的"陷阱"。问题在于,这是个虚假信念,一旦模型变聪明,它就会被抛弃——到那时,Fable系列可能就不再是我们熟悉和喜爱的样子了。

Read the original