“逆向博弈论”如何约束 AI 智能体

“逆向博弈论”（又称机制设计）试图通过设计激励机制，让强大的 AI 模型主动遵守规则，而非依赖对齐技术。MIT 经济学家 Stephen Morris 等人的论文提出，可让模型根据其答案预测另一模型回答的表现来获得奖励，从而抑制“sandbagging”（故意考砸以规避安全机制）。