反向博弈理论如何控制AI智能体

MIT Technology Review报道了一种名为'反向博弈理论'的新方法，通过设计激励机制而非直接干预模型内部来确保AI对齐。该方法包括让模型相互检查、创建竞争动态，以及模拟人类社会中的执法机制。研究人员认为，可能永远无法完全理解前沿模型的内部工作原理，因此应设计能引导AI行为的机制。然而，这种方法依赖于AI行为理性的假设，而AI可能表现出难以预测的非理性行为。