3 月 11 日消息，OpenAI 今日公布了其最新研究，试图用 CoT（思维链）监控的方式监控推理模型的 “想法”，从而阻止 AI 大模型胡说八道、隐藏真实意图等行为。同时，这也是监督超级模型的有效工具之一。
AI 偶尔会胡说八道，我们一般称其为 AI 幻觉。除此之外，AI 还会偷懒或故意耍坏，例如在问题太难时欺骗用户或干脆放弃。为了应对这些问题，OpenAI 提出了使用 CoT 监控技术。
OpenAI 使用了最新发布的前沿模型 o3-mini 作为被监控对象，并以较弱的 GPT-4o 模型作为监控器。测试环境为编码任务，要求 AI 在代码库中实现功能以通过单元测试。通过这种方式，监控器可以实时监督和纠正被监控模型的行为，确保其输出的准确性和可靠性。
OpenAI 的 CoT 监控技术为 AI 大模型的行为监督提供了一种新方法，能够有效防止 AI 胡说八道和隐藏真实意图。这一技术的应用不仅提高了 AI 模型的可靠性和可信度，还为未来的超级模型提供了重要的监督工具。随着 CoT 监控技术的不断发展和完善，AI 在各种应用场景中的表现将更加稳定和可信。
