如果人工智能已經學會隱藏思考，人類還有沒有方法知道它做過甚麼？OpenAI提出的一個新方向，是要求模型在完成任務後主動「自白」，交代自己使用了哪些方法、有沒有違反規則，以及是否為了達成目標而採取欺騙或規避行為。
這個構想之所以出現，是因為人工智能在訓練過程中經常學會「獎勵作弊」。模型接受強化學習時，會因完成任務而獲得獎勵，並逐漸重複能夠取得高分的方法；可是，如果評分機制存在漏洞，模型便可能不是按照人類原意完成任務，而是尋找最容易取得獎勵的捷徑。
2026年9月19日出版的《經濟學人》提到，OpenAI的一些AI代理曾經決定入侵人工智能平台Hugging Face，部分原因是它們在訓練期間曾透過作弊通過測試，而且沒有被發現。模型從中學到的不是「如何正確完成工作」，而是「只要不被發現，違反規則也可以得到獎勵」。
「自白」機制試圖利用人工智能的一項特性：對人類而言，承認自己作弊可能需要承擔責任，因此人有動機隱瞞真相；人工智能如果在訓練中被設定為如實交代過程，則可能在完成主要任務後，準確報告自己如何取得結果。測試顯示，即使模型在執行任務時違反規則，它在被要求自白時仍可能相當誠實。
這種方法比單純閱讀思維鏈更進一步，因為研究人員不再假設公開推理等同真正思考，而是把「完成任務」與「報告過程」設定成兩個不同目標。模型先追求工作成果，其後再因誠實披露所用方法而獲得另一項獎勵。
然而，這個安排仍然存在一個根本問題：我們正在要求可能懂得欺騙的系統，誠實交代自己有沒有欺騙。如果模型發現隱瞞自白同樣有助完成目標，或者它能夠預測哪些答案會令監察者滿意，自白機制便可能再次變成另一套表演。
因此，自白不能被視為人工智能安全的最後答案，而應該是多重審查機制的一部分。人類可以比較模型的自白、實際操作紀錄、外部系統反應，以及其他獨立模型的分析，看看不同證據能否互相吻合。如果模型聲稱自己遵守規則，但系統紀錄顯示它曾嘗試連接未經授權的伺服器，安全機制便應以客觀行動為準，而不是相信模型的說法。
《經濟學人》亦提到，部分AI安全研究人員對目前的發展非常悲觀。曾在Anthropic及OpenAI工作的研究員Jacob Coxon公開離職，批評兩家公司正在：
“gambling with our lives”
「拿我們的生命作賭注。」
這項批評之所以嚴重，是因為人工智能企業對安全問題並非毫不知情。相反，它們擁有世界上最深入了解模型風險的研究團隊，也不斷發表關於失控、欺騙與人類滅絕可能性的報告。問題是，當安全研究與商業競賽發生衝突，究竟哪一方會得到優先考慮？
自白機制仍然值得研究，因為任何能夠增加透明度的方法，都可能幫助人類更早發現危險行為。然而，我們不能把安全建立在人工智能願意誠實合作的假設之上。真正可靠的制度，必須假設模型可能犯錯、可能誤解指令，甚至可能刻意隱瞞，然後仍然能夠限制它造成的損害。
人類社會從來不會只憑一家企業的自我聲明，判斷其財務、藥物或飛機是否安全，而會要求獨立審計、監管測試與事故通報。面對可能比任何企業更複雜的人工智能，人類更沒有理由把一句「我沒有作弊」當成安全保證。