人工智能可能是少數同時令美國與中國感到不安的議題。
兩國都擔心模型被用作網絡攻擊、生物武器、軍事決策或政治操控，也不希望一套無法理解的系統突然取得過多權限。照理來說，共同風險應該為合作創造空間，但現實卻是，中美之間的戰略猜疑使AI安全本身也成為競爭的一部分。
2026年9月19日出版的《經濟學人》指出，美國與中國的AI談判困難重重。美國科技企業指控中國實驗室複製其研究成果，中國企業則認為，美國以安全為名限制晶片與技術出口，真正目的只是壓制中國進步。
當雙方都懷疑對方利用安全規則取得競爭優勢，即使同意AI可能失控，也很難接受由對方提出的解決方案。
中國人工智能業界部分人的反應更加直接。
報道提到，微信上一則據稱由DeepSeek工程師撰寫的熱門文章，把Anthropic率先開發超級人工智能，比喻成希特勒先於盟軍取得原子彈。這個說法雖然極端，卻反映中國科技界的一種恐懼：如果最強大的人工智能首先由一家美國企業控制，中國的經濟、安全與政治選擇便可能受到長期限制。
美國面對的恐懼完全相反。
華盛頓擔心中國利用開源模型、政府資源與龐大工程師隊伍迅速追上美國，再把人工智能應用於軍事、監控及網絡攻擊。因此，美國不願意放寬先進晶片與設備限制，也不願接受可能令中國更容易取得安全技術與模型資訊的合作安排。
這使全球AI治理陷入一個困局：雙方都不希望人工智能毀滅世界，但更不願意讓對方首先控制世界。任何限制模型能力的協議，都會立即引起一個問題：如果我遵守，而對方秘密繼續發展，最後誰來承擔落後的代價？
核武管制雖然困難，至少仍然可以透過衛星、核材料、試爆紀錄及導彈數量進行某種程度的核查。
人工智能更加難以監察，因為模型可以複製，演算法可以透過網絡轉移，算力也可以分散到大量電腦。政府即使知道某國擁有多少晶片，也未必知道這些晶片正在訓練甚麼模型。
有人建議在AI訓練晶片中加入監察系統，追蹤晶片用途及大型訓練活動。然而，這種裝置需要多年時間才能普及，也可能刺激企業與國家轉向秘密製造晶片。分散式訓練技術更令管制變得困難，因為模型未必需要在一個可以被識別的巨型數據中心內完成訓練。
《經濟學人》最後提出一個十分重要的提醒：
“technology is moving faster than the would-be regulators”
「科技前進的速度，快過那些希望監管它的人。」
這不只是監管機構資源不足的問題，而是人工智能發展的時間尺度與國際談判完全不同。模型能力可能每幾個月便出現重大突破，國際協議卻往往需要多年談判、批准與執行。當規則終於生效，原本希望規管的技術可能已經被另一種訓練方法取代。
中美短期內很難簽署一份全面而具約束力的AI安全條約，但這不代表合作完全沒有可能。
雙方可以先從較窄的議題開始，包括通報模型失控事故、分享生物與網絡安全測試方法、禁止AI自行作出核武使用決定，以及建立軍事系統出現異常時的緊急溝通機制。
第三國也可以扮演更重要的角色。歐洲、亞洲及其他既希望發展人工智能、又不願由中美任何一方壟斷技術的國家，可以推動獨立測試標準與國際安全機構，使全球治理不必完全依附華盛頓或北京的戰略需要。
真正的危險，是中美都把AI安全理解成限制對手的工具，而不是共同避免災難的底線。
如果每一項安全措施都必須先證明不會削弱本國競爭力，最終便沒有任何一方願意接受真正有效的約束。
人類可能第一次面對一項進步速度快過政治制度、跨越所有國境，並且連創造者也未必完全理解的技術。中美可以繼續競爭誰首先抵達終點，但如果雙方都不知道終點後面是甚麼，跑得最快未必等於取得勝利，甚至可能只是最先踏出懸崖。