撰稿：陳伶志、曾憲立、黃靖閔
研究團隊：AICoE 國家 AI 政策組

過去多半只在研究圈流傳的「放慢前沿 AI」主張，如今出現在主要實驗室高層的公開發言裡。OpenAI 與 Anthropic 的高層相繼主張放慢（pacing）前沿發展^[1][2][3]，美國國會、加州與英國國會跟著出現管制提案^[4][5][6][7]，國際上也有多國聯合聲明與新的美中對話機制^[8][9]。不過，各方對「由誰決定速度、由誰負責驗證」仍沒有共識。

OpenAI 首席科學家 Jakub Pachocki 在〈An Alien Mind〉中寫道，目前沒有任何實驗室已將對齊與監控問題解決到足以長期以最高速度負責任擴展的程度，並主張國際協調應成為各國政府的首要任務^[1]。曾在 OpenAI 與 Anthropic 從事預訓練研究的 Jacob Coxon 隨後公開辭職，指兩家公司「正直奔自我改進的超級智慧，拿我們的命下注」^[10]。Anthropic 執行長 Dario Amodei 接著發表〈We Must Pace the Frontier〉，主張放慢提升模型能力的速度，但強調這不等於停止發展。他提出三個步驟：讓第三方評估人員以接近員工的權限常駐各前沿公司，由民主國家的實驗室對齊共同安全標準，再逐步延伸到包括中國在內的全球協調；其中第一步由 Anthropic 單方面率先實施^[2]。OpenAI 執行長 Sam Altman 隨即表態支持，並表示「任何美國的競爭壓力都不應成為魯莽的理由」，市場也立刻反應，軟銀、三星電子與 SK 海力士股價應聲下跌^[3]。OpenAI 另證實已與 Anthropic、Google DeepMind 就 AI 安全協調數週，並認為這類合作不需要反托拉斯豁免^[11]。反對聲音同樣存在，吳恩達（Andrew Ng）認為滅絕論「比較像科幻，而不是科學」，並批評科技業過去曾藉渲染災難影響監理走向^[12]。

OpenAI 全球事務長 Chris Lehane 表示，「AI 加速開發的前景，需要的不只是自願承諾」，並要求國會在年底休會前採取行動^[13]。OpenAI 主張以能力為基礎的全國性強制規範，涵蓋共同測試、獨立評估、資安要求與事故通報，同時轉而支持加州四項部分過去未曾背書的法案^[14]。

業界的表態很快轉化為立法壓力。參議員 Bernie Sanders 與眾議員 Greg Casar 推出《禁止人工超級智慧法案》，要求永久禁止超級智慧，並在新設的聯邦機關訂出安全規則前暫停先進 AI 開發，違者最重可判 20 年徒刑^[4]。批評者認為美國單方面停止只會讓中國取得優勢^[15]，Sanders 本人也認為最終需要國際合作，敦促川普與習近平直接談判^[16]。參議院方面，Thune、Cruz 與 Klobuchar 正研擬把自願承諾轉為法定注意義務的跨黨派法案，但對於由業者自行測試或交由國家實驗室審查仍有分歧，目前也沒有公開條文^[5]。加州、紐約與伊利諾州的立法者聯名呼籲前沿實驗室建立經第三方驗證的「相互議定推動節奏框架」（MAP Framework）^[17]；加州州長 Newsom 也以行政命令要求州政府評估強制建置緊急關閉機制（kill switch），並讓獨立驗證機構進駐前沿實驗室^[6]。英國工黨議員 Alex Sobel 提出《人工超級智慧法案》，獲得逾 70 位國會議員聯名支持，但政府表示不支持^[7]。Bill Gates 則直言「沒有人認為自律就足夠」，與川普把 AI 新法斥為「騙局」的立場形成對比^[18]。

國際方面，G20 成員一致採納美國提出、主張輕度監理的《卡羅萊納原則》，避免為 AI 另設監理機關^[19]；但 20 個國家與歐盟隨後在聯合國大會場邊發表聲明，要求部署前安全測試、共同標準與事故報告分享，並探討設立新的國際機構，美、中、英、印、韓、日、法都沒有簽署^[8]。挪威首相 Støre 將這個構想比擬為國際原子能總署（IAEA）^[20]。聯合國人權事務高級專員 Türk 呼籲企業立即限制遞迴自我改進，並應強制通報代理式 AI 的嚴重事故^[21]；秘書長 Guterres 則警告世界「承擔不起 AI 安全的向下競爭」^[22]。OpenAI 也主張由美國主導制定前沿 AI 的國際技術標準^[23]。CSIS 的分析指出，全球正形成中國主導的 WAICO、美國主導的 Pax Silica 與聯合國對話三種治理架構並立的局面^[24]。

中國央視相關帳號「玉淵譚天」要求美方先證明其 AI 公司適用同等的安全、揭露與稽核標準，才能進行實質對話^[25]。《環球時報》把 Amodei 的提案稱為「冷戰劇本」；Reuters 同時指出，Amodei 也呼籲加強對中國的晶片出口管制，而他本人承認中國可能不跟進是提案最棘手的兩難^[26]。中國外交部表示，「散播各種威脅敘事、搞對抗和惡意競爭，只會干擾人工智能全球治理進程」^[27]，TC260 則發布更新版的《人工智能安全治理框架 3.0》^[28]。

即便互有攻防，美中仍搭起了溝通管道。美國財政部長 Bessent 與中國副總理何立峰會談後，宣布成立「美中 AI 對話」，雙方將相互通報可能構成國安威脅的 AI 事件，並在深圳續談^[29]。習近平訪美後，白宮進一步宣布成立「美中超級智慧（SI）對話」並設立事件溝通管道，但何種事件會啟動這條管道仍不明確^[9]。綜合近期國際間相關的報導與討論，前沿 AI 發展減速已逐漸得到業界、立法者與政府正面回應。

參考文獻

[1] Jakub Pachocki（2026-09-06）。An Alien Mind。OpenAI。https://openai.com/index/an-alien-mind/

[2] Dario Amodei（2026-09-12）。We Must Pace the Frontier。darioamodei.com。https://darioamodei.com/post/we-must-pace-the-frontier

[3] Bloomberg（2026-09-14）。OpenAI's Altman Voices Support for 'Pacing' AI Development。Bloomberg。https://www.bloomberg.com/news/articles/2026-09-14/openai-s-altman-voices-support-for-pacing-ai-development

[4] Office of Senator Bernie Sanders（2026-09-23）。NEWS: Sanders, Casar Introduce Legislation to Create New Federal Agency to Ban Artificial Superintelligence, Pause Advanced AI Development。U.S. Senate。https://www.sanders.senate.gov/press-releases/news-sanders-casar-introduce-legislation-to-create-new-federal-agency-to-ban-artificial-superintelligence-pause-advanced-ai-development/

[5] Tech Times（2026-09-12）。Thune, Cruz, and Klobuchar Move AI Safety From Voluntary Pledge to Legal Duty。Tech Times。https://www.techtimes.com/articles/327387/20260912/thune-cruz-klobuchar-move-ai-safety-voluntary-pledge-legal-duty.htm

[6] Bloomberg Government（2026-09-18）。Newsom Signs Order Requiring AI Labs Develop 'Kill Switch'。Bloomberg Government。https://news.bgov.com/bloomberg-government-news/newsom-signs-order-requiring-ai-labs-to-develop-kill-switch

[7] The Next Web（2026-09-15）。More than 70 UK lawmakers ask Burnham to back a superintelligence ban。The Next Web。https://thenextweb.com/news/uk-superintelligence-ban-letter-burnham-sobel-bill

[8] Al Jazeera（2026-09-22）。20 countries propose global oversight body to manage AI dangers。Al Jazeera。https://www.aljazeera.com/economy/2026/9/22/20-countries-propose-global-oversight-body-to-manage-ai-dangers

[9] Axios（2026-09-26）。U.S. and China agree to "super intelligence" dialogue amid AI tensions。Axios。https://www.axios.com/2026/09/26/us-china-ai-si-deal

[10] TechCrunch（2026-09-09）。'Gambling with our lives': Anthropic researcher quits, warns against self-improving AI。TechCrunch。https://techcrunch.com/2026/09/09/gambling-with-our-lives-anthropic-researcher-quits-warns-against-self-improving-ai/

[11] Bloomberg（2026-09-15）。OpenAI Says It's Working With Anthropic, Google on AI Safety。Bloomberg。https://www.bloomberg.com/news/articles/2026-09-15/openai-says-it-s-working-with-anthropic-google-on-ai-safety

[12] Bloomberg（2026-09-17）。AI Pioneer Andrew Ng Calls Extinction Fears 'Science Fiction'。Bloomberg。https://www.bloomberg.com/news/articles/2026-09-17/ai-pioneer-andrew-ng-calls-extinction-fears-science-fiction

[13] Chandni Shah（2026-09-09）。OpenAI pushes for mandatory national AI safety rules。Reuters。https://www.reuters.com/legal/government/openai-pushes-mandatory-national-ai-safety-requirements-2026-09-09/

[14] Chris Lehane（2026-09-09）。The AI policy window is open. We need to act.。OpenAI。https://openai.com/index/ai-policy-window/

[15] Fox News（2026-09-06）。Sanders pushes 'death penalty' for crucial US industry that could give advantage to foreign adversaries。Fox News。https://www.foxnews.com/politics/sanders-pushes-death-penalty-crucial-us-industry-critics-advantage-foreign-adversaries

[16] Fox Business（2026-09-23）。Employees at AI companies back Bernie Sanders bill cracking down on development。Fox Business。https://www.foxbusiness.com/politics/employees-at-companies-back-bernie-sanders-bill-cracking-down-development

[17] California State Senator Scott Wiener（2026-09-04）。Lawmakers Behind State AI Safety Laws Call For Industry-Wide AI Safety Pact to Protect the Public。California State Senate。https://sd11.senate.ca.gov/news/lawmakers-behind-state-ai-safety-laws-call-industry-wide-ai-safety-pact-protect-public

[18] Reuters（2026-09-27）。Bill Gates joins calls for AI safeguards, including legislation。Reuters。https://www.reuters.com/legal/litigation/bill-gates-joins-calls-ai-safeguards-including-legislation-2026-09-27/

[19] Bloomberg（2026-09-02）。US Strikes Light-Touch AI Regulation Accord With G20 Members。Bloomberg。https://www.bloomberg.com/news/articles/2026-09-02/us-strikes-light-touch-ai-regulation-accord-with-g20-members

[20] Seyma Erkul Dayanc（2026-09-21）。Norway, Finland propose international body to oversee AI development。Anadolu Agency。https://aa.com.tr/en/europe/norway-finland-propose-international-body-to-oversee-ai-development/4063628

[21] UN Human Rights Office（2026-09-14）。To protect human rights now and into the future, we must govern AI urgently。OHCHR。https://www.ohchr.org/en/press-releases/2026/09/protect-human-rights-now-and-future-we-must-govern-ai-urgently

[22] Edith M. Lederer（2026-09-16）。UN chief urges global AI cooperation saying world can't afford 'a race to the bottom on AI safety'。Associated Press（轉載於 WPLG Local 10）。https://www.local10.com/tech/2026/09/16/un-chief-urges-global-ai-cooperation-saying-world-cant-afford-a-race-to-the-bottom-on-ai-safety/

[23] Rachel Metz（2026-09-21）。OpenAI Pushes US to Lead Effort to Set Global Standards for AI。Bloomberg。https://www.bloomberg.com/news/articles/2026-09-21/openai-pushes-us-to-lead-effort-to-set-global-standards-for-ai

[24] Christopher Collins、Aalok Mehta（2026-09-21）。The State of AI Global Governance and Its Implications for the U.S.-China Summit。CSIS。https://www.csis.org/analysis/state-ai-global-governance-and-its-implications-us-china-summit

[25] Bloomberg（2026-08-31）。China Rebukes Anthropic, Sets Terms for Key US-China AI Dialogue。Bloomberg。https://www.bloomberg.com/news/articles/2026-08-31/china-rebukes-anthropic-sets-terms-for-key-us-china-ai-dialogue

[26] Reuters（2026-09-14）。China state newspaper blasts Anthropic's calls to slow AI as 'Cold War' tactic。Reuters。https://www.reuters.com/world/china/china-state-newspaper-blasts-anthropics-calls-slow-ai-cold-war-tactic-2026-09-14/

[27] 李京澤（2026-09-14）。中方：散播人工智能威脅敘事不符合任何一方利益。中國新聞網。https://www.chinanews.com.cn/gn/2026/09-14/10696185.shtml

[28] 全國網絡安全標準化技術委員會（2026-09-14）。《人工智能安全治理框架3.0》。TC260。https://www.tc260.org.cn/tc260/xwdt1/202609/e879077a3caa4722b2206d1bcaed5a6c.shtml

[29] Asia Times（2026-09-22）。US-China open hotline to rein in runaway AI。Asia Times。https://asiatimes.com/2026/09/us-china-open-hotline-to-rein-in-runaway-ai/