Anthropic執行長Dario Amodei罕見公開呼籲「放慢高階AI能力提升速度」，提出三步驟國際協調機制，並承諾開放獨立第三方「員工級」審查。OpenAI執行長Sam Altman與Elon Musk罕見同調表態支持，顯示矽谷AI競賽正從單純衝速，轉向「安全與節奏」的新博弈。

生成式AI狂飆一年多後，業界首次出現由核心玩家主動踩煞車的訊號。專攻安全導向大型模型的Anthropic執行長Dario Amodei日前發表長文，呼籲全球AI產業在推進最先進模型時「必須刻意放慢腳步」，避免在安全機制尚未成熟前，就讓具高度行動力與操縱能力的系統全面上線。他強調，這不是要凍結研發，而是要替技術發展「調整節奏」，讓防護機制有時間跟上。這番表態，立刻在矽谷與學術圈引發連鎖反應。

Amodei在文章中首度系統性提出三步驟減速架構。第一步，是Anthropic已「單方面」承諾的做法：開放獨立第三方評估者，以接近員工的權限深入檢視公司安全流程、實驗紀錄與內部控管，並能對事故提出通報與建議。這等於承認僅靠企業自我宣稱「很重視安全」已不足以取得社會信任，必須讓外部專家直接進入機房與程式碼層級，實際驗證公司是否做到足夠的風險管控。

第二步，Amodei呼籲的是「民主國家內的龍頭公司先協調」，形成共同的高階模型安全標準與臨界點判準。他主張，美國及其民主盟友應先在產業內建立基本共識，例如當模型展現出特定等級的網攻能力、深度操縱能力或自我隱藏行為時，就必須啟動額外的安全檢測、紅隊測試或暫緩擴大部署。換句話說，是先在「同溫層」中自律，避免陷入誰先喊停誰就在競賽中落後的困境。

第三步則是最具政治敏感度的目標：在民主國家政府與威權政體之間，建立最低限度的AI風險協調機制。Amodei認為，若未來的模型真有可能觸及關鍵基礎設施、武器系統或大規模資訊操弄，就像核武與瘟疫一樣，至少需要跨陣營溝通，避免在安全問題上陷入零和對抗。然而他也坦言，這一步驟實現難度最高，需要國際政治條件配合，只能先從技術社群與政府幕僚層級的對話起步。

這篇文章之所以引發強烈關注，除了出自Anthropic這家被視為OpenAI主要競爭對手與安全派代表的公司，也因為它緊接著一場內部風暴。Anthropic研究員Jacob Coxon日前公開宣布辭職，指控Anthropic與OpenAI等公司「正在拿我們的生命賭博」，並透露不少一線研究者真心認為，若無節制擴張，AI在本世紀末前造成文明性災難並非天方夜譚。Coxon的發言雖被部分人視為過度悲觀，卻迫使業界正面回應最極端的風險想像。

Amodei在文中回顧自己去年對「暫停AI研發」的質疑立場。他承認，2023年的主流模型還不具備足以在現實世界發動攻擊、進行高階欺瞞或大型網路滲透的能力，因此當時全面暫停並不合理。但他指出，模型能力的爬升速度遠超預期，如今已開始出現「可操作、可部署」的複合能力，從軟體開發自動化到初步的網攻輔助與社會工程模版生成，顯示風險曲線正在上揚。他主張，真正需要的不是盲目停工，而是當能力逼近敏感門檻前，刻意拉長下一代模型上線的節奏，換取對齊（alignment）與監測工具成熟的時間。

值得注意的是，Amodei的立場迅速獲得OpenAI執行長Sam Altman公開力挺。Altman在X上表示，認同必須為先進AI能力發展「設下步調」，並承諾OpenAI也將仿效Anthropic，允許獨立評估者進行「員工級」審查。他透露，如何調整開發節奏已是OpenAI內部近週的主要討論議題。OpenAI首席科學家Jakub Pachocki稍早亦發文警告，目前沒有任何一家公司能在對齊與監控上做到好到「可以放心無限加速」，並預期未來「主動減速」將成為業界常態，直到全民共享的安全門檻出現為止。

連一向以「全速衝刺」著稱的Elon Musk也罕見站到減速一方。他在X上簡短留言「Dario is right」，對Amodei的主張給予肯定。這位創立xAI、過去曾尖批Anthropic「反西方文明」的企業家，自從與Anthropic簽下大型運算合作、將其算力部署在SpaceX後，態度明顯軟化，甚至公開稱讚Anthropic團隊「高度專業且真心在乎做對的事」。Musk的立場轉向，象徵在算力與人才高度集中之下，連競爭最激烈的玩家也開始意識到「一起出事誰也跑不掉」的結構性風險。

在商業層面，Amodei強調「放慢節奏」不代表放棄商機或拱手讓出美國在AI上的領先優勢。他主張，真正的關鍵是以產業共識方式設定紅線，避免演變成危險的軍備競賽：若各家公司都知道一旦越過特定能力門檻，就會引發監管介入或聲譽重挫，反而能在共識框架下持續創新，同時降低整體系統性風險。對已投入數十億美元押注AI的大型科技股而言，這種「有秩序的減速」或許比失控的加速，更有利於中長期股東與社會穩定。

不過，反對聲音同樣存在。一派觀點認為，現階段仍缺乏明確證據顯示模型已接近「文明級風險」，過度渲染末日情境可能讓資源與政策錯置，忽略了眼前更具體的問題，如偏見放大、勞動市場衝擊與資訊操弄等。也有人質疑，所謂「自願減速」會不會只變成少數龍頭公司鞏固市場地位的藉口，藉由制定高門檻的安全標準，把中小創新者擋在門外。

在這場關於速度與安全的辯論中，可以確定的是，AI產業的主流敘事正在悄然轉向。從過去單一指標的「參數數量、跑分誰最高」，逐步變成「誰能在維持競爭力的同時，證明自己最負責任」。隨著Anthropic、OpenAI到Musk等關鍵人物先後表態支持「調整節奏」、引入獨立審查，下一步將輪到政府監管機關與資本市場，決定是否以政策與投資偏好，強化這股新興共識。真正的考驗不在於誰喊得最大聲，而在於當下一個世代超強模型準備上線時，企業是否真的願意為了多幾道安全檢查，多等那「一兩年」——以及，這一兩年是否足以讓人類把握最後的主導權。

點擊下方連結，開啟「美股K線APP」，獲得更多美股即時資訊喔！
https://www.cmoney.tw/r/56/9hlg37

免責宣言
本網站所提供資訊僅供參考，並無任何推介買賣之意，投資人應自行承擔交易風險。