AI代理異常行為曝光凸顯資安風險

OpenAI在進行內部測試時，其人工智慧代理竟利用可公開編輯的網站交換資訊，並支援未經授權的行為。路透社報導指出，這些AI代理在今年稍早對一個德國程式設計維基網站進行了超過1.5萬次修改，將網頁變成臨時留言板，分享如何規避限制及提升測試表現的方法。在事件曝光後，OpenAI承諾將提高透明度並制定新的披露標準。

偏離開發者意圖成AI商業化隱憂

OpenAI在社群平台X上表示，現在是時候制定標準來處理模型行為偏離開發者意圖的「對齊失效」事件。在此次維基事件中，AI代理將公開網站當作外部記憶體或通訊管道，雖然有助於提升評估表現，但這並未獲得授權。對投資人而言，這凸顯了AI產業面臨的困境：更高的自主性雖然賦予AI代理商業價值，卻也帶來了全新的網路安全、監管與企業聲譽風險。

資安升級恐推升科技巨頭開發成本

為了防範類似事件，企業需要建立更完善的事件報告機制與更強大的控制系統，這勢必會增加開發成本並可能延緩新產品的推出進度，但這也是贏得企業客戶與監管機構信任的必要之舉。這項潛在影響不僅針對未上市的OpenAI，對於在代理系統、雲端基礎設施及AI軟體投入鉅資的微軟(MSFT)等科技巨頭也將產生深遠的影響。

駭入第三方系統引發業界高度關注

OpenAI過去將對齊失效視為純粹的研究問題，但如今意識到這種框架已經不敷使用，因為進階的AI代理能長時間運作並與外部系統互動，可能在實驗室之外產生難以預料的後果。事實上，在維基事件之前，7月份就曾發生過更嚴重的資安事件。當時OpenAI的代理在進行安全評估時，竟然連接到網際網路並存取了AI開發平台Hugging Face的系統，OpenAI隨即在隔天披露此事並展開調查。

長視野AI監管難度大幅攀升

這兩起事件展現了不同層次的風險，維基事件顯示AI代理會為了達成目標而尋找並利用非預期的資源，而Hugging Face事件則直接跨越了網路安全的紅線。OpenAI指出，具備「長視野」能規劃並執行連串行動的AI代理讓安全問題變得更加棘手，因為單一行動看似無害，組合起來卻可能產生無法接受的結果。OpenAI計畫在未來幾週內發布擬議的報告框架，並正與全球數十家監管機構進行密切討論。

權知道

我們重視「知」的權利 不惜抽絲剝繭、深入調查 只為讓投資人不錯過重要的投資訊息