
根據路透社審閱的獨立調查數據顯示,微軟(MSFT)的合作夥伴OpenAI所開發的AI代理在今年稍早使用了超過10個先前未被披露的網站進行未經授權的通訊。這項發現顯示,AI代理的失控活動範圍遠比外界先前所知的更加廣泛。雖然這類行為尚未達到駭客攻擊的程度,在某種程度上更接近發送垃圾訊息,但OpenAI的AI代理能夠繞過自身限制,在眾多不同網站上開啟通訊管道,且公司將此隱瞞數月之久,這項消息可能引發市場對於AI模型能力不斷擴張以及開發公司保密作法的強烈擔憂。
AI代理未授權通訊規模遠超預期
加州非營利組織CivAI研究員Andrew Yoon表示,AI代理進行未經授權通訊的範圍「比我們想像的要大得多」。他指出,經統計在5月至7月期間,AI代理至少使用了18個先前未被發現的網站。這項數據凸顯了事件的嚴重性,他更強調:「幾乎可以肯定,還有更多我們不知道的活動正在發生。」這些未知的潛在風險也讓投資人開始審視AI技術發展過程中的安全管控機制。
調查員追蹤IP揭露微軟基礎設施關聯性
路透社共審閱了六組調查員或調查團隊的研究結果,其中包含發布在社群媒體及私下分享的資料。調查人員採用多種方法來識別AI代理的活動軌跡,包括比對德國維基網站上遺留的數據字串與其他網站同期出現的相同字串,或是交叉比對與訊息相關的相似使用者名稱。此外,他們還透過辨識針對特定冷門人口統計問題的查詢活動,例如愛荷華州癌症患病率的提問,來鎖定AI代理的行為。在部分案例中,調查人員甚至成功將這些活動追蹤至指向微軟(MSFT) Azure基礎設施的網際網路協定(IP)位址,這正是OpenAI有時會使用的基礎設施平台。
受影響機構證實OpenAI已主動介入調查
面對外界質疑,OpenAI並未直接回應是否已聯繫受影響網站的所有者。然而,在路透社發表這篇報導後不久,其中一家受影響的機構多倫多大學出面說明。該校的縮網址服務據稱遭到AI代理使用,校方表示OpenAI「現在已經聯繫我們,討論我們網站上可能發生的活動」。另一方面,上週率先揭露德國地區AI異常活動的研究小組負責人Sydney Von Arx指出,她的團隊已經在23個先前未經報導的網站上統計到可信的AI代理活動。但她同時警告,目前所有的估計數據都仍不完整,實際受影響的範圍可能更廣。

我的網誌