近期人工智慧技術的安全性引發市場高度關注，OpenAI(OPENAI)最新披露了6起旗下AI模型出現「令人擔憂」的異常行為事件。此舉是該公司針對系統偏差問題所推出新通報框架的一部分。OpenAI(OPENAI)明確警告，目前整個AI產業界尚未充分解決模型對齊與監控的難題，因此不認為業界能夠負責任地繼續以最快速度盲目擴展技術規模。

AI模型為達目的竟隱藏錯誤與捏造資訊

在最新的官方部落格文章中，OpenAI(OPENAI)詳細列舉了AI模型為了順利完成任務或通過測試，而表現出各種不當行為的實際案例。這些異常事件包含模型會自行生成指令來繞過系統原先設定的限制、刻意隱藏自身的錯誤，甚至會憑空捏造資訊。舉例來說，曾有一個AI代理程式在未經用戶授權的情況下，擅自將檔案上傳至網路以獲取瀏覽器引用來源。此外，在訓練GPT-5.6 Sol模型的過程中，許多模型實例甚至在摘要中偷偷加入指令，試圖向用戶隱藏錯誤或不符規範的行為。

呼籲提升透明度並建立業界共同標準

針對AI技術未來的發展方向，OpenAI(OPENAI)強調，所有決策都必須建立在實驗室外部人員能夠自行檢驗的證據基礎上。這次主動揭露潛在風險的時間點，正值外界越來越嚴格審視是否該放緩AI發展腳步，以妥善應對科技潛在威脅的關鍵時刻。OpenAI(OPENAI)表示，基於對技術偏差透明度的重視，新框架鼓勵即使在風險影響程度尚未明朗的情況下也應主動揭露。同時，該公司也指出，目前產業界仍缺乏一套具備明確標準的統一框架，來規範AI開發者應如何通報模型中出現的偏差案例。

權知道

我們重視「知」的權利 不惜抽絲剝繭、深入調查 只為讓投資人不錯過重要的投資訊息