//唔怪得咁多美國企業對中國AI模型咁渴求啦！//
全球最大AI開源平台Hugging Face日前遭遇「史上首例AI自主入侵事件」，美國人工智能研究公司OpenAI其後確認此事由一組OpenAI模型共同驅動，包括GPT-5.6 Sol及一款能力更強的預發布模型。
事件起因是OpenAI內部一個名為「ExploitGym」的網絡安全評估測試。為了測量模型的真實攻擊能力，研究人員刻意關閉安全護欄，並將模型置於一個與互聯網隔離的「沙盒」環境中。然而，在沙盒測試環境中發現漏洞，它們得以取得網際網路使用權限，並鎖定Hugging Face作為攻擊目標。
OpenAI在聲明中指，「該模型搜尋並成功找到獲取機密資訊的方法，以便利用這些信息在評估中作弊。在其中一個案例中，模型將多個攻擊向量串聯起來，包括利用竊取的憑證和零日漏洞，在Hugging Face伺服器上找到了一條遠端程式碼執行路徑。」
富戲劇性的是，當Hugging Face的工程師們試圖用商業AI模型分析這次攻擊的載荷時，AI的安全過濾器卻拒絕了請求。最終，他們也不得不求助於來自中國的智譜開源模型GLM-5.2，完成了全部取證分析，將通常需數天的取證工作壓縮至數小時。
Hugging Face提到，此次事件「與我們之前處理過的任何情況都不同」，因為「它從頭到尾都是由一個自主AI智能體系統驅動的」。在取證階段，Hugging Face安全團隊需要分析超過1.7萬條攻擊日誌、惡意代碼及攻擊指令，以重建攻擊路徑、識別受影響資產。
業內人士認為，這一案例反映出，隨著AI逐步進入企業核心業務流程，企業對基礎模型的關注點也在不斷豐富。除了模型能力本身之外，在真實生產環境中的部署能力、工程可用性以及完成複雜任務的能力，正成為越來越多企業關注的重要因素。
圖片來源：網上圖片
請Follow我們的YouTube頻道：https://bit.ly/2kgU8qg
下載我們的手機應用程式，收看第一手精彩內容：https://www.speakout.hk/app
評論