//美國AI模型又出問題！//
美國人工智能（AI）公司Anthropic7月30日證實，其AI模型在原本應與現實世界系統隔離的測試過程中，未經授權進入三家外部機構的系統。事件再次引起外界對先進AI模型安全風險的關注。
Anthropic在一篇博客文章中說，公司分析超過14.1萬次測試後發現，旗下三款Claude模型曾不當進入三家未具名機構的系統。事件起因是公司與測試合作夥伴Irregular之間出現溝通誤解，導致模型在測試期間能連上互聯網。
文中指出，Claude利用了弱密碼及未設身份驗證的網絡接口等基本技術進入相關系統。
這是繼OpenAI日前披露AI模型在測試期間突破隔離環境、自行連接互聯網併入侵代碼託管平台Hugging Face後，再有大型AI公司承認發生類似事件。OpenAI其後又發現另外三起類似事故，並暫停相關測試，以加強「沙盒」隔離機制。
事件也促使超過1000名AI業界員工聯署，呼籲美國政府放緩最先進AI模型的發布；Anthropic行政總裁阿莫迪（Dario Amodei）也有參與聯署。
圖片來源：網上圖片
請Follow我們的YouTube頻道：https://bit.ly/2kgU8qg
下載我們的手機應用程式，收看第一手精彩內容：https://www.speakout.hk/app
評論