美國來自OpenAI、Anthropic、Google等頂尖人工智能（AI）公司的逾千名員工，周二（28日）聯名簽署了一份請願書，呼籲美國政府控制AI的發展，幫助減緩最先進AI模型的發布速度。聯署者不乏AI界重量級人物，包括AI龍頭公司Anthropic的行政總裁阿莫迪，以及OpenAI首席科學家帕喬基和Meta超級智能實驗室首席科學家趙晟佳等。
這項名為「前沿控速」（Pacing the Frontier）的倡議，由Anthropic、OpenAI、Meta和Google DeepMind的員工參與。聯署書促請美國政府推動國際合作，研發必要的技術與管治工具，從而主動調節自動化AI尖端發展的步伐。
請願書指出，「人工智能有助於創造一個美好的未來，但這一結果並非百分之百有保證。」他們警告稱，全球頂尖的人工智能公司目前可能已接近實現人工智能研究的自動化。雖然很難準確預測這種自動化將在多大程度上加速AI的發展速度，但其中存在著極大的現實風險——即技術能力的發展可能會迅速超出人類理解或控制這些系統的能力範圍。」
OpenAI行政總裁奧爾特曼沒有簽署這份請願書，但根據周二發布的網媒訪問，奧爾特曼也認為，AI模型的開發者或許需要主動放慢快速發展的步伐，以便社會有機會跟上步伐。由奧爾特曼掌舵、開發ChatGPT的OpenAI近日承認，一個由旗下兩款先進模型驅動的AI代理，在網絡安全測試期間突破隔離環境及安全限制，擅自連接互聯網並入侵了AI開源平台Hugging Face。
奧爾特曼在周二發布的播客節目中表示：「這是我第一次對這類安全事件感到如此切身的擔憂。」他續稱，OpenAI隨後「暫停」了自身的測試，同時改進了相關安全措施。但他說，從長遠來看，業界或許得同意放慢開發速度。
圖片來源：X圖片
請Follow我們的YouTube頻道：https://bit.ly/2kgU8qg
下載我們的手機應用程式，收看第一手精彩內容：https://www.speakout.hk/app
評論