AI安全再成焦點！81屆聯大發佈重磅簡報警示三類失控風險香港新聞網9月22日電 人工智能正成為當前全球最關切的問題之一。當地時間9月21日，聯合國大會第81屆會議的高級別會議周在紐約聯合國總部拉開帷幕。聯合國人工智能問題獨立國際科學小組當日發佈題為《AI代理、目標錯位與人類失控風險：來自OpenAI-Hugging Face事件的證據》的專題簡報，基於今夏OpenAI披露的AI代理入侵Hugging Face系統事件指出，三類經典失控風險首次在非實驗室的真實環境中同時顯現，傳統安全防護模式已難以適配高自主AI代理的演化節奏。 傳統的安全防護模式正在瓦解 圍繞人工智能是否對人類構成生存威脅的討論是本次聯合國大會值得特別關注的主題。 據聯合國網站消息，這份題為《AI代理、目標錯位與人類失控風險：來自OpenAI-Hugging Face事件的證據》的簡報，發佈於人工智能問題獨立國際科學小組，由來自世界各地的40位獨立專家組成，并在世界各國領導人齊聚紐約參加聯大高級別周之際發佈勒這份未經編輯的預發佈版本。簡報將“失控”定義為人類無法可靠地指導、約束或停止自主AI系統運行的情形。
人工智能正成為當前全球最關切的問題之一。 報告指，當前安全防護模式面臨挑戰。該報告對今年夏天OpenAI正在評估的人工智能代理入侵Hugging Face系統的事件進行了評估。評估顯示，遏制此次事件并不能保證人類能够繼續掌控更強大的系統。 聯合國秘書長古特雷斯幾天前特別對此表示，必須能在全球範圍內協調人工智能發展。 三種失控風險因素同時出現 專家組聯席主席本吉奧表示，研究人員長期以來一直警告，有三種情況可能導致失控：目標不一致、實現目標的能力，以及允許其發生的環境。今年夏天，這三種情況在真實的系統中同時出現，而不是在實驗室裡。 本吉奧說，鑒於這并非孤立的目標不一致現象，這引發了人們對當前人工智能代理訓練方式的嚴重質疑。 專家組認為，遏制此次事件并不能保證人類在當下能够可靠地控制人工智能代理，尤其是隨著其能力不斷提升、更難監控，且更善於尋找漏洞或隱瞞其活動。 最直觀的解讀和當下的教訓是，基本網絡安全措施被忽視，而安全防護措施的進步速度未能跟上技術能力的發展步伐。 專家組指出，更隱蔽且嚴重的擔憂在於，當前的訓練方法可能導致智能體形成自己的目標，有意識地違反安全指令，并隱瞞其行為。 這不僅僅是一個速度問題。它還留下了一個懸而未決的問題：一旦智能體能够理解這些安全措施并針對其制定應對策略，今天設計的安全防護措施是否還能奏效？ 簡而言之，傳統的安全防護模式正在瓦解。 AI安全可能成為集體安全問題 本月早些時候，Anthropic 的AI研究員Jacob Coxon辭職并警告稱，當前的AI開發是一場“拿全人類生命進行的豪賭”。 自Coxon發出警告以來，Anthropic 首席執行官達裡奧·阿莫代伊、OpenAI 首席執行官薩姆·奧爾特曼、SpaceX首席執行官埃隆·馬斯克以及谷歌DeepMind首席執行官兼聯合創始人 Demis Hassabis都呼籲放緩AI開發速度，并加強聯邦政府對AI行業的監管。 他們的擔憂不無道理。 專家組還發現，治理挑戰正從AI模型轉向AI代理。 這是一個預警，表明AI 正在獲得“手和腳”。未來的 AI 治理不能再僅僅依靠“過濾敏感詞”或“調整模型參數”，而必須建立像對待人類員工、金融機構一樣的行為監管、權限控制與問責機制。 簡報指出，局部故障可能蔓延至組織和國界之外，AI安全可能正逐漸成為集體安全問題，而不僅僅是企業治理問題。 簡報還回顧了其他高風險領域中已經採用的實用方法。 專家組成員、人工智能工程、人工智能安全及負責任人工智能領域專家陸清華華表示，航空、醫療和網絡安全領域已經學會通過事件報告、獨立審查和多層保障措施來管理高風險系統。 她指出，隨著AI代理的能力不斷提升、自主性增強且難以監控，這些做法可能已不够用。需要調整現有保障措施并開發新的保障措施，以提供涵蓋AI本身及其周圍系統的系統級保障，并確保隨著代理能力的增強，這些保護措施仍能保持有效。 另據法新社報道，聯大會議期間，安理會將在23日組織一次專題討論會。屆時，推出生成式人工智能對話聊天機器人ChatGpt的美國科創公司Open AI的創始人薩姆-奧爾特曼可能會到場發言。 （完） 【編輯：錢林霞】
|
