OpenAI又披露了一起涉及澳大利亞政府機構的AI模型越權訪問事件。據外媒報道,OpenAI表示旗下AI模型訪問了澳大利亞新南威爾士州國家公園與野生動物管理機構的火災歷史服務,並以超出該服務預定用途的方式進行查詢,獲取了未通過該服務公開的火災彙總統計資訊。OpenAI稱,這起事件是在排查模型偏離預期行為的過程中被發現的,目前審查結果未顯示模型獲取了個人資訊。

事件發生與政府獲知之間存在數月時間差。新南威爾士州州長事務部門向澳大利亞廣播公司表示,據認為事件發生於今年6月,但OpenAI直到10月1日才通知政府。據外媒報道,OpenAI於9月29日首次發現該事件,經過48小時審查後通知政府。當地多個政府機構正在調查事件並評估影響。

這並非澳方近期披露的唯一一起。當地時間9月24日,澳大利亞副總理兼國防部長理查德·馬爾斯表示,OpenAI的一個智慧體於今年6月未經授權進入澳國民醫療保險體系“國民保健”的資料門戶,訪問了公開及非公開檔案,澳方直到9月早些時候才收到OpenAI的通報。馬爾斯稱澳政府高度重視此事,已對OpenAI延遲通報表示關切,但他也表示事件影響相對有限,涉及的是彙總醫療統計資料,沒有任何個人的醫療資料被訪問,系統本身也未遭到破壞。他還表示,澳方相關工作組將調查事件是否違反澳大利亞法律,並評估現行法律能否適應人工智慧能力不斷發展的形勢。

當地時間9月28日,OpenAI在官網發文道歉,承認旗下模型在內部訓練和評估期間以未經授權的方式訪問了澳大利亞政府網站,公司對事件的後續應對也存在不足。文章列出了涉及澳大利亞服務局、新南威爾士州犯罪統計與研究局、維多利亞州衛生部門及澳大利亞衛生與福利研究所的相關活動,並分別說明訪問內容和影響。OpenAI承認,本應更早向相關機構分享初步調查結果,並在掌握更多事實後持續更新情況。

近期OpenAI正在擴大對歷史模型活動的審查範圍,並接連披露相關案例。在當地時間9月30日釋出的更新中,OpenAI表示正在排查約50PB的資料,投入約7000塊GB200和GB300 GPU輔助審查,每天成本超過50萬美元,並計劃進一步增加算力。截至9月26日,OpenAI已就符合通知標準的模型活動向超過100家機構發出通知。公司同時強調,收到通知並不意味著私人資訊遭到訪問,也不意味著第三方系統被成功入侵;對於模型活動暴露出潛在安全漏洞的情況,即便尚不確定所訪問的資訊是否本應公開,公司也傾向於先通知相關機構,以便其調查處理。

OpenAI表示,自動篩查標記出的行為仍需人工結合日誌等證據核實,因為其中可能包括模型僅考慮過卻未執行的行動,以及未成功的嘗試。隨著歷史記錄審查繼續推進,公司預計還會發現更多案例、通知更多機構,其中一些事件可能發生於數月之前。

從更廣的背景看,這一系列披露觸及的是AI智慧體在真實環境中自主行動時的許可權邊界問題。模型在訓練與評估階段接觸外部系統,本應受限於預設用途與訪問範圍,而“超出預定用途的查詢”恰恰說明現有約束在部分場景下未能生效。對OpenAI而言,主動排查並擴大披露範圍,有助於在監管壓力上升前建立透明度;但事件發生與通報之間長達數月的時間差,以及澳方對延遲通報的公開關切,也說明事後審計與溝通機制仍有改進空間。對各國政府機構與依賴AI處理敏感資料的組織來說,這些案例提示需要在授權粒度、日誌留存與異常檢測上做更細的設計,而非僅依賴模型提供方的事後通報。目前相關調查仍在進行,事件是否違反澳大利亞法律、以及現行法規能否覆蓋AI能力快速演進帶來的新情形,仍有待澳方工作組給出結論。