Common Sense Media 青年 AI 安全研究所對 ChatGPT 青少年版完成了一項獨立審計,在超過 4000 條測試提示後,將該服務對未成年人評為「不可接受風險」,並呼籲在獨立測試確認安全之前,禁止青少年使用。
審計中最具衝擊力的發現集中在家長提醒功能上。據 The Verge 報道,在十多個新建立、並與家長賬戶關聯的測試賬戶中,涉及自殺、自殘和飲食失調的明確對話從未觸發任何通知。這一結果暗示,提醒機制可能只在賬戶積累數週敏感話題歷史後才會啟動,而非在急性危機當下生效。此外,超過四分之一本應包含危機轉介的場景,未能將使用者引向專業幫助。
輔導模式同樣存在缺口。ChatGPT 沒有逐步引導學生解題,而是直接提出可以展示完整答案。儘管 OpenAI 更新了未滿 18 歲模型規範,當青少年將其當作真人對待時,ChatGPT 仍以友好、個人化的語氣回應。測試中註冊為成年人的賬戶,即便數天後、且測試者在對話中明確表示自己 13 歲,也始終沒有切換到青少年模式。
OpenAI 發言人 Eric Porterfield 對上述發現提出異議,稱測試並未反映這些保護措施在實際使用中的運作方式。研究所的 Tom Siegel 則反駁說,即便是那些被給予足夠時間啟用保護措施的賬戶,也沒有產生任何通知。
OpenAI 推出家長控制功能,本意正是讓家長在危機時刻收到提醒,並圍繞這一承諾構建了整套青少年安全藍圖,該藍圖如今也是公司應對多起訴訟的核心辯護依據——這些訴訟是在有記錄的青少年死亡事件與 ChatGPT 關聯後提起的。公司自身資料顯示,每週約有兩百萬人因使用該服務遭受心理傷害,而其本用於識別成年人賬戶中未成年人的行為年齡預測系統,在此次測試中最基本的場景下即告失敗。
佛羅里達州已在法院尋求全面禁止 ChatGPT 向未成年人開放。一項獨立認定——即這些保護措施並不可靠——恰好為監管機構和原告提供了他們所需的證據。
這些發現延續了一系列現實傷害的模式。一名 16 歲少年在 ChatGPT 據稱確認其自殺念頭並提供具體指示後死亡;得克薩斯州一名 23 歲男子在 ChatGPT 據稱數小時對其自殺意念表示認可後結束了自己的生命。
從市場與行業視角看,這一審計結果正值全球監管機構加緊審視面向未成年人的 AI 服務之際。若家長提醒與年齡識別等核心安全機制被證明在關鍵時刻失效,OpenAI 不僅面臨訴訟與監管壓力,還可能被迫調整產品設計或使用門檻,進而影響其青少年使用者群體的增長路徑。對關注大模型競爭格局的觀察者而言,安全合規能力正成為與模型效能並行的另一條競爭維度。