據《洛杉磯時報》報道，9月初兩名青少年搭乘一輛 Waymo 無人駕駛出租車，最終卻坐進了警車後座。Waymo 表示，車輛檢測到「涉及槍支的服務條款違規」，於是自動靠邊停車並通知了緊急服務部門。警方隨後據稱在車內發現一把已上膛的 AR 式「幽靈槍」，將兩名乘客逮捕。
這起逮捕事件暴露出圍繞隱私與自動駕駛汽車的大量未解問題：這些車輛究竟在記錄什麼、錄影會被如何使用、乘客在車內應期待多少隱私。Waymo 的車輛佈滿了攝像頭，早已被捲入隱私與監控的爭論。據彭博社報道，執法機構曾多次取得搜查令，調取 Waymo 車輛拍下的錄影。去年，洛杉磯警方就獲取過一輛附近 Waymo 車輛記錄下的肇事逃逸畫面。在洛杉磯的反 ICE 抗議期間，有五輛 Waymo 被破壞並縱火，當時人們質疑這些車輛是否可能拍下抗議者影像，並被用作識別或逮捕的證據。Waymo 並不公開披露收到多少執法請求、以及配合的頻率。
這些擔憂與對 Flock 自動車牌識別攝像頭網路的反彈如出一轍——後者讓警方能夠跨轄區追蹤車輛，引發了對政府監控與濫用的擔憂。與固定的 Flock 攝像頭不同，Waymo 穿行於城市之中，車內車外都裝有攝像頭。
此次青少年被捕案把上述擔憂又推進了一步。警方並非在案發後找上 Waymo 調取攝像頭恰好拍到的畫面；而是 Waymo 自己檢測到車內情況，並主動發起警方響應。Waymo 發言人 Julia Ilina 在給 The Verge 的郵件中表示，公司利用車內攝像頭協助執行服務條款，包括檢測違禁物品與行為。她說，Waymo 使用自動化技術幫助團隊識別潛在違規，例如車內出現槍支。「如果 Waymo 在車內檢測到槍支，我們可能會聯絡當地執法部門，」她補充說。
Waymo 沒有解釋其自動化系統如何判定某物可能是槍支、在標記前需要多高的置信度、從自動警報發出到致電警方之間人工扮演什麼角色，也沒有說明還有哪些服務條款違規可能觸發警方響應。這些都是重要的資訊缺口。
這不是人類計程車司機決定撥打 911，而是一輛配備攝像頭和 AI 大腦的無人駕駛汽車，把涉及乘客的情況升級給了警方。
自動駕駛公司 Zoox 前工程師、AV 安全非營利組織 SAVE-US 技術顧問 Bob Somers 表示，他預計 Waymo 的系統會尋找一系列潛在危險的武器和行為。他說，軟體未必需要確信自己看到的就是槍支，它可以先標記出疑似槍支的物體，交由進一步複核。「如果檢測到某類特定物體，那大概會接入一名遠端操作員來看看發生了什麼。」
卡內基梅隆大學榮休教授、研究自動駕駛安全的 Phil Koopman 表示，計算機視覺系統可以被訓練來識別物體和潛在危險情況。「如果你能訓練計算機看路並決定如何駕駛，你就能訓練計算機判斷某人是否拿著槍，」Koopman 說。但他補充，這些系統「從來不是百分之百準確」。
這正是人工複核這一未解問題變得重要的地方。人類計程車司機看到乘客拿著東西時是有背景資訊的：他們全程都在車裡，能聽到乘客說什麼、可以提問，能判斷那東西是真槍、玩具還是別的什麼。今年 7 月，Waymo 就曾因兩名青少年未成年飲酒、並從車內用水珠玩具槍射擊而報警，當時尚不清楚這些青少年最終是否面臨指控。
被叫來複核某個被標記瞬間的遠端工作人員，可能並不具備所有這些背景，因為他們不像人類司機那樣經歷了整段行程。Waymo 表示，車內麥克風通常只在乘客與 Ride Support 通話時、或乘客主動開啟時才處於活動狀態，這意味著複核人員可能聽不到被標記瞬間之前發生了什麼。截至今年早些時候，Waymo 在美國和菲律賓任一時刻約有 70 名「遠端協助人員」在崗，他們「向 Waymo Driver 提供建議和支援，但不直接控制」車輛。
從更廣的視角看，這起事件折射出自動駕駛行業的一個結構性張力：無人車為了安全與合規必須持續感知車內環境，而這種感知能力天然具備監控屬性。當車輛從「記錄者」變成「報警者」，乘客與運營商之間的信任契約、以及執法部門獲取車內資料的邊界，都將面臨更嚴格的審視。目前 Waymo 在資訊披露上的剋制，使得外界難以評估這類主動報警的頻率與準確性，相關規則也仍待釐清。