據《紐約時報》消息，美國一名父親馬克（Mark）由於年幼的兒子鼠蹊部發炎腫脹，為了讓醫生視訊看診而用 Android 手機拍下兒子包含私密處的特寫照片，但隨後卻遭 Google 演算法判定涉及「兒童性侵害與性剝削」，導致馬克的 Google 帳號被完全刪除。

這也讓馬克幾乎失去了所有必要的 3C 個資，包含 Google Drive 裡的檔案，手機的備份，Email 帳號，Google Photos 上的照片，手機聯絡人，行事曆，以及 Google Fi（Google 的虛擬電信服務）的電話號碼，導致無法收到重要的簡訊驗證碼。

《紐約時報》也還原現場，指馬克在拍下含有鼠蹊部發炎的幼兒照片後，是傳送給使用 iPhone 的妻子再遠距提供給醫生診斷，約兩天後自己的 Android 手機發出刺耳的叫聲，提示馬克 Google 即將被停用，推測是被演算法自動判讀為兒童色情照。不過，後續馬克向 Google 求助，則沒有收到回應。

儘管隨著美媒報導，馬克的事件受到輿論關注，但 Google 官方仍不打算為其恢復帳號，原因是 Google 認為判斷過程沒有問題，且先前馬克上傳到 Google 雲端的影片中，有幼童與裸體婦女共眠的畫面（應為馬克的妻子與兒子），即使美國警方已完成調查，確認馬克沒有犯罪嫌疑。

數據也指出，美國科技巨擘一年會標註數百萬次兒童性剝削或性侵害的影像，而 Google 每年提交的就有 60 幾萬，其中並有 27 萬個 Google 帳號因此被關閉。Google 目前也開發出一項 AI 工具，不只能辨識相關影像，也能協助找到未知或潛在的受害者，而這項技術目前也由 Google 與 Facebook 分享。

但這也意味著，用戶上傳到 Google 雲端的照片，將會被官方用某種演算法掃描。蘋果的 iCloud 原先也計畫推出類似的機制來掃描照片，但受到隱私團體抵制而推遲至今。目前，馬克仍在尋求幫助，希望找回自己的 Google 帳號。

文章來源