《紐約時報》報導，一名爸爸馬克（Mark）因遠端醫療診斷需求，拍攝並分享他生病兒子的裸體照片，隨後被Google自動化工具判斷為兒童性虐待與剝削圖像，帳戶也遭停用。法學學者強調，雖然透過科技工具打擊網路傳播兒虐圖像有其必要性，但並非所有裸體兒童的照片都是色情、剝削或虐待的，應設置機制恢復無辜者。

照片遭Google判定涉及兒童性虐待與剝削，隨即遭停用帳戶處分

舊金山（三藩市）的一名全職父親馬克注意到他的兒子陰莖看起來很腫、很痛，於是他使用他的Android智慧手機拍照記錄，以便追蹤病況進展。馬克的妻子隨後向醫療診所安排視訊緊急診療，由於需要照片讓醫生能夠提前檢查，馬克的妻子使用馬克的手機，將兒子腹股溝的幾張高質量特寫傳送到他的iPhone手機，以便上傳到醫療診所的系統中。

而其中一張照片，馬克的手清晰可見，因為如此才能夠清楚地比較腫脹情況。

然而，拍攝照片的兩天後，馬克的帳戶因嚴重違反Google的政策「兒童性虐待與剝削」而被禁用，使他失去十多年的聯繫資料電子郵件和照片，更成為警方調查的目標。

無獨有偶，另一名父親卡西奧（Cassio）在兒科醫師的要求之下，將他兒子內臟部位感染的照片備份至Google，並透過Google的聊天服務將照片傳給他的妻子，其Google帳後隨後也遭到禁用，造成當時正在買房、簽署無數電子文件的他不少的困擾，「這很頭疼。」卡西奧說。

電子前哨基金會（Electronic Frontier Foundation）技術專家喬・卡拉斯（Jon Callas）稱馬克和卡西奧的案件是「危機的前兆」，並說：「可能還有幾十、幾百、幾千起類似案件。」他認為，因為這些指控本身的「有毒性質」，大多數被錯誤判定的人不會公開實際所發生的事情。

馬克表示，「我知道這些公司都在關注，且隱私權利並不是我們期待的那樣，但我沒有做錯任何事。」

在馬克與卡西奧的案例中，經過調查，警方接不認為此案件涉及虐待或兒童剝削，北卡羅來納大學法學教授卡麗莎・柏恩・海西克（Carissa Byrne Hessick）補充，雖然從法律上定義什麼構成性虐待圖像可能很複雜，但他認同警方不構成犯罪的看法，「這些這片是出於非性的原因拍攝。」

然而他們向Google提出申訴，始終無濟於事，無法恢復Google帳戶。

科技工具有效打擊網路傳播兒虐圖像，並發掘潛在的新兒童受虐者

由於科技公司能夠捕獲大量數據，它們被兒童權利倡導者視為「哨兵」，透過審查使用者在服務緝中儲存的內容來防止犯罪；兒童權利倡導者表示，若要打擊網路上猖獗的性虐待圖像傳播，與這些科技公司的合作至關重要。而Google的一份聲明也寫道：「兒童性虐待素材是令人憎恨的，我們致力於防止他在我們的平台上傳播。」

兒童剝削或性虐待的圖像每年被科技公司標記數百萬次，光是Google在2021年就提交了60萬份涉及兒童虐待素材的報告，並禁用超過27萬個用戶；馬克和卡西奧僅是滄海一粟。

PhotoDNA是微軟公司2009年開發出的第一個兒童虐待素材辨別工具，透過既有虐待照片的數據庫，快速梳理大量照片，以辨別出與數據庫中類似圖像。而Google在2018年開發出新的一種人工智慧工具，能夠辨別未曾見過的兒童剝削圖像，意即這項工具不僅能找到已知的兒童受虐圖像，還能夠發現新的受害者圖像，使執法單位能夠解救這些潛在受害兒童。

《數位時代》報導，「迅速辨識新圖片，意味著那些遭到性侵犯兒童的影像，被辨識出來的可能性增加，有助於避免他們受進一步侵犯。」Google工程負責人尼古拉．托多羅維奇（Nikola Todorovic）說。根據Google官方說法，這項AI工具可以幫助人類審查員，移除比平常多出700%的違規內容，能讓人力吃緊的審查團隊，運作得更有效率。

在這些受虐照片被人工智慧標記後，經由Google的人類內容管理員會審查這些照片，再向國家失蹤和剝削兒童中心（National Center for Missing and Exploited Children）CyberTipline等單位通報。

在CyberTipline工作的法倫・麥克納爾蒂（Fallon McNulty）表示，Google發現這些受虐圖像的能力驚人，使他的組織能將這些報告將給警方進一步調查，發揮系統應有的作用。2021年，Cyber​​Tipline報告稱，它已提醒當局注意超過4260名潛在的新兒童受害者，當中也包含馬可和卡西奧的兒子。

據《自由時報》報導，國內也曾有少年將偷拍妹妹下體、猥褻的照片上傳至Google雲端相簿，Google發現後主動通報，我國檢警接獲情資，依刑法乘機猥褻罪嫌及違反兒少性剝削防制條例起訴該名少年。

並非所有裸體兒童的照片都是虐待，須機制恢復錯誤標記的無辜者

並非所有裸體兒童的照片都是色情、剝削或虐待的。

美國兒科學會虐待和忽視兒童委員會主席蘇珊娜・哈尼（Suzanne Haney）博士提到，「我為Google所做的事情鼓掌，但確實有一個可怕的缺失，且影響為孩子做正確事情的父母。」

他建議，即使是在醫生指導下，父母也不要拍攝孩子的生殖器，「大多數醫生可能沒有意識到要求父母拍攝此類照片的風險。」若真的不得不拍攝，也絕對要避免上傳到雲端，並且盡速將照片刪除。

Google兒童安全運營負責人克萊爾・利利（Claire Lilley）對此回應：「我們確實認識到在遠程醫療，尤其是COVID-19（嚴重特殊傳染性肺炎、新冠肺炎、武漢肺炎）疫情時代，父母有必要給孩子拍照以獲得診斷。」Google公司已經諮詢了兒科醫生，以便其人工審查員了解出於醫療原因拍攝的照片中可能出現的情況。

聖約翰大學法學教授凱特・克羅尼克（Kate Klonick）表示，若要考量到照片圖像無法呈現的內容，例如拍攝照片的意圖等，將會是科技工具自動偵測的一大難關；雖然在掃描數十億張圖片的情況下，錯誤標記是不可避免的，但考量到能夠辨別受虐兒童，這項措施仍是值得的。

儘管如此，凱特・克羅尼克仍認為需要一個強大的程序，來清除並恢復這些被錯誤標記的無辜者，「因為這項措施會導致執法部門介入進行調查，更糟的情況是這項措施可能會使父母失去孩子的監護權。」

此外，《紐約時報》也寫道，目前Google堅持原先的審查判斷、採取「默認有罪」，卡麗莎・柏恩・海西克推測，從Google的角度來看，這樣是最容易的，否則Google將解釋「什麼是適合孩子的行為」、「什麼適合孩子拍照」等棘手問題。但他仍也認為，即使科技公司協助執法部門解決和根除兒童性虐待問題，也應該允許修正審查結果。

科技工具掃描相簿仍具有隱私權疑慮

蘋果去年宣布將加入打擊兒童性虐待行列，計劃透過掃描iCloud照片，尋找已知的兒童性虐待素材，但該計劃在隱私權組織強力的抵制下，被無限期延遲實施。

喬・卡拉斯指稱，Google的掃描是侵入性的，任何人個人設備上的家庭相簿應該是「私人領域」。Google發言人則回應，只有在用戶採取「肯定行動（affirmative action）」時才會進行掃描，包含用戶將手機照片備份至雲端時。

卡西歐在Quora論壇上針對自身被Google誤判照片發表想法，「我從中學到了一些東西：第一點，不要使用Google相冊自動上傳。」此外，他也強調在其他地方備份了照片和文檔的重要性，「我絕對不會停止利用 Google 的服務，但我的數據、資料不再由Google自行決定。」

新聞來源

延伸閱讀

【加入關鍵評論網會員】每天精彩好文直送你的信箱，每週獨享編輯精選、時事精選、藝文週報等特製電子報。還可留言與作者、記者、編輯討論文章內容。立刻點擊免費加入會員！

責任編輯：劉亭妤
核稿編輯：羅元祺