2020 年起，聯合國和阿拉伯聯合酋長國（阿聯酋）攜手推動 AI 保護兒童計畫（AI for Safer Children），目的在於應對全球兒童性剝削和虐待問題。該計畫通過人工智能技術，如圖像分析、物體識別、文本分析和內容生成，支援執法機構對抗線上兒童性剝削。

這項計劃的必要性在於，近年來網路上兒童性剝削案件激增，美國國家失踪和被剝削兒童中心（NCMEC）收到的報告數據大幅增長，在2022 年 NEMEC 收到超過 3200 萬份投訴案件，與 2010 年的約 10 萬份形成鮮明對比。由於每份報告可能包含數百張圖片和影片，使得傳統人力無法支應現實的需求。一個普通案件，實際上可能需要審查 1000 小時的影像，相當於連續 5 個月的工作量，讓尋求技術突破變得必要。AI 保護兒童計畫就是因此而生，引入各種人工智能技術的方式，提高執法機構處理大量案件和內容的效率。

人工智能技術之中，圖像分析和物體識別兩個方向，能夠自動標記可能含有兒童性剝削內容的案件，協助迅速處理相關數據，進行有效的優先處理。文本分析和自然語言處理工具 則用於分析通訊日誌和數小時的聊天對話，快速識別可疑活動。此外，AI內容生成工具在秘密行動中發揮作用，模擬兒童行為，加強執法機構對潛在威脅的應對能力。

自 2022 年 6月開始，AI 保護兒童全球中心成立，為 106 個國家的執法人員提供 81 種不同的 AI 工具。中心的成員至今不斷增加，推動國際合作和交流。這些科技工具改善了科技時代帶來的龐大案件量，讓積案的情況獲得相當改善。對於一些陳年舊案，也有助於找尋到新的調查資料，讓犯罪者浮上檯面。

美國國土安全部使用 Clearview AI 公司的技術，追察 311 件兒童受害者的陳年舊案。據國土安全部所說，這項技術確實很有幫助，也讓執法者得以成功追查犯罪。

然而，另一方面，Clearview AI 也面臨多國主張該技術侵害隱私，向該公司課以罰鍰。如何在保護隱私和犯罪追查中找到最有利於大眾的平衡，對人權的價值達到最有效的維護，將會是 AI 發展中重要的一環。

參考資料：
UN and UAE's AI Initiative for Child Safety