聚焦內容安全和未成年人上網保護，騰訊牽頭推進多項信息內容安全團體標準

近日，中國互聯網協會在北京組織召開了多項團體標準(以下簡稱“團標”)草案評審會，由騰訊牽頭的《基于AI的多媒體內容識別技術能力要求》、《面向網絡信息內容的數據標注流程指南》和《網絡運營者針對未成年人的有害信息防治體系建設框架》三項標準草案通過了評審，正式轉為征求意見稿，會上就標準的內容形成了進一步的共識。來自中國標準化院、中國通信標準化協會、數據通信科學技術研究所、中國電子工業標準化協會、中國科學院信息工程研究所、中國互聯網協會的專家領導參與評審，來自華為、愛奇藝、樂信、探探、易鑫、字節跳動、作業幫、愷英網絡、映客、中國文學藝術基金會姜昆藝術公益基金等企業和機構代表參加了研討。

推動內容安全標準，利用AI促進網絡空間內容清朗

互聯網的發展讓內容豐富的多媒體信息得以快速傳播，幫助廣大用戶實現了零距離的信息傳遞。但同時，由于多媒體內容監管不規范，被一些不法分子鉆了空子，制作文本、圖片、視頻等從事違法犯罪行為，如非法獲取個人信息，散播未經核實的虛假新聞，宣揚邪教或恐怖主義等不良信息，詆毀個人企業政府的名譽，侵害公民或企業財產安全。對此，《基于AI技術的多媒體內容識別技術能力要求》團標規范了面向內容安全的多媒體識別的基本技術要求，對各互聯網運營商對其平臺的信息內容監管給出了指導意見，目的在于預防并及時發現不良信息的傳播。

《基于AI的多媒體內容識別技術能力要求》等面向信息內容安全的AI技術標準制定工作，能讓互聯網運營者高效而精準地篩查傳播在其平臺的黃、賭、毒、恐怖主義等各類惡意違規和違法的有害信息。該標準在多媒體內容安全技術的框架上搭建篩選模型，幫助互聯網運營商明確了內容識別的范圍和標準，并在圖片、文本、音頻和數據安全四個大方向的檢索識別能力上給出了指導意見。當系統有效識別到惡意信息后，可以采取消除等措施防止信息的進一步擴散，達到維護網絡信息安全的目的。為用戶凈化有害信息，建造安全的互聯網環境。該標準凝聚了騰訊在多媒體內容和網絡安全等標準制定上豐富的實踐和落地經驗，對規范互聯網多媒體信息安全具有重要的意義，能夠有效幫助會員單位提升內容安全意識和技術水平。

關注未成年人上網安全，踐行科技向善

在互聯網的使用者當中，未成年人群體頗受關注。近年來，加強未成年人網絡保護、減少網絡有害信息對未成年人的不良影響已成為社會共識。在法律法規層面，我國《未成年人保護法》、《預防未成年人犯罪法》等法律修訂草案中明確提出了網絡保護要求。在實踐層面，許多互聯網公司一直在為未成年人營造良好的網絡生態環境而努力，不斷提升自身產品和服務安全能力的同時也用實際行動踐行企業社會責任。

一直以來，騰訊公司積極跟蹤研究并參與未成年人保護相關工作，在網絡安全保護方面，打造了“守護者計劃”公益平臺，清理有害信息、打擊網絡犯罪，并連續三年聯合全國“掃黃打非”工作小組辦公室開展以“護苗網絡安全進課堂”為代表的未成年人網絡安全教育系列活動，幫助未成年人提高自我保護意識。在內部，騰訊發起未成年人網絡保護安全專項——“繁星計劃”，積極推動利用AI等技術守護未成年人上網安全，免受網絡有害信息的侵害;同時對涉及侵犯未成年人權益的舉報實現快速優先復核，并嚴格處置。

騰訊從自身實踐出發，廣泛聯合同業企業進一步提煉經驗形成《網絡運營者針對未成年人的有害信息防治體系建設框架》標準，該標準確立了針對未成年人的有害信息防治體系框架，為互聯網企業研發未成年人專屬產品/模式，提升信息內容安全技術防護和治理能力，開展未成年人網絡素養教育等工作提供參考。

在標準草案轉為征求意見稿后，騰訊牽頭的上述團標將于明年正式送審，預計明年年內正式發布并推廣應用。