中央網信辦整治AI技術濫用處置違規產品3500余款

中央網信辦日前表示，清朗·整治AI技術濫用專項行動第一階段工作取得積極進展，累計處置違規小程序、應用程序、智能體等AI產品3500余款，清理違法違規信息96萬余條，處置賬號3700余個。

據了解，清朗·整治AI技術濫用專項行動自今年4月啟動以來，聚焦AI換臉擬聲侵犯公眾權益、AI內容標識缺失誤導公眾等AI技術濫用亂象，深入推進第一階段重點整治任務，部署各地網信部門加大違規AI產品處置力度，切斷違規產品營銷引流渠道，督促重點網站平臺健全技術安全保障措施，推動生成合成內容標識加速落地。

各地網信部門多措并舉、扎實推進，積極履行屬地管理責任。北京網信辦開設AI技術濫用治理舉報渠道，形成用戶標記—平臺核查—聯合處置工作模式，處置有關舉報26篇。上海網信辦推動標識要求落地示范，組織開展4場法規宣貫和專題交流，覆蓋企業400余家，重點企業已基本完成顯式標識規范上線。浙江網信辦加大對AI應用和網站平臺的督導力度，各平臺共攔截清理各類違法違規信息及提問2550萬余條。江蘇網信辦加強統籌協調，聯合江蘇省通信管理局等部門排查AI風險域名163個，封堵和取消接入域名18個。天津網信辦采用人工+技術方式，開展大模型安全監測，通報4批次14個風險問題。

據介紹，中央網信辦將聚焦AI造謠、低俗內容等7類突出問題，開展清朗·整治AI技術濫用專項行動第二階段工作，構建技術監測體系，形成處置處罰規范，推動內容標識如期落地，形成長效工作機制，著力維護清朗網絡生態，推動人工智能向善向好。