6 月 12 日消息，IT之家從“網信上海”微信公號獲悉，為貫徹落實中央網信辦“清朗・整治 AI 技術濫用”工作部署，4 月下旬以來，上海市委網信辦聚焦 6 類突出問題深入開展第一階段專項行動。現向社會公布階段性工作成果，進一步凝聚共識，共同營造清朗網絡生態。

上海市委網信辦指導小紅書、嗶哩嗶哩、拼多多等 15 家重點網站平臺，集中清理“一鍵脫衣”、未經授權的人臉或人聲克隆編輯、未備案等違規 AI 產品、商品及相關營銷、炒作、推廣、教程信息。小紅書、嗶哩嗶哩主動發布專項行動治理公告，開通了有害 AI 內容的舉報受理處置渠道；星野開展智能體全面排查清理。各重點網站和 AI 平臺共攔截清理相關違法違規信息 82 萬余條，處置違規賬號 1400 余個，下線違規智能體 2700 余個。經整治，網絡違規 AI 信息顯著減少。

上海市委網信辦深化大模型合規指導服務中心作用，指導各類提供生成式人工智能服務的主體落實合規義務，強化安全評估，迄今已完成 82 款大模型備案，87 款應用登記。對 3 款未履行備案或登記程序提供服務且存在風險的應用，依法約談并給予行政處罰。