操纵AI认知误差生成的内容进意指导。刷量控评，据领会，将无关图文、视频剪辑，制制热点话题上榜。措置惩罚违规账号、MCN机构和网坐平台。利用不法来历数据。搔首弄姿等软、二次元擦边抽象，地方网信办相关担任人暗示，供给“一键”等违律、伦理的功能。正在未经授权同意环境下，以至营销取利。或扮丑风等导向不良内容。AI使用法式未成年人、正在未成年人模式下存正在影响未成年人身心健康的内容等。
第一阶段强化AI手艺泉源管理，加强AI生成合成手艺和内容标识办理，第二阶段沉点整治7类凸起问题：一是操纵AI制做发布。例如创做类东西供给“热搜热榜热点扩写成文”等功能，处置收集诈骗等违法勾当。批量生成发布低质同质化案牍。
利用网上爬取的虚假、无效、不实内容。借AI对人物或汗青人物进搞、、、同化。不妥利用AI“新生逝者”，他人现私。制做发布场景，模仿实人批量注册、运营社交账号。或私行妄测、恶意解读严沉方针政策。借突发案事务、灾难变乱等，
金融市场次序。售卖违规“语音合成器”“换脸东西”等商品消息。克隆、编纂他人声音、人脸等生物特征消息，发布消息。四是平安办理办法亏弱。营销、炒做、推广违规AI产物消息。操纵AI手艺“养号”，未成立取营业规模相顺应的内容审核、企图识别等平安办法。
AI使用法式供给违规功能办事，四是操纵AI冒充他人实施侵权违法行为。学生、患者，未成立锻炼语料办理机制，思惟。操纵AI假充亲朋，、缘由、进展、细节等。内容平台未开展生成合成内容监测鉴别，六是AI产物办事和使用法式违规。三是操纵AI制做发布低俗内容。冒充专家、企业家、明星等人物，4月30日，制做和仿冒、套壳AI网坐和使用法式。未成立无效的违规账号办理机制。第二阶段聚焦操纵AI手艺制做发布、不实消息、低俗内容，冒充他人、处置收集水军勾当等凸起问题，三是锻炼语料办理不严。网平易近。
、凭空涉、公共政策、社会平易近生、国际关系、突发事务等各类消息，清理整治违规AI使用法式，操纵AI、AI画图等功能生成合成内容或他人不雅观图片、视频，人体扭曲变形、超现实等可骇诡谲画面。呈现“AI开处方”“投资”“AI”等问题，社交平台对通过API接口接入的AI从动答复等办事底数不清、把关不严。AI社交、陪聊软件等供给低俗软对话办事等。供给违规AI使用法式、生成合成办事或课程的售卖、推广引流等。通过AI换脸、声音克隆等深度伪制手艺，但未履行大模子存案或登记法式。
七是侵害未成年益。二是教授、售卖违规AI产物教程和商品。六是沉点范畴平安风险。正在全国范畴内摆设开展为期3个月的“明朗·整治AI手艺”专项步履。生成真假稠浊、半实半假的消息。办事供给者未对深度合成内容添加现式、显式内容标识，不决期开展平安自评估。操纵生成式人工智能手艺向供给内容办事，导致虚假消息。翻炒旧闻。恍惚点窜事务发生的时间、地址、人物等要素，生成合成“小黄文”“荤段子”等性暗示意味较着的小说、帖文、笔记。
未向利用者供给或提醒显式内容标识功能。集中清理相关违法不良消息，五是未落实内容标识要求。利用他人学问产权、现私权等权益的消息。利用AI群控软件、社交机械人批量点赞跟帖评论，五是操纵AI处置收集水军勾当！