原标题:沈阳处置一批涉AI应用乱象自媒体账号
2026年中央网信办“清朗·整治AI应用乱象”专项行动和2026年辽宁省“清朗辽河”网络生态治理系列专项行动启动以来,沈阳市委网信办严格落实上级工作要求,会同公安、教育、卫健等部门,针对利用AI生成虚假信息、虚构突发事件、违规开展宣传、误导公众认知的账号依法依规进行打击处理。现将部分典型案例通报如下。
一是利用AI技术生成虚假新闻报道,违规进行推广宣传
网络账号“沈阳**”“寻访**”“张老师的**”“惠琼**”“沈阳孙**”等作为无新闻资质主体,利用AI批量生产、发布虚假新闻报道,且未对信息来源、人工智能生成信息等内容进行标注,为企业进行违规推广宣传。网信部门依据《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》等法律法规,约谈相关账号使用人并予以批评教育,账号使用人认识到其行为存在问题,主动对发布违规内容账号进行注销,消除影响。
二是利用AI技术生成、发布不实信息,引发公众误解
在沈阳受台风“巴威”影响遭遇强降雨天气期间,网络账号“马墨*”“阿辉**”“北漂**”“小杨租房**”“李传**”等为吸引眼球、博取流量,利用AI技术恶意生成涉汛涉灾不实信息,且未对信息来源、人工智能生成信息等内容进行标注,引发公众误解。网信部门依据《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律法规,对相关账号给予禁言处置。
三是利用AI生成内容渲染焦虑情绪,违规经营
网络账号“春开花**”、“半生*”等,利用AI生成虚构内容在学生家长中渲染焦虑情绪,借机销售初、高中网络在线课程,且未对信息来源、人工智能生成信息等内容进行标注。网信部门依据《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律法规,对相关账号给予关停处置。
四是AI生成应用程序管控机制不完善,内容审核把关不严
App“白**”提供图片生成服务,可生成损害未成年人形象、血腥暴力、宣扬不良价值观的图文内容。网信部门依据《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》等法律法规,责令运营主体开展全链路排查,并针对输入审核、生成过程审核、结果审核、人工复核、用户举报和日志留存等机制完成集中整改。
沈阳市委网信办提示:网络空间不是法外之地,请各类网站平台、“自媒体”账号和广大网民自觉遵守网络相关法律法规,依法上网、文明上网,提高辨别虚假信息能力。沈阳市委网信办将深入开展网络生态治理系列专项行动,持续加大对AI应用中违法违规行为的整治力度,维护清朗的网络舆论环境。
(沈阳发布)
*本网站有关内容转载自合法授权网站,如果您认为转载内容侵犯了您的权益,
请您来信来电(024-23187042)声明,本网站将在收到信息核实后24小时内删除相关内容。