人工智能合成内容新规落地 互联网平台纷纷响应：AI 生成内容不得 “隐身” 传播

　　人工智能合成内容新规落地 互联网平台纷纷响应：AI 生成内容不得 “隐身” 传播

　　AI 生成内容不得 “隐身” 传播。2025 年 9 月 1 日，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》(以下简称《标识办法》)正式施行，所有 AI 生成的文字、图片、视频等内容均须 “亮明身份”。新规落地之际，多家互联网平台积极响应，相关用户协议已修改升级，将严打对 AI 生成技术的滥用行为。

　　各社交平台更新用户协议

　　“AI‘假孙子’总算现原形了。” 市民刘先生在 9 月 1 日打开一家短视频平台时，惊喜地发现之前奶奶爱看的 “萌娃” 短视频下面多了一行小字：“作者提示：内容为 AI 技术制作，虚构内容请谨慎甄别”。刘先生不禁感慨：“这下老人总该相信，这些一两岁的孩子洗菜烧火都是假的了。”

　　这行提示小字的上线，与《标识办法》的正式施行密切相关。该规定明确指出，利用人工智能技术生成的文本、图片、音频、视频、虚拟场景等信息，必须添加显式和隐式两种标识。其中，显式标识指可以被用户明显感知到的标识，例如文字水印、标签、语音提示 “由 AI 生成” 等;隐式标识则是指在生成内容的数据中添加的标识，像是在文件元数据里嵌入相关信息，虽不易被普通用户察觉，但可用于内容溯源和平台监管。

　　《标识办法》清晰地明确了生成合成内容制作传播各主体的责任义务。服务提供者应在内容生成、传播、下载等环节确保标识完整，从源头上为内容打上 “身份烙印”;互联网应用程序分发平台应仔细审核应用是否具备添加标识功能，把好应用上线的审核关;个人用户发布生成内容时应主动声明，对自己发布的内容负责。

　　新规落地后，各社交媒体平台迅速行动，相关用户协议已纷纷更新。微信、视频号、抖音、B 站、微博、小红书等平台，均要求内容发布者以显著方式主动标识 AI 生成内容。对于不主动标识 AI 生成内容的行为，部分平台明确表示会采取限流、下架、封号等措施，以严格规范平台内容生态。同时，部分社交平台还表示，将对可能是 AI 生成合成的内容进行相应提示，即便发布者未主动标识，平台也会借助算法等技术手段，对疑似 AI 生成内容打上 “疑似” 标签，以便用户清晰识别。

　　完善标识防范 AI 以假乱真

　　在 AI 技术快速发展，生成内容日益逼真的当下，给 AI 生成合成内容加上标识，为何需要单独出台文件加以规制?实际上，标识制度的独特制度价值已经成为国际共识。美国、新加坡、欧盟、英国等国家和地区纷纷采取措施推进生成式人工智能标识制度的建立。

　　“标识制度的主要目标是实现大规模、高可靠性和低成本的监管。” 中国科学院科技战略咨询研究院研究员肖尤丹表示，此次新规虽然切口小，但可以用较小的合规成本，较好地解决当前 AI 技术快速发展带来的新问题。标识制度对利用 AI 技术抄袭、搬运内容的新媒体营销号无疑是一次沉重打击。以往，这些营销号利用 AI 批量生成内容，快速 “吸粉” 起号，通过引流带货、账号转卖等方式变现，扰乱了正常的内容创作生态。如今，平台方可以依据标识追溯到服务提供者，明确其是否履行了标识义务，对违规者进行惩处。

　　作为我国人工智能领域首部 “办法 + 强制性国家标准” 的 “组合拳”，配套的强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》也于 9 月 1 日同步施行。该标准针对人工智能生成合成标识的技术实现方式给出了更加细致、精准的指引，并配以具体的实现范例。以视频内容显式标识要求为例，文字提示高度不低于画面最短边的 5%，持续时间不少于 2 秒等。

　　“这有助于相关行业各主体采取相应的技术措施、全面准确落实内容标识义务，并实现标识技术的标准化，提高互认程度，降低由于标准不统一带来的合规成本。” 中国社会科学院大学互联网法治研究中心主任刘晓春表示。有了统一标准，无论是服务提供者、平台还是监管部门，在标识的添加、核验、管理等方面都有了明确参照，能够更高效地推动新规落地。

　　整治 AI 滥用也需防误伤

　　AI 生成内容，已成当下热门内容赛道，百度、B 站、字节跳动、快手等，都曾针对生成式 AI 的创作者提供流量资源扶持、现金补贴等活动，希望借助 AI 技术激发内容创作活力，丰富平台内容生态。与此同时，AI 生成的违规内容信息也纷至沓来，不少社交账号利用 AI 技术造假、博眼球快速 “吸粉” 起号，批量制造虚假人设，大量推送猎奇、养生、情感等内容，并通过引流带货、账号转卖等方式变现。此前，就有账号利用 AI 生成虚拟外国幼儿教育专家，教授所谓的育儿内容，误导家长;还有账号编造国际军事虚假内容，博人眼球。

　　针对这一新形势，2025 年 4 月开始，中央网信办开展了为期 3 个月的 “清朗・整治 AI 技术滥用” 专项行动，共拦截清理相关违法违规信息 82 万余条，处置违规账号 1400 余个，下线违规智能体 2700 余个，对 AI 技术滥用现象起到了有力的震慑作用。

　　如今，除了要求以显著方式主动标识 AI 生成内容外，多个平台也发布公告，重点整治 AI 生成滥用。利用 AI 生成低俗猎奇视频、AI 生成虚拟外国幼儿教育专家教授育儿内容、AI 生成国际军事虚假内容等，正成为重点整治对象。

　　值得注意的是，目前有网络用户表示，自己发布画作、文章、视频被 “误伤”，明明是原创内容，却被平台误判为 “疑似 AI 合成”，面临作品被限流、下架的问题。据悉，目前业内在 AI 低质内容治理方面，占比九成以上的审核工作由机器来完成，机器审核主要依靠算法识别，受限于算法的局限性、数据偏差和场景适配不足等问题，准确率难以达到 100%，仍需人工不断校准。

　　对此，业内专家建议，未来平台应完善复核机制，建立便捷、有效的申诉渠道，让被误判的创作者能够快速申诉，平台及时复查。如有条件，还可在算法识别基础上引入专家评估机制，综合判断内容是否为 AI 生成。对于明确为 AI 生成的内容，采取严格管理措施;对于疑似 AI 生成的内容，谨慎处理，保障创作者的合法权益，在整治 AI 滥用的同时，避免误伤原创作者，维护良好的内容创作环境 。