所有版权归中国经济网所有。
中国经济网新媒体矩阵
网络广播视听节目许可证（0107190）（京ICP040090）
八家平台签署承诺书，解决AI合成技术滥用风险，规范电商直播行业秩序 勾勒应用“合规红线” 记者今天从北京市消费者协会获悉，北京消费者协会与8家电商企业签署了全国首个《推动AI合成技术规范应用承诺书》，以解决AI合成技术滥用风险，规范电商直播行业秩序。京东、美团、拼多多、唯品会、抖音、快手、小红书、微信直播等平台均建立了企业自律标准，明确了人工智能技术应用的“合规红线”。近年来，新技术的应用AI人类数字直播、虚拟场景分发等技术已经流行。在消费者体验不断改善的同时，一些商家的违规经营却引发了消费者的焦虑。北京市消费者协会进行了为期三个月的专项调查，发现了当前人工智能合成技术应用中尚未解决的问题，包括对消费者知情权保护不足以及更广泛的“真假难辨”问题。根据3162份已完成的有效调查数据，近90%的受访者要求“对人工智能生成的内容进行明确标记”，超过70%的受访者接受虚拟背景，但强调需要突出指示。超过 60% 的人认为人工智能数字人类“缺乏真实情感”，近 30% 的人担心他们“可能会误导消费者的决定”。合成技术的滥用会造成消费者风险并引发“虚假营销”问题。在重新针对AI数字人在电商平台直播商品的行为，北京市消费者协会公布了10个样本的AI数字人直播商品体验。我们做了一些研究，发现：有五个样本在直播界面上标注了“AI生成”、“真实场景”等即时信息。有五个样本没有及时回应实验者的问题或与实验者互动。六个样本存在未引发跨私人行为风险等问题。此外，平台审核机制也存在不足，风险管控和防范能力有待提高。研究发现，当前一些电商平台尚未建立强有力的专门筛选AI内容的制度，对商户使用AI数字人、虚拟场景等技术缺乏有效的管理规则和准确的识别技术。在重新针对上述问题，承诺以“标签透明、审核严格、责任可追溯”为重点，提出了遵守法定限量、明确合规限度、强化标签要求、保护知情权等具体措施。营销人员和内容创作者在利用人工智能技术生成合成数字真人主播或虚拟场景时，应显着标注“人工智能生成”或“真实场景”等标识。建议利用平台提供的内置AI内容识别功能主动申报，严禁利用AI合成脸部修饰技术冒充明星带货。同时，我们采用技术监控和人工审核相结合的方式，防止违规行为升级。在内容审核和分发过程中对直播内容和直播场景进行监控。当怀疑有问题时一旦发现人工智能数字角色或未标记的人工智能虚拟场景，将采取适当措施，在发布的内容周围添加可见且及时的警告标志。如果平台确定确实存在违规行为，将采取包括链接屏蔽在内的额外措施。八家平台还承诺坚决抵制恶意删除或修改。任何篡改、伪造、模糊人工智能内容标识的行为都将依法严肃处理，维护人工智能系统的严肃性。 （记者杨兆奎）
（编辑：何欣）
作者
