【315专题报道】人工智能造假的迷茫中，你看的直播“真实”吗？

来源：环球网 你有没有想过这个问题：在直播间获得热烈代言的明星们真的坐在镜头前吗？你的祖国真的有胡椒田吗？这位经验丰富的“育儿专家”背后真的有人吗？上述所有场景现在都可以由人工智能在几分钟内批量生成。人工智能正在以前所未有的速度融入直播交付链。它本来是为了提高展示效率、优化内容生产的目的，但如果使用不当，它可以悄然从“辅助工具”转变为“伪造工具”。消费者在直播间看到的明星代言、制作现场直拍、使用效果等可能不是真实场景，而只是经过AI处理的“表演”。随着“3月15日”的临近，越来越多的现实问题需要重新审视。当人工智能驱动的面部修改、虚拟场景、利用形象美化进行店内营销，消费者在套餐消费中会面临科技创新还是欺骗？ 1、混沌视角：观察直播间真相，从现有案例来看，直播分发中的AI造假已经显现出一些明显迹象。最典型的例子就是利用明星形象获取虚假代言。一些零售商利用人工智能换脸、克隆声音、语音拼接等手段，“邀请”明星进入直播间，制造热门产品“授权代言”的假象。消费者通常基于对名人形象或身份的信任而不是对产品本身的信任来下订单。 2025年6月，北京市海淀区市场监管局查处首例人工智能利用假名人运输货物的案件。某公司利用人工智能技术剪辑知名主持人公司视频发布虚假口头内容，并在其在线视频帐户上发布了一种常见食品“深海多烯鱼油”的广告，声称具有“可以解决头晕和头痛”等医疗功效。最终，他因违反广告法相关规定受到行政处罚。随之而来的是，主播眼的身份变得更强，信心也随之增强。一些账号不直接模仿名人，而是利用人工智能生成“专家”、“宝宝妈妈”、“原产地经营者”等虚拟角色，利用识别标签让消费者放松警惕，让他们误以为自己面对的是一个有真实体验和真实使用体验的卖家。另一类高风险问题是虚拟场景中产品效果的伪造。以青椒为例，虽然直播中展示的种植景观、株型和表现结果广播区 c与真实结果明显不同，它们被包装为“从农场直接发货”的证明。类似的做法会将不存在的质量、稀缺性和信任优势转化为优质产品。还有更令人困惑的情况，即人工智能修饰的照片与真实事物严重不一致。例如，明显违背常识的图像，例如“树上盛开的花朵”，也可以用在产品页面上。这看起来很愚蠢，但它实际上表明人工智能生成的内容对于低成本的大规模伪造非常有用。一旦消费者被吸引并下订单，他们收到的实物产品往往在材质、外观和功能上受到严重损害，导致“令人印象深刻的摄影和文字与压倒性的成功”之间的差距。这些问题的总和表明，人工智能供应的中断不再只是宣传歪曲。 ，但逐渐形成了有组织的链条消费者欺诈。 2. 法律分析：AI直播造假触犯了哪些红线？第一条红线：虚假宣传 当人工智能生成的内容被用来夸大广告、伪造效果、捏造消息来源或虚假支持名人时，可能会违反虚假广告的法律限制。只要广告与产品实际情况不符，足以影响消费者的购买决定，就不仅仅是“外观好看”的问题，而可能构成虚假或误导性的商业广告。第二条红线：消费者欺诈者在推荐产品或服务时必须提供真实、准确、完整的信息。利用人工智能故意制造与现实不同或根本不存在的显示内容，诱导消费者基于误解做出交易决策。如果情况如此，就直接侵犯了消费者的知情权和自主决定权，属于属于《消费者权益保护法》中的欺诈行为。第三条红线：侵犯精神权利 改变人工智能的面貌也会引发侵犯精神权利的问题。未经许可使用他人图像或声音进行合成或商业传播，基本上超出了正常技术使用的范围。直播中利用明星形象推销产品或者捏造他人声音吸引流量的行为也可能属于精神权利保护的范围。第四条红线：缺乏强制性人工智能标签。人工智能生成的内容已经达到了如果不仔细识别可能会与真实内容混淆的程度。如果不依法标记，消费者可能会被误导，认为人工智能生成的内容是真实的录音。因此，企业场景中的AI图像、音频、视频不能刻意隐藏其生成属性，而必须是可识别、可追溯、可扩展的。可负担。 3. 律师建议：如何让消费者保护自己免受人工智能销售陷阱的影响？首先，购买前请检查。当你看到明星代言、功效宣称、起源故事、超低价产品等内容时，你所做的不仅仅是在直播间听几句话。应同时查看明星的公众账号对账单、卖家营业执照、质检评级，并比较同一商品在多个平台上的价格、描述和评级。同时，还要注意照片中的细节。面部表情太完美，嘴型和声音不同步，背景很美。这些“过于完美”的信号往往是人工智能生成内容的痕迹。购买后请保留收据。产品页面、直播预约、对客户的服务响应、订单记录和付款信息必须及时捕获r 记录并存储。实时重播和产品详细信息页面可以随时更改或删除，并应尽快存档。我们收到产品后，立即将实际产品与广告内容进行比较，并收集材料、外观、规格、功能和原产地描述等关键点的证据。很多卖家收到投诉后，立即删除页面，不事先保留任何证据。此后，维权陷入“页面已被删除，证据难找”的不利局面。我们发现问题，主动维权。您可以向平台要求7天无理由退货，或者通过平台投诉渠道.taform针对“无标签AI合成”、“虚假宣传”、“宣传与实际产品严重不符”等话题进行投诉。您也可以拨打12315热线或向市场监管部门举报或其他部门。如果金额较大或情况严重，您可以取消交易、退货退款，并依法主张“退款1、赔偿3”等赔偿。直播商品信息变得更加透明，交易变得更加直接，消费者与卖家更加贴近。消费者对直播工作室的信任基于“眼见为实”的简单信念。人工智能欺诈不仅影响特定交易的公平性，也影响整个直播电商赖以生存的信任基础。这需要各方的共同努力。平台除了分配流量外，还必须过滤内容。尤其是AI标识是否清晰。监管机构必须继续加大打击假冒产品的力度。作为消费者，我们也必须对人工智能生成的内容有更多的认识，并在享受人工智能内容的同时保持必要的谨慎。技术优势。保护“眼见为实”不仅是保护消费者权益的口号，也是人工智能时代诚信最大化的根本要求。律师简介：郑伟，北京兴业律师事务所创始合伙人。中国政法大学法学硕士联席主任。中国政法大学互联网治理研究中心研究员。
特别说明：以上内容（包括图片、视频，如有）均由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由网易号用户上传发布，网易号是一个仅提供信息存储服务的社交媒体平台。