近期，一些消费者利用人工智能工具制作虚假照片，骗取退款。此事被部分交易员在社交平台曝光，立即引发热议。该AI软件甚至获得了“退款神器”的称号。鬼果、玻璃杯打碎、奶茶打翻……据记者了解，商家在社交平台上披露的类似案例中，大部分案例都是消费者向AI软件发出指令，AI软件生成相应图像，然后声称商品存在质量问题申请销售处理。消费者正在使用人工智能伪造缺陷产品的图片来申请退款。应该如何描述这种行为？是否涉嫌违法？如果平台能够履行审核义务并支持买家退款，那么如果商家亏损了怎么办？监管部门、电商平台和商家可以采取哪些具体措施管理和遏制它？ ▶ 案例一：伪造发霉酸奶图片 △ 人工智能修改发霉酸奶假图片，原图与伪造图片对比 △ 晒黑平台图片，部分商家贴出了所谓产品“缺陷”的图片。有些产品照片看上去很假，但仔细一看，还是有很多漏洞的。比如，修改后的照片中，产品发生了不合理、不合理、不一致的物理定律变化，部分照片还带有水印或“人工智能生成”的标注。记者搜索发现，涉及的商品多为食品、日用品等，虽然单价不高，但仍引发讨论。这种行为是“羊毛出在”还是违法？中国互联网协会法治委员会副秘书长胡刚：按照我国《民事诉讼法》有关规定il法和消费者权益保护法规定，消费者必须遵守诚实信用原则，依法维护自己的合法权益。消费者保护法实施条例还规定，如果消费者通过欺诈、捏造事实等方式为支付经营者辩护。 北京邮电大学互联网治理与法律研究中心主任、教授谢永江：如果金额较小，消费者可能涉嫌民事欺诈，商户可以要求退款。如果涉案金额较大或者情节严重，消费者还可能存在行政违法行为，甚至涉嫌欺诈。 《治安管理处罚法》有相关规定。此类诈骗行为可处五日以上十日以下拘留或者2000元以下罚款。情节严重的，处十日以上十五日以下有期徒刑，并处罚金重3000元以上。如果金额足够大，例如超过3000元，达到刑事立案标准，根据刑法就可以构成诈骗罪。胡干表示，除了消费者之外，不少经营者也利用人工智能等技术进行诈骗。与此同时，恶意索赔的消费者仅占消费者的极小比例。那么，如果平台未尽到审核义务，支持买家“AI诈骗”退款，给商家造成损失怎么办？胡刚：根据我国《网络安全法》、《电子商务法》等法律的相关规定，平台经营者必须履行身份验证、内容分析、争议解决等合理的法律义务。平台经营者未妥善履行尽职调查和调解义务，给平台内经营者造成损失的，平台经营者将对恶意索赔的消费者共同承担相应的赔偿责任。记者还尝试用各种人工智能软件进行“重现”，发现生成的部分结果可能是假的。商家无法识别诚实消费者，需要增加防伪成本，例如记录产品包装过程；消费者难以辨别营销人员宣传的真实性，购买决策犹豫不决；平台陷入了对交易双方行为进行审计的困境。一些买家利用人工智能造假来危害市场环境。监管部门、电商平台和商家可以采取哪些具体措施进行监管和防范？面对AI回归的影像，交易者也探索并应用了一系列应对措施。部分商户表示，提高了“仅限退款”交易申请的审核门槛，例如比如要求消费者提供不同角度拍摄的照片甚至连续的视频证据。有些购物应用程序要求您通过自带的相机功能拍摄商品照片，并且您无法从相册中选择照片。胡刚：从监管角度看，有必要继续完善相关法律法规，特别是及时出台针对人工智能技术打击欺诈等违法行为的特别规定，或者完善相关技术指南，明确法律标准和处罚标准。二是要强化技术监管，运用技术手段加强对相关违法行为的监测、识别和打击，同时对个别常见案件进行严厉处罚，造成不良影响。胡刚认为，要加强国家强制性标准的建设和实施，即强制性标准人工智能技术生成的内容必须带有不可更改的水印或标识，以便于及时识别和有效监控。胡刚：对于电商平台经营者来说，需要加强技术和管理措施，比如升级审核技术、优化审核流程、加强对商家和消费者的培训和支持等。对于交易者来说，要加强证据保全，提高风险防范意识，积极有效维权。为规范人工智能发展问题，《人工智能生成合成内容标注办法》自9月1日起正式实施，明确规定人工智能生成内容必须“经过工作认证”，人工智能生成合成内容必须有明确和隐含的标签。但新规并未明确规定法律后果不执行AI标注的原因。谢永江建议，针对“仅限退款”的申请，dapat平台将升级相应的技术手段，对新规要求的图像或视频进行大分析，并履行合理的分析义务。谢永江：当平台遇到这种新现象时，必须对照片和图像进行大量分析，以确定是否是假的。应有配套的技术手段，提高识别率。另外，最好听听交易者的意见，阅读他们的报告。贸易商有救济渠道。如果平台未履行审核义务，平台就有过错，给交易者造成损失也必须承担责任。此外，谢永江还提出开发跨平台的消费信用联动机制，应对此类恶意退款行为，将不诚信消费者纳入信用报告。克系统。谢永江：如果可以跨平台进行信用链接，你在某个平台使用这种方式申请退款，那么你在其他平台也会被列入相应的黑名单或观察名单。对于消费者来说，如果恶意申请退款，就会付出相应的代价。这一机制的建立可以由主管部门牵头，也可以由行业平台牵头。主编：李源山发言请遵守《新闻评论服务协议》。
