“我的家人不知道那是否真的是我。”近日，演员王劲松因形象被盗用于广告而退出节目以“打假”。随着AI（人工智能）的发展，这种“AI造就我”的问题已不再是新鲜事。此前，周星驰工作室也公开表示，周星驰的脸面临被滥用的风险。从假照片到换脸再到人工智能口型同步，神奇的人工智能改变内容正变得越来越成为现实。在人们享受人工智能视频带来的视觉盛宴的同时，混乱的监控也随之凸显。人工智能修改照片和视频的法律限制在哪里？如何从源头对人工智能图像造假进行系统化管理和监管？ 【圆桌代表】全国人大检察院副院长、美的集团副董事长钟正高杰，全国政协委员齐向东陕西省人民检察院副检察长、全国政协委员、千信集团总裁齐向东通过本质上冲突的版权规则增加技术红利钟正：除了传统的视频通讯方式外，到2025年还会有更多的通讯场景使用数字人才进行直播，识别起来会更加困难。随着数字人生产运营门槛的降低，直播领域欺诈违规行为增多，暴露出身份虚假、内容失范、权益纠纷、监管滞后等突出问题。这些问题不及时解决，将会扰乱市场秩序，损害用户权益，影响社会信任和人工智能技术的应用前景。高杰：随着人工智能的快速发展和广泛应用，AI生成的图像在电子商务领域得到广泛应用，极大地提高了产品展示效率和行业运营效率。另一方面，人工智能造假图像带来的混乱日益显现，扰乱市场秩序，侵犯消费者合法权益。在电商领域，人工智能产生的虚假图像的混乱正在影响市场秩序，侵犯消费者的合法权益。一些不法企业利用人工智能制作虚假宣传宣传和过度表述，给消费者带来“图文不符”、“商品不包含在内”等问题。少数不法分子利用人工智能伪造产品缺陷、恶意退款、欺诈照片，给正规商家造成经济损失。齐向东：现象人工智能“神奇改变”视频本质上是技术利益与版权法规之间的冲突。与此同时，人工智能技术正在快速迭代，让人们更容易创建和改编内容。另一方面，一些人利用人工智能篡改、滥用、冒充内容，严重侵犯原创内容的权益和合法利益。久而久之，没有人愿意做原创，最终侵蚀了行业乃至整个行业的活力。法律责任界定比较模糊，电商平台必须承担“打假”责任。高杰：现行法规对于电商场景中人工智能图像造假的认定标准、删除规则以及处罚范围还不够明确。法律责任的界定相对模糊，警方实践中也没有统一的依据。监管技术和手段相对落后。第造假AI图像门槛低、造假成本低、识别难度大。即使实施“利用人工智能等的合成内容显示措施”，显示不合规、未经授权的标签伪造等问题仍然存在。此外，尚未形成监管机构、电商平台、人工智能技术服务商等共同治理的协同治理机制。缺乏数据互操作性和明确的问责制，很难为全链治理创造协同效应。电商平台必须承担相应的责任。一是鼓励电商平台利用人工智能完善假货图片审核机制，完善食品、美妆、农产品等重点品类的商品图片审核，接入权威检测技术工具，提高识别准确率，减少假货影响。不正确的决定。二是完善平台信用处罚制度；目标是惩罚发布虚假人工智能图像或恶意退款请求的卖家。将个人纳入电商信用黑名单，全平台实施联合限制制裁。三是畅通消费者和授权销售商的维权渠道，优化投诉处理流程，提高维权效率。四是利用人工智能图像向消费者传播风险提示和识别知识，提高风险防范意识，诱导理性消费。钟正：数字人类的颠覆主要是由于法律和监管体系的不完善。再者，这些是肖像权、知识产权、著作权等，需要明确人工智能合成的内容如何界定。加强人性化数字直播的管理，势在必行整合多方责任，加强跨部门协同监管和社会监督。我们敦促商家、平台、人工智能工具提供商履行核心责任，明确各方义务，包括内容审核、标签合规、权益保护等。畅通用户举报渠道，鼓励公众参与监督。建立网络安全、广电、市场监管等部门标准化协作监管机制，统一规则、共享数据、共同执法，形成监管合力。 “眼见为实”已经结束，人工智能生成的内容需要加强。高杰：工信部将牵头加强对技术研发的支持，支持科研机构与企业实施联合攻关，开发开发具有自主知识产权的人工智能生成内容识别、检测和溯源技术，建设统一的人工智能生成内容识别和验证公共平台。网信、工业和信息化、市场监管等部门联合制定电子商务领域人工智能生成内容管理细则，明确人工智能图像显性和隐性标记要求，强制重点品类使用不可篡改标记，明确人工智能“假图像”违法违规地位，建立渐进处罚机制，强化严格法律限制。钟正：加快推进《人工智能法》等相关立法进程，制定数字真人直播专门管理规定。实施人员登记归档数字化系统，强制公开确保有关技术生成的属性及其背后的操作实体的信息，以便“可以识别数字图像并追踪到负责任的参与者”。 《消费者权益保护法》《广告法》已修改，数字直播纳入监管，虚假广告、明星恶搞等消费欺诈行为将受到严厉打击。同时，完善知识产权、精神权利相关法律法规，明确数字人物创作中真人图像、声音、个人信息等允许使用的限制，加强对未经授权使用的制裁，保护权利人的权利和合法利益。齐向东：在先进的造假技术面前，“眼见为实”已经彻底结束。一般人首先要“查二、卫三、卫四”ce，”但这很简单，也很实用。首先要做的就是看细节，找出破绽。在观看视频的同时，可以留意平台的提示，或者自己仔细辨别一些线索。比如光影是否自然、人物脸部的嘴巴形状、声音是否完美同步、眼神是否硬朗、背景是否清晰合理等等。相信当局，增强您的信息免疫力，并对非官方、无来源的“爆料”、“内部人士”和“名人说法”保持警惕。我们更要对误导性的投资或转移保持高度警惕，通过官方渠道进行二次核实，避免被人牵着鼻子走。三是防泄密和隐私保护。降低个人信息被用于人工智能训练或欺骗的风险，避免被盗用请勿随意发布高清正面照片或原声视频，或禁用采集不必要的人脸和声音的权限。四是维护权益，及时行动。如果您发现自己被AI欺骗、危害，应立即截图记录证据，更正，请求从平台下架，并通知网海信息安全部。如果您是名誉受损、欺诈、勒索等行为的受害者，您必须采取措施向警方举报并提起法律诉讼。北京贝壳财经报记者 张晓辉 罗一丹 陈维成 编辑 徐玉婷 插图：王金宇 校对：史春雷 刘军