AI换脸App收费高被吐槽新规背后专家称不标识就侵权

　　央广网北京12月14日消息（记者 黄昂瑾）＂AI换脸＂对于不少互联网用户来说并不陌生，仅需上传照片，就能在线体验百变换装、性别转换，乃至预测和伴侣未来孩子的长相。分享这类＂换脸＂后的图片或视频，成为一种亲友间的线上社交娱乐。
　　不过，记者发现，娱乐之余，＂AI换脸＂领域也存在诸多乱象。有不少用户反映，一些＂AI换脸＂App需要收费才能使用，且＂价格很高＂；还有消费者在投诉平台表示，自己在某App支付了全年会员，但一键换装的模板却没有了。
　　此外，还有＂AI换脸＂App开发者因使用的视频模板侵害他人肖像权被判罚。
　　据业内人士介绍，所谓＂AI换脸＂，实际上是一种深度合成技术，目前已经从工业场景转向了消费领域，应用场景更为复杂，面临的问题也更加复杂。需要注意的是，这种技术如不加以妥善使用，可能会侵害社会交往的基础信任，损害公众的名誉权、荣誉权等，进而影响到传播秩序和社会秩序。
　　用户抱怨价格高，
　　App开发者：AI算法及团队昂贵，免费不现实
　　记者近日搜索发现，基于深度合成技术的＂AI换脸＂广泛出现在应用软件、短视频平台及社交媒体平台。
　　＂基本都是抱着娱乐心态。＂来自广州的用户小瑄告诉央广网记者，她曾经在某短视频平台刷到一个预测未来宝宝长相的特效，偶尔会和好朋友分享，＂预测＂朋友们未来宝宝的长相，＂平台官方特效是免费的，那段时间很火，经常刷到，我也试着玩了玩。＂
　　对于＂AI换脸＂这种基于深度合成算法处理的技术，日前出台的《互联网信息服务深度合成管理规定》给出了定义：深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。其中包括人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术，图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。
　　（图源自CFP）
　　记者在应用商店及社交媒体平台了解到多款提供＂AI换脸＂服务的App，应用评论区里褒贬不一。
　　例如，在记者随机搜索的一款名为＂脸猫＂的App安装次数超300万，综合评分2.6分，有用户评价称＂非常棒的软件，体会到了不同风格的我＂＂有很多漂亮的模板＂；也不乏用户＂吐槽＂：＂还要充会员，不仅要充会员，而且最低要30，最高要200多，我建议不要弄了＂＂需要钱，都不是免费的，而且不真实，一看就是批（图）的，糊弄小孩……＂
　　另一款名为＂优颜＂的App介绍称，其＂AI换脸视频＂功能＂用AI技术可以替换各种热门的人脸＂。该App在华为应用商店评分为1.8分，安装次数为20万次。
　　＂每个（模板）都要钱，就没有（免费）体验的，不建议下载！＂＂价格很高，不会再来。＂＂全都要钱，说好的限免也没有，一个视频三块前，实属是有点抢钱了吧。＂在优颜App评论区，同样有大量不满其收费和定价的评论。
　　对此，优颜App开发者在评论区回复称：＂优颜有许多免费的视频，你可以免费玩换脸游戏。但让整个应用程序免费是不现实的，因为AI算法非常昂贵，工程团队也是如此。＂
　　值得注意的是，除对收费行为表示不满外，还有用户在优颜App评论区称：＂所有视频都不是原创视频，全是换脸后盗用的视频。＂
　　汉服模特视频成＂AI换脸＂App模板，
　　App开发者因侵害他人肖像权被判罚
　　优颜App使用的视频模板是否为盗用尚不可知，但＂AI换脸＂App侵权案例已有先例。
　　近日，杭州互联网法院审理了一起因＂AI换脸＂App利用深度合成算法侵害他人肖像权的案件，最终判决App开发者赔礼道歉并赔偿损失共5000元。
　　据＂杭州互联网法院＂微信公众号，原告楼某某是国内一名汉服模特。今年3月，其在某短视频平台发布一段短视频，视频中，楼某某带有清晰的面部古风妆容，身着汉服半身出镜，视频包括多段造型形象片段。被告上海某公司（以下简称＂A公司＂）是一款＂AI换脸＂App的运营主体，该App宣称＂仅需一张照片，立即变成视频主角＂，用户通过支付68元至198元不等的会员费，即可使用全部＂换脸＂视频模板。
　　原告楼某某发现，被告A公司运营的＂AI换脸＂App中有楼某某拍摄的古风造型视频模板。用户可通过上传个人照片，将视频模板中的人脸替换成用户上传的人脸，除五官发生实质性变化之外，其余内容都与原视频保持一致。软件生成换脸后的古风造型视频，用户可以将其保存并其他平台。楼某某认为，A公司的行为侵害其肖像权，请求法院判令A公司承担停止侵权、赔礼道歉并赔偿损失。
　　杭州互联网法院指出，民法典明确将＂不得利用信息技术手段伪造等方式侵害他人的肖像权＂，作为侵害肖像权的一种典型形态予以规制。＂利用信息技术手段伪造＂是指利用信息技术手段编造或者捏造他人肖像，以假乱真，以达到利用不存在的事物来谋取非法利益的目的。
　　杭州互联网法院经审理认为，该案中，楼某某对案涉要素模板视频及替换后视频中所载对应形象的人物肖像均享有肖像权。对于换脸前的视频，楼某某虽以古风妆容并着汉服出镜，但从其面部形象、体貌特征，普通人仍可对其主体身份进行轻易识别。该视频被上传至App作为模板供他人使用时，视频内容未做篡改，亦不发生主体形象不可识别的问题。对于换脸后的视频，楼某某仅留存身体形象，但对比原视频素材，普通人仍能通过未被修改的相应场景和细节识别出身体形象对应主体为楼某某。
　　被告A公司未经楼某某同意，通过技术手段提取涉案古风肖像视频，并擅自上传至其运营的换脸App中供用户选择使用，该行为本身已侵害楼某某肖像权。同时，涉案视频模板已被用户多次使用和收藏，可以认定A公司利用深度合成技术将其他用户提供的人脸替换至涉案视频中的身体形象之上，并生成了形象逼真、画面流畅的伪造肖像视频，可供用户进行下载保存、发布共享等不当使用。
　　综上，被告A公司未经楼某某同意，利用深度合成技术使用其肖像制作了伪造视频，依法应认定为构成对楼某某肖像权的侵害。
　　此外，中国互联网协会法工委副秘书长胡钢在接受央广网记者采访时指出，以上述案件为例，原告发布的视频中，其妆容、衣着、动作包括背景设计等本身都可构成一个音像艺术作品，受《著作权法》的保护。如果被告A公司未经原告允许，将原告发布的视频作为App的模板发布，还存在侵害原告著作权的可能。
　　三部门出台深度合成管理规定，
　　专家：强调对深度合成技术应用进行标识
　　近日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。
　　《规定》明确了深度合成服务提供者落实信息安全主体责任的相关要求、深度合成服务提供者和技术支持者的数据和技术管理规范，以及深度合成服务提供者的标识要求等。
　　例如，《规定》指出，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。
　　《规定》还强调，深度合成服务提供者提供人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务等，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。
　　针对《规定》中关于标识的要求，胡钢告诉记者：＂简单举例而言，假设一位相貌平平的用户，通过‘AI换脸’App得到一张将自己的容貌、体态、穿着，乃至背景都经过美化的照片，如果该用户只是自己保存，对社会和他人不会产生影响，但如果该用户选择发布出来，就可能造成混淆或误认。这种情况下就要求深度合成服务提供者和进行显著标识，说明这张照片是经过深度合成技术编辑而成。＂
　　胡钢指出，实际上这项规定是从后端往前端的监管，且主要强调在用户发布、传播过程中要有相应的标识，以防止用户误认或混淆，以避免损害传播秩序。＂可以把它理解为透明度监管原则，对于平台或者开发者而言是透明度合规，同时也是保障消费者的知情权。＂
　　＂换言之，如果深度合成服务提供者没有按照要求进行标识，我们认为这是该服务提供商没有尽到向消费者提供真实全面的商品信息或者服务信息的义务，也就侵害了消费者知情权，隐瞒真相是消费欺诈的一种重要表现。＂胡钢对记者表示，本次《规定》的出台实际上是鼓励新技术、新业态发展，同时也要求规范发展。
　　国家网信办有关负责人表示，深度合成服务在满足用户需求、改进用户体验的同时，也被一些不法人员用于制作、复制、发布、传播违法信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等违法行为。出台《规定》，能够划定深度合成服务的＂底线＂和＂红线＂，维护网络空间良好生态。同时，落实《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》等法律、行政法规，对应用深度合成技术提供互联网信息服务制定系统性、专门性规定，能够明确各类主体的信息安全义务，为促进深度合成服务规范发展提供有力法治保障。