仅需一张照片和一段逝者录音,就能在数字世界中让逝者“永生”……清明节前后,此类AI“复活”广告宣传在各大电商和社交平台上日益活跃,甚至演变成一门新“生意”。
技术的发展为满足人们的精神与情感需求提供了更多载体,与此同时,AI“复活”也引发强烈争议。有专家提出,AI“复活”技术被滥用,或将带来侵害个人权益、数据隐私安全、传播虚假信息等问题。
AI“复活”成热门生意
“大家好!其实我没有真正离开这个世界……”不久前,已故艺人与公众亲切“打招呼”的视频在社交平台上引发网民关注,也让AI“复活”这一话题进入公众视野。
用数字生命“复活”至亲,曾经只属于电影银幕中的科幻想象,如今却在现实世界中初现端倪。利用AI技术将逝者“复活”,渐已发展成新“生意”。某电商平台的数据显示,在平台经营AI“复活”相关业务的商家达1900余家。
记者在多个电商平台、短视频平台尝试输入“复活亲人”4个字,看到有大量商家销售制作“数字人”的商品和服务。“数字人”的商品标价从几元、几十元到数万元不等。据了解,价格的高低是由制作效果决定的。
“视频通话1分钟100元;照片开口讲话,普通话基础套餐150元1分钟,方言398元1分钟;照片可动,有声音,可对话,在安卓软件手机端1年内提供360个小时的服务,费用为4999元;实现交互式谈话价格面议。若达到95%的相似度,价格在2万元至8万元不等。”淘宝平台一位商家向记者表示,提供的个人资料越详细,做出来的数字人相似度就越高。照片说话只需要提供亲人照片和平时说话录音20至60秒。如果想要实现实时交互,还需要提供亲人录音1至5分钟。消费者还需要填写表格,描述亲人的生平经历、生活习惯以及与亲人间的故事等。
另一商家客服人员表示,已助力数百个家庭通过人工智能的方式重聚,“数字人”可还原内容包括外貌、声音、性格等。记者注意到,有消费者购买后评论称:“这家店做的‘数字人’很真实,能看到奶奶真好,科技就应该是有温度的。”
绝大部分产品并非“新技术”
现如今的技术真能将“数字人”与真人做到相似度90%以上吗?据北京云客科技有限公司技术人员欧颜靖介绍,从目前的技术看,“数字人”做到外表、声音的相似是比较容易的,但若要做到肢体动作、思维方式相似就很难了。即便拥有大量、长时间的声音、录像、图片数据,通过自然语言技术、深度学习技术、大模型技术等技术训练,也只能实现可能看起来像亲人在与你对话。
而从短视频平台上一些商家展示多位已故艺人的“复活”视频来看,这些“数字人”从表情到说话口型,呈现效果参差不齐。
记者了解到,当前网络上的AI“复活”工具主要分为三种。第一种在手机应用商店中即可下载获得,只要一张正脸照片就能根据应用中所提供的模板“活化”,可实现歌唱、“演电影”等场景转化。第二种是利用线上工具,由用户提供正脸照片和相关音频文件,经过系统自动编辑后,实现照片中人物“开口说话”的效果,该工具需要用户支付一定费用。第三种则是在开源社区中,由程序员编写AI测试程序,在经过相关语料训练后,将照片转化为能简单对话互动的“数字人”。此类程序门槛较高,需要一定计算机知识基础。
“有的‘复活’效果‘一眼假’,其实是过去‘照片活化’技术的延伸。有的‘复活’效果很逼真,多是采用‘深度合成’技术。”中国电子技术标准化研究院网安中心测评实验室副主任何延哲认为,当前市面上绝大部分的AI“复活”并非刚出现的“新技术”。
记者看到,一些商家已开始兜售“AI‘复活’技术变现指南”。在某二手交易平台上,记者以19.9元的价格购买了一份“AI‘复活’技术教程”。除文字说明外,还有视频讲授如何制作“照片活化”的短视频。
规矩频出却少人理解
针对亲人可以被有限度地“复活”,有消费者感到兴奋不已,也有消费者表示担忧。“将这种技术变成一门生意,会不会引发信息被滥用,导致诈骗等问题?对于新的事物、新的商品有没有相关法律法规来规范管理?”采访中,有消费者如是表示。
新商品、新服务的出现,势必会遇到新的问题。记者看到,在“数字人”产品上,商家仍沿用传统商品的销售策略,甚至连新商品销售需要遵守的法规都不清楚。
事实上,近年来,关于生成式人工智能的规定频频出台,在多方面进行了较为详细的规定。2019年,中国就发布了《新一代人工智能治理原则》,2021年进行细化,发布了《新一代人工智能伦理规范》;此外,在2023年正式实施的《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》中,为深度合成服务划定了“底线”和“红线”。但是记者调查发现,了解这些规定的人并不多。
记者查看了大量商家销售的“数字人”样片,发现没有一家商家在信息内容上进行标注。一网店商家对记者说:“不知道有需要在合成‘数字人’上面进行标注的规定。目前为止,消费者选择的‘数字人’价格区间都在百元以内,这些‘数字人’都是用软件合成,很多生成式软件都能用,还是免费试用的。只是消费者不知道这些软件,也不会用,我们赚个信息差的钱。几万元的‘数字人’则需要找专门的科技公司才能制作,不过也没听说要打上什么标识。”
记者注意到,只有部分商家会在商品详情页标注“不做人脸识别,只做去世怀念”的提示,对于信息安全是否有保障的疑问,一名商家告诉记者:“我们会严格保护客户的隐私,除非是客户主动要求,我们在做完视频后都会把源文件删除。”
除此之外,在调查中记者发现,购买“数字人”商品的消费者大多没有与商家签订协议明确双方的权利义务。一位北京消费者对记者说:“我购买了制作‘数字人’的服务。商家给了我一个邮箱地址,我把商家需要的信息,比如照片、语音等发到对方邮箱,在邮件里说明制作要求就可以了。付款是在平台上完成的,没有签订什么协议,信息保护什么的也没有提及。”
技术尚不成熟 警惕过度依赖
AI“复活”技术,对很多人来说是一剂良药,专家也表示,如果仅仅是满足个人的思念,既没有突破人伦道德的底线,也没有用于商业甚至犯罪目的,就无需过度焦虑。但是“数字人”技术尚不成熟,如果过度依赖也会适得其反。
中国科学院自动化研究所人工智能伦理与治理中心主任曾毅介绍,采用人工智能去模拟或者是克隆真人的技术,专业领域称为“数字人”或是“数字克隆”。基于人工智能技术构建的所谓的“数字人”其实只是一个信息处理的工具,它与真人或者真人拥有的智慧是没有任何关系的,“数字人”并不能看作是真实人类的复刻。
目前的“数字人”技术很容易让公众产生一些幻想,甚至走进一个心理误区。假如一些人是希望通过与“数字人”交流的方式来达到慰藉自己心灵的目的,这种方式本身就存在很多隐患。“比如说,拥有了‘数字逝者’的时候,会不会使得人长期沉迷于与‘数字逝者’之间的交互,从而对心理产生非常负面的影响。这个是‘数字逝者’的这项人工智能的应用技术可能给社会带来的长期的、潜在的隐患,也是我们是否应当开发这样的人工智能技术必须去思考的伦理道德的问题。”曾毅说道。
专家表示,AI技术风险的预防需要通过立法、技术更新、行业自律等方式实现协同治理,要引导人工智能产业按照以人为本的方向良性发展,可以采取科技伦理审查制度、人工介入制度等措施来填补治理方面的空白,规范人工智能技术的应用发展。
北京航空航天大学法学院副教授赵精武表示,在人工智能技术产品投入应用之前进行伦理审查,并且进行一个动态化的跟踪,对于一些高危、可能涉及对人身权益有重大侵害的人工智能,需要及时提供人工可以随时介入的渠道。
专家还建议,针对数据隐私、AI诈骗、伦理争议等问题,一方面要不断完善相应的法律法规,另一方面,相关的行业领域也要保持自律,每一位从业者都应守住法律和道德底线。
(综合整理)