眼下,仅需一张照片、一段音频,高科技就能让逝去的人在数字世界中“永生”,甚至可以模拟逝者的语言风格和思考方式与人交流。“AI复活”这种新的祭奠方式,为人们提供了情感慰藉新途径;但同样有质疑声音认为,“AI复活”挑战传统生死观念,会带来社会伦理方面的诸多问题。
如何避免虚拟慰藉造成现实伤害,如何防止技术滥用导致作恶?“AI复活”产业如何健康发展?
和“数字生命”跨时空对话
不久前的一档综艺节目中,一位明星用AI技术让妻子的父母“复活”,虚拟形象说出跨越时空的一句“我爱你”,让妻子潸然泪下。有网友评价,这是“最高级的浪漫”。
在电商平台,提供类似“AI复活”等服务的商家并不少,不少产品价格低至个位数。据商家介绍,这些商品有的可以根据消费者提供的图片生成短视频,有的可以根据不同需求定制语音回复,还有的可以根据逝者的音频模拟发声。有部分消费者在评论区留言,“很真实,让我很感动”“AI复活技术神奇,让逝去的记忆重现”。
“这只是‘AI复活’的初级版本,如今的科技水平已经可以实现数字生命的实时对话功能。”业内人士表示,借助生成式人工智能等数字技术,“AI复活”不但能够实现声音和画面的还原,还能实现实时“视频通话”,帮助逝者在数字世界中实现“重生”。
天津市民张先生用一款名为“灵遇”的App,实现了同逝去的爷爷“视频聊天”。他介绍,只需将已逝亲人的照片、声音和背景资料录入并进行数字处理,即可生成数字人物,声音和样貌还原度都很高,甚至可以用方言进行交流。“家人们都觉得爷爷仿佛还在身边。”张先生说。
“灵遇”App负责人高玮介绍,当前,人工智能大模型在“文字层面”的理解和生成能力已经很强,“灵遇”App充分利用人工智能拟人化主动性交流、模拟视觉与情绪识别和永久记忆等功能,拓展了用户和生成式人工智能的沟通方式。尽管该App刚上线两个多月,已有近万名用户注册,数百人使用了“数字生命”付费功能。
高玮认为,随着AI技术的进一步发展,“AI复活”的呈现方式将更加丰富。“可以预测,人与多模态的生成式人工智能进行情感交流,将成为未来智能社会的常态。”高玮说。
打破“生命界限”并非易事
“‘AI复活’挑战的是人们对死亡的传统认知。”天津社科院社会学研究所副研究员桂慕梅表示,尽管“AI复活”建构起超越生死界限的对话模式,让生者获得了更大程度的情感慰藉,实现了传统祭奠方式的革新,但新技术背后的社会伦理问题不容忽视。
“‘AI复活’技术正在改变人们心中传统的生死界限。”上海师范大学人工智能教育研究院副院长林晓同样表示,长期以来,人们认为死亡是生命体征的消失、意识的消亡,这个自然过程不可逆转。新技术的出现模糊了生与死的界限,如果不正确引导,可能影响基于传统生死观念建立的伦理道德体系。
“除此之外,还要警惕AI滥用带来的法律风险。”南开大学法学院教授王彬表示,“AI复活”技术的应用包含对敏感个人信息的处理,其中包括且不限于肖像、声音等生物识别信息以及生平经历等身份识别数据,若出现泄露隐私或损害名誉的情况,逝者的近亲属有权提起诉讼。
如何更好地拥抱“数字生命”
“必须捍卫家属希望和逝去的亲人安静告别的权利。”桂慕梅说,“AI复活”技术应用必须守住法律底线,相关行为必须符合公序良俗,确保逝者家属权益不被侵害。高玮也认为,相关企业要严格遵守相关法律法规和伦理标准,确保在用户明确授权和充分告知的前提下提供服务。
近年来,《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规相继施行,对深度合成内容标识等关键问题进行了规范,但“AI复活”产业的相关应用仍处于探索阶段,需要不断改进监管理念和方式,多举措防范技术风险和技术伦理问题。
“和其他生成式人工智能产品一样,‘AI复活’同样要显著标识生成内容,避免公众混淆。”王彬表示,平台和企业要守好第一道关,在信息采集和使用上要遵循“最小必要”原则,避免过度收集逝者信息构成侵权,监管部门也要跟得上市场变化。各方齐抓共管,逐步构建技术向善的治理生态。
(据新华社)