发布时间:2024-08-19 06:18:49 来源: sp20240819
今年春节期间,罗佩玺瞒着妈妈用AI技术“复活”了外婆,她将妈妈现在的模样和外婆留下的老照片合成在一起。时隔60多年,妈妈和外婆终于又“见面”了,这是她送给妈妈的生日礼物。收到礼物后,妈妈的表情被罗佩玺用视频记录了下来,“她像孩子一样笑出了声,笑着笑着就哭了。她一定没有想到,技术已经发展到了这种程度。”
其实,将老照片修复、合成只是AI“复活”的初级形态。前段时间,几段AI“复活”逝去明星的视频引发关注,很多人才突然意识到,AI技术已经发展到能够让逝者“开口说话”的阶段,也由此引发了一系列关于伦理、法律等问题的讨论。
事实上,借助AI技术表达对亲人的思念,目前逐渐形成了不同的商业模式——有的利用AI技术让照片“动”起来,并模拟逝者的声音与家人进行实时对话;有的则在人活着的时候就为其生成数字人,通过反复训练使其更加“真实”,以求实现“数字永生”……
AI时代,我们已经拥有了面对死亡的第二种选择吗?
AI“复活”
罗佩玺回忆,前段时间妈妈的姐姐去世,整个家庭沉浸在悲伤的氛围中。追悼会上她偶然听到舅舅说起,外婆去世的时候妈妈只有3岁。那一刻,她决定送妈妈这样一份特别的生日礼物。后来,这张照片被装裱起来挂在了家里显眼的位置,每天都能看到,“填补了妈妈童年记忆的空白”。
罗佩玺之前是一名社交产品经理,这项技术对她来说并不复杂。她使用AI工具,先将外婆老照片修复上色,而后对外婆人像进行了变老处理,最后将妈妈的照片与其合成。罗佩玺说,“未来如果有与之类似但是更完善的技术,能够让逝者家人平缓度过失去亲人后的艰难时期,正确使用(这一技术)或许会是件好事。”
王涛是AI行业的从业者,去年12月份开始,他和好友免费帮有需要的人“复活”逝去的亲人。做这件事情源于一则求助信息,当时一位女士想用AI“复活”逝去的丈夫以弥补自己的遗憾。王涛他们帮到了她。
紧接着,很多人陆陆续续找到他们。其中,让王涛印象深刻的是一个中年男人,他想“复活”奶奶作为送给父亲的生日礼物。收到“复活”视频后,这个中年男人特地发来语音感谢:“80多岁的老父亲抱着视频翻来覆去看了一个晚上,一边看一边流泪,嘟囔着‘我有妈妈了’。”这让王涛和好友感触很深,就这样一直坚持做了两个多月。后来,有个好友提出希望将这一服务商业化,这让王涛无法接受。在他看来,“使用的算法和数据都是免费的,不应该通过这种形式赚钱”,所以就放弃了这件事情。
同样也是在去年,辞掉工作的阿亮开始从事AI“复活”逝去亲人的服务。让他没有想到的是,3个多月后,AI“复活”逝去明星的做法引发关注,阿亮所做的事情也被推到了风口浪尖。阿亮觉得,“AI‘复活’逝去明星的做法,以粗鲁的形式博得了流量,但损害了整个行业的名声。”
之后,很多网络平台为了规避风险,对AI“复活”相关内容进行了限流处理,阿亮也受到了影响,他发布的视频的点赞量从之前的三位数骤降到现在的一位数,有些视频甚至直接被屏蔽或删除,这让客户数量有了明显的回落。
“虚拟对话”
在网络平台相关话题的评论区,网友对AI“复活”逝去亲人的态度呈现明显的两极分化。有网友觉得,AI“复活”能够“给我们机会,把想说但没来得及说的话说出来,帮助我们放下执念”。也有网友对此持反对意见,“连逝去亲人的照片都不愿意面对,怎么会选择这种‘复活’呢?”
进入到这一行之前,阿亮做过市场调研,他发现“复活”逝者的需求确实存在,“但是当前的技术不一定能充分满足。”王涛觉得,“现在的效果还有明显破绽,比如声音有很多漏洞,对话也没那么丝滑”。
AI“复活”逝者需要提供比较清晰的照片和丰富的声音等素材,但目前阿亮接待的客户中,八成没有原始的声音文件,剩下的虽然有但是质量都不高。结合最近的争议,他开始逐渐调整业务思路,重点回归文字交流,而不把太多注意力放在声音和图像上。
前段时间,他在微信服务号上线了文字对话功能,只需要花几十秒钟回答几个问题,即可把AI“训练”得具备逝去亲人一定的性格特征,可和屏幕前的用户进行文字对话,并且是免费的。这一服务“目前使用人数接近2000,已经超过了付费客户数量”。
此前,很多人找到阿亮提出“复活”逝去亲人的需求,但是最终付费的人很少。后来他找到了一批低价的AI大模型资源,在此基础上搭建了“虚拟对话”功能。在没有大量宣传的情况下,陆陆续续有不少人开始使用。在阿亮看来,这个服务的设计很简陋,“也正因为足够简陋,很多人上手容易,又是在微信这样一个场景之下,大家会觉得特别真实。”
然而,“虚拟对话”使用的人数越来越多,风险也随之增大。比如目前这不到2000人的对话数据该如何保存、是否存在隐私泄露的风险?阿亮说,这些数据实际是储存在微信平台方,他们只有检查的权限,其中的相关责任并没有明确的界定。为了规避掉这些问题,他的团队正在研发App,他希望未来这一服务更加自主可控,同时对话表现和安全措施能做得更好。
目前阿亮的团队不到10个人,基本都是AI行业的技术人员,大多为兼职。虽然整体处于亏损状态,获客成本高,实际付费人数也比较少,但他坚信,随着人们观念的变化以及当下很多有需求的年轻人成为主要用户,“这个事儿长期看肯定是赚钱的”。
“数字永生”
电影《流浪地球2》中,图恒宇将车祸去世女儿丫丫的意识存储并上传至数字世界,试图让女儿实现“数字永生”,这一剧情引发很大关注和讨论。“数字永生”其实是利用AI技术,通过分析和模拟个体数据,创造出一个能够在虚拟世界存在的数字化身份,从而实现人的“永生”。但从现实情况来看,目前AI技术还远未发展到这种地步,只能模拟人类的生命行为和关键特征。
刘骁奔正在做的创业项目就与“数字永生”有关。他出生于2000年,是这一创业团队负责人,同时也是科学技术哲学专业的在读研究生。刘骁奔及其团队认为,“数字永生”未来会成为传统殡葬行业外,人类面对死亡的第二种选择。
他认为,“数字永生”分为“数据留存”和“数据演绎”两个过程。最近热议的“复活”逝者视频的生成过程,是典型的“数据演绎”。而“数据留存”则是收集一个人的生物数据(比如视频、音频等),并将其整理成可供AI加工的数据集。刘骁奔及其团队目前就专注于实现这两个过程,并且主张将“数据留存”这一环节面向在世者,通过访谈、音频采集和视频采集等形式,留存更多真实的数据,以方便开展后续的“数据演绎”工作,最终完成“数字永生”。
作为创业项目,刘骁奔团队目前有5个人,全部为在校生,项目已经孵化落地,学校给予了场地支持。“实现百万营收”是刘骁奔今年的目标,他觉得“有30%-50%的成功率”。
同样已经涉足这一领域的还有于浩,此前他在殡葬行业工作过四五年的时间,觉得传统殡葬行业更多的是提供物理设施服务,缺少文化传承和精神陪伴。“如今,AI技术为更好满足人们的精神需求提供了载体。”后来他专注数字生命服务,其中就包括探索“AI+殡葬服务”相关业务。
2022年,在“中国肝脏外科之父”吴孟超院士的追思会上,借助AI等技术手段,吴院士的虚拟影像与他生前的同事、学生们开启了一场“时空对话”,在场很多人红了眼眶。这一环节正是于浩负责策划执行的,他希望通过这种方式为吴院士完成“有温度的告别”。如今,数字礼葬已经成为公司的主要业务之一。
数字人同样也是于浩公司的主营业务。和AI“复活”逝者不同的是,于浩接触更多的情况是,客户要求在生前就完成数字人的生成和训练工作。其中有希望为父母生成数字人的子女,也有主动要求生成数字人的五六十岁老人。他们希望通过不断的交互训练,让数字人更真实,从而成为延续生命的一种方式。
两三个月之前,于浩接触到一个客户,医生说她爸爸只能再活两年,她希望给爸爸生成一个数字人,“留住”爸爸开始逐渐衰退的记忆。于浩介绍,公司数字人的生成一般参考六个维度:形象、声音、表达方式、性格、知识库和记忆。其中,最后一步的“记忆复刻”是最有难度的,因为记忆上传是一个持续的过程,要通过和数字人不断地交流才能实现。
隐私如何保护
刘骁奔团队的“种子客户”是一位四五十岁的中年人,他被“数字永生”的理念所触动,准备为父母打造数字生命。目前,刘骁奔他们已经对其父母开展了3个月的口述史访谈工作,未来还将一直持续下去。“当老人知道这个东西会留给下一辈时,态度还是很积极的”。但是从设想到现实,他们正在经历“数据隐私保护如何规范化”等各种挑战,刘骁奔希望有第三方对他们的工作进行监管。
在于浩公司的相关业务中,伦理和法律争议同样难以避免。于浩说,他们会尝试从两个方面规避风险:“首先生成数字人要经过本人授权,如果是逝者则需要得到直系亲属的授权;其次对相关数据进行加密保护,上传至云端,这一过程会寻求和相关政府部门合作。”
实际上,不管是AI“复活”还是“数字永生”,依托的都不是全新的技术。王涛长期关注AI技术的发展,他解释说,这些应用方向在2018年的时候就被“圈内人”反复提及,只是到了2022年,随着AI机器人成功拥有与人类全面对话的功能,这些应用方向才真正得以落地。
他对近期AI“复活”引发争议并不感到意外,“这方面目前处于灰色地带”。王涛说,技术的新应用一定会引发争议,争议越早出现越好,“只有这样,这一技术才能慢慢‘长大’。”
当然,所谓“长大”不能只是盲目的业务扩张,而是相关应用方向有法可依、有章可循。
北京京师律师事务所律师王辉表示,根据2023年1月10日起施行的《互联网信息服务深度合成管理规定》,“深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意”。因此使用深度合成服务时,需要取得被编辑个人的同意;如果被编辑人是死者,理应取得具备有义务保护死者肖像权益的亲属的同意。
此外,《互联网信息服务深度合成管理规定》对“数据和技术管理”也作出了明确规范:深度合成服务提供者和技术支持者应当加强训练数据管理,采取必要措施保障训练数据安全;训练数据包含个人信息的,应当遵守个人信息保护的有关规定。
王辉律师表示,随着AI技术的发展和应用,大量个人数据被用于训练AI模型,以提高其准确性和效能。这些数据包括但不限于个人身份信息、位置数据、消费习惯甚至是生物识别信息。如果这些敏感数据被不当处理,可能会导致严重的隐私泄露,进而损害个人权益,甚至威胁到社会的公共安全。因此,要持续完善“数据隐私和保护”等相关法律。
清华大学新闻学院教授、博士生导师沈阳建议:一方面开发商和使用者都应承担起责任,确保AI技术不会误导用户或影响人类情感;另一方面也要注意隐私保护和数据安全。相关服务中,AI需要处理大量个人敏感数据(如面部表情、语音语调甚至生理数据),以此分析用户的情感状态,这些数据一旦被滥用或泄露,会对用户的隐私造成严重威胁。
“AI+情感”可以吗
除了用户隐私如何保护,阿亮还会关注“虚拟对话”服务使用者的身心状态。在他看来,当下被广泛讨论的技术侵权、诈骗等问题都是有解的,可以依靠法律来实现约束。但是使用者的身心状态是难以把控和处理的,比如有些人因为思念逝去的亲人,会对这一功能产生沉迷,或者假如AI说错某句话,也可能会对使用者的心理产生影响。
“很多时候即使你做了规避措施,比如不能聊‘自杀’,但是用户可能还是会因为AI的某句话而受到伤害。”阿亮希望和研究机构合作,共同关注这一问题。
魏冉是国家二级心理咨询师、中国心理学会注册心理师,在她看来,AI“复活”逝者等技术的出现,的确可以在一定程度上缓解丧亲之痛,弥补一些未了的遗憾,尤其是没有机会与逝者郑重告别的遗憾,使用得当可以帮助生者更好地接受所爱之人的离世。
与此同时,魏冉也发现,相关技术有可能会成为哀伤过程的阻碍。她进一步解释说,有关人类面对死亡时所出现的心理反应,心理学界普遍认同“哀伤五阶段”,即否认、愤怒、讨价还价、沮丧和接受。其中的“讨价还价”阶段指的是,生者会因无法接受所爱之人的离去,而试图施加控制来改变情况。
“这就是生者会购买相关服务的阶段。当生者看到逝者的图像时,不仅可以缓解相思之苦,还会产生与死神对抗、控制了生死的错觉,这会让生者感受到强烈的控制感,并产生积极的情绪体验。但是,如果沉迷于这种控制感,也阻碍了哀伤过程的自然完成。也就是说,生者会卡在‘过去’,而无法真的向前走。”
沈阳教授发现当下AI技术应用存在两个明显相反的方向,一种是AI理性化发展路径,“拼命强调只是大语言模型”;另一种是AI情感化发展路径,“千方百计证明能够成为人的伴侣”。而AI“复活”和“数字永生”业务正是后者,通过“AI+情感”这种模式试图实现营收。
他说,未来要进行长期的社会学和心理学研究,评估情感AI对人类行为、社会结构和心理健康的影响,确保技术发展与人类社会的可持续发展相协调。同时要发展包容性强、适应性广的算法模型,提升AI的情感认知准确性,使其能够学习并理解不同人群的情感表达方式。
那么,AI时代,“复活”或“数字永生”是否已经成为我们面对死亡的第二种选择?
百度公司研发的“文心一言”AI大模型给出的回答是:虽然AI“复活”或“数字永生”在技术上为我们提供了新的面对死亡的方式,但我们仍需要尊重生命的自然规律,同时深入思考和应对由此产生的伦理、哲学和社会挑战。
(应采访对象要求,文中王涛、阿亮为化名)
中青报·中青网见习记者 席聪聪 记者 李若一 来源:中国青年报 【编辑:唐炜妮】