新華每日電訊記者 尹思源
2023年上映的電影《流浪地球2》中，科學(xué)家圖恒宇為了陪已經(jīng)去世的女兒丫丫度過“完整的一生”，將她的意識存儲并上傳到“數(shù)字世界”之中。短短兩年時(shí)間過去，人工智能（AI）技術(shù)飛速發(fā)展，讓科幻電影中的天馬行空悄然走入百姓的日常生活。
僅需一張照片、一段音頻，就能讓逝去的人在數(shù)字世界中“永生”，甚至可以模擬逝者的語言風(fēng)格和思考方式與人交流。“AI復(fù)活”這種新的祭奠方式，為人們提供了情感慰藉新途徑；但同樣有質(zhì)疑聲音認(rèn)為，“AI復(fù)活”挑戰(zhàn)傳統(tǒng)生死觀念，會帶來社會倫理方面的諸多問題。
如何避免虛擬慰藉造成現(xiàn)實(shí)傷害，如何防止技術(shù)濫用導(dǎo)致作惡？新華每日電訊記者就此展開調(diào)查，探究“AI復(fù)活”產(chǎn)業(yè)如何健康發(fā)展。
和“數(shù)字生命”跨時(shí)空對話
不久前的一檔綜藝節(jié)目中，一位明星用AI技術(shù)讓妻子的父母“復(fù)活”，虛擬形象說出跨越時(shí)空的一句“我愛你”，讓妻子潸然淚下。有網(wǎng)友評價(jià)，這是“最高級的浪漫”。
記者在電商平臺搜索“AI復(fù)活”等關(guān)鍵詞發(fā)現(xiàn)，提供類似服務(wù)的商家并不少，不少產(chǎn)品價(jià)格低至個(gè)位數(shù)。據(jù)商家介紹，這些商品有的可以根據(jù)消費(fèi)者提供的圖片生成短視頻，有的可以根據(jù)不同需求定制語音回復(fù)，還有的可以根據(jù)逝者的音頻模擬發(fā)聲。有部分消費(fèi)者在評論區(qū)留言，“很真實(shí)，讓我很感動(dòng)”“AI復(fù)活技術(shù)神奇，讓逝去的記憶重現(xiàn)”。
“這只是‘AI復(fù)活’的初級版本，如今的科技水平已經(jīng)可以實(shí)現(xiàn)數(shù)字生命的實(shí)時(shí)對話功能。”業(yè)內(nèi)人士表示，借助生成式人工智能等數(shù)字技術(shù)，“AI復(fù)活”不但能夠?qū)崿F(xiàn)聲音和畫面的還原，還能實(shí)現(xiàn)實(shí)時(shí)“視頻通話”，幫助逝者在數(shù)字世界中實(shí)現(xiàn)“重生”。
天津市民張先生用一款名為“靈遇”的App，實(shí)現(xiàn)了同逝去的爺爺“視頻聊天”。他介紹，只需將已逝親人的照片、聲音和背景資料錄入并進(jìn)行數(shù)字處理，即可生成數(shù)字人物，聲音和樣貌還原度都很高，甚至可以用方言進(jìn)行交流?！凹胰藗兌加X得爺爺仿佛還在身邊?！睆埾壬f。
“靈遇”App負(fù)責(zé)人高瑋介紹，當(dāng)前，人工智能大模型在“文字層面”的理解和生成能力已經(jīng)很強(qiáng)，“靈遇”App充分利用人工智能擬人化主動(dòng)性交流、模擬視覺與情緒識別和永久記憶等功能，拓展了用戶和生成式人工智能的溝通方式。盡管該App剛上線兩個(gè)多月，已有近萬名用戶注冊，數(shù)百人使用了“數(shù)字生命”付費(fèi)功能。
高瑋認(rèn)為，隨著AI技術(shù)的進(jìn)一步發(fā)展，“AI復(fù)活”的呈現(xiàn)方式將更加豐富?！翱梢灶A(yù)測，人與多模態(tài)的生成式人工智能進(jìn)行情感交流，將成為未來智能社會的常態(tài)?！备攥|說。
打破“生命界限”并非易事
“‘AI復(fù)活’挑戰(zhàn)的是人們對死亡的傳統(tǒng)認(rèn)知?！碧旖蛏缈圃荷鐣W(xué)研究所副研究員桂慕梅表示，盡管“AI復(fù)活”建構(gòu)起超越生死界限的對話模式，讓生者獲得了更大程度的情感慰藉，實(shí)現(xiàn)了傳統(tǒng)祭奠方式的革新，但新技術(shù)背后的社會倫理問題不容忽視。
當(dāng)人們過度依賴數(shù)字技術(shù)時(shí)，虛擬慰藉很可能帶來現(xiàn)實(shí)傷害，受到情感困擾甚至出現(xiàn)心理或生理疾病。桂慕梅表示，生者如果難以走出失去親人的陰影，沉溺于虛擬世界中，就會影響在現(xiàn)實(shí)世界里對真實(shí)情感和人際關(guān)系的認(rèn)知，嚴(yán)重的會影響正常生活。
“‘AI復(fù)活’技術(shù)正在改變?nèi)藗冃闹袀鹘y(tǒng)的生死界限?！鄙虾煼洞髮W(xué)人工智能教育研究院副院長林曉同樣表示，長期以來，人們認(rèn)為死亡是生命體征的消失、意識的消亡，這個(gè)自然過程不可逆轉(zhuǎn)。新技術(shù)的出現(xiàn)模糊了生與死的界限，如果不正確引導(dǎo)，可能影響基于傳統(tǒng)生死觀念建立的倫理道德體系。
“除此之外，還要警惕AI濫用帶來的法律風(fēng)險(xiǎn)?！蹦祥_大學(xué)法學(xué)院教授王彬表示，AI“復(fù)活”技術(shù)的應(yīng)用包含對敏感個(gè)人信息的處理，其中包括且不限于肖像、聲音等生物識別信息以及生平經(jīng)歷等身份識別數(shù)據(jù)，若出現(xiàn)泄露隱私或損害名譽(yù)的情況，逝者的近親屬有權(quán)提起訴訟。
我國個(gè)人信息保護(hù)法第49條明確，自然人死亡的，其近親屬為了自身的合法、正當(dāng)利益，可以對死者的相關(guān)個(gè)人信息行使法律規(guī)定的查閱、復(fù)制、更正、刪除等權(quán)利?！按饲霸胁糠稚碳一蚍劢z為求流量變現(xiàn)，未經(jīng)授權(quán)利用‘AI復(fù)活’已逝明星，不僅讓生者反感，還涉嫌違法?！蓖醣蛘f。
高瑋等業(yè)內(nèi)人士認(rèn)為，技術(shù)濫用的風(fēng)險(xiǎn)需引起足夠重視。“這項(xiàng)技術(shù)的本質(zhì)是利用AI技術(shù)對人的容貌、聲音和表達(dá)進(jìn)行復(fù)刻，要警惕不法分子借助‘?dāng)?shù)字生命’惡意侵權(quán)、深度偽造實(shí)施詐騙?！彼f。
如何更好擁抱“數(shù)字生命”
“‘AI復(fù)活’逝者要遵循近親屬‘知情同意’原則。”這是許多業(yè)內(nèi)人士的共識。多位受訪者表示，AI技術(shù)迅猛發(fā)展帶來了諸多便利，但在使用時(shí)要避免對逝者近親屬造成二次傷害。
“必須捍衛(wèi)家屬希望和逝去的親人安靜告別的權(quán)利?！惫鹉矫氛f，“AI復(fù)活”技術(shù)應(yīng)用必須守住法律底線，相關(guān)行為必須符合公序良俗，確保逝者家屬權(quán)益不被侵害。高瑋也認(rèn)為，相關(guān)企業(yè)要嚴(yán)格遵守相關(guān)法律法規(guī)和倫理標(biāo)準(zhǔn)，確保在用戶明確授權(quán)和充分告知的前提下提供服務(wù)。
近年來《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)相繼施行，對深度合成內(nèi)容標(biāo)識等關(guān)鍵問題進(jìn)行了規(guī)范，但“AI復(fù)活”產(chǎn)業(yè)的相關(guān)應(yīng)用仍處于探索階段，需要不斷改進(jìn)監(jiān)管理念和方式，多舉措防范技術(shù)風(fēng)險(xiǎn)和技術(shù)倫理問題。
“和其他生成式人工智能產(chǎn)品一樣，‘AI復(fù)活’同樣要顯著標(biāo)識生成內(nèi)容，避免公眾混淆?！蓖醣虮硎?，平臺和企業(yè)要守好第一道關(guān)，在信息采集和使用上要遵循“最小必要”原則，避免過度收集逝者信息構(gòu)成侵權(quán)，監(jiān)管部門也要跟得上市場變化。各方齊抓共管，逐步構(gòu)建技術(shù)向善的治理生態(tài)。
盡管目前相關(guān)技術(shù)還無法實(shí)現(xiàn)更高維度的交互反饋，但該產(chǎn)業(yè)已經(jīng)在部分應(yīng)用場景中展現(xiàn)了巨大價(jià)值潛力?！叭斯ぶ悄茉谂c人的情感交互中將扮演越來越重要的角色，如何做好技術(shù)進(jìn)步和社會倫理的平衡考量，確保技術(shù)服務(wù)于人，是未來一段時(shí)間不得不面對的重要課題?！绷謺哉f。
