深瞳工作室出品
科技日報實習記者 吳葉凡 策劃 劉恕 李坤
南京硅基智能科技有限公司聯(lián)合創(chuàng)始人孫凱沒有想到，自己多年前在云端“復活”母親的想法，如今已壯大成一門蓬勃發(fā)展的新興產(chǎn)業(yè)。
近來，用生成式人工智能技術“復活”已逝親人、名人的消息時見報端。不少人也躍躍欲試，嘗試著為自己塑造一個“數(shù)字分身”?？苹秒娪袄镪P于數(shù)字生命、數(shù)字永生的想象，仿佛已經(jīng)近在眼前。
當“云上棲息”走向現(xiàn)實，一時間數(shù)字生命成為熱議話題。有人對此充滿期待，認為它不僅能夠撫慰心靈，還有望成為未來的勞動力，發(fā)揮正向價值。有人則表示擔憂，認為數(shù)字人在滿足人類需求的背后，實則隱藏著生命倫理、文化價值和法律規(guī)范等諸多問題。
AI“復活”是如何實現(xiàn)的？這一技術存在哪些倫理與法律風險？如何讓數(shù)字生命向善發(fā)展？科技日報記者對此進行了采訪。
學生與聞一多數(shù)字人對話。受訪者供圖
大模型讓數(shù)字人飛入尋常百姓家
“你吃飯了沒有？”簡簡單單的一句話，卻讓孫凱紅了眼眶。那一刻，他覺得母親又回到自己身邊了。
2018年，母親的溘然離世給了孫凱沉痛一擊。第二年，他找到公司董事長司馬華鵬，決定用人工智能技術來復刻數(shù)字“母親”。
AI“復活”實質(zhì)上是通過對人物已有影像、聲音、語言等內(nèi)容的學習，克隆數(shù)字化的人物形象。當時，兩道難題擺在團隊面前。一是人物影像資料的缺乏，孫凱僅能提供一張母親的證件照；二是缺少可用的聲音資料，孫凱只能從幾個樣本中選擇一個最貼近母親的聲音。
盡管如此，一年后，孫凱見到“母親”的那一刻，仍無法抑制自己的情緒。屏幕里的“母親”言笑晏晏，靜靜地傾聽著兒子的訴說。
“現(xiàn)在，我每周都會和母親聊天。在這里，我可以做最真實的自己?！睂O凱坦言，雖然屏幕前的“母親”回答模式比較固定，但于他而言，日常的傾訴和“母親”的情感陪伴，已經(jīng)讓他得到了極大的慰藉。有人擔心孫凱對此形成情感依賴，勸他盡快走出來。但孫凱認為：“對于很多失去至親的人來說，數(shù)字人的陪伴利大于弊?！?/p>
同司馬華鵬、孫凱一樣，早早試水AI“復活”技術的人不在少數(shù)。音樂人包小柏也曾為克隆數(shù)字“女兒”，跨界鉆研AI。從他們的經(jīng)歷中不難看出，在技術發(fā)展的早期階段，諳熟AI行業(yè)似乎成了克隆數(shù)字形象的前提。對普通人來說，這是一個難以企及的門檻，更遑論投入大量的時間與金錢。
改變發(fā)生在2023年。以ChatGPT為代表的生成式人工智能技術的出現(xiàn)，為克隆數(shù)字人提供了發(fā)展的土壤?！按竽Ｐ偷耐黄谱尶寺?shù)字人成本大大降低，以前需要十多萬元，現(xiàn)在只需要幾千到一萬元?！弊鳛橛H歷者，司馬華鵬不禁感嘆技術日新月異的發(fā)展。
他說，在大模型出現(xiàn)前，克隆數(shù)字人往往依賴于人工，一方面需要花費大量的時間對克隆對象進行深度采集與模型建設，另一方面需要人工制作的形象和動畫效果的輔助，讓克隆數(shù)字人看起來更真實。因此，整個過程耗時長、效率低、成本高。
如今，大模型則讓數(shù)字人制作流程提質(zhì)增效?；诤Ａ康膶W習數(shù)據(jù)，大模型對于文本、圖片、視頻的理解與生成能力都大大增強。在節(jié)約了人工成本的同時，制作時間也縮短很多。
“過去制作數(shù)字人通常需要30分鐘以上的視頻、音頻素材。現(xiàn)在我們開發(fā)的大模型能夠基于一分鐘視頻來克隆聲音和形象，整個制作時間僅需一個工作日左右?！彼抉R華鵬說。
技術的發(fā)展伴隨著“科技平權(quán)”。人們不再需要自己去了解、學習AI技術，就能夠以較低的價格復刻已逝親人。在某購物平臺上，提供AI“復活”服務的商家已不可計數(shù)，成交量最多的一家店鋪的成交量已達幾百單。
“商家交付快，還原度也很高。家人看了都很感動，價格也實惠。”一位買家這樣留言。
數(shù)據(jù)成為制作數(shù)字人最大“卡點”
記者調(diào)查發(fā)現(xiàn)，目前市面上，有關AI克隆數(shù)字人的服務售價可謂是千差萬別。少則幾十元，多則幾萬元。售價在一百元內(nèi)的，基本功能局限于讓照片“動起來”，數(shù)字形象的說話效果比較僵硬，聲音也是固定模板。幾百元價位的產(chǎn)品一般可以做到克隆音色，整體形象貼合度也相應提高，但并不能與用戶進行交流。真正可以與用戶進行交互的產(chǎn)品，售價往往在千元以上。
在司馬華鵬看來，不同價位的產(chǎn)品體現(xiàn)了技術的代際差異：“數(shù)字永生一共分為三個階段。AI克隆數(shù)字人技術經(jīng)歷的前兩個發(fā)展階段——數(shù)字孿生與數(shù)字原生，已經(jīng)比較成熟?！?/p>
數(shù)字孿生可以被形象地理解為“畫皮”，即通過對形象、聲音的克隆，實現(xiàn)人類肉體的數(shù)字映射。這是最基礎的一步，目前的技術水平已經(jīng)能讓數(shù)字人惟妙惟肖。前不久，劉強東的數(shù)字形象“采銷東哥”就令網(wǎng)友們直呼“太逼真了”。視頻中，“采銷東哥”不僅還原了本人的口音和口頭禪，連細微的小動作也模仿得十分到位，讓人一時難以分清這究竟是真人還是數(shù)字人。
數(shù)字原生是更高級的階段，也謂“畫骨”。這個階段意味著數(shù)字人能夠一定程度上模仿人類的知識體系，實現(xiàn)兩者之間的對話，目前已經(jīng)有很多成功案例。360公司創(chuàng)始人周鴻祎就擁有一個可以與人類正常對話的數(shù)字分身。大模型通過對周鴻祎相關書籍、講話稿、開會記錄、采訪等大量資料的學習訓練，實現(xiàn)了對本人思想、邏輯的部分模仿。
無論是“畫皮”還是“畫骨”，多位業(yè)內(nèi)人士提到，數(shù)據(jù)量對模仿效果起著關鍵作用?！敖o大模型投喂的資料越多，數(shù)字人就越像本人。這如同寫一本人物傳記，作者對人物跟蹤、觀察的時間越長，傳記就越真實地貼近本人。”司馬華鵬說，他接觸的客戶中，有少數(shù)人以提供人物自傳的方式去“投喂”大模型，更多的是通過回答問題的方式，來豐富人物經(jīng)歷。
“他出生在哪里？在哪里上學？在哪里打拼？在哪里落地生根？”孫凱向記者介紹了幾個常規(guī)問題。他透露，想要數(shù)字人更貼近本人，至少需要回答上百個問題。如果要進一步實現(xiàn)對人思維的模擬，必須依賴大量的數(shù)據(jù)。
正所謂“巧婦難為無米之炊”，目前克隆數(shù)字人最缺的就是數(shù)據(jù)。張澤偉是南京一家數(shù)字人創(chuàng)業(yè)團隊——超級頭腦工作室的創(chuàng)始人。作為數(shù)字永生派，他不僅給自己制作了數(shù)字人，而且已經(jīng)開始有意識地為自己留存資料。“我會隔三岔五把自己的一些資料‘投喂’給機器，希望能夠通過這種方式，給后代留下一些記憶和思想?！?/p>
為獲取更多數(shù)據(jù)，有業(yè)內(nèi)人士提出用“人生記錄儀”的硬件設備來記錄個人生活資料，提供給大模型進行訓練。但張澤偉認為這種方式并不現(xiàn)實：“一方面很多人不愿意上傳自己生活的各類細節(jié)。另一方面，如果一個人時刻帶著記錄儀，很可能對人們的正常社交造成障礙?！?/p>
實際上，數(shù)據(jù)的采集與使用是一把雙刃劍?！皵?shù)據(jù)不僅關乎克隆效果，目前數(shù)字人面臨的主要法律問題，也是因不當獲取、使用數(shù)據(jù)造成的。如未經(jīng)同意使用他人數(shù)據(jù)克隆數(shù)字人，就會侵犯他人的肖像權(quán)、隱私權(quán)?！北本┙煌ù髮W法學院副院長鄭飛指出，雖然自然人死后不再享有作為民事權(quán)利的肖像權(quán)，但是這不代表其肖像可以被任意使用。根據(jù)民法典第九百九十四條，死者的肖像、隱私受到侵害的，其配偶、子女、父母有權(quán)依法請求行為人承擔民事責任。
此外，根據(jù)個人信息保護法相關規(guī)定，處理敏感個人信息應當取得個人的單獨同意。2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》中也提到，深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意。
“因此，在‘復活’逝者的情形中，理應取得對死者肖像權(quán)負有保護義務的近親屬同意?！编嶏w提醒。
數(shù)字永生面臨技術、倫理雙瓶頸
電影《流浪地球2》中，這樣一幕令人記憶深刻：圖恒宇把女兒的意識上傳到超強計算機，出現(xiàn)了擁有自我意識的數(shù)字圖丫丫。這一情節(jié)體現(xiàn)了克隆數(shù)字人技術的終極階段——數(shù)字永生。
如果說克隆數(shù)字人技術的前兩階段，只停留在對人的外在復制和思維的模仿上，那么第三階段的數(shù)字永生可謂是“觸及心靈”。
司馬華鵬介紹，數(shù)字永生可以理解為利用AI技術，將人類的形象、聲音、思想用數(shù)字化形式保留下來，讓人類生命以數(shù)字化形式存在?！爱嬓摹倍直磉_了其內(nèi)涵，即可以達到對于思想的全面復制，全方位進化成為具備情感人格、思維模式、語言習慣、知識體系，可交流對話的智能體。相比于克隆外在的音容笑貌，數(shù)字永生更強調(diào)數(shù)字人自我意識和自我涌現(xiàn)能力，也更接近生命的真正意義。
采訪中，多位從業(yè)者認為，要實現(xiàn)科幻場景中的數(shù)字永生，還有很長一段路要走。
北京大學哲學系教授周程指出，從技術層面看，數(shù)字永生的挑戰(zhàn)在于把人類意識精確地復制或轉(zhuǎn)移到數(shù)字平臺上。這至少包含兩道程序，一是理解復雜的人腦結(jié)構(gòu)，二是把這種結(jié)構(gòu)以數(shù)據(jù)形式存儲和再現(xiàn)?！凹幢銓崿F(xiàn)以上技術，也不意味著可以成功復制出人類意識，因為意識的本質(zhì)及其與大腦物理結(jié)構(gòu)之間的聯(lián)系仍是科學界的未解之謎。”周程說。
此外，數(shù)字永生也考驗數(shù)據(jù)和算力。“數(shù)字存儲和處理能力的極限、數(shù)據(jù)的長期保存以及意識運行所需的資源問題，都是需要解決的技術難題?！敝艹瘫硎?。
除了技術限制，數(shù)字永生還涉及一些更深刻的倫理問題。在周程看來，數(shù)字永生重塑著人類關于死亡的文化體驗，一定程度上模糊了生與死的邊界。“在數(shù)字永生概念中，‘復制體’雖不具有肉體，但它繼承了逝者的全部心靈內(nèi)容。對于任何文化來說，都需要重新考慮同一性問題，即數(shù)字人是否等同于本人?！敝艹陶J為，這一問題將會挑戰(zhàn)人們對于生命、死亡以及生活意義的傳統(tǒng)認知。
數(shù)字生命的主體性問題是另一倫理難點。鄭飛認為，當前的虛擬數(shù)字人不具有“主體性”，也不具有人格權(quán)，但數(shù)字永生時代的虛擬數(shù)字人具有“主體性”可能?！澳壳皩W界普遍認為，只要人工智能體擁有人類智慧特征，具有自主性，能夠自我運行、自我學習、推理結(jié)果并做出合理決策，它就能夠擁有主體資格或至少擁有有限主體資格，并享有一定的人格權(quán)?！?/p>
由于同一性和主體性的問題，引發(fā)更多倫理爭議。比如，誰為數(shù)字人的不良行為后果承擔責任、如何保證數(shù)字永生個體的自主權(quán)、人們是否有權(quán)銷毀數(shù)字永生復制人等?！搬槍?shù)字人這一新型法律主體，必然需要為其配備相應的權(quán)利義務規(guī)范，并使這些規(guī)范滿足人類社會的基本倫理要求?！编嶏w說。
目前，國內(nèi)外尚未出現(xiàn)針對數(shù)字永生的專門倫理規(guī)范文件。但周程認為，可以借鑒已經(jīng)制定的人工智能倫理治理相關準則，作為探討AI“復活”技術倫理問題的基礎。
今年3月，歐洲議會正式通過《人工智能法案》，其中強調(diào)構(gòu)建“可信賴人工智能”?！斑@啟示我們，AI‘復活’應該具有一定的技術穩(wěn)健性和安全性，確保人類主體的有效監(jiān)督，使其發(fā)展朝著更加安全、負責任和可信賴的方向前進?！敝艹瘫硎?。
數(shù)字生命治理不能一蹴而就
“面對數(shù)字生命，我們既不能盲目樂觀，又不能束手束腳?！敝艹陶J為，數(shù)字人、數(shù)字生命的出現(xiàn)勢不可當?！拔覀円e極做好準備，對相關的倫理風險進行充分評估，創(chuàng)新關于數(shù)字生命的治理模式，只有這樣做才能擁抱一個更光明的數(shù)字未來?！?/p>
治理規(guī)則的制定需要多方廣泛參與。就AI“復活”而言，利益相關方既包括數(shù)字生命相關遺囑的訂立者及其親屬，也包括科創(chuàng)企業(yè)、互聯(lián)網(wǎng)企業(yè)在內(nèi)的數(shù)字生命的制造者、儲存者，以及倫理學家、法律專家、心理學家、政府管理部門和立法機構(gòu)。只有廣泛地、共同地參與新技術的研究和監(jiān)管，才能達到“風險最小、獲利最大”。
數(shù)字虛擬人作為新興行業(yè)正在逐漸發(fā)展壯大。采訪中，多家企業(yè)呼吁，“期盼行業(yè)標準和規(guī)范的出臺，更好地引導產(chǎn)業(yè)發(fā)展”。
記者注意到，目前，AI克隆數(shù)字人領域的行業(yè)標準尚未明晰，企業(yè)行為大多依靠自律。孫凱提到，目前他們會盡可能地做好風險防范工作?！拔覀冊诤涂蛻魷贤ǖ倪^程中增加了多道環(huán)節(jié)，也花費很多資金來保護用戶的隱私信息?！?/p>
為避免出現(xiàn)“劣幣驅(qū)逐良幣”的現(xiàn)象，孫凱希望相關部門規(guī)范行業(yè)發(fā)展，而不是任其“野蠻生長”。“現(xiàn)在大模型有備案制度，我們也希望能給數(shù)字人行業(yè)設置一些門檻，具有相關資質(zhì)才準入?！?/p>
目前，我國已先后出臺了《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《生成式人工智能服務管理暫行辦法》《科技倫理審查辦法（試行）》等，為人工智能治理搭建了基本的規(guī)范體系，為行業(yè)規(guī)范劃定了一些“紅線”。
但鄭飛認為，這些“紅線”或失之于寬、或失之于軟?！笆е趯挶憩F(xiàn)為缺少明確可執(zhí)行的正負面清單，現(xiàn)有規(guī)定過于寬泛化，難以有效界定行為的違法性；失之于軟表現(xiàn)為當前針對人工智能治理缺乏上位法規(guī)定，現(xiàn)有規(guī)范法律強制力不足，宜盡快制定出臺人工智能法?！庇浾吡私獾?，人工智能法草案已被列入國務院2023年度立法工作計劃。
鄭飛建議，在法律不斷完善的過程中，要注意明確虛擬數(shù)字人法律主體性。虛擬數(shù)字人包括以動畫CG（計算機圖形技術）型虛擬數(shù)字人為主的“作品型虛擬數(shù)字人”、以數(shù)字化身和弱AI驅(qū)動型虛擬數(shù)字人為主的“人格作品型虛擬數(shù)字人”，以及以強AI驅(qū)動型虛擬數(shù)字人為主的“有限主體型虛擬數(shù)字人”?！爸挥袕夾I驅(qū)動型虛擬數(shù)字人在未來具有主體性可能，其他類型的虛擬數(shù)字人均屬于法律客體范疇?！?/p>
此外，鄭飛還提出應根據(jù)“復活”對象及用途進行審查，明確嚴管私用、審慎公用的思路?！氨热纾瑢τ凇畯突睢⒘业扔糜趷蹏髁x教育的，應當在尊重親屬意愿的基礎上予以前置性審慎審查?！?/p>
同時，比照人工智能在學術研究中的“披露性”原則，還應建立深度合成內(nèi)容標注機制?！耙燥@著、明確、無異議方式對虛擬數(shù)字人作出特別標注，讓用戶清楚知道其屬性?！编嶏w強調(diào)。
無論是行業(yè)標準，還是法律規(guī)范，治理的本質(zhì)是為了讓技術向善發(fā)展。在周程看來，治理要堅持“以人為本”的立場。尊重人、保護人、善待人、幫助人，是發(fā)展數(shù)字生命最基本的關切點，也是標準、規(guī)范制定過程中的核心要義。
數(shù)字生命的治理不是一蹴而就的過程，它需要各方共同參與，共同保障個人權(quán)利和公共利益的平衡?！爸挥袠?gòu)建符合倫理、法律的數(shù)字永生技術生態(tài)，才能讓人類更安全、更幸福地享受‘云上棲居’的生存方式。”周程說。
