新技術(shù)往往會(huì)給現(xiàn)有社會(huì)倫理規(guī)范帶來沖擊，虛擬人技術(shù)也不例外，這是人類社會(huì)在進(jìn)步過程當(dāng)中始終面臨的問題。

　　隨著生成式人工智能技術(shù)不斷成熟，虛擬人制作成本降低、定制化內(nèi)容生成和應(yīng)答反應(yīng)的自然度和豐富度提升，虛擬人逐漸在客服、講解員和直播場(chǎng)景三個(gè)領(lǐng)域獲得廣泛應(yīng)用。目前，我國(guó)虛擬人行業(yè)整體參與企業(yè)較多，行業(yè)龍頭地位顯著。根據(jù)清華大學(xué)新聞與傳播學(xué)院新媒體研究中心制作的《2022虛擬數(shù)字人綜合評(píng)估指數(shù)報(bào)告》，2022年我國(guó)綜合指數(shù)排名前十的虛擬數(shù)字人分別為洛天依、哈醬、愛加、Meet Gu、時(shí)間小妮、央視AI手語主播、翎、希加加、梅澀甜、尤子希。

　　然而，新技術(shù)往往會(huì)給現(xiàn)有社會(huì)倫理規(guī)范帶來沖擊，虛擬人技術(shù)也不例外，這是人類社會(huì)在進(jìn)步過程當(dāng)中始終面臨的問題。虛擬人是由現(xiàn)實(shí)中的人類所設(shè)計(jì)和開發(fā)的，它們擁有復(fù)雜的人工智能系統(tǒng)，能夠模仿甚至超越真實(shí)的人類，其沒有主觀世界，但又貌似有主觀世界。因此，虛擬人市場(chǎng)火熱的背后，要警惕其中的法律和倫理道德等風(fēng)險(xiǎn)，嚴(yán)肅考慮虛擬人的權(quán)利和尊嚴(yán)。

　　攝影/寧穎

　　“權(quán)利”與風(fēng)險(xiǎn)并存

　　國(guó)家廣播電視總局發(fā)布的《廣播電視和網(wǎng)絡(luò)視聽“十四五”科技發(fā)展規(guī)劃》中指出，“面向新聞、綜藝、體育、財(cái)經(jīng)、氣象等電視節(jié)目研究虛擬形象合成技術(shù)，包括2D虛擬形象的合成，3D虛擬形象的驅(qū)動(dòng)，虛擬引擎構(gòu)建、語音驅(qū)動(dòng)、動(dòng)作捕捉、面部表情捕捉等技術(shù)，提升節(jié)目制作效率及質(zhì)量;同時(shí)探索短視頻主播、數(shù)字網(wǎng)紅、直播帶貨等虛擬形象在節(jié)目互動(dòng)環(huán)節(jié)中的應(yīng)用，增加個(gè)性化和趣味性。”

　　當(dāng)下，人們最熟悉的虛擬人莫過于虛擬偶像和虛擬主播，前者起步最早，后者伴隨著電子商務(wù)直播帶貨后來居上。

　　虛擬偶像的出現(xiàn)無疑給廣告代言帶來了新的可能性，其優(yōu)勢(shì)在于無需休息、不受時(shí)間和地域限制，可以24小時(shí)全天候?yàn)閺V告代言活動(dòng)提供支持，從而保證品牌形象的持續(xù)曝光。此外，虛擬偶像的形象塑造更加靈活多變，可以輕松創(chuàng)造出各種奇幻或具有未來感的形象，吸引年輕消費(fèi)者的眼球，尤其是年輕一代消費(fèi)者中對(duì)科技和潮流感興趣的群體。

　　而虛擬主播之所以能在電商直播行業(yè)內(nèi)順利跑通，一方面是由于企業(yè)商家普遍存在解放真人勞動(dòng)力、實(shí)現(xiàn)降本增效的訴求，因此虛擬人成為大環(huán)境下直播行業(yè)升級(jí)轉(zhuǎn)型的新方向;另一方面，則是平臺(tái)對(duì)數(shù)字人主播的政策解禁。前不久，抖音發(fā)布《抖音關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議》，針對(duì)人工智能生成的視頻、圖片和衍生的虛擬人直播，發(fā)布相關(guān)規(guī)范，明確認(rèn)可虛擬主播形式，流量方面對(duì)標(biāo)真人直播，沒有加以限制。正是企業(yè)商家、平臺(tái)對(duì)虛擬人的重視，使虛擬主播的規(guī)模迅速增長(zhǎng)，能在神仙打架的直播環(huán)境中占有一席之地。

　　然而，隨著虛擬人在產(chǎn)業(yè)應(yīng)用中逐漸增多，其法律問題也在不斷增加。對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣在接受《小康》雜志、中國(guó)小康網(wǎng)采訪時(shí)表示，虛擬人在法律上的權(quán)利和保護(hù)主要涉及到知識(shí)產(chǎn)權(quán)、版權(quán)以及商業(yè)權(quán)益?！暗枰鞔_的是，虛擬人作為非生物實(shí)體，自身并無法享有法律權(quán)利，這些權(quán)利一般歸屬于虛擬人的創(chuàng)建者、所有者或經(jīng)營(yíng)者?！?/p>

　　西南政法大學(xué)民商法學(xué)院副教授孫山告訴《小康》雜志、中國(guó)小康網(wǎng)，虛擬人或許給大家一個(gè)錯(cuò)覺，以為它和真實(shí)的人一樣可以成為權(quán)利主體。但實(shí)際上，虛擬人本身并不擁有任何法律權(quán)利，它并非法律上的主體，只能成為法律關(guān)系中的客體?！皬纳a(chǎn)制作層面而言，虛擬人凝結(jié)了設(shè)計(jì)運(yùn)營(yíng)主體投入的人力、物力及技術(shù)成本。為了滿足客戶和市場(chǎng)需求，生產(chǎn)者通過提供定制化產(chǎn)品服務(wù)，實(shí)現(xiàn)虛擬人在具體場(chǎng)景中的個(gè)性應(yīng)用。”他說，由此可見，虛擬人的權(quán)利主體是其設(shè)計(jì)生產(chǎn)企業(yè)，“這類企業(yè)擁有虛擬人的肖像、交互模型、記憶存儲(chǔ)等多種權(quán)益，是企業(yè)獲得交易機(jī)會(huì)和實(shí)現(xiàn)創(chuàng)新的重要方式，并以此享有經(jīng)營(yíng)利益和競(jìng)爭(zhēng)優(yōu)勢(shì)，其合法權(quán)益受到法律保護(hù)。”同時(shí)，也可以設(shè)立虛擬人的權(quán)利代理人，代表虛擬人行使權(quán)利并保護(hù)其利益，代理人可以是虛擬人的開發(fā)者、運(yùn)營(yíng)商或?qū)ｉT的法律實(shí)體。此外，設(shè)計(jì)、操控虛擬人的軟件技術(shù)則可能作為計(jì)算機(jī)軟件被保護(hù)，例如“初音未來”所依靠的VOCALOID引擎的聲音庫軟件?！暗捎谔摂M人的開發(fā)需要多個(gè)領(lǐng)域的主體共同配合，因此在權(quán)屬上需要通過委托合同等方式進(jìn)行明確，依附于虛擬人的不同類型的作品可能會(huì)歸屬不同的權(quán)利人?！?/p>

　　厘清了主體，其法律風(fēng)險(xiǎn)也清晰可見。上海錦天城(重慶)律師事務(wù)所高級(jí)合伙人李章虎律師總結(jié)了虛擬人產(chǎn)業(yè)存在的五種法律風(fēng)險(xiǎn)。第一是知識(shí)產(chǎn)權(quán)，這是最重要的法律風(fēng)險(xiǎn)。虛擬數(shù)字人的形象、聲音和算法等都可能涉及知識(shí)產(chǎn)權(quán)保護(hù)。未經(jīng)授權(quán)使用、復(fù)制或修改虛擬數(shù)字人可能構(gòu)成侵權(quán)行為。第二是隱私和數(shù)據(jù)保護(hù)。虛擬數(shù)字人在與用戶互動(dòng)過程中可能收集和處理大量的個(gè)人數(shù)據(jù)，例如用戶偏好、行為習(xí)慣等。第三是言論自由和道德準(zhǔn)則。盡管虛擬數(shù)字人可以提供各種信息和建議，但它們不能傳播違法、有害或不道德的內(nèi)容。第四是虛擬數(shù)字人的智能化特點(diǎn)。虛擬數(shù)字人可能因錯(cuò)誤的理解或程序漏洞而提供不準(zhǔn)確或誤導(dǎo)性的信息，從而導(dǎo)致用戶誤解或產(chǎn)生法律后果。第五，虛擬人與現(xiàn)實(shí)世界之間界限模糊。盡管虛擬人由技術(shù)所驅(qū)動(dòng)，并不具備與人類相同的法律責(zé)任，但人們有時(shí)會(huì)誤將其當(dāng)作真實(shí)的個(gè)體，從而產(chǎn)生誤解和法律糾紛。

　　以法為本，恪守準(zhǔn)則

　　《新一代人工智能發(fā)展規(guī)劃》曾指出，高度重視可能帶來的安全風(fēng)險(xiǎn)挑戰(zhàn)，加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險(xiǎn)，確保人工智能安全、可靠、可控發(fā)展。目前，虛擬人作為新興事物，由于其在我國(guó)具有非常高的關(guān)注度，如何進(jìn)行法律規(guī)制成為一項(xiàng)重要的議題。

　　孫山介紹，根據(jù)《網(wǎng)絡(luò)安全法》第46條以及《個(gè)人信息保護(hù)法》第47條以及《個(gè)人信息保護(hù)法》第58條等規(guī)定，未來我國(guó)將會(huì)對(duì)虛擬人的數(shù)據(jù)安全提出更高要求，這對(duì)于虛擬數(shù)字人的發(fā)展來說無疑是一大挑戰(zhàn)。從數(shù)據(jù)收集角度來看，虛擬數(shù)字人存在很多數(shù)據(jù)收集方式，其中主要包括但不限于用戶主動(dòng)上傳、非公開提供個(gè)人信息等行為;從數(shù)據(jù)使用角度來看，其涉及不同類型用戶的個(gè)人信息;從數(shù)據(jù)處理角度來說，包括將用戶在不同業(yè)務(wù)場(chǎng)景下產(chǎn)生的數(shù)據(jù)進(jìn)行分類，例如將身份信息作為一種“必要”信息進(jìn)行處理以及將敏感屬性數(shù)據(jù)進(jìn)行單獨(dú)管理。

　　張欣認(rèn)為，適用于虛擬人的法律因虛擬人所采用的技術(shù)和其適用場(chǎng)景的不同而不同。擬人化程度較高的虛擬人，其采用深度合成或生成技術(shù)，應(yīng)當(dāng)適用《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》和即將生效的《生成式人工智能服務(wù)管理暫行辦法》，這兩部規(guī)章針對(duì)生成合成類算法進(jìn)行法律規(guī)制，能夠有效緩解虛擬人所產(chǎn)生的虛假信息和個(gè)人隱私等法律風(fēng)險(xiǎn)。針對(duì)適用的場(chǎng)景，虛擬人直播帶貨可能會(huì)涉及《廣告法》的相關(guān)條款，針對(duì)虛擬人產(chǎn)生的人格權(quán)和知識(shí)產(chǎn)權(quán)糾紛會(huì)涉及《民法典》中的相關(guān)規(guī)定。

　　不過，總體上講，我國(guó)對(duì)于虛擬人的規(guī)制相對(duì)于其他法律法規(guī)較少，未來仍有很大完善空間。

　　“在虛擬人產(chǎn)業(yè)領(lǐng)域，遵守法律是最基本的應(yīng)對(duì)方式，可以減少潛在的法律風(fēng)險(xiǎn)?！痹趯O山看來，當(dāng)現(xiàn)有法律并未對(duì)虛擬人作出相適應(yīng)的規(guī)定時(shí)，依照法律的概括性，應(yīng)遵守現(xiàn)有法律框架，確保虛擬人的開發(fā)和運(yùn)營(yíng)符合當(dāng)前適用的法律法規(guī)。此外，還要盡量避免爭(zhēng)議行為，在虛擬人的設(shè)計(jì)和功能中，避免涉及敏感或有爭(zhēng)議的內(nèi)容，以減少法律糾紛的可能性，如避免侵犯他人肖像權(quán)、知識(shí)產(chǎn)權(quán)等?！啊睹穹ǖ洹访鞔_規(guī)定，使用自然人肖像應(yīng)先行獲得肖像權(quán)人的同意，雖然該等同意并不要求一定是書面形式，但為便于后續(xù)合作過程中，將授權(quán)文件作為權(quán)利證明向第三方展示，能與肖像權(quán)人簽署書面授權(quán)許可文件是最好的，至于具體的權(quán)利內(nèi)容，可以雙方商榷，爭(zhēng)取使各方利益最大化?！倍槍?duì)虛擬人的聲音，要根據(jù)具體情況考慮采用著作權(quán)保護(hù)，或?qū)⑻摂M人的重要聲音元素例如組合標(biāo)志短語、個(gè)人口頭禪等通過文字商標(biāo)或聲音商標(biāo)的方式嘗試注冊(cè)，以獲得商標(biāo)法上的保護(hù)。

　　此外，雖然虛擬人非自然人、不具有人格權(quán)，但如果虛擬人所呈現(xiàn)出的個(gè)人特征與現(xiàn)實(shí)人物的具體生活、工作環(huán)境、人物關(guān)系等存在關(guān)聯(lián)，那么針對(duì)虛擬人的侮辱誹謗等行為則會(huì)造成背后現(xiàn)實(shí)人物的社會(huì)評(píng)價(jià)降低，涉嫌構(gòu)成對(duì)背后現(xiàn)實(shí)人物的名譽(yù)權(quán)的侵犯。

　　鑒于科技企業(yè)是虛擬人運(yùn)營(yíng)、制作和傳播的首要主體，張欣建議，科技企業(yè)應(yīng)率先探索行之有效的自治框架，制定和執(zhí)行適當(dāng)?shù)恼邅肀Ｗo(hù)所有相關(guān)方的權(quán)益?！皯?yīng)當(dāng)為用戶和開發(fā)者提供明確的行為準(zhǔn)則，規(guī)定如何合法、合規(guī)地創(chuàng)建和使用虛擬人。建立相應(yīng)的舉報(bào)機(jī)制來保護(hù)用戶和開發(fā)者的知識(shí)產(chǎn)權(quán)。確保用戶數(shù)據(jù)的安全和隱私，如設(shè)定清晰的數(shù)據(jù)收集、使用和共享政策，并加強(qiáng)數(shù)據(jù)加密和安全存儲(chǔ)等措施?！睂O山認(rèn)為，還要在此基礎(chǔ)上加強(qiáng)用戶的知情權(quán)和控制權(quán)，企業(yè)要為用戶提供清晰的用戶通知，解釋虛擬人的行為和數(shù)據(jù)使用方式，通過提高透明度強(qiáng)化選擇權(quán)，降低用戶對(duì)虛擬人的未知程度，增加用戶對(duì)虛擬人行為的理解和參與度。“隨著科技日新月異的發(fā)展，對(duì)虛擬人系統(tǒng)進(jìn)行定期的更新和審查也是十分有必要的，一方面確保其符合當(dāng)前的法律要求和技術(shù)標(biāo)準(zhǔn)，另一方面，也能及時(shí)調(diào)整和改進(jìn)虛擬人的設(shè)計(jì)和功能?！?/p>

　　“只有在法律的保護(hù)下，虛擬人才能持續(xù)發(fā)展并為用戶創(chuàng)造更好的體驗(yàn)?！崩钫禄⒅赋觯餐P(guān)注虛擬人的法律風(fēng)險(xiǎn)，才能建設(shè)一個(gè)安全、可靠且有趣的數(shù)字世界。

　　保持理性 虛擬人與真實(shí)人類之間的情感聯(lián)系是一種模擬和虛擬的交流方式，我們應(yīng)該保持理性并意識(shí)到這種差異。攝影/寧穎

　　倫理道德引人深思

　　過去幾年，虛擬人的形象呈現(xiàn)質(zhì)感不斷提升。超寫實(shí)虛擬人，皮膚和毛孔的質(zhì)感甚至可以媲美真人。因此，對(duì)一些深層次的倫理與道德問題更需要進(jìn)行深入探討。

　　孫山指出，隨著虛擬人在現(xiàn)實(shí)生活中的廣泛使用，人們與虛擬人之間的情感連接越來越緊密，該種情感連接可能會(huì)影響到人們的真實(shí)社交?！皩?duì)于人類來說，與虛擬人建立情感聯(lián)系是可能的。在現(xiàn)實(shí)生活中，我們常常會(huì)在與電影、游戲或虛擬角色的互動(dòng)中產(chǎn)生情感共鳴。虛擬人的情感表達(dá)能力和個(gè)性特征可以引發(fā)人們情感上的反應(yīng)，并產(chǎn)生情感連接。”

　　如果虛擬人被設(shè)計(jì)得足夠逼真以至于人們將其視為真實(shí)的情感對(duì)象，那么我們是否有義務(wù)對(duì)其負(fù)有情感責(zé)任?虛擬人的情感表達(dá)是否應(yīng)該受到保護(hù)和尊重?孫山表示，“雖然虛擬人可能無法與人類一樣真實(shí)地產(chǎn)生情感聯(lián)系，但它們?cè)趭蕵?、教育和治療等領(lǐng)域仍然具有潛力。通過設(shè)計(jì)虛擬人的情感表達(dá)和互動(dòng)能力，我們可以創(chuàng)造出更加吸引人、更加溫暖和有效的用戶體驗(yàn)。”

　　需要強(qiáng)調(diào)的是，虛擬人與真實(shí)人類之間的情感聯(lián)系是一種模擬和虛擬的交流方式，我們應(yīng)該保持理性并意識(shí)到這種差異。張欣告訴《小康》雜志、中國(guó)小康網(wǎng)，虛擬人與真人的互動(dòng)從本質(zhì)上來講是人機(jī)互動(dòng)，但是商家為了增加銷量可能會(huì)增加虛擬人的擬人化程度，“這種擬人化程度的提高是否會(huì)引起消費(fèi)者的‘情感依賴’是一個(gè)倫理難題。而且，利用已故之人的畫像和聲音來對(duì)已故之人進(jìn)行追憶的虛擬人服務(wù)也會(huì)產(chǎn)生倫理問題，可能產(chǎn)生預(yù)期之外的情感和認(rèn)知傷害”。她同時(shí)指出，虛擬人所使用的畫像和聲音是否侵犯現(xiàn)存或已故之人的人格權(quán)是目前最受爭(zhēng)議的倫理治理難題。

　　在韓國(guó)MBC制作的一檔名為《遇見你》的紀(jì)錄片中，技術(shù)人員就通過VR技術(shù)重現(xiàn)了一個(gè)名叫娜燕的七歲女孩，這個(gè)女孩事實(shí)上在數(shù)年前已經(jīng)因嚴(yán)重的白血病而去世了。這樣“重現(xiàn)”的虛擬人需使用死者本人的各種敏感數(shù)據(jù)，如肖像、聲音、姓名等，不僅極有可能在過程中侵犯死者的人格利益、人格尊嚴(yán)，而且“重現(xiàn)”后，虛擬人做出何種行為、說出何種話語皆不能由“本人”決定，其所作所為只能由生者控制。從道德倫理的角度來看，數(shù)字化復(fù)活或許也是對(duì)死者尊嚴(yán)的一種侵害。

　　除此之外，曾經(jīng)爆火的“AI孫燕姿”現(xiàn)象也令人深思。張欣表示，網(wǎng)友雖然對(duì)其歌聲的爬取和再生成并無惡意，但此類應(yīng)用仍有被濫用的風(fēng)險(xiǎn)。

　　孫山對(duì)此持相同看法?！疤摂M人的行為和決策通常是由算法驅(qū)動(dòng)的，算法的設(shè)計(jì)和實(shí)施可能涉及道德和價(jià)值觀的選擇，這就需要考慮如何確保虛擬人的行為符合倫理原則和社會(huì)價(jià)值。”他表示，算法應(yīng)當(dāng)是公開透明且具有可理解性的，這樣才能對(duì)算法是否符合倫理原則和社會(huì)價(jià)值進(jìn)行評(píng)估，并增加用戶對(duì)虛擬人的信任?！疤摂M人的算法還應(yīng)該尊重個(gè)體的隱私和自主權(quán)，遵循適當(dāng)?shù)臄?shù)據(jù)保護(hù)和隱私政策，不濫用個(gè)人數(shù)據(jù)，并且應(yīng)該給予用戶對(duì)其個(gè)人信息的控制權(quán)。除此之外，我們還需要考慮虛擬人對(duì)社會(huì)的影響，算法應(yīng)該被設(shè)計(jì)為能夠促進(jìn)社會(huì)公平和包容，盡量減少負(fù)面影響，如失業(yè)問題或?qū)ι缃换?dòng)的依賴?！?/p>

　　相關(guān)機(jī)構(gòu)預(yù)測(cè)顯示，到2030年，我國(guó)虛擬人產(chǎn)業(yè)整體市場(chǎng)規(guī)模將達(dá)到2700億元，成為壯大數(shù)字經(jīng)濟(jì)的新增長(zhǎng)點(diǎn)。就在不久前舉辦的“人工智能創(chuàng)新與治理”論壇上，張欣參與了《生成式AI倫理與治理倡議書》的發(fā)布。該倡議書的發(fā)起是為了應(yīng)對(duì)生成式人工智能快速發(fā)展帶來的諸多挑戰(zhàn)和問題，涵蓋了AI的安全、信息披露、人工把關(guān)、敏捷治理等七大原則，并給出了七大治理建議?！吧墒紸I模型需要嚴(yán)格保證其使用的安全，避免因誤用或?yàn)E用造成社會(huì)風(fēng)險(xiǎn)和影響;對(duì)于使用生成式AI服務(wù)生成或編輯的信息內(nèi)容，相關(guān)企業(yè)或組織應(yīng)添加能夠讓公眾明確知悉且不可刪改的標(biāo)識(shí)，以與真實(shí)信息區(qū)分，并逐漸形成行業(yè)標(biāo)準(zhǔn);在AI生成的內(nèi)容發(fā)布到公共領(lǐng)域之前，需要有人工進(jìn)行把關(guān)和審查，以確保其內(nèi)容的合法性和合規(guī)性;隨著AI技術(shù)的迅速發(fā)展，AI的治理和規(guī)范也要及時(shí)跟進(jìn)，以適應(yīng)新的技術(shù)發(fā)展和社會(huì)需求。”張欣說道。

　　《生成式AI倫理與治理倡議書》代表了人工智能協(xié)同共治的一種探索、期待，也為進(jìn)一步完善相關(guān)的法律法規(guī)和政策提供了重要的參考。張欣表示，“我們希望能夠?qū)I行業(yè)進(jìn)行方向性的引導(dǎo)，鼓勵(lì)A(yù)I行業(yè)的健康發(fā)展，實(shí)現(xiàn)治理與發(fā)展的雙輪驅(qū)動(dòng)。倡議書發(fā)布以來，已經(jīng)對(duì)生成式AI的治理和應(yīng)用產(chǎn)生了積極的影響?！彼岬剑谛袠I(yè)內(nèi)，已經(jīng)有企業(yè)開始積極響應(yīng)倡議書的建議，改進(jìn)AI模型的開發(fā)和使用流程，提高信息披露和人工把關(guān)的標(biāo)準(zhǔn)。倡議書的發(fā)布也提高了公眾對(duì)生成式AI的認(rèn)識(shí)和理解，促進(jìn)了公眾的參與和監(jiān)督。

　　(西南政法大學(xué)民商法學(xué)院法律碩士王澤州對(duì)此文亦有貢獻(xiàn))

　　(《小康》·中國(guó)小康網(wǎng) 獨(dú)家專稿)