人工智能技術近些年悄無聲息地融入到我們生活中的各個角落：智能語音客服、AI主播、語音轉文字等常見功能極大地提高了工作生活的便利性，眾多AI換臉、AI繪畫App或小程序也因上手簡單而讓普通人一秒鐘實現(xiàn)明星夢、畫家夢，去年年底美國研發(fā)的聊天工具ChatGPT一經問世更是火爆全球。不過，技術永遠是把雙刃劍，繼“AI孫燕姿”翻唱事件后，近日，福建一男子被騙子通過AI換臉和擬聲技術佯裝成其好友，并通過視頻聊天10分鐘詐騙430萬元一事，讓人們更加深刻地思考：AI技術應怎樣服務人類？技術濫用會帶來哪些法律風險，又會造成怎樣的信任危機呢？

AI“創(chuàng)作”存在侵權風險

AI技術的發(fā)展初衷在于改善人類生活，近年來，其對于視頻、音頻、圖像、文字的處理逐漸從實驗室走向大眾，改變著人們的生產生活方式，且應用場景廣泛，玩法多元，在降本增效、解放生產力方面有著不凡表現(xiàn)。

以AI視頻技術為例。以往，某位演員的失德失范可能導致其參演的整部作品無法播出，給拍攝方造成經濟損失。通過AI技術，就可以在作品已經拍攝完成后對問題演員進行“換臉”，及時止損。在特效制作方面，過去的AI還只是特效師的輔助，但是目前已經有多個軟件可以“傻瓜式”生成大片特效，電影特效進入“平民時代”，普通人也能擁有自制特效的奇妙體驗。另外，AI技術還能夠在僅有文案而不添加其他圖片視頻素材的基礎上“無中生有”創(chuàng)作視頻，滿足了創(chuàng)作者們更加多元化的需求。

今年春節(jié)期間，一組紅色背景、毛茸茸的卡通兔子圖片風靡朋友圈，成為了很多人的屏保壁紙和頭像，這些圖片均是由AI繪圖技術生成。眾多AI繪圖工具已經在設計、繪畫領域嶄露頭角，使用者只需要輸入文字指令，就可以實現(xiàn)“以文生圖”，在幾分鐘內得到一張不錯的作品，極大地提高了生產效率。不過，這可能會對圖片版權行業(yè)造成沖擊。

一般來講，想要使用一張有版權的圖片，包括繪畫和攝影作品等，需要付費才能夠合法使用，否則便會引發(fā)版權侵權案件，在自媒體領域相關糾紛尤其明顯。有些自媒體賬號在發(fā)布的廣告宣傳中未經許可，使用了他人的版權圖片作為配圖，被權利人起訴索賠，有些版權代理公司還可能刻意隱瞞并誘導別人使用版權圖片，等握取侵權事實后再向對方索要賠償、逼迫簽訂包年合同或提起訴訟，將維權變成了牟利手段。而AI繪圖技術的出現(xiàn)，在一定程度上能夠幫助自媒體運營者控制成本，降低因不當使用圖片作品引發(fā)的涉訴風險，另一方面，也對圖片作品商業(yè)化維權產業(yè)鏈擾亂市場經營秩序的行為構成打擊。

上述AI視頻、AI繪圖技術，以及能夠幫助人們寫論文、郵件、腳本、詩歌、代碼的“全能”聊天工具ChatGPT，都是深度合成技術的具體應用，不論人們是否具有專業(yè)背景和相關經驗，只要具備簡單的表達能力，都可以借助這些AI工具進行“創(chuàng)作”。那么，這些生成的視頻、圖片、文字作品版權歸屬如何呢？事實上，我國著作權法對于利用AI生成的作品版權歸屬尚無明確規(guī)定，不過，眾多的AI工具均對產出作品的權利歸屬設置了相應的使用規(guī)則，有些軟件還對免費用戶和付費用戶生成作品的權利歸屬以及是否可商用進行了區(qū)分，可視為雙方就生成作品版權問題達成了一致，用戶對作品的處分應當遵照約定執(zhí)行。

此外，也有人質疑AI通過對海量樣本的學習、模仿后生成的作品，是否會侵犯在先作品版權人的合法權利？對此，筆者認為，要看AI作品對他人作品的借鑒、使用程度是否構成實質性相似。如果只是對他人創(chuàng)作的手法、規(guī)則、技巧、風格的學習模仿，很難認定為“抄襲”，但如果是機械地照搬、拼接了他人作品，則有可能構成侵權。因此，在前期利用AI獲取靈感創(chuàng)意的基礎上，創(chuàng)作者應注入自己的思想觀點、人文情感等，使其內容具備實質性的改動，讓作品的權屬問題和后續(xù)使用更加穩(wěn)妥。

AI“換臉”可能侵害肖像權

技術的迭代讓很多不可能成為了可能，近日爆火網絡的“AI孫燕姿”就是如此。很多創(chuàng)作者以孫燕姿的音色來訓練AI，并以合成的音色翻唱其他歌手的作品，讓多年不出專輯的孫燕姿瞬間多出了千余首翻唱作品，連她本人都表示“人類無法超越它已指日可待”。那么，這些AI翻唱的作品是否合法呢？

事實上，歌手的唱腔、音色本身不屬于著作權法的保護范疇，但是民法典第一千零二十三條規(guī)定，對自然人聲音的保護參照適用肖像權保護的有關規(guī)定，也就是說，不得利用信息技術手段偽造的方式侵犯他人對聲音的權利。

此外，有人以“僅供娛樂并非商用”為由來聲明免責，但是根據(jù)著作權法第四十二條的規(guī)定，錄音制作者使用他人已經合法錄制為錄音制品的音樂作品來制作錄音制品，可以不經著作權人許可，但應當按照規(guī)定支付報酬，免責聲明并不是其著作權侵權的阻卻事由。而且有些人上傳AI翻唱作品后會獲得平臺收益或用戶打賞，雖然并非必須付費才能收聽，但制作者也的確因此獲得了收益，所以也很難將其作品定義為著作權法合理使用制度中的“免費表演”。

可見，AI技術雖好，但必須謹防濫用。曾有一段時間，“楊冪”“熱巴”等明星頻頻現(xiàn)身帶貨直播間，被眼尖的網友一眼識破，原來這些都是AI換臉技術，某些人妄圖頂著一張“明星臉”吸引更多用戶走進直播間。這樣做，雖然有了流量，卻也侵犯了他人合法權益。根據(jù)民法典第一千零一十九條規(guī)定，任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。未經肖像權人同意，不得制作、使用、公開肖像權人的肖像，但是法律另有規(guī)定的除外。未經肖像權人同意，肖像作品權利人不得以發(fā)表、復制、發(fā)行、出租、展覽等方式使用或者公開肖像權人的肖像。明星的肖像相較于普通人更具商業(yè)價值，非法將名人肖像“移植”到主播身上，相當于零成本獲取名人效應，不僅侵害了被換臉明星的肖像權及其代表的經濟利益，對其他依法付費使用名人肖像的經營者也明顯不公。

此外，還有網友曾上傳自己的照片，用自己的臉替換影視劇中演員的臉，此種行為也存在法律風險。根據(jù)肖像權的法律規(guī)定，“反向換臉”也屬于利用信息技術手段偽造的方式侵害他人肖像權的行為。特別是換臉影視劇人物并將視頻上傳網絡發(fā)布，還可能構成對影視作品信息網絡傳播權、保護作品完整權等著作權的侵害，相關著作權人可保留追究其責任并獲取賠償?shù)臋嗬?/p>

需注意的是，“換臉”還可能引發(fā)其他人格權方面的糾紛。有視頻博主近期通過AI換臉技術將影視劇中親密戲部分男主角的臉換成了自己，造成了很多網友及演員粉絲的不適。演員在劇中的親密戲份屬于表演需要，在合同、劇本中有所體現(xiàn)，是在演員本人知情、同意的基礎上對劇情的必要演繹。但是該博主的行為不僅構成了對女演員的無禮和冒犯，還可能因符合民法典第一千零一十條所述“違背他人意愿，以語言、文字、圖像、肢體行為等方式對他人實施性騷擾”的情形而承擔民事責任。更有甚者為了“造黃謠”或非法牟利，將女明星或者普通女性的肖像換臉到黃色視頻中，嚴重侵害了他人的名譽權，給當事人造成了極大的精神痛苦，應依法予以懲處。

重點防范利用AI實施犯罪

在人們還在拓展AI的各種便利時，犯罪分子早已盯上了這項技術。據(jù)報道，福建郭先生的微信“好友”通過視頻聯(lián)系他，稱要借430萬元保證金?；趯σ曨l通話的信任，郭先生在10分鐘內完成了轉賬，不久之后發(fā)現(xiàn)被騙。原來，騙子先是盜取了郭先生好友的微信，知曉了郭先生的經濟實力，又獲取了“好友”的臉孔、聲音等信息用于后期合成，最終完成了詐騙，讓人防不勝防。原本遠程通信是為便利而生，但AI技術的濫用反而降低了人們對于線上交往的信任。試想一下，如果有人將AI技術用于制作非法視頻、虛假新聞等，這對社會信任體系無疑是不利的。

誠信對于保障交易安全至關重要，但是深度合成技術的不當使用可能增加違約風險，尤其是在以對方智力成果為標的的交易領域。當創(chuàng)作者的作品是通過ChatGPT、Midjourney等AI工具生成的文字或圖片時，其作品的獨創(chuàng)性或將存在瑕疵。例如在著作權許可或轉讓合同方面，除非合同雙方就使用AI進行創(chuàng)作達成了一致，否則這種合成的作品可能因獨創(chuàng)性不足而構成瑕疵履行，或者因侵犯他人著作權而存在權利瑕疵，給被許可方或受讓方在后續(xù)商業(yè)化使用作品過程中造成不必要的損失。

另外，AI技術的觸手可及也將提升道德風險。利用AI完成工作所需的工作量與個人開展獨立智力勞動所需的工作量相比，無論時間、經濟、精力成本都相差甚遠，如果寫作、繪畫等方面的從業(yè)者大量借助AI完成工作卻不予告知付費客戶，仍然按照個人獨立完成的標準報價，則相關行業(yè)良性競爭的秩序將被打破，職業(yè)道德也將出現(xiàn)危機。

當然，高風險的還有學術領域。學生用ChatGPT等人工智能工具輔助寫論文已經不是什么新鮮事，但是就現(xiàn)階段來講，AI創(chuàng)作的論文還存在很多弊端，或是缺乏新意，或是缺乏邏輯性表達，甚至連參考文獻都可能是AI胡編濫造的，這樣的學術成果不僅沒有任何價值可言，反而加劇了學術不端現(xiàn)象。

面對相關風險，我們既要做好補救，也要做好防范。國家網信辦出臺的《互聯(lián)網信息服務深度合成管理規(guī)定》于今年1月10日正式施行，主要針對深度合成服務者的義務進行了規(guī)定，其中要求深度合成服務提供者提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認?？梢?，做好風險防范首先要從技術開發(fā)者、服務提供者入手。

對于個人而言，人臉、指紋、聲音等生物信息以及身份證、銀行卡、社交媒體賬號等個人信息的保護則變得愈發(fā)重要。假如遇到熟人在線上提出轉賬需求時，要通過多重驗證來確認其身份，特別是對AI技術了解不多的老年人更要重點防范。

（作者單位：北京市第四中級人民法院）