隨著大模型技術(shù)快速發(fā)展，新型類人情感聊天機(jī)器人——“AI伴侶”日益流行。目前，市面上已有100多款由AI驅(qū)動(dòng)的應(yīng)用程序，不僅能夠進(jìn)行全天候情感交流，還可以滿足不同用戶的個(gè)性化需求。殊不知，用戶在享受溫柔陪伴的同時(shí)，一些法律風(fēng)險(xiǎn)也悄然而至。

隱私可能被竊取和濫用

AI伴侶是指由人工智能技術(shù)驅(qū)動(dòng)的可以通過與人類互動(dòng)向人類提供情感支持的對(duì)話應(yīng)用程序，在智能化程序中可以模擬人類伴侶，滿足人類多元化需求，還可以廣泛應(yīng)用到心理、娛樂等多重領(lǐng)域。

據(jù)報(bào)道，一些使用AI伴侶軟件的用戶表示“沒開過定位權(quán)限，但AI伴侶可以精準(zhǔn)說出其所在城市”“未經(jīng)過授權(quán)，軟件就獲取了相機(jī)、相冊(cè)權(quán)限”“聊天期間切換到另一個(gè)軟件看視頻，再次回到此軟件后，AI伴侶能夠準(zhǔn)確說出自己剛才的行為”“AI伴侶能夠知曉用戶在日常生活中和朋友聊天談?wù)摰脑掝}”等，也有用戶反映AI伴侶軟件私自收集、處理個(gè)人信息，但事先并未明確向個(gè)人告知。

AI伴侶在提供服務(wù)的過程中，為了采集了解用戶的個(gè)人喜好，會(huì)采用私自讀取其他軟件信息、調(diào)用攝像頭、訪問相冊(cè)等方式來收集用戶的個(gè)人信息。特別是在未經(jīng)用戶明確同意的情況下，通過收集軟件下載數(shù)量與類型、軟件使用習(xí)慣、家庭關(guān)系、社交好友、通訊錄、地理位置、人臉識(shí)別、照片等信息并進(jìn)行分析，為用戶進(jìn)行精準(zhǔn)畫像，以便提供更為真實(shí)、貼切的陪伴。如果用戶的這些個(gè)人信息被收集利用，在存儲(chǔ)、傳輸、使用等環(huán)節(jié)一旦保護(hù)不當(dāng)，就面臨著隱私被竊取、泄露、濫用等風(fēng)險(xiǎn)，用戶數(shù)據(jù)隱私亟待保護(hù)。

此外，一些不法分子或企業(yè)可能會(huì)濫用AI伴侶收集的數(shù)據(jù)、信息，進(jìn)行不正當(dāng)?shù)纳虡I(yè)行為侵犯用戶權(quán)益。例如利用用戶數(shù)據(jù)進(jìn)行精準(zhǔn)營銷、推送廣告等，或者進(jìn)行非法活動(dòng)，如詐騙、身份盜竊等，給用戶帶來財(cái)產(chǎn)損失。上述這些情況都可能造成信息泄露，會(huì)侵犯用戶的隱私權(quán)，對(duì)個(gè)人權(quán)益造成損害。

我國個(gè)人信息保護(hù)法第十七條規(guī)定，個(gè)人信息處理者在處理個(gè)人信息前，應(yīng)當(dāng)以顯著方式、清晰易懂的語言真實(shí)、準(zhǔn)確、完整地向個(gè)人告知下列事項(xiàng)：個(gè)人信息處理者的名稱或者姓名和聯(lián)系方式；個(gè)人信息的處理目的、處理方式，處理的個(gè)人信息種類、保存期限；個(gè)人行使本法規(guī)定權(quán)利的方式和程序；法律、行政法規(guī)規(guī)定應(yīng)當(dāng)告知的其他事項(xiàng)?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》第十一條規(guī)定，提供者對(duì)使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù)，不得收集非必要個(gè)人信息，不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。提供者應(yīng)當(dāng)依法及時(shí)受理和處理個(gè)人關(guān)于查閱、復(fù)制、更正、補(bǔ)充、刪除其個(gè)人信息等的請(qǐng)求?！毒W(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》第十一條規(guī)定，網(wǎng)絡(luò)數(shù)據(jù)處理者應(yīng)當(dāng)建立健全網(wǎng)絡(luò)數(shù)據(jù)安全事件應(yīng)急預(yù)案，發(fā)生網(wǎng)絡(luò)數(shù)據(jù)安全事件時(shí)，應(yīng)當(dāng)立即啟動(dòng)預(yù)案，采取措施防止危害擴(kuò)大，消除安全隱患，并按照規(guī)定向有關(guān)主管部門報(bào)告。個(gè)人信息保護(hù)法第六十六條規(guī)定，違反本法規(guī)定處理個(gè)人信息，或者處理個(gè)人信息未履行本法規(guī)定的個(gè)人信息保護(hù)義務(wù)的，由履行個(gè)人信息保護(hù)職責(zé)的部門責(zé)令改正，給予警告，沒收違法所得，對(duì)違法處理個(gè)人信息的應(yīng)用程序，責(zé)令暫?；蛘呓K止提供服務(wù)；拒不改正的，并處100萬元以下罰款；對(duì)直接負(fù)責(zé)的主管人員和其他直接責(zé)任人員處1萬元以上10萬元以下罰款。

法官提醒

AI伴侶的開發(fā)平臺(tái)和服務(wù)提供者需要盡到提示義務(wù)，在收集信息時(shí)做好信息提示，以顯著的方式、清晰易懂的語言真實(shí)、準(zhǔn)確、完整、充分地告知用戶。同時(shí)，還需要設(shè)置一定的隱私邊界，建立更完善的數(shù)據(jù)保護(hù)和隱私管理機(jī)制，不得收集非必要個(gè)人信息，并儲(chǔ)存好收集到的個(gè)人信息，保護(hù)用戶個(gè)人隱私。違反相關(guān)規(guī)定處理個(gè)人信息的，需承擔(dān)相應(yīng)的行政責(zé)任，構(gòu)成犯罪的，將依法追究刑事責(zé)任。

用戶在使用AI伴侶時(shí)，應(yīng)謹(jǐn)慎提供個(gè)人信息，特別是敏感信息，如身份證號(hào)、銀行卡號(hào)等；同時(shí)也要仔細(xì)閱讀相關(guān)服務(wù)協(xié)議、隱私政策，定期查看并管理AI伴侶的獲取權(quán)限設(shè)置，確保不會(huì)泄露過多個(gè)人信息。

過度依賴影響身心健康

AI伴侶可能在不經(jīng)意間傳播違法和不良信息，如色情、暴力等內(nèi)容，一些不法分子也可能利用AI伴侶傳播違法內(nèi)容，對(duì)用戶的身心健康造成負(fù)面影響，甚至可能引發(fā)嚴(yán)重的社會(huì)問題。

目前全球已發(fā)生多起AI聊天誘發(fā)自我傷害等極端行為的案例，AI過度“擬人化”對(duì)心理脆弱者的嚴(yán)重影響不可忽視。國外一名男子在與AI聊天機(jī)器人就氣候危機(jī)進(jìn)行了為期六周的對(duì)話后，AI聊天機(jī)器人在他提出“犧牲自己來拯救地球”后，鼓勵(lì)他結(jié)束自己的生命。

我國數(shù)據(jù)安全法第八條規(guī)定，開展數(shù)據(jù)處理活動(dòng)，應(yīng)當(dāng)遵守法律、法規(guī)，尊重社會(huì)公德和倫理，遵守商業(yè)道德和職業(yè)道德，誠實(shí)守信，履行數(shù)據(jù)安全保護(hù)義務(wù)，承擔(dān)社會(huì)責(zé)任，不得危害國家安全、公共利益，不得損害個(gè)人、組織的合法權(quán)益。《新一代人工智能倫理規(guī)范》第十條提出強(qiáng)化自律意識(shí)，加強(qiáng)人工智能研發(fā)相關(guān)活動(dòng)的自我約束，主動(dòng)將人工智能倫理道德融入技術(shù)研發(fā)各環(huán)節(jié)，自覺開展自我審查，加強(qiáng)自我管理，不從事違背倫理道德的人工智能研發(fā)?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》第十條規(guī)定，提供者應(yīng)當(dāng)明確并公開其服務(wù)的適用人群、場(chǎng)合、用途，指導(dǎo)使用者科學(xué)理性認(rèn)識(shí)和依法使用生成式人工智能技術(shù)，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)。

法官提醒

作為AI伴侶的創(chuàng)造者和運(yùn)營者，開發(fā)平臺(tái)和服務(wù)提供者需要積極履行社會(huì)責(zé)任，加強(qiáng)內(nèi)容監(jiān)管，并建立嚴(yán)格的內(nèi)容審核機(jī)制，通過內(nèi)容審核機(jī)制規(guī)范AI輸出所提供的內(nèi)容，避免出現(xiàn)含有敏感、違法和不良的信息。特別要注意對(duì)于用戶的心理疏導(dǎo)，通過大數(shù)據(jù)、算法分析，對(duì)于有自我傷害趨向的聊天要及時(shí)進(jìn)行提醒、疏導(dǎo)、勸阻。同時(shí)也要嚴(yán)格定期向用戶發(fā)送使用提醒，避免用戶過度依賴AI伴侶，影響現(xiàn)實(shí)人際關(guān)系和身心健康。

用戶也應(yīng)增強(qiáng)自我保護(hù)意識(shí)，準(zhǔn)確把握使用尺度，避免因?yàn)槌两贏I伴侶提供的情緒價(jià)值而遠(yuǎn)離現(xiàn)實(shí)世界，影響身心健康。如果發(fā)現(xiàn)AI伴侶存在違法或不良行為，用戶應(yīng)及時(shí)向相關(guān)部門舉報(bào)，以維護(hù)自己的合法權(quán)益和社會(huì)公共利益。

不當(dāng)使用或引法律糾紛

AI伴侶在使用過程中，可能會(huì)模仿、再現(xiàn)某些游戲、影視劇及公眾人物的形象或聲音，如果未經(jīng)相關(guān)人物授權(quán)，就可能侵犯其名譽(yù)權(quán)和肖像權(quán)。用戶在使用時(shí)，也可能會(huì)利用AI技術(shù)生成或傳播損害他人名譽(yù)的內(nèi)容，損害自然人的名譽(yù)和尊嚴(yán)。比如，當(dāng)AI伴侶以某個(gè)自然人的形象出現(xiàn)時(shí)，如果未經(jīng)該自然人同意，則可能引發(fā)侵權(quán)問題。

在何某訴某科技公司網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案中，某科技公司利用算法創(chuàng)設(shè)“AI陪伴者”，通過設(shè)置陪伴者名稱、頭像，上傳陪伴者的圖片、語氣文字、人設(shè)特點(diǎn)、性格描述等，使得用戶能夠與虛擬人物進(jìn)行更真實(shí)的交流互動(dòng)。何某是公眾人物，知名度較高，在該款軟件中被大量用戶設(shè)置為陪伴人物。法院認(rèn)為，在該科技公司的規(guī)則設(shè)定和算法設(shè)計(jì)下，用戶使用何某的姓名、肖像創(chuàng)設(shè)虛擬人物，制作互動(dòng)語料素材，實(shí)際上是將何某的姓名、肖像、人格特點(diǎn)等綜合而成的整體形象投射到虛擬角色上，形成了何某的虛擬形象，是對(duì)包含何某肖像、姓名的整體人格形象的使用。法院最終認(rèn)定，自然人“虛擬形象”所包含的姓名、肖像、人格特點(diǎn)等人格要素是自然人的人格權(quán)客體，未經(jīng)許可擅自創(chuàng)設(shè)、使用自然人虛擬形象的，構(gòu)成對(duì)自然人人格權(quán)的侵害。在該案中，法院最終判決科技公司侵犯了何某的肖像權(quán)、姓名權(quán)，應(yīng)道歉和賠償經(jīng)濟(jì)損失。

民法典第一百一十條規(guī)定，自然人享有生命權(quán)、身體權(quán)、健康權(quán)、姓名權(quán)、肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)、婚姻自主權(quán)等權(quán)利?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》中規(guī)定，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)。尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì)，實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為；尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益。該辦法還規(guī)定，生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng)，應(yīng)遵守以下規(guī)定：使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型；涉及知識(shí)產(chǎn)權(quán)的，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)。同時(shí)，提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)。

法官提醒

AI伴侶的開發(fā)平臺(tái)和服務(wù)提供者在使用AI伴侶生成或傳播內(nèi)容時(shí)，應(yīng)尊重他人知識(shí)產(chǎn)權(quán)，避免使用未經(jīng)授權(quán)的作品，并做好相應(yīng)標(biāo)識(shí)。如果需要使用他人的作品，應(yīng)事先獲得著作權(quán)人的許可并支付相應(yīng)費(fèi)用。同時(shí)也要注意保護(hù)他人名譽(yù)和肖像權(quán)，既要避免使用AI伴侶生成或傳播損害他人名譽(yù)的內(nèi)容，也要避免未經(jīng)許可擅自創(chuàng)設(shè)、使用自然人虛擬形象，侵害自然人人格權(quán)。個(gè)人如果發(fā)現(xiàn)自己的名譽(yù)或肖像權(quán)受到侵害，要及時(shí)留存證據(jù)，采取措施維護(hù)自己的合法權(quán)益。

目前，AI技術(shù)迅速發(fā)展，但相關(guān)領(lǐng)域存在監(jiān)管空白。應(yīng)對(duì)AI伴侶帶來的新風(fēng)險(xiǎn)和挑戰(zhàn)，需要全社會(huì)形成合力，共同構(gòu)建一個(gè)安全、有序、高效的使用環(huán)境。因此，監(jiān)管部門也應(yīng)加大監(jiān)督力度與宣教力度。明晰監(jiān)管主體、監(jiān)管范圍、監(jiān)管方式、處罰措施，加大對(duì)AI伴侶運(yùn)行的監(jiān)管力度，及時(shí)進(jìn)行監(jiān)督檢查與糾正，對(duì)違法違規(guī)的開發(fā)者和服務(wù)提供者進(jìn)行嚴(yán)厲處罰，構(gòu)成犯罪的，依法追究刑事責(zé)任，更好地維護(hù)市場(chǎng)秩序和用戶權(quán)益。相關(guān)部門還應(yīng)針對(duì)如何正確使用AI伴侶加大宣傳力度，提高用戶對(duì)新興事物的認(rèn)知，引導(dǎo)用戶保持理性、審慎的態(tài)度，提高警惕性，避免被誤導(dǎo)。

（作者單位：北京市石景山區(qū)人民法院）