黨的二十屆三中全會(huì)通過(guò)的《中共中央關(guān)于進(jìn)一步全面深化改革、推進(jìn)中國(guó)式現(xiàn)代化的決定》指出，“加強(qiáng)網(wǎng)絡(luò)安全體制建設(shè)，建立人工智能安全監(jiān)管制度”。當(dāng)前，新一輪科技革命和產(chǎn)業(yè)變革蓬勃發(fā)展，人工智能、生物技術(shù)、新能源等前沿技術(shù)方興未艾。其中，以DeepSeek、ChatGPT等為代表的生成式人工智能熱潮席卷全球，成為現(xiàn)象級(jí)話(huà)題。生成式人工智能技術(shù)在重塑全球科技創(chuàng)新與產(chǎn)業(yè)發(fā)展格局的同時(shí)，也可能引發(fā)價(jià)值導(dǎo)向偏差、AI技術(shù)濫用等復(fù)雜挑戰(zhàn)。面對(duì)這場(chǎng)深刻影響國(guó)家發(fā)展與未來(lái)的技術(shù)革命，著力筑牢生成式人工智能發(fā)展的安全防線，構(gòu)建科學(xué)完備、運(yùn)行高效、多維協(xié)同的風(fēng)險(xiǎn)防范體系，不僅關(guān)乎技術(shù)本身的應(yīng)用效能，更直接關(guān)系到國(guó)家安全、社會(huì)穩(wěn)定、文化繁榮和國(guó)際競(jìng)爭(zhēng)力提升，是擺在我們面前的重大時(shí)代課題。

明確價(jià)值導(dǎo)向，牢固樹(shù)立科技發(fā)展的正確理念。首先，堅(jiān)持科技為民、技術(shù)向善。習(xí)近平總書(shū)記強(qiáng)調(diào)，“要把滿(mǎn)足人民對(duì)美好生活的向往作為科技創(chuàng)新的落腳點(diǎn)，把惠民、利民、富民、改善民生作為科技創(chuàng)新的重要方向”。這彰顯了我國(guó)科技創(chuàng)新的人民性特征，意味著要使生成式人工智能技術(shù)更好服務(wù)于人民對(duì)美好生活的向往，確保技術(shù)成果能夠廣泛惠及全體社會(huì)成員，促進(jìn)社會(huì)公平正義與和諧穩(wěn)定。政府、企業(yè)、高校、科研機(jī)構(gòu)等各主體都應(yīng)將技術(shù)向善理念融入生成式人工智能技術(shù)發(fā)展過(guò)程，實(shí)現(xiàn)從研發(fā)到應(yīng)用全生命周期的價(jià)值導(dǎo)向把控，確保技術(shù)發(fā)展不偏離為人類(lèi)謀福祉的初衷，實(shí)現(xiàn)社會(huì)價(jià)值與經(jīng)濟(jì)價(jià)值的兼顧。其次，統(tǒng)籌好發(fā)展與安全的關(guān)系。安全是發(fā)展的前提，發(fā)展是安全的保障，發(fā)展生成式人工智能技術(shù)，需深刻把握技術(shù)創(chuàng)新活力釋放與風(fēng)險(xiǎn)有效管控的辯證統(tǒng)一。這就要求我們既要克服“談AI色變”的過(guò)度擔(dān)憂(yōu)心理，為技術(shù)探索、產(chǎn)業(yè)孵化、應(yīng)用場(chǎng)景落地等創(chuàng)造包容審慎的發(fā)展空間，激發(fā)其賦能生產(chǎn)力發(fā)展的巨大潛能；也要堅(jiān)決摒棄“技術(shù)至上”“先發(fā)展后治理”的思維觀念，將安全理念、合規(guī)標(biāo)準(zhǔn)深度內(nèi)嵌于技術(shù)研發(fā)、模型訓(xùn)練、場(chǎng)景應(yīng)用等全鏈條、全流程、全生命周期中，確保生成式人工智能技術(shù)在保持創(chuàng)新活力的同時(shí)，始終運(yùn)行在安全可靠的軌道上。

強(qiáng)化源頭管理，提升數(shù)據(jù)治理能力。數(shù)據(jù)是訓(xùn)練人工智能模型的基礎(chǔ)要素，也是人工智能模型應(yīng)用的核心資源。生成式人工智能發(fā)展依賴(lài)海量的訓(xùn)練數(shù)據(jù)，包括個(gè)人數(shù)據(jù)、企業(yè)數(shù)據(jù)和政府?dāng)?shù)據(jù)等，一旦這些數(shù)據(jù)失控流動(dòng)、造成泄漏，將可能導(dǎo)致個(gè)人身份盜用、財(cái)產(chǎn)損失，甚至對(duì)國(guó)家安全帶來(lái)不利影響。因此，針對(duì)重點(diǎn)行業(yè)的重要數(shù)據(jù)、核心數(shù)據(jù)，可參照歐盟《通用數(shù)據(jù)保護(hù)條例》和我國(guó)數(shù)據(jù)安全法等的管控要求，按照“境內(nèi)存儲(chǔ)+安全評(píng)估”的方式進(jìn)行管理；構(gòu)建跨模態(tài)數(shù)據(jù)安全與隱私保護(hù)體系，依托區(qū)塊鏈技術(shù)實(shí)現(xiàn)全鏈路數(shù)據(jù)存證，通過(guò)可信執(zhí)行環(huán)境技術(shù)，實(shí)現(xiàn)“原始數(shù)據(jù)不出域，數(shù)據(jù)可用不可見(jiàn)”；構(gòu)建風(fēng)險(xiǎn)預(yù)警和動(dòng)態(tài)評(píng)估平臺(tái)，實(shí)時(shí)監(jiān)測(cè)和分析平臺(tái)運(yùn)行狀態(tài)、數(shù)據(jù)流向等信息，加強(qiáng)對(duì)違規(guī)內(nèi)容與行為的實(shí)時(shí)識(shí)別與研判。同時(shí)，數(shù)據(jù)質(zhì)量直接影響大語(yǔ)言模型的性能與可靠性。要加快建立數(shù)據(jù)使用的標(biāo)準(zhǔn)與規(guī)范，提高數(shù)據(jù)的可解釋性與可用性；加強(qiáng)對(duì)數(shù)據(jù)的清洗與篩選等預(yù)處理，提升數(shù)據(jù)質(zhì)量。建立健全大數(shù)據(jù)審計(jì)工作機(jī)制，定期對(duì)數(shù)據(jù)的收集、存儲(chǔ)、使用和共享情況進(jìn)行審查，及時(shí)發(fā)現(xiàn)并糾正數(shù)據(jù)濫用、隱私泄露等問(wèn)題，確保數(shù)據(jù)使用和技術(shù)發(fā)展始終在可控范圍內(nèi)。數(shù)據(jù)提供者也需遵循合法性與合規(guī)性原則，確保數(shù)據(jù)來(lái)源合法、內(nèi)容真實(shí)準(zhǔn)確，減少深度偽造技術(shù)帶來(lái)的負(fù)面影響。

健全制度保障，推進(jìn)人工智能監(jiān)管治理體系化。一方面，立法先行，明確基本法律框架和責(zé)任邊界。依托網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法和個(gè)人信息保護(hù)法構(gòu)建的法律框架體系，可考慮將目前已有的相關(guān)政策包括《生成式人工智能服務(wù)管理暫行辦法》等逐步上升為具有更高法律效力的文件，加快推動(dòng)全面系統(tǒng)的人工智能專(zhuān)門(mén)性法律制定，明確技術(shù)研發(fā)者、使用者、監(jiān)管者等各主體的權(quán)利、義務(wù)與責(zé)任邊界。要明確規(guī)定相關(guān)企業(yè)在數(shù)據(jù)收集、存儲(chǔ)、使用過(guò)程中的安全保障責(zé)任，界定監(jiān)管部門(mén)在監(jiān)督檢查、風(fēng)險(xiǎn)防范、應(yīng)急處置等方面的職權(quán)范圍和執(zhí)法程序，確保監(jiān)管工作的合法性、規(guī)范性和有效性，使各參與主體能夠在明確的法律框架內(nèi)開(kāi)展活動(dòng)，有法可依、有章可循。另一方面，協(xié)同共治，建立健全跨部門(mén)監(jiān)管體系。可整合相關(guān)部門(mén)的監(jiān)管資源與力量，明確各部門(mén)在風(fēng)險(xiǎn)防范中的具體職責(zé)和角色，通過(guò)信息共享、聯(lián)合執(zhí)法等方式，建立高效的協(xié)同工作機(jī)制，形成監(jiān)管合力，提高監(jiān)管效率和執(zhí)法效果，避免產(chǎn)生職責(zé)不清、推諉等現(xiàn)象。同時(shí)，建立跨地區(qū)、跨平臺(tái)的協(xié)同監(jiān)管機(jī)制，減少監(jiān)管盲區(qū)，確保生成式人工智能技術(shù)在各個(gè)應(yīng)用領(lǐng)域都受到嚴(yán)格有效的監(jiān)管，保障社會(huì)公共利益和廣大用戶(hù)的合法權(quán)益。

此外，維護(hù)生成式人工智能安全，構(gòu)建風(fēng)險(xiǎn)防范體系，也離不開(kāi)全社會(huì)的共同參與。普及人工智能教育、提升公眾科學(xué)素養(yǎng)是重要一環(huán)。在中小學(xué)的基礎(chǔ)教育階段，可通過(guò)科普課程、實(shí)踐活動(dòng)等多種形式，向廣大青少年普及人工智能基本原理、技術(shù)應(yīng)用及其潛在風(fēng)險(xiǎn)等知識(shí)，培養(yǎng)他們對(duì)技術(shù)的理性認(rèn)知和正確的價(jià)值判斷能力。在大學(xué)教育和職業(yè)培訓(xùn)中，可開(kāi)設(shè)專(zhuān)門(mén)的人工智能課程和培訓(xùn)模塊，系統(tǒng)講授法律法規(guī)、風(fēng)險(xiǎn)案例等內(nèi)容，提高相關(guān)從業(yè)人員在技術(shù)研究、開(kāi)發(fā)與應(yīng)用中的安全責(zé)任意識(shí)。同時(shí)，面向社會(huì)公眾廣泛開(kāi)展人工智能素養(yǎng)的宣傳教育活動(dòng)，借助短視頻平臺(tái)、社區(qū)宣傳、線上線下講座等多種渠道，提高全社會(huì)對(duì)人工智能的關(guān)注度與認(rèn)知水平，增強(qiáng)人們的風(fēng)險(xiǎn)防范意識(shí)和對(duì)技術(shù)發(fā)展的理性態(tài)度，形成全民參與、共同監(jiān)督的良好社會(huì)氛圍。鼓勵(lì)和支持社會(huì)組織、行業(yè)協(xié)會(huì)發(fā)揮社會(huì)監(jiān)督作用，加強(qiáng)對(duì)生成式人工智能技術(shù)應(yīng)用過(guò)程中的違法違規(guī)行為和風(fēng)險(xiǎn)問(wèn)題等的揭露，形成全社會(huì)共同參與監(jiān)督的強(qiáng)大合力，打造健康有序、可持續(xù)的生成式人工智能發(fā)展環(huán)境。

生成式人工智能技術(shù)以其強(qiáng)大的顛覆性和創(chuàng)新性，正在逐漸改變我們的世界，在這一過(guò)程中，也伴生著未知的系統(tǒng)性風(fēng)險(xiǎn)挑戰(zhàn)，構(gòu)建安全可靠的風(fēng)險(xiǎn)防范體系是引導(dǎo)其健康有序發(fā)展的重要時(shí)代課題。筑牢生成式人工智能安全防線不是束縛技術(shù)發(fā)展，而是為了更好引導(dǎo)技術(shù)創(chuàng)新向服務(wù)人類(lèi)發(fā)展和文明進(jìn)步的方向前進(jìn)。這就要求既要保持對(duì)技術(shù)風(fēng)險(xiǎn)的警惕性，也要保持對(duì)技術(shù)創(chuàng)新的包容性，盡可能將潛在風(fēng)險(xiǎn)轉(zhuǎn)化為發(fā)展契機(jī)，形成推動(dòng)社會(huì)發(fā)展的強(qiáng)大動(dòng)力，為我們贏得全球科技競(jìng)爭(zhēng)主動(dòng)權(quán)、搶占未來(lái)發(fā)展制高點(diǎn)提供技術(shù)支撐與保障。

（作者系北京郵電大學(xué)馬克思主義學(xué)院副教授、北京市習(xí)近平新時(shí)代中國(guó)特色社會(huì)主義思想研究中心特約研究員）