黨的二十屆三中全會通過的《中共中央關(guān)于進一步全面深化改革、推進中國式現(xiàn)代化的決定》指出，“加強網(wǎng)絡安全體制建設，建立人工智能安全監(jiān)管制度”。當前，新一輪科技革命和產(chǎn)業(yè)變革蓬勃發(fā)展，人工智能、生物技術(shù)、新能源等前沿技術(shù)方興未艾。其中，以DeepSeek、ChatGPT等為代表的生成式人工智能熱潮席卷全球，成為現(xiàn)象級話題。生成式人工智能技術(shù)在重塑全球科技創(chuàng)新與產(chǎn)業(yè)發(fā)展格局的同時，也可能引發(fā)價值導向偏差、AI技術(shù)濫用等復雜挑戰(zhàn)。面對這場深刻影響國家發(fā)展與未來的技術(shù)革命，著力筑牢生成式人工智能發(fā)展的安全防線，構(gòu)建科學完備、運行高效、多維協(xié)同的風險防范體系，不僅關(guān)乎技術(shù)本身的應用效能，更直接關(guān)系到國家安全、社會穩(wěn)定、文化繁榮和國際競爭力提升，是擺在我們面前的重大時代課題。

明確價值導向，牢固樹立科技發(fā)展的正確理念。首先，堅持科技為民、技術(shù)向善。習近平總書記強調(diào)，“要把滿足人民對美好生活的向往作為科技創(chuàng)新的落腳點，把惠民、利民、富民、改善民生作為科技創(chuàng)新的重要方向”。這彰顯了我國科技創(chuàng)新的人民性特征，意味著要使生成式人工智能技術(shù)更好服務于人民對美好生活的向往，確保技術(shù)成果能夠廣泛惠及全體社會成員，促進社會公平正義與和諧穩(wěn)定。政府、企業(yè)、高校、科研機構(gòu)等各主體都應將技術(shù)向善理念融入生成式人工智能技術(shù)發(fā)展過程，實現(xiàn)從研發(fā)到應用全生命周期的價值導向把控，確保技術(shù)發(fā)展不偏離為人類謀福祉的初衷，實現(xiàn)社會價值與經(jīng)濟價值的兼顧。其次，統(tǒng)籌好發(fā)展與安全的關(guān)系。安全是發(fā)展的前提，發(fā)展是安全的保障，發(fā)展生成式人工智能技術(shù)，需深刻把握技術(shù)創(chuàng)新活力釋放與風險有效管控的辯證統(tǒng)一。這就要求我們既要克服“談AI色變”的過度擔憂心理，為技術(shù)探索、產(chǎn)業(yè)孵化、應用場景落地等創(chuàng)造包容審慎的發(fā)展空間，激發(fā)其賦能生產(chǎn)力發(fā)展的巨大潛能；也要堅決摒棄“技術(shù)至上”“先發(fā)展后治理”的思維觀念，將安全理念、合規(guī)標準深度內(nèi)嵌于技術(shù)研發(fā)、模型訓練、場景應用等全鏈條、全流程、全生命周期中，確保生成式人工智能技術(shù)在保持創(chuàng)新活力的同時，始終運行在安全可靠的軌道上。

強化源頭管理，提升數(shù)據(jù)治理能力。數(shù)據(jù)是訓練人工智能模型的基礎要素，也是人工智能模型應用的核心資源。生成式人工智能發(fā)展依賴海量的訓練數(shù)據(jù)，包括個人數(shù)據(jù)、企業(yè)數(shù)據(jù)和政府數(shù)據(jù)等，一旦這些數(shù)據(jù)失控流動、造成泄漏，將可能導致個人身份盜用、財產(chǎn)損失，甚至對國家安全帶來不利影響。因此，針對重點行業(yè)的重要數(shù)據(jù)、核心數(shù)據(jù)，可參照歐盟《通用數(shù)據(jù)保護條例》和我國數(shù)據(jù)安全法等的管控要求，按照“境內(nèi)存儲+安全評估”的方式進行管理；構(gòu)建跨模態(tài)數(shù)據(jù)安全與隱私保護體系，依托區(qū)塊鏈技術(shù)實現(xiàn)全鏈路數(shù)據(jù)存證，通過可信執(zhí)行環(huán)境技術(shù)，實現(xiàn)“原始數(shù)據(jù)不出域，數(shù)據(jù)可用不可見”；構(gòu)建風險預警和動態(tài)評估平臺，實時監(jiān)測和分析平臺運行狀態(tài)、數(shù)據(jù)流向等信息，加強對違規(guī)內(nèi)容與行為的實時識別與研判。同時，數(shù)據(jù)質(zhì)量直接影響大語言模型的性能與可靠性。要加快建立數(shù)據(jù)使用的標準與規(guī)范，提高數(shù)據(jù)的可解釋性與可用性；加強對數(shù)據(jù)的清洗與篩選等預處理，提升數(shù)據(jù)質(zhì)量。建立健全大數(shù)據(jù)審計工作機制，定期對數(shù)據(jù)的收集、存儲、使用和共享情況進行審查，及時發(fā)現(xiàn)并糾正數(shù)據(jù)濫用、隱私泄露等問題，確保數(shù)據(jù)使用和技術(shù)發(fā)展始終在可控范圍內(nèi)。數(shù)據(jù)提供者也需遵循合法性與合規(guī)性原則，確保數(shù)據(jù)來源合法、內(nèi)容真實準確，減少深度偽造技術(shù)帶來的負面影響。

健全制度保障，推進人工智能監(jiān)管治理體系化。一方面，立法先行，明確基本法律框架和責任邊界。依托網(wǎng)絡安全法、數(shù)據(jù)安全法和個人信息保護法構(gòu)建的法律框架體系，可考慮將目前已有的相關(guān)政策包括《生成式人工智能服務管理暫行辦法》等逐步上升為具有更高法律效力的文件，加快推動全面系統(tǒng)的人工智能專門性法律制定，明確技術(shù)研發(fā)者、使用者、監(jiān)管者等各主體的權(quán)利、義務與責任邊界。要明確規(guī)定相關(guān)企業(yè)在數(shù)據(jù)收集、存儲、使用過程中的安全保障責任，界定監(jiān)管部門在監(jiān)督檢查、風險防范、應急處置等方面的職權(quán)范圍和執(zhí)法程序，確保監(jiān)管工作的合法性、規(guī)范性和有效性，使各參與主體能夠在明確的法律框架內(nèi)開展活動，有法可依、有章可循。另一方面，協(xié)同共治，建立健全跨部門監(jiān)管體系?？烧舷嚓P(guān)部門的監(jiān)管資源與力量，明確各部門在風險防范中的具體職責和角色，通過信息共享、聯(lián)合執(zhí)法等方式，建立高效的協(xié)同工作機制，形成監(jiān)管合力，提高監(jiān)管效率和執(zhí)法效果，避免產(chǎn)生職責不清、推諉等現(xiàn)象。同時，建立跨地區(qū)、跨平臺的協(xié)同監(jiān)管機制，減少監(jiān)管盲區(qū)，確保生成式人工智能技術(shù)在各個應用領(lǐng)域都受到嚴格有效的監(jiān)管，保障社會公共利益和廣大用戶的合法權(quán)益。

此外，維護生成式人工智能安全，構(gòu)建風險防范體系，也離不開全社會的共同參與。普及人工智能教育、提升公眾科學素養(yǎng)是重要一環(huán)。在中小學的基礎教育階段，可通過科普課程、實踐活動等多種形式，向廣大青少年普及人工智能基本原理、技術(shù)應用及其潛在風險等知識，培養(yǎng)他們對技術(shù)的理性認知和正確的價值判斷能力。在大學教育和職業(yè)培訓中，可開設專門的人工智能課程和培訓模塊，系統(tǒng)講授法律法規(guī)、風險案例等內(nèi)容，提高相關(guān)從業(yè)人員在技術(shù)研究、開發(fā)與應用中的安全責任意識。同時，面向社會公眾廣泛開展人工智能素養(yǎng)的宣傳教育活動，借助短視頻平臺、社區(qū)宣傳、線上線下講座等多種渠道，提高全社會對人工智能的關(guān)注度與認知水平，增強人們的風險防范意識和對技術(shù)發(fā)展的理性態(tài)度，形成全民參與、共同監(jiān)督的良好社會氛圍。鼓勵和支持社會組織、行業(yè)協(xié)會發(fā)揮社會監(jiān)督作用，加強對生成式人工智能技術(shù)應用過程中的違法違規(guī)行為和風險問題等的揭露，形成全社會共同參與監(jiān)督的強大合力，打造健康有序、可持續(xù)的生成式人工智能發(fā)展環(huán)境。

生成式人工智能技術(shù)以其強大的顛覆性和創(chuàng)新性，正在逐漸改變我們的世界，在這一過程中，也伴生著未知的系統(tǒng)性風險挑戰(zhàn)，構(gòu)建安全可靠的風險防范體系是引導其健康有序發(fā)展的重要時代課題。筑牢生成式人工智能安全防線不是束縛技術(shù)發(fā)展，而是為了更好引導技術(shù)創(chuàng)新向服務人類發(fā)展和文明進步的方向前進。這就要求既要保持對技術(shù)風險的警惕性，也要保持對技術(shù)創(chuàng)新的包容性，盡可能將潛在風險轉(zhuǎn)化為發(fā)展契機，形成推動社會發(fā)展的強大動力，為我們贏得全球科技競爭主動權(quán)、搶占未來發(fā)展制高點提供技術(shù)支撐與保障。

（作者系北京郵電大學馬克思主義學院副教授、北京市習近平新時代中國特色社會主義思想研究中心特約研究員）