2024年是總體國家安全觀提出十周年，也是開辟國家安全工作新局面的十周年。十年來，以習近平同志為核心的黨中央把國家安全作為頭等大事，著眼于中華民族偉大復興戰(zhàn)略全局和世界百年未有之大變局，對國家安全作出全面戰(zhàn)略部署。人工智能賦能國家安全相關領域，是筑牢國家安全屏障的有力抓手。作為新時代青年，必須積極有效應對人工智能安全風險挑戰(zhàn)，推動人工智能健康安全發(fā)展，為人工智能安全筑牢“青春防線”。

2015年，“互聯(lián)網(wǎng)+”一詞首次被寫入《政府工作報告》；2017年，“人工智能”一詞首次出現(xiàn)在《政府工作報告》；2019年，“智能+”一詞首次被寫入《政府工作報告》；2024年，《政府工作報告》不僅三次提到“人工智能”，更首次提出了開展“人工智能+”行動，強調“深化大數(shù)據(jù)、人工智能等研發(fā)應用，開展‘人工智能+’行動”，促進人工智能為新質生產(chǎn)力提供核心驅動力。當前，人工智能創(chuàng)新成果不斷涌現(xiàn)，發(fā)展前景日益廣闊，在醫(yī)療、教育、制造業(yè)、金融等各個領域廣泛應用，對經(jīng)濟社會發(fā)展產(chǎn)生深遠影響，成為國家安全的新興領域。

人工智能創(chuàng)造發(fā)展機遇的同時，一系列安全挑戰(zhàn)也隨之產(chǎn)生，小到個人隱私泄露和數(shù)據(jù)保密性差等問題，大到事關國家安全格局的潛在風險挑戰(zhàn)。據(jù)統(tǒng)計，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件數(shù)量增長了1000%。人工智能已成新型攻擊工具，相關的網(wǎng)絡攻擊頻次越來越高。

2024年1月4日，2024 ASC世界大學生超級計算機競賽（ASC24）啟動會現(xiàn)場。新華社記者 溫競華 攝

——人工智能內生的技術安全風險。一是算法模型風險。算法是人工智能的核心，存在安全風險隱患，可能導致數(shù)據(jù)泄露等安全問題。算法模型具有模型的準確性與魯棒性的矛盾缺陷，魯棒性提高可能導致模型準確性下降。二是“數(shù)據(jù)投毒”風險。“數(shù)據(jù)投毒”指的是在人工智能訓練數(shù)據(jù)中攻擊者投放虛假、惡意或有害樣本數(shù)據(jù)，導致模型訓練出現(xiàn)錯誤結果，從而降低了數(shù)據(jù)的可靠性與真實性。三是數(shù)據(jù)竊取風險。人工智能進行海量數(shù)據(jù)的處理和訓練，數(shù)據(jù)獲取和傳播便捷性提高的同時，信息的安全風險問題更加突出。一些涉及用戶敏感信息的數(shù)據(jù)一旦被竊取，個人隱私權就會遭到侵犯。人工智能甚至成為不法分子用來竊取國家機密的工具，對國家安全造成嚴重危害。

——人工智能衍生的應用安全風險。一是經(jīng)濟安全風險。人工智能技術在一定程度上會成為人力工作的“高效替代品”，進而對國家經(jīng)濟安全、社會安全甚至政治安全造成沖擊；人工智能技術也可以被用來實施經(jīng)濟破壞活動，例如通過操縱宣傳導致金融市場恐慌。二是網(wǎng)絡安全風險。人工智能成為不法分子進行網(wǎng)絡攻擊的“幫兇”。網(wǎng)絡攻擊的手段更加多樣，隱蔽性和針對性更強，引發(fā)一系列亟待應對的網(wǎng)絡安全挑戰(zhàn)，互聯(lián)網(wǎng)空間逐漸變成人人自危的“潘多拉魔盒”。三是倫理道德安全風險。受主觀和客觀等多種因素影響，人工智能技術帶來一系列倫理道德安全風險，包括道德算法風險、道德決策風險和隱私數(shù)據(jù)泄露風險等。

習近平總書記強調：“要加強人工智能發(fā)展的潛在風險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控。”如何在把握人工智能發(fā)展主動權的同時處理好相應的安全風險，并為國家安全筑牢科技防線，已經(jīng)成為我國國家安全治理亟需解決的議題。

2024年3月29日，觀眾在2024中國醫(yī)學裝備展覽會上參觀手術機器人。新華社記者 王全超 攝

青年是世界的未來，青年強則世界強，青年興則全球興。人工智能時代，青年科技工作者、青年教師、青年學生等新時代青年要堅持總體國家安全觀，責無旁貸地擔當起建設和捍衛(wèi)人工智能安全的歷史使命！

——青年科技工作者要深化人工智能安全防御。AI帶來的安全問題，也可以用AI來解決。一是青年科技工作者要積極致力于構建AI技術的智能安全防御系統(tǒng)，通過先進的防御技術，更有效地預測、跟蹤和阻止網(wǎng)絡攻擊。同時，及時關注用戶需求反饋，通過用戶調研、測試等方式，針對性地探索模塊化和可視化的方法，不斷優(yōu)化AI系統(tǒng)的可解釋性，以提升人工智能系統(tǒng)的安全防護能力。二是青年科技工作者要助力構建“安全的AI”，通過選擇合適的價值觀，將價值觀編碼到AI系統(tǒng)中，并選擇合適的訓練數(shù)據(jù)，使得AI系統(tǒng)的目標和人類的價值觀與利益保持一致。同時，通過引入噪聲魯棒訓練，向數(shù)據(jù)中注入噪聲并強制網(wǎng)絡處理這些噪聲，使得模型對于噪聲數(shù)據(jù)具有更好的適應性，從而提高AI模型的魯棒性與安全性，使其更好地服務于實際應用。三是青年科技工作者要積極參與人工智能設計和開發(fā)，研究各種潛在的攻擊方式和漏洞，了解黑客如何利用技術漏洞進行惡意操作，并據(jù)此更好地預防和應對潛在的安全威脅。

——青年教師要強化人工智能安全引擎。一是青年教師要增強自身人工智能安全素養(yǎng)，積極學習人工智能安全相關知識和技術，了解人工智能的安全風險、攻擊方式，并掌握其應對策略。通過不斷學習和更新人工智能安全知識，更好地理解人工智能安全問題，為人工智能安全教育教學奠定扎實理論基礎。二是青年教師要在教學實踐中注重培養(yǎng)學生的人工智能安全意識和相關技能。結合具體案例和自身實踐經(jīng)驗，向學生教授人工智能安全知識，引導學生樹立正確的人工智能安全意識，掌握人工智能的安全防護策略。三是青年教師要密切關注人工智能安全領域的相關法律法規(guī)、政策文件和倫理規(guī)范，自覺遵守相關規(guī)定要求，推動人工智能的安全應用符合政策法規(guī)和道德標準。

——青年學生要守護人工智能安全疆域。一是青年學生要加強人工智能相關知識的系統(tǒng)學習。通過算法模型、機器學習等人工智能基礎理論學習，深入理解人工智能的原理和運行特點。通過學習計算機安全、網(wǎng)絡安全等相關知識，判斷人工智能的潛在風險和掌握常見的防御技術。通過閱讀人工智能安全領域的學術期刊，了解該領域政策與法規(guī)等，獲取人工智能的最新研究成果與研究進展趨勢。二是青年學生要增強人工智能相關能力素養(yǎng)。一方面要增強人工智能應用意識。對人工智能秉持積極開放的態(tài)度，在合乎道德和法律的框架內，遵循一定的學術規(guī)范，科學合理使用人工智能，規(guī)避人工智能安全風險等潛在問題。另一方面要提高人工智能安全意識。在使用智能工具的同時，要具有對個人隱私的自我保護能力，進行隱私保護設置，防止隱私信息泄露。還要深刻認識到人工智能自主可控技術對國家安全的重要性，重視人工智能安全，尊重他人知識產(chǎn)權，并進行自我約束。三是青年學生要提升人工智能應用能力，積極參與人工智能安全科研項目，接觸人工智能相關研究，深入了解目前人工智能安全面臨的實際挑戰(zhàn)，研判和防范人工智能的潛在風險，為確保人工智能安全貢獻青春力量。

作者分別系河北工業(yè)大學馬克思主義學院副教授、河北省馬克思主義中國化研究基地研究員

（轉載請注明來源：宣講家網(wǎng)站，違者必究。）

宣講家網(wǎng)評論，受到各界的廣泛關注，歡迎有識之士投稿或提出寶貴意見！

稿件一經(jīng)采用，必付稿酬。謝謝！

宣講家網(wǎng)評論征稿郵箱：xuanjiangjia001@163.com，QQ交群：1053867568。