2024年是總體國家安全觀提出十周年，也是開辟國家安全工作新局面的十周年。十年來，以習(xí)近平同志為核心的黨中央把國家安全作為頭等大事，著眼于中華民族偉大復(fù)興戰(zhàn)略全局和世界百年未有之大變局，對(duì)國家安全作出全面戰(zhàn)略部署。人工智能賦能國家安全相關(guān)領(lǐng)域，是筑牢國家安全屏障的有力抓手。作為新時(shí)代青年，必須積極有效應(yīng)對(duì)人工智能安全風(fēng)險(xiǎn)挑戰(zhàn)，推動(dòng)人工智能健康安全發(fā)展，為人工智能安全筑牢“青春防線”。

2015年，“互聯(lián)網(wǎng)+”一詞首次被寫入《政府工作報(bào)告》；2017年，“人工智能”一詞首次出現(xiàn)在《政府工作報(bào)告》；2019年，“智能+”一詞首次被寫入《政府工作報(bào)告》；2024年，《政府工作報(bào)告》不僅三次提到“人工智能”，更首次提出了開展“人工智能+”行動(dòng)，強(qiáng)調(diào)“深化大數(shù)據(jù)、人工智能等研發(fā)應(yīng)用，開展‘人工智能+’行動(dòng)”，促進(jìn)人工智能為新質(zhì)生產(chǎn)力提供核心驅(qū)動(dòng)力。當(dāng)前，人工智能創(chuàng)新成果不斷涌現(xiàn)，發(fā)展前景日益廣闊，在醫(yī)療、教育、制造業(yè)、金融等各個(gè)領(lǐng)域廣泛應(yīng)用，對(duì)經(jīng)濟(jì)社會(huì)發(fā)展產(chǎn)生深遠(yuǎn)影響，成為國家安全的新興領(lǐng)域。

人工智能創(chuàng)造發(fā)展機(jī)遇的同時(shí)，一系列安全挑戰(zhàn)也隨之產(chǎn)生，小到個(gè)人隱私泄露和數(shù)據(jù)保密性差等問題，大到事關(guān)國家安全格局的潛在風(fēng)險(xiǎn)挑戰(zhàn)。據(jù)統(tǒng)計(jì)，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件數(shù)量增長了1000%。人工智能已成新型攻擊工具，相關(guān)的網(wǎng)絡(luò)攻擊頻次越來越高。

2024年1月4日，2024 ASC世界大學(xué)生超級(jí)計(jì)算機(jī)競賽（ASC24）啟動(dòng)會(huì)現(xiàn)場。新華社記者 溫競?cè)A 攝

——人工智能內(nèi)生的技術(shù)安全風(fēng)險(xiǎn)。一是算法模型風(fēng)險(xiǎn)。算法是人工智能的核心，存在安全風(fēng)險(xiǎn)隱患，可能導(dǎo)致數(shù)據(jù)泄露等安全問題。算法模型具有模型的準(zhǔn)確性與魯棒性的矛盾缺陷，魯棒性提高可能導(dǎo)致模型準(zhǔn)確性下降。二是“數(shù)據(jù)投毒”風(fēng)險(xiǎn)。“數(shù)據(jù)投毒”指的是在人工智能訓(xùn)練數(shù)據(jù)中攻擊者投放虛假、惡意或有害樣本數(shù)據(jù)，導(dǎo)致模型訓(xùn)練出現(xiàn)錯(cuò)誤結(jié)果，從而降低了數(shù)據(jù)的可靠性與真實(shí)性。三是數(shù)據(jù)竊取風(fēng)險(xiǎn)。人工智能進(jìn)行海量數(shù)據(jù)的處理和訓(xùn)練，數(shù)據(jù)獲取和傳播便捷性提高的同時(shí)，信息的安全風(fēng)險(xiǎn)問題更加突出。一些涉及用戶敏感信息的數(shù)據(jù)一旦被竊取，個(gè)人隱私權(quán)就會(huì)遭到侵犯。人工智能甚至成為不法分子用來竊取國家機(jī)密的工具，對(duì)國家安全造成嚴(yán)重危害。

——人工智能衍生的應(yīng)用安全風(fēng)險(xiǎn)。一是經(jīng)濟(jì)安全風(fēng)險(xiǎn)。人工智能技術(shù)在一定程度上會(huì)成為人力工作的“高效替代品”，進(jìn)而對(duì)國家經(jīng)濟(jì)安全、社會(huì)安全甚至政治安全造成沖擊；人工智能技術(shù)也可以被用來實(shí)施經(jīng)濟(jì)破壞活動(dòng)，例如通過操縱宣傳導(dǎo)致金融市場恐慌。二是網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。人工智能成為不法分子進(jìn)行網(wǎng)絡(luò)攻擊的“幫兇”。網(wǎng)絡(luò)攻擊的手段更加多樣，隱蔽性和針對(duì)性更強(qiáng)，引發(fā)一系列亟待應(yīng)對(duì)的網(wǎng)絡(luò)安全挑戰(zhàn)，互聯(lián)網(wǎng)空間逐漸變成人人自危的“潘多拉魔盒”。三是倫理道德安全風(fēng)險(xiǎn)。受主觀和客觀等多種因素影響，人工智能技術(shù)帶來一系列倫理道德安全風(fēng)險(xiǎn)，包括道德算法風(fēng)險(xiǎn)、道德決策風(fēng)險(xiǎn)和隱私數(shù)據(jù)泄露風(fēng)險(xiǎn)等。

習(xí)近平總書記強(qiáng)調(diào)：“要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范，維護(hù)人民利益和國家安全，確保人工智能安全、可靠、可控。”如何在把握人工智能發(fā)展主動(dòng)權(quán)的同時(shí)處理好相應(yīng)的安全風(fēng)險(xiǎn)，并為國家安全筑牢科技防線，已經(jīng)成為我國國家安全治理亟需解決的議題。

2024年3月29日，觀眾在2024中國醫(yī)學(xué)裝備展覽會(huì)上參觀手術(shù)機(jī)器人。新華社記者 王全超 攝

青年是世界的未來，青年強(qiáng)則世界強(qiáng)，青年興則全球興。人工智能時(shí)代，青年科技工作者、青年教師、青年學(xué)生等新時(shí)代青年要堅(jiān)持總體國家安全觀，責(zé)無旁貸地?fù)?dān)當(dāng)起建設(shè)和捍衛(wèi)人工智能安全的歷史使命！

——青年科技工作者要深化人工智能安全防御。AI帶來的安全問題，也可以用AI來解決。一是青年科技工作者要積極致力于構(gòu)建AI技術(shù)的智能安全防御系統(tǒng)，通過先進(jìn)的防御技術(shù)，更有效地預(yù)測、跟蹤和阻止網(wǎng)絡(luò)攻擊。同時(shí)，及時(shí)關(guān)注用戶需求反饋，通過用戶調(diào)研、測試等方式，針對(duì)性地探索模塊化和可視化的方法，不斷優(yōu)化AI系統(tǒng)的可解釋性，以提升人工智能系統(tǒng)的安全防護(hù)能力。二是青年科技工作者要助力構(gòu)建“安全的AI”，通過選擇合適的價(jià)值觀，將價(jià)值觀編碼到AI系統(tǒng)中，并選擇合適的訓(xùn)練數(shù)據(jù)，使得AI系統(tǒng)的目標(biāo)和人類的價(jià)值觀與利益保持一致。同時(shí)，通過引入噪聲魯棒訓(xùn)練，向數(shù)據(jù)中注入噪聲并強(qiáng)制網(wǎng)絡(luò)處理這些噪聲，使得模型對(duì)于噪聲數(shù)據(jù)具有更好的適應(yīng)性，從而提高AI模型的魯棒性與安全性，使其更好地服務(wù)于實(shí)際應(yīng)用。三是青年科技工作者要積極參與人工智能設(shè)計(jì)和開發(fā)，研究各種潛在的攻擊方式和漏洞，了解黑客如何利用技術(shù)漏洞進(jìn)行惡意操作，并據(jù)此更好地預(yù)防和應(yīng)對(duì)潛在的安全威脅。

——青年教師要強(qiáng)化人工智能安全引擎。一是青年教師要增強(qiáng)自身人工智能安全素養(yǎng)，積極學(xué)習(xí)人工智能安全相關(guān)知識(shí)和技術(shù)，了解人工智能的安全風(fēng)險(xiǎn)、攻擊方式，并掌握其應(yīng)對(duì)策略。通過不斷學(xué)習(xí)和更新人工智能安全知識(shí)，更好地理解人工智能安全問題，為人工智能安全教育教學(xué)奠定扎實(shí)理論基礎(chǔ)。二是青年教師要在教學(xué)實(shí)踐中注重培養(yǎng)學(xué)生的人工智能安全意識(shí)和相關(guān)技能。結(jié)合具體案例和自身實(shí)踐經(jīng)驗(yàn)，向?qū)W生教授人工智能安全知識(shí)，引導(dǎo)學(xué)生樹立正確的人工智能安全意識(shí)，掌握人工智能的安全防護(hù)策略。三是青年教師要密切關(guān)注人工智能安全領(lǐng)域的相關(guān)法律法規(guī)、政策文件和倫理規(guī)范，自覺遵守相關(guān)規(guī)定要求，推動(dòng)人工智能的安全應(yīng)用符合政策法規(guī)和道德標(biāo)準(zhǔn)。

——青年學(xué)生要守護(hù)人工智能安全疆域。一是青年學(xué)生要加強(qiáng)人工智能相關(guān)知識(shí)的系統(tǒng)學(xué)習(xí)。通過算法模型、機(jī)器學(xué)習(xí)等人工智能基礎(chǔ)理論學(xué)習(xí)，深入理解人工智能的原理和運(yùn)行特點(diǎn)。通過學(xué)習(xí)計(jì)算機(jī)安全、網(wǎng)絡(luò)安全等相關(guān)知識(shí)，判斷人工智能的潛在風(fēng)險(xiǎn)和掌握常見的防御技術(shù)。通過閱讀人工智能安全領(lǐng)域的學(xué)術(shù)期刊，了解該領(lǐng)域政策與法規(guī)等，獲取人工智能的最新研究成果與研究進(jìn)展趨勢。二是青年學(xué)生要增強(qiáng)人工智能相關(guān)能力素養(yǎng)。一方面要增強(qiáng)人工智能應(yīng)用意識(shí)。對(duì)人工智能秉持積極開放的態(tài)度，在合乎道德和法律的框架內(nèi)，遵循一定的學(xué)術(shù)規(guī)范，科學(xué)合理使用人工智能，規(guī)避人工智能安全風(fēng)險(xiǎn)等潛在問題。另一方面要提高人工智能安全意識(shí)。在使用智能工具的同時(shí)，要具有對(duì)個(gè)人隱私的自我保護(hù)能力，進(jìn)行隱私保護(hù)設(shè)置，防止隱私信息泄露。還要深刻認(rèn)識(shí)到人工智能自主可控技術(shù)對(duì)國家安全的重要性，重視人工智能安全，尊重他人知識(shí)產(chǎn)權(quán)，并進(jìn)行自我約束。三是青年學(xué)生要提升人工智能應(yīng)用能力，積極參與人工智能安全科研項(xiàng)目，接觸人工智能相關(guān)研究，深入了解目前人工智能安全面臨的實(shí)際挑戰(zhàn)，研判和防范人工智能的潛在風(fēng)險(xiǎn)，為確保人工智能安全貢獻(xiàn)青春力量。

作者分別系河北工業(yè)大學(xué)馬克思主義學(xué)院副教授、河北省馬克思主義中國化研究基地研究員

（轉(zhuǎn)載請注明來源：宣講家網(wǎng)站，違者必究。）

宣講家網(wǎng)評(píng)論，受到各界的廣泛關(guān)注，歡迎有識(shí)之士投稿或提出寶貴意見！

稿件一經(jīng)采用，必付稿酬。謝謝！

宣講家網(wǎng)評(píng)論征稿郵箱：xuanjiangjia001@163.com，QQ交群：1053867568。