“人工智能技術(shù)的飛速進(jìn)步，帶來前所未有的發(fā)展機(jī)遇，但也帶來數(shù)據(jù)安全隱患和算法風(fēng)險(xiǎn)。”正在進(jìn)行的市人代會上，市人大代表、北京社會主義學(xué)院一級巡視員王報(bào)換針對人工智能技術(shù)“雙刃劍”效應(yīng)應(yīng)對提出建議。

王報(bào)換說，在人工智能的訓(xùn)練過程中，數(shù)據(jù)是核心，但如何確保數(shù)據(jù)的合法性和正當(dāng)性卻是一大難題。版權(quán)問題、惡意爬取等都需要國家層面進(jìn)行明確的定義和監(jiān)管。此外，訓(xùn)練數(shù)據(jù)的偏見和攻擊性也極大影響著人工智能的輸出結(jié)果，“若輸入的數(shù)據(jù)帶有偏見或惡意，那么模型輸出的內(nèi)容很可能同樣帶有偏見或誤導(dǎo)性。”

王報(bào)換還認(rèn)為，人工智能平臺本身也可能存在安全隱患，如開發(fā)框架存在安全漏洞、插件問題等，可能導(dǎo)致智能服務(wù)的中斷或數(shù)據(jù)泄露。另外，人工智能讓生成攻擊腳本和代碼變得更加容易，網(wǎng)絡(luò)攻擊的檢測和防御就變得更加困難。

除了技術(shù)和平臺風(fēng)險(xiǎn)之外，人工智能也給社會生態(tài)和治理帶來了新的挑戰(zhàn)。“它降低了違規(guī)內(nèi)容生成的門檻，使得網(wǎng)絡(luò)詐騙、惡意軟件等變得更加容易和普遍。因此，需要加強(qiáng)對人工智能技術(shù)的監(jiān)管和治理，以確保其健康、有序發(fā)展。”王報(bào)換說。

王報(bào)換建議，積極推動人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用，如利用大模型進(jìn)行網(wǎng)絡(luò)攻擊防御、自動化監(jiān)測和響應(yīng)等，以提升網(wǎng)絡(luò)安全的防護(hù)能力。

在他看來，未來網(wǎng)絡(luò)空間安全可以以人工智能安全大模型為核心，按需靈活調(diào)用已有的安全技術(shù)，或生成新的內(nèi)容來共同實(shí)施安全保障。“這不僅可以提高網(wǎng)絡(luò)安全的防御能力，也可以降低網(wǎng)絡(luò)安全成本，提高網(wǎng)絡(luò)安全的整體效益。”至于人工智能治理規(guī)則的制定和推廣問題，他認(rèn)為，需要加強(qiáng)國際合作，共同應(yīng)對人工智能帶來的挑戰(zhàn)。本報(bào)記者 程功攝