新華社天津8月30日電（記者梁姊）算法正在深度嵌入人們的生活，但大數(shù)據(jù)殺熟、個人隱私泄露等負(fù)面影響，讓人們產(chǎn)生了算法濫用的擔(dān)憂。

今年3月1日，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式實(shí)施。新規(guī)落地半年，我國在算法治理領(lǐng)域有何新進(jìn)展？2022年中國網(wǎng)絡(luò)文明大會算法治理分論壇與會嘉賓和其他專家學(xué)者就此給出了自己的解答。

算法治理落地半年成效如何？

算法作為數(shù)字經(jīng)濟(jì)的基礎(chǔ)，已廣泛使用多年。對于近年來出現(xiàn)的算法亂象，北京航空航天大學(xué)軟件開發(fā)環(huán)境國家重點(diǎn)實(shí)驗(yàn)室副主任劉祥龍認(rèn)為，這是算法由人工規(guī)則轉(zhuǎn)為數(shù)據(jù)驅(qū)動導(dǎo)致的。“當(dāng)下的算法與大數(shù)據(jù)深度耦合，由于數(shù)據(jù)存在不確定性，算法能力邊界不清晰，算法行為才會不可控。”

3月1日起，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（后稱《規(guī)定》）正式實(shí)施。這是我國首個互聯(lián)網(wǎng)信息服務(wù)領(lǐng)域具有針對性的算法推薦規(guī)章制度。多位受訪人士表示，《規(guī)定》出臺填補(bǔ)了互聯(lián)網(wǎng)治理領(lǐng)域的空白，我國進(jìn)入算法系統(tǒng)性治理階段。

在中國社會科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春看來，《規(guī)定》落地，意味著我國在算法治理探索上處于世界前沿。“更難能可貴的是，《規(guī)定》回應(yīng)了算法內(nèi)容治理、未成年人保護(hù)等現(xiàn)實(shí)問題，是一個有中國特色的治理方案。”

論壇上，多位嘉賓分享了《規(guī)定》施行半年來的成果：開展2022年“清朗·算法綜合治理”專項(xiàng)行動，對部分互聯(lián)網(wǎng)企業(yè)進(jìn)行現(xiàn)場檢查；發(fā)布首批境內(nèi)互聯(lián)網(wǎng)信息服務(wù)算法名稱和備案編號，包括多家大型互聯(lián)網(wǎng)企業(yè)和產(chǎn)品；明確提出“用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)”，把算法使用選擇權(quán)歸還用戶……

除了實(shí)際的治理行動以外，劉祥龍認(rèn)為，《規(guī)定》落地所產(chǎn)生的指導(dǎo)性影響同樣重要。“這釋放了一種對算法進(jìn)行自上而下系統(tǒng)治理的信號，互聯(lián)網(wǎng)企業(yè)應(yīng)該主動規(guī)范自己的行為，保證用戶的權(quán)利和使用公平。”

8月28日，在國家會展中心（天津），參會者在2022年中國網(wǎng)絡(luò)文明大會現(xiàn)場參觀展覽。 新華社記者 孫凡越 攝

算法“黑箱”技術(shù)難題如何化解？

在算法治理分論壇上，中國科學(xué)院計(jì)算技術(shù)研究所數(shù)據(jù)智能系統(tǒng)研究中心主任沈華偉指出，人們對于與《規(guī)定》同步施行的互聯(lián)網(wǎng)信息服務(wù)算法備案存在一些誤解，主要是備案的內(nèi)容。“我國算法備案的內(nèi)容包括算法的主體信息、算法信息、產(chǎn)品及功能信息三部分內(nèi)容，并不涉及算法所使用的數(shù)據(jù)和代碼。”

多位受訪專家學(xué)者認(rèn)為，數(shù)據(jù)、決策機(jī)制和設(shè)計(jì)意圖的不透明，使依靠數(shù)據(jù)進(jìn)行深度學(xué)習(xí)和分析的算法成為“黑箱”。以打車為例，每個乘客都希望能夠盡快打到車，平臺的派單算法卻可能考慮如何分配車輛以實(shí)現(xiàn)全局運(yùn)力最優(yōu)，進(jìn)而進(jìn)行補(bǔ)貼設(shè)計(jì)達(dá)到利潤最大，算法優(yōu)化目標(biāo)與用戶訴求之間存在一定的偏差。

由此，算法推薦服務(wù)提供者作為我國算法治理體系的重要一環(huán)，對于算法的事前、事中監(jiān)管意義重大。

沈華偉介紹，算法推薦服務(wù)提供者在算法上線應(yīng)用前應(yīng)進(jìn)行算法安全自評估，排除可能存在的風(fēng)險(xiǎn)。目前，在技術(shù)發(fā)展和監(jiān)管工具尚未成熟之前，實(shí)現(xiàn)對“黑箱”算法的有效監(jiān)管還有一段路要走，算法安全評估可以作為算法治理的重要補(bǔ)充。

8月28日，在國家會展中心（天津），參會者在2022年中國網(wǎng)絡(luò)文明大會現(xiàn)場拍攝展覽。新華社記者 李然 攝

算法與人如何和諧相處？

論壇上，多位專家表示，當(dāng)前我國發(fā)布的有關(guān)算法治理的指導(dǎo)意見和規(guī)定，事實(shí)上都是針對算法使用的“行為規(guī)范”而非技術(shù)底層。

在問題算法頻現(xiàn)的當(dāng)下，人與算法相處的過程中是否就要處于被動的位置？在我國算法治理的實(shí)踐中，用戶能否找到主動權(quán)？

劉曉春指出，《規(guī)定》中明確要求，“用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)”。“這讓用戶在算法服務(wù)當(dāng)中的主動地位有了改善，意味著用戶可以擁有不被算法選擇、引導(dǎo)甚至裹挾的權(quán)利。”

劉祥龍認(rèn)為，人與算法本質(zhì)上是一種“委托”與“代理”的關(guān)系——用戶將個人數(shù)據(jù)交給算法，委托其代理自己做出最佳的決定。但事實(shí)上，由于算法自身的技術(shù)門檻，用戶是缺乏相應(yīng)的技術(shù)鑒別能力的。“這就要求作為‘中間商’的算法服務(wù)提供方壓實(shí)主體責(zé)任，踐行社會價(jià)值，使算法數(shù)據(jù)更加透明公開，讓用戶產(chǎn)生信任感。”

此外，在算法系統(tǒng)性治理背景下，作為重要參與者的用戶也要理性認(rèn)知算法，既不畏懼技術(shù)，也不放松對算法的合理要求，與監(jiān)管部門形成合力，推動從“算法選擇”到“選擇算法”的轉(zhuǎn)變。