馬亮：閔老師提到了非常重要的一點(diǎn)。我們現(xiàn)在所討論的AIGC只是提供建議，而不是決策，因此容錯(cuò)和包容特別重要。我們之前討論了很多關(guān)于如何使用這些技術(shù)以及如何管理這些技術(shù)的問題。如果管理不好，也就無法很好地使用。像ChatGPT這樣新一代人工智能技術(shù)出現(xiàn)后，許多國家和地區(qū)的政府已經(jīng)出臺或正在研究相關(guān)的監(jiān)管政策。例如，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，這樣一份征求意見稿的出臺引發(fā)了社會廣泛關(guān)注和熱議。我們特別想請各位來談?wù)?，在面對這些所謂的顛覆性技術(shù)創(chuàng)新時(shí)，我們應(yīng)該如何管理好它們？監(jiān)管政策出臺的背后體現(xiàn)出怎樣的治理邏輯？下面請黃老師來談?wù)劇?/p>

黃璜：在監(jiān)管方面，首先需要考慮可能出現(xiàn)的問題。像AIGC這樣的技術(shù)可能會引發(fā)傳統(tǒng)的安全問題，包括治安和公共安全問題。例如，合成圖像可能會引發(fā)欺詐等安全問題。此外，這些內(nèi)容可能涉及意識形態(tài)方面的問題，如何進(jìn)行管理是一個(gè)挑戰(zhàn)。另一方面，像ChatGPT這樣的知識引擎可能會影響未來孩子的知識獲取，因?yàn)樗鼈兩傻膬?nèi)容可能不是權(quán)威的。從監(jiān)管的角度來看，這是一個(gè)難題。因?yàn)檫@些技術(shù)背后代表著去中心化的趨勢，使得傳統(tǒng)方式的管理變得越來越困難。

然而，從積極的角度來看，這種技術(shù)使得越來越多的人可以自行生產(chǎn)。盡管這可能會對一些行業(yè)產(chǎn)生影響，但這也降低了創(chuàng)業(yè)的門檻，使得更多的人可以創(chuàng)業(yè)。因此，未來的監(jiān)管將面臨更大的挑戰(zhàn)，需要尋找新的方式來應(yīng)對去中心化的趨勢。

馬亮：感謝黃老師的分享。下面有請閔老師。

閔勇：在算法推薦治理中，我們面臨著一個(gè)問題，即生產(chǎn)力的個(gè)體化轉(zhuǎn)移，并且生產(chǎn)力規(guī)模的擴(kuò)大程度已經(jīng)達(dá)到指數(shù)級。傳統(tǒng)的信息管理方法主要集中在生產(chǎn)端，即對主要的媒介進(jìn)行管理。然而，在去中心化的環(huán)境下，我們需要轉(zhuǎn)移到消費(fèi)端去管理。從技術(shù)和成本的角度來看，在生產(chǎn)端進(jìn)行管理可能不太現(xiàn)實(shí)。

另外，我們需要使用一些對沖性技術(shù)來識別哪些內(nèi)容可能是由AI生成的，并評估其可信度。在搜索引擎中，我們需要標(biāo)識出哪些結(jié)果是廣告，而不是搜索引擎提供的內(nèi)容。在社交媒體和社交網(wǎng)絡(luò)上，我們不可能對所有信息進(jìn)行人工標(biāo)注，因此需要使用另一套AI技術(shù)來識別由AI生成的內(nèi)容。在研究中，我們發(fā)現(xiàn)使用ChatGPT來查找文獻(xiàn)時(shí)，在很多領(lǐng)域找到的文獻(xiàn)都是拼湊的，它們可能會告訴你有一篇文章在《自然》上發(fā)表，但實(shí)際上并沒有。因此，我們需要使用對沖性技術(shù)來解決這個(gè)問題。

馬亮：閔老師提出了一個(gè)非常有啟發(fā)性的觀點(diǎn)，即技術(shù)的出現(xiàn)會帶來新的問題，但最終需要用技術(shù)來解決問題。例如，ChatGPT的出現(xiàn)引發(fā)了如何識別其生成內(nèi)容和實(shí)現(xiàn)可追溯性的問題。我們之前探討了技術(shù)的使用和管理，但歸根結(jié)底，這些都是科技創(chuàng)新的問題。如果沒有科技創(chuàng)新，我們將無法使用和管理相關(guān)技術(shù)。因此，我們期待相關(guān)的科技企業(yè)能夠勇往直前，推動(dòng)人工智能技術(shù)進(jìn)一步發(fā)展。最后，非常感謝各位老師，本次論壇到此結(jié)束。謝謝大家。

（根據(jù)宣講家網(wǎng)報(bào)告整理編輯，

未經(jīng)許可，不得印刷、出版，轉(zhuǎn)載請注明出處，違者追究法律責(zé)任）