王彥晶 北京大學(xué)副教授

點此瀏覽完整視頻

點此瀏覽精彩觀點

點此瀏覽課件

感謝“兩界”高峰論壇的邀請，讓我有機會跟大家交流最近我的一些想法。我們先來看一段話，這是從英文翻譯過來的，大意是：“我不想嚇唬各位，但是簡單地總結(jié)一下：這世界上已經(jīng)有了能思考、學(xué)習(xí)和創(chuàng)造的機器。而且它們做這些事的能力正在飛速地增長，在可見的未來，它們解決問題的能力會與人類旗鼓相當(dāng)。”

這是誰說的呢？他是一位諾貝爾獎獲得者，也是一位圖靈獎獲得者，他的名字叫赫伯特·西蒙。他是人工智能技術(shù)之父，是一個很著名的跨領(lǐng)域的天才。這段話是他在1957年說的，那時候人工智能剛剛發(fā)端，人工智能給我們帶來了很多樂觀的情緒。然而60多年過去了，赫伯特·西蒙當(dāng)時很多的預(yù)計和設(shè)想并沒有成為現(xiàn)實。

近年來，深度學(xué)習(xí)的進展又讓我們看到了在不遠的未來又能實現(xiàn)這些事情了，這樣樂觀的情緒在人工智能領(lǐng)域發(fā)展史中出現(xiàn)過很多次。我們樂觀，我們被現(xiàn)實打??；我們繼續(xù)樂觀，我們又被現(xiàn)實打敗。但是，這一次熱潮不僅局限在計算機界，工業(yè)界、政府、學(xué)術(shù)界、教育界都在非常熱烈地討論人工智能的未來。歷史會重演嗎？這個我不敢說，也許是既會又不會。我們都希望這次人工智能技術(shù)進步是一次不同于往常的進步。

一、對于人工智能的認知

現(xiàn)在，工業(yè)界人工智能的領(lǐng)軍人物是吳恩達，他把人工智能稱作“新電力”。所謂新電力，是說它能像電力一樣驅(qū)動很多已有行業(yè)或產(chǎn)業(yè)發(fā)生巨大變革和升級。大眾對什么是“電”、它能做什么、有什么危險了解很多，但對于人工智能技術(shù)及其風(fēng)險可能了解得很少。我們看到的人工智能產(chǎn)品是掃地機器人、自動駕駛車、對話助手等。人工智能本身究竟指的是什么？不同受眾，不僅是大眾，而且各個行業(yè)包括工業(yè)界、投資界、政府、哲學(xué)家、自然科學(xué)家和社會科學(xué)家，可能對人工智能技術(shù)及其發(fā)展的階段都會有非常不一樣的認知。事實上，如果我們能夠推動大眾對于人工智能技術(shù)及其風(fēng)險的認知，很多事情做起來可能會更容易一些。

什么是人工智能？大眾對于人工智能可能聽到最多的是機器學(xué)習(xí)或者更具體的深度學(xué)習(xí)。事實上，我們?nèi)タ礄?quán)威的人工智能教科書，比如2011年出版的《人工智能：一種現(xiàn)代方法（第3版）》，一共有1095頁，其中介紹深度神經(jīng)網(wǎng)絡(luò)核心算法只有10頁。人工智能是一個非常大的領(lǐng)域，包含了各種各樣的技術(shù)和問題的不同的搜索求解、知識表示與推理、自動規(guī)劃、機器學(xué)習(xí)、感知覺與運動、自然語言處理等，但大眾看到最多的可能是在人工智能領(lǐng)域機器學(xué)習(xí)中基于神經(jīng)網(wǎng)的所謂深度學(xué)習(xí)的一小塊的工作。

二、人工智能發(fā)展的現(xiàn)狀

由于大量數(shù)據(jù)的獲取、硬件上的升級、算法也有很多的想法，機器學(xué)習(xí)的效果確實有了極大的進步。同時，大量的資金和大量的聰明人涌入，當(dāng)然會做出更多更好的東西來。事實上，很多學(xué)術(shù)界的成果，到目前為止還沒有完全轉(zhuǎn)化到工業(yè)界。工業(yè)界的應(yīng)用主要還是以傳統(tǒng)的、基于神經(jīng)網(wǎng)所謂的監(jiān)督學(xué)習(xí)為主。當(dāng)然，搜索算法、貝葉斯網(wǎng)、知識圖譜、邏輯推理等也在發(fā)揮作用，但是還沒有出現(xiàn)通用人工智能的真正理論突破，因為欠缺可解釋性、可遷移性與小樣本的學(xué)習(xí)能力，未來可能屬于符號主義與聯(lián)結(jié)主義的融合互補。

三、人工智能發(fā)展的遠慮與近憂

在人工智能發(fā)展中，遠慮是指技術(shù)如果達到強人工智能或者類似于那種程度，會有很多威脅人類生存的問題。中期的憂慮是指由于自主決策的人工智能系統(tǒng)分擔(dān)責(zé)任，人類可能面臨失業(yè)問題。事實上，根據(jù)吳院士的說法，更多的是產(chǎn)業(yè)重組和舊工作的淘汰、新工作的出現(xiàn)。對于大眾來說，更關(guān)心的是人工智能帶來的近憂，也就是與切身利益相關(guān)的安全問題，用英文表達是safety和security。safety指是否能夠安全地實現(xiàn)系統(tǒng)的目的，security更多地是指在外來惡意入侵或者破壞的情況下如何保證系統(tǒng)的安全性。我們要引導(dǎo)和提高全社會的安全意識，這是人文學(xué)者、技術(shù)專家、立法者共同面對的急切問題。

主要的機器學(xué)習(xí)的算法需要大量的人工數(shù)據(jù)，這些數(shù)據(jù)的采集和使用、保護是和我們每個人的生活息息相關(guān)的。最近大家都聽說過劍橋分析公司在facebook上非法收集數(shù)據(jù)做了一些不好的事情，這是一件非常糟糕的事情。

在中國呢？有人說“中國人不介意用隱私交換方便”。當(dāng)然，你得看這句話的前因后果。現(xiàn)實中，你生個孩子就立刻收到母嬰產(chǎn)品的廣告，你轉(zhuǎn)了一筆帳就有人打電話問你要不要投資，你在網(wǎng)上發(fā)了一封電子郵件就收到很多在線廣告，這些都是隱私的泄露。事實上，中國人在多數(shù)情況下還是很介意隱私的。最近我發(fā)現(xiàn)一個現(xiàn)象，我收到很多學(xué)生的來信都是沒有署名的。當(dāng)然，你可能覺得這是個禮貌問題，事實上很多學(xué)生跟我說，有時候就想問一個問題，但不想讓老師知道是我問的。在互聯(lián)網(wǎng)上，名字也是一種隱私，因為知道名字就可以搜索到關(guān)于這個人的各種各樣的信息。

現(xiàn)在，中國人越來越有意識地去保護信息，比如在身份證復(fù)印件上加備注。前段時間發(fā)生了一件比較糟糕的事情，支付寶在幫助大家曬年度賬單的時候，在很小的地方有一個默認勾選《芝麻服務(wù)協(xié)議》，當(dāng)你在朋友圈高興地分享年度賬單的時候，同時也接受了《芝麻服務(wù)協(xié)議》把你的數(shù)據(jù)分享給相應(yīng)的機構(gòu)。

現(xiàn)實中，很多時候我們是沒有選擇的。大家在下載各種各樣的APP時，它總會問你是不是接受那些條款。我想問大家，哪些朋友真的去閱讀了那些條款？大家是不是也都選了同意？為什么？一個是服務(wù)協(xié)議太長看不懂，另外就是你有別的選擇嗎？不提供身份證號、不提供個人信息，這個APP你就沒法使用。

對于人工智能的很多事情，為什么看上去是我們在用隱私交換方便？是因為我們不知道隱私交出去之后會有什么樣的糟糕后果。