王彥晶 北京大學(xué)副教授

點(diǎn)此瀏覽完整視頻

點(diǎn)此瀏覽精彩觀點(diǎn)

點(diǎn)此瀏覽課件

感謝“兩界”高峰論壇的邀請(qǐng)，讓我有機(jī)會(huì)跟大家交流最近我的一些想法。我們先來(lái)看一段話(huà)，這是從英文翻譯過(guò)來(lái)的，大意是：“我不想嚇唬各位，但是簡(jiǎn)單地總結(jié)一下：這世界上已經(jīng)有了能思考、學(xué)習(xí)和創(chuàng)造的機(jī)器。而且它們做這些事的能力正在飛速地增長(zhǎng)，在可見(jiàn)的未來(lái)，它們解決問(wèn)題的能力會(huì)與人類(lèi)旗鼓相當(dāng)。”

這是誰(shuí)說(shuō)的呢？他是一位諾貝爾獎(jiǎng)獲得者，也是一位圖靈獎(jiǎng)獲得者，他的名字叫赫伯特·西蒙。他是人工智能技術(shù)之父，是一個(gè)很著名的跨領(lǐng)域的天才。這段話(huà)是他在1957年說(shuō)的，那時(shí)候人工智能剛剛發(fā)端，人工智能給我們帶來(lái)了很多樂(lè)觀的情緒。然而60多年過(guò)去了，赫伯特·西蒙當(dāng)時(shí)很多的預(yù)計(jì)和設(shè)想并沒(méi)有成為現(xiàn)實(shí)。

近年來(lái)，深度學(xué)習(xí)的進(jìn)展又讓我們看到了在不遠(yuǎn)的未來(lái)又能實(shí)現(xiàn)這些事情了，這樣樂(lè)觀的情緒在人工智能領(lǐng)域發(fā)展史中出現(xiàn)過(guò)很多次。我們樂(lè)觀，我們被現(xiàn)實(shí)打??；我們繼續(xù)樂(lè)觀，我們又被現(xiàn)實(shí)打敗。但是，這一次熱潮不僅局限在計(jì)算機(jī)界，工業(yè)界、政府、學(xué)術(shù)界、教育界都在非常熱烈地討論人工智能的未來(lái)。歷史會(huì)重演嗎？這個(gè)我不敢說(shuō)，也許是既會(huì)又不會(huì)。我們都希望這次人工智能技術(shù)進(jìn)步是一次不同于往常的進(jìn)步。

一、對(duì)于人工智能的認(rèn)知

現(xiàn)在，工業(yè)界人工智能的領(lǐng)軍人物是吳恩達(dá)，他把人工智能稱(chēng)作“新電力”。所謂新電力，是說(shuō)它能像電力一樣驅(qū)動(dòng)很多已有行業(yè)或產(chǎn)業(yè)發(fā)生巨大變革和升級(jí)。大眾對(duì)什么是“電”、它能做什么、有什么危險(xiǎn)了解很多，但對(duì)于人工智能技術(shù)及其風(fēng)險(xiǎn)可能了解得很少。我們看到的人工智能產(chǎn)品是掃地機(jī)器人、自動(dòng)駕駛車(chē)、對(duì)話(huà)助手等。人工智能本身究竟指的是什么？不同受眾，不僅是大眾，而且各個(gè)行業(yè)包括工業(yè)界、投資界、政府、哲學(xué)家、自然科學(xué)家和社會(huì)科學(xué)家，可能對(duì)人工智能技術(shù)及其發(fā)展的階段都會(huì)有非常不一樣的認(rèn)知。事實(shí)上，如果我們能夠推動(dòng)大眾對(duì)于人工智能技術(shù)及其風(fēng)險(xiǎn)的認(rèn)知，很多事情做起來(lái)可能會(huì)更容易一些。

什么是人工智能？大眾對(duì)于人工智能可能聽(tīng)到最多的是機(jī)器學(xué)習(xí)或者更具體的深度學(xué)習(xí)。事實(shí)上，我們?nèi)タ礄?quán)威的人工智能教科書(shū)，比如2011年出版的《人工智能：一種現(xiàn)代方法（第3版）》，一共有1095頁(yè)，其中介紹深度神經(jīng)網(wǎng)絡(luò)核心算法只有10頁(yè)。人工智能是一個(gè)非常大的領(lǐng)域，包含了各種各樣的技術(shù)和問(wèn)題的不同的搜索求解、知識(shí)表示與推理、自動(dòng)規(guī)劃、機(jī)器學(xué)習(xí)、感知覺(jué)與運(yùn)動(dòng)、自然語(yǔ)言處理等，但大眾看到最多的可能是在人工智能領(lǐng)域機(jī)器學(xué)習(xí)中基于神經(jīng)網(wǎng)的所謂深度學(xué)習(xí)的一小塊的工作。

二、人工智能發(fā)展的現(xiàn)狀

由于大量數(shù)據(jù)的獲取、硬件上的升級(jí)、算法也有很多的想法，機(jī)器學(xué)習(xí)的效果確實(shí)有了極大的進(jìn)步。同時(shí)，大量的資金和大量的聰明人涌入，當(dāng)然會(huì)做出更多更好的東西來(lái)。事實(shí)上，很多學(xué)術(shù)界的成果，到目前為止還沒(méi)有完全轉(zhuǎn)化到工業(yè)界。工業(yè)界的應(yīng)用主要還是以傳統(tǒng)的、基于神經(jīng)網(wǎng)所謂的監(jiān)督學(xué)習(xí)為主。當(dāng)然，搜索算法、貝葉斯網(wǎng)、知識(shí)圖譜、邏輯推理等也在發(fā)揮作用，但是還沒(méi)有出現(xiàn)通用人工智能的真正理論突破，因?yàn)榍啡笨山忉屝?、可遷移性與小樣本的學(xué)習(xí)能力，未來(lái)可能屬于符號(hào)主義與聯(lián)結(jié)主義的融合互補(bǔ)。

三、人工智能發(fā)展的遠(yuǎn)慮與近憂(yōu)

在人工智能發(fā)展中，遠(yuǎn)慮是指技術(shù)如果達(dá)到強(qiáng)人工智能或者類(lèi)似于那種程度，會(huì)有很多威脅人類(lèi)生存的問(wèn)題。中期的憂(yōu)慮是指由于自主決策的人工智能系統(tǒng)分擔(dān)責(zé)任，人類(lèi)可能面臨失業(yè)問(wèn)題。事實(shí)上，根據(jù)吳院士的說(shuō)法，更多的是產(chǎn)業(yè)重組和舊工作的淘汰、新工作的出現(xiàn)。對(duì)于大眾來(lái)說(shuō)，更關(guān)心的是人工智能帶來(lái)的近憂(yōu)，也就是與切身利益相關(guān)的安全問(wèn)題，用英文表達(dá)是safety和security。safety指是否能夠安全地實(shí)現(xiàn)系統(tǒng)的目的，security更多地是指在外來(lái)惡意入侵或者破壞的情況下如何保證系統(tǒng)的安全性。我們要引導(dǎo)和提高全社會(huì)的安全意識(shí)，這是人文學(xué)者、技術(shù)專(zhuān)家、立法者共同面對(duì)的急切問(wèn)題。

主要的機(jī)器學(xué)習(xí)的算法需要大量的人工數(shù)據(jù)，這些數(shù)據(jù)的采集和使用、保護(hù)是和我們每個(gè)人的生活息息相關(guān)的。最近大家都聽(tīng)說(shuō)過(guò)劍橋分析公司在facebook上非法收集數(shù)據(jù)做了一些不好的事情，這是一件非常糟糕的事情。

在中國(guó)呢？有人說(shuō)“中國(guó)人不介意用隱私交換方便”。當(dāng)然，你得看這句話(huà)的前因后果?，F(xiàn)實(shí)中，你生個(gè)孩子就立刻收到母嬰產(chǎn)品的廣告，你轉(zhuǎn)了一筆帳就有人打電話(huà)問(wèn)你要不要投資，你在網(wǎng)上發(fā)了一封電子郵件就收到很多在線(xiàn)廣告，這些都是隱私的泄露。事實(shí)上，中國(guó)人在多數(shù)情況下還是很介意隱私的。最近我發(fā)現(xiàn)一個(gè)現(xiàn)象，我收到很多學(xué)生的來(lái)信都是沒(méi)有署名的。當(dāng)然，你可能覺(jué)得這是個(gè)禮貌問(wèn)題，事實(shí)上很多學(xué)生跟我說(shuō)，有時(shí)候就想問(wèn)一個(gè)問(wèn)題，但不想讓老師知道是我問(wèn)的。在互聯(lián)網(wǎng)上，名字也是一種隱私，因?yàn)橹烂志涂梢运阉鞯疥P(guān)于這個(gè)人的各種各樣的信息。

現(xiàn)在，中國(guó)人越來(lái)越有意識(shí)地去保護(hù)信息，比如在身份證復(fù)印件上加備注。前段時(shí)間發(fā)生了一件比較糟糕的事情，支付寶在幫助大家曬年度賬單的時(shí)候，在很小的地方有一個(gè)默認(rèn)勾選《芝麻服務(wù)協(xié)議》，當(dāng)你在朋友圈高興地分享年度賬單的時(shí)候，同時(shí)也接受了《芝麻服務(wù)協(xié)議》把你的數(shù)據(jù)分享給相應(yīng)的機(jī)構(gòu)。

現(xiàn)實(shí)中，很多時(shí)候我們是沒(méi)有選擇的。大家在下載各種各樣的APP時(shí)，它總會(huì)問(wèn)你是不是接受那些條款。我想問(wèn)大家，哪些朋友真的去閱讀了那些條款？大家是不是也都選了同意？為什么？一個(gè)是服務(wù)協(xié)議太長(zhǎng)看不懂，另外就是你有別的選擇嗎？不提供身份證號(hào)、不提供個(gè)人信息，這個(gè)APP你就沒(méi)法使用。

對(duì)于人工智能的很多事情，為什么看上去是我們?cè)谟秒[私交換方便？是因?yàn)槲覀儾恢离[私交出去之后會(huì)有什么樣的糟糕后果。