王彥晶 北京大學(xué)副教授
感謝“兩界”高峰論壇的邀請,讓我有機會跟大家交流最近我的一些想法。我們先來看一段話,這是從英文翻譯過來的,大意是:“我不想嚇唬各位,但是簡單地總結(jié)一下:這世界上已經(jīng)有了能思考、學(xué)習(xí)和創(chuàng)造的機器。而且它們做這些事的能力正在飛速地增長,在可見的未來,它們解決問題的能力會與人類旗鼓相當。”
這是誰說的呢?他是一位諾貝爾獎獲得者,也是一位圖靈獎獲得者,他的名字叫赫伯特·西蒙。他是人工智能技術(shù)之父,是一個很著名的跨領(lǐng)域的天才。這段話是他在1957年說的,那時候人工智能剛剛發(fā)端,人工智能給我們帶來了很多樂觀的情緒。然而60多年過去了,赫伯特·西蒙當時很多的預(yù)計和設(shè)想并沒有成為現(xiàn)實。
近年來,深度學(xué)習(xí)的進展又讓我們看到了在不遠的未來又能實現(xiàn)這些事情了,這樣樂觀的情緒在人工智能領(lǐng)域發(fā)展史中出現(xiàn)過很多次。我們樂觀,我們被現(xiàn)實打??;我們繼續(xù)樂觀,我們又被現(xiàn)實打敗。但是,這一次熱潮不僅局限在計算機界,工業(yè)界、政府、學(xué)術(shù)界、教育界都在非常熱烈地討論人工智能的未來。歷史會重演嗎?這個我不敢說,也許是既會又不會。我們都希望這次人工智能技術(shù)進步是一次不同于往常的進步。
一、對于人工智能的認知
現(xiàn)在,工業(yè)界人工智能的領(lǐng)軍人物是吳恩達,他把人工智能稱作“新電力”。所謂新電力,是說它能像電力一樣驅(qū)動很多已有行業(yè)或產(chǎn)業(yè)發(fā)生巨大變革和升級。大眾對什么是“電”、它能做什么、有什么危險了解很多,但對于人工智能技術(shù)及其風(fēng)險可能了解得很少。我們看到的人工智能產(chǎn)品是掃地機器人、自動駕駛車、對話助手等。人工智能本身究竟指的是什么?不同受眾,不僅是大眾,而且各個行業(yè)包括工業(yè)界、投資界、政府、哲學(xué)家、自然科學(xué)家和社會科學(xué)家,可能對人工智能技術(shù)及其發(fā)展的階段都會有非常不一樣的認知。事實上,如果我們能夠推動大眾對于人工智能技術(shù)及其風(fēng)險的認知,很多事情做起來可能會更容易一些。
什么是人工智能?大眾對于人工智能可能聽到最多的是機器學(xué)習(xí)或者更具體的深度學(xué)習(xí)。事實上,我們?nèi)タ礄?quán)威的人工智能教科書,比如2011年出版的《人工智能:一種現(xiàn)代方法(第3版)》,一共有1095頁,其中介紹深度神經(jīng)網(wǎng)絡(luò)核心算法只有10頁。人工智能是一個非常大的領(lǐng)域,包含了各種各樣的技術(shù)和問題的不同的搜索求解、知識表示與推理、自動規(guī)劃、機器學(xué)習(xí)、感知覺與運動、自然語言處理等,但大眾看到最多的可能是在人工智能領(lǐng)域機器學(xué)習(xí)中基于神經(jīng)網(wǎng)的所謂深度學(xué)習(xí)的一小塊的工作。
二、人工智能發(fā)展的現(xiàn)狀
由于大量數(shù)據(jù)的獲取、硬件上的升級、算法也有很多的想法,機器學(xué)習(xí)的效果確實有了極大的進步。同時,大量的資金和大量的聰明人涌入,當然會做出更多更好的東西來。事實上,很多學(xué)術(shù)界的成果,到目前為止還沒有完全轉(zhuǎn)化到工業(yè)界。工業(yè)界的應(yīng)用主要還是以傳統(tǒng)的、基于神經(jīng)網(wǎng)所謂的監(jiān)督學(xué)習(xí)為主。當然,搜索算法、貝葉斯網(wǎng)、知識圖譜、邏輯推理等也在發(fā)揮作用,但是還沒有出現(xiàn)通用人工智能的真正理論突破,因為欠缺可解釋性、可遷移性與小樣本的學(xué)習(xí)能力,未來可能屬于符號主義與聯(lián)結(jié)主義的融合互補。
三、人工智能發(fā)展的遠慮與近憂
在人工智能發(fā)展中,遠慮是指技術(shù)如果達到強人工智能或者類似于那種程度,會有很多威脅人類生存的問題。中期的憂慮是指由于自主決策的人工智能系統(tǒng)分擔責任,人類可能面臨失業(yè)問題。事實上,根據(jù)吳院士的說法,更多的是產(chǎn)業(yè)重組和舊工作的淘汰、新工作的出現(xiàn)。對于大眾來說,更關(guān)心的是人工智能帶來的近憂,也就是與切身利益相關(guān)的安全問題,用英文表達是safety和security。safety指是否能夠安全地實現(xiàn)系統(tǒng)的目的,security更多地是指在外來惡意入侵或者破壞的情況下如何保證系統(tǒng)的安全性。我們要引導(dǎo)和提高全社會的安全意識,這是人文學(xué)者、技術(shù)專家、立法者共同面對的急切問題。
主要的機器學(xué)習(xí)的算法需要大量的人工數(shù)據(jù),這些數(shù)據(jù)的采集和使用、保護是和我們每個人的生活息息相關(guān)的。最近大家都聽說過劍橋分析公司在facebook上非法收集數(shù)據(jù)做了一些不好的事情,這是一件非常糟糕的事情。
在中國呢?有人說“中國人不介意用隱私交換方便”。當然,你得看這句話的前因后果。現(xiàn)實中,你生個孩子就立刻收到母嬰產(chǎn)品的廣告,你轉(zhuǎn)了一筆帳就有人打電話問你要不要投資,你在網(wǎng)上發(fā)了一封電子郵件就收到很多在線廣告,這些都是隱私的泄露。事實上,中國人在多數(shù)情況下還是很介意隱私的。最近我發(fā)現(xiàn)一個現(xiàn)象,我收到很多學(xué)生的來信都是沒有署名的。當然,你可能覺得這是個禮貌問題,事實上很多學(xué)生跟我說,有時候就想問一個問題,但不想讓老師知道是我問的。在互聯(lián)網(wǎng)上,名字也是一種隱私,因為知道名字就可以搜索到關(guān)于這個人的各種各樣的信息。
現(xiàn)在,中國人越來越有意識地去保護信息,比如在身份證復(fù)印件上加備注。前段時間發(fā)生了一件比較糟糕的事情,支付寶在幫助大家曬年度賬單的時候,在很小的地方有一個默認勾選《芝麻服務(wù)協(xié)議》,當你在朋友圈高興地分享年度賬單的時候,同時也接受了《芝麻服務(wù)協(xié)議》把你的數(shù)據(jù)分享給相應(yīng)的機構(gòu)。
現(xiàn)實中,很多時候我們是沒有選擇的。大家在下載各種各樣的APP時,它總會問你是不是接受那些條款。我想問大家,哪些朋友真的去閱讀了那些條款?大家是不是也都選了同意?為什么?一個是服務(wù)協(xié)議太長看不懂,另外就是你有別的選擇嗎?不提供身份證號、不提供個人信息,這個APP你就沒法使用。
對于人工智能的很多事情,為什么看上去是我們在用隱私交換方便?是因為我們不知道隱私交出去之后會有什么樣的糟糕后果。
已有0人發(fā)表了評論