段偉文  中國社會科學(xué)院哲學(xué)所研究員

點此查看完整報告

 點此查看視頻專輯

點此瀏覽課件

今天這么多科學(xué)家在這里，我們做哲學(xué)和社會科學(xué)研究的人都比較小心，所以我今天講的題目很大。我的演講框架大概是這樣的：首先是講人類現(xiàn)在面臨的所謂的生存危機，然后講述當下人工智能的特征或者說它的特質(zhì)，接著我們就去試圖尋找一些相關(guān)的對策，主要是談一下我自己的思考，看一看有什么樣的應(yīng)對策略，最后是對人工智能未來發(fā)展的展望。

一、人工智能來了，未來需要我們嗎？

實際上，大家對“人工智能來了，究竟是一個什么樣的情況”這個問題有兩種不同的觀點。一種觀點認為人類現(xiàn)在所擁有的這些技術(shù)將使人類自身變成一種瀕危的物種；但是也有樂觀主義者認為，在機器人的幫助下人類能夠獲得永生。實際上不論是一種烏托邦還是一種反烏托邦，這樣一種人文的或者是哲學(xué)社會科學(xué)的思考，它實際上是讓我們在發(fā)展科技的時候去找到它的上限或者是下限。

實際上，這個技術(shù)很簡單，大家都知道，就是所謂的融合科技或者是人類增強。就是說，我們可以通過藥物，通過基因，通過認知，甚至達到一種超級的智能?，F(xiàn)在已經(jīng)有很多人在吃一種“能讓人變聰明”的藥，據(jù)說吃了這個藥以后，考試的時候成績就會比較好，確實是有，像日本都有很多這些藥在賣。   

另外一種就是所謂的認知介入，用現(xiàn)在的話說就是很多的賽博格。我們最近這兩年可以看到，不僅人的記憶可以移植，甚至動物的記憶都可以移植。這樣就會帶來一個問題，就是我們將來作為人的自主性的一個最重要的因素，即人的認知上的自由還有沒有？就是說我能不能夠去想這個問題，我把別人的記憶移植到我的大腦里面以后，我怎么知道這是移植過來的還是我自己的？我搞不清楚。這就是我們將要經(jīng)歷的事情。

那么現(xiàn)實層面的話，智能化其實已經(jīng)帶來一些不平等的極端化。我們現(xiàn)在可以看到，人工智能的出現(xiàn)和網(wǎng)絡(luò)時代的來臨以及網(wǎng)絡(luò)科技的發(fā)展是一脈相承的。比如，我們可以看到的一個事實就是，低報酬與高報酬的職位是同等增加的。我們一邊可以看到網(wǎng)絡(luò)的高管可以拿到很高的薪水，另外一方面我們也看到那些外賣小哥，他們的工資是很低的，這是一個值得我們注意的問題。

另外，當下網(wǎng)絡(luò)和金融的發(fā)展已經(jīng)導(dǎo)致了分配體系的極大扭曲。我們甚至可以說，當下的金融體系或者科技金融并沒有創(chuàng)造那么多的價值，這也是值得我們反省的。另外，在這樣一個“贏者通吃”的時代，在這樣一個“網(wǎng)紅經(jīng)濟”的時代，明星們的收入也是拜當下的新媒體或者是智能化的發(fā)展所賜。

再就是我們可以看到，智能化時代來臨以后，我們可以列一個所謂的“人類剩余優(yōu)勢清單”，就是我們?nèi)祟愡€剩下哪些優(yōu)勢？這也可以說是一種危機意識。也許現(xiàn)在我們還可以說我們有創(chuàng)造性和變通性。但是也有人講，人工智能現(xiàn)在也可以繪畫了，或者可以作曲了。然后有人說我們?nèi)祟愑幸环N社會自覺，所謂社會自覺就是我們能夠搞關(guān)系。英文中有個詞ralation叫“關(guān)系”，說的就是我們中國人的這樣一種社會關(guān)系、社會交往能力。

再就是談判和所謂的“論證”，哲學(xué)家的這樣一種論證。當然，我們將來還會有很多新的疾病，比如說虛擬現(xiàn)實成癮，其實就是我們現(xiàn)在的電子游戲成癮。我們分不清楚哪些是現(xiàn)實，哪些是虛擬，有一定的障礙；還有身份的認同焦慮等等。說到身份認同，因為我們將來有越來越多的事情是交給智能化的代理去做的?，F(xiàn)在有一些微信“大咖”，他們都是在用機器人來幫他發(fā)微信的，你不要以為是他本人在發(fā)。我們現(xiàn)在想一想，一個人有50個群，他到底是哪個群的群主，恐怕連他自己都搞不清楚，現(xiàn)在就是這么一個情況。

當然還有很多其他情形，有些是科幻性的，比如說機械移植，具有排異性。還有就是吃了聰明藥以后，智能增強以后，有時候會導(dǎo)致精神疾患。因為你一旦不吃那個藥的時候，馬上就會對自己的信心不一樣了，甚至?xí)ψ约菏バ判?。還有就是機器人的恐懼癥、自我刺激的成癮，現(xiàn)在還有所謂的性愛機器人。再就是人真正壽命延長以后，你自己都活得不耐煩了，不是沒有這種可能。這樣的話，未來的社會就會出現(xiàn)兩種情況，第一種就是由機器人來掌控世界。它指的不是我們現(xiàn)在科幻電影講的機器人來主動掌握這個權(quán)利，或者人主動放棄這個權(quán)利。實際上是什么呢？實際上是人對機器的高度依賴。我們知道，社會發(fā)展到今天，需要面對的問題越來越復(fù)雜，我們越來越多地依靠智能機器人，依靠這種智能化的機器。實際上最終會出現(xiàn)的一個情況就是，人不得不把自己的決策權(quán)讓給機器，而且人依賴于機器，等到真正機器本身出現(xiàn)問題的時候，人也不可能再去關(guān)閉這個機器，因為關(guān)閉機器就意味著自殺，就像現(xiàn)在，如果把網(wǎng)絡(luò)關(guān)了，就意味著這個社會可能會癱瘓。這是第一種未來情景。

第二種未來情景，就是人類繼續(xù)保持對機器的控制，這種情況也是有的。但是在這種情況下，它實際上和當下是不一樣的，它實際上只能是少數(shù)精英掌握了技術(shù)，而普通人是不太能夠掌握技術(shù)的。也就是說，有可能大眾對整個系統(tǒng)來說不是那么必要，反而成為累贅，這就是所謂“無用階層”的出現(xiàn)。

“無用階層”的出現(xiàn)將來會產(chǎn)生一個很大的產(chǎn)業(yè)，就是要對他們進行心理疏導(dǎo)和社會管控，要從心理和精神層面對他們進行智能化的引導(dǎo)和校正。由此可能會帶來更多的社會問題。

二、數(shù)據(jù)智能與解析社會的來臨

剛才講了很多科幻的情況，下面我們再來講一講現(xiàn)實。現(xiàn)實是什么呢？就是數(shù)據(jù)智能和解析社會的來臨。一方面我們的數(shù)據(jù)是呈指數(shù)增長的，這個大家都知道，我就不多說了。實際上現(xiàn)在是一種什么情況呢？簡單一句話就是，數(shù)據(jù)就是存在。就是不管你是主動還是被動，我們都是數(shù)據(jù)的貢獻者。所謂解析社會，就像我們在近代科學(xué)早期出現(xiàn)的解析幾何一樣的，古典的歐式幾何只是解決了平面幾何的問題，解析幾何才能解決物體軌跡的問題。而現(xiàn)在，解析社會通過數(shù)據(jù)能夠解析什么呢？我們通過數(shù)據(jù)能夠精確地描述每個人的行為軌跡，這是一個極其巨大的變化。就是說，一切都將被記錄，一切都將被分析。

13世紀的時候，人們發(fā)明了透鏡。有了透鏡以后，我們才有了眼鏡，我們的近視眼和遠視眼的問題得到了解決。后來我們有了望遠鏡，有了顯微鏡，我們可以看到整個世界自然的圖景。但是我們現(xiàn)在是在用數(shù)據(jù)透鏡來改變我們的社會，用數(shù)據(jù)透鏡來進行政治的計算。通過數(shù)據(jù)的解析，我們甚至可以站在上帝的視角來看整個社會是怎樣來發(fā)展的，包括我們現(xiàn)在有很多網(wǎng)格的管理，，然后我們還有很多的測繪測時。比如說我們有個技術(shù)，把每個人的微表情全部記錄下來，然后就告訴你在上課的時候，你在聽演講的時候應(yīng)該怎么樣，你應(yīng)該怎么樣去跟人家互動等等。而且這個東西看起來是非常客觀的，所以它對人的控制力應(yīng)該是很強的。換句話說，數(shù)據(jù)透鏡最后起到了一個什么作用呢？就是對人的行為的一種智能化的調(diào)節(jié)。它的社會應(yīng)用實際上是很廣泛的，我們知道我們現(xiàn)在所有采集的數(shù)據(jù)，實際上很多東西本來只有單一目的，但是一旦成為數(shù)據(jù)被記錄下來，就可以有多重目的了，就可以有各種各樣的用途。比如，我們可以把你的醫(yī)院的數(shù)據(jù)和你犯罪的數(shù)據(jù)結(jié)合在一起，然后判斷你可能真的有某種精神疾患，所以才去犯罪。

另外，我們的數(shù)據(jù)整合有時候會帶來意想不到的效果。有好多人，只要上網(wǎng)點擊一個什么東西，人家馬上就會知道你的電話號碼，就會馬上給你打電話推薦什么東西，更不要說把所有的數(shù)據(jù)都整合起來，就會具有這樣一種評價社會的功能。實際上，評價社會對我們?nèi)祟愖陨淼男袨橐彩且环N調(diào)節(jié)。比如說我們?nèi)プ蔚蔚臅r候，滴滴的評分是很重要的，因為滴滴是“記仇”的，如果你老是取消訂單，那么在你特別想打車的時候它就會不給你派車，因為它給你評分了，它認為你的信用度不夠高，還有就是什么人給貸款、什么人不給貸款。有的領(lǐng)導(dǎo)說為什么我的保險高、你的保險低？有可能就是因為你在某一天跟人家路怒，跟人家打架了，然后有攝像頭拍下來了，那就表明你在安全上是有問題的，所以你的保險金就高，但是它不會告訴你。另外，現(xiàn)在還有預(yù)測犯罪的問題，我們現(xiàn)在就有很多這樣的例子。但是預(yù)測犯罪跟我們以往的無罪推定還是有些不一樣的。   

大家知道，現(xiàn)在有一種運動就是所謂的“可穿戴設(shè)備”，就是量化自我，通過一種跑步軟件，可以統(tǒng)計每天跑多少步。但是如果我們每天在朋友圈去刷“今天跑了10公里，明天跑了10公里”，實際上這也是我們屈從于機器職能的一種表現(xiàn)。而且，我們要知道，還有很多東西是不可量化的，將來還有很多智能化的生活。我們現(xiàn)在正在進入一個老齡化的社會，很多小孩和老人都可以有自己的智能陪伴。甚至如果我們現(xiàn)在的記憶不夠用了，還可以有自己的所謂“記憶管家”，也就是一個智能陪伴，它從小就陪伴在你身邊，對你生活的所有細節(jié)進行錄像。有時候你可能很多東西都記不起來。比如說“我上次見到我爸爸是什么時間”“我送了他什么禮物”，或者“我見到領(lǐng)導(dǎo)講了什么話”，它都能幫你記下來。再就是我們現(xiàn)在身體的數(shù)據(jù)也是透明的，這個透明的數(shù)據(jù)包括基因檢測等資料，但是這些數(shù)據(jù)已經(jīng)跟以往不一樣了，它看起來是屬于你的，但是實際上是屬于整個社會的，因為你的基因檢測，只有每一個數(shù)據(jù)都拿來共享、都拿來分析的時候才有價值，才能看出來它們之間的差距。不能說你的數(shù)據(jù)不用，他的數(shù)據(jù)也不用，全部都成為數(shù)據(jù)的“孤島”，那這些數(shù)據(jù)就沒有意義了。這是我要講的一個情況。

實際上，我們現(xiàn)在正在經(jīng)歷一種控制革命2.0。什么意思呢？就是從近代以來人類社會經(jīng)歷了一種控制的革命。我們以前從熟人社會到了一個陌生人的社會，進入工業(yè)社會以后，大工業(yè)化的生產(chǎn)需要進行管理。所以不論是科學(xué)管理，還是電報、電信技術(shù)的出現(xiàn)，都是為了對這個社會進行某種控制。我們現(xiàn)在有了一種新的控制，有了數(shù)據(jù)以后，我們就要對這個社會進行一種最大限度的解析，進行一種觀測、監(jiān)視、預(yù)測、評價、誘導(dǎo)。一個很典型的例子就是澳門的賭場，它是一個絕對精細化的智能化的設(shè)計，你進去以后上演的行為，全部都是它給你設(shè)計好了的。