段偉文  中國社會(huì)科學(xué)院哲學(xué)所研究員

點(diǎn)此查看完整報(bào)告

 點(diǎn)此查看視頻專輯

點(diǎn)此瀏覽課件

今天這么多科學(xué)家在這里，我們做哲學(xué)和社會(huì)科學(xué)研究的人都比較小心，所以我今天講的題目很大。我的演講框架大概是這樣的：首先是講人類現(xiàn)在面臨的所謂的生存危機(jī)，然后講述當(dāng)下人工智能的特征或者說它的特質(zhì)，接著我們就去試圖尋找一些相關(guān)的對策，主要是談一下我自己的思考，看一看有什么樣的應(yīng)對策略，最后是對人工智能未來發(fā)展的展望。

一、人工智能來了，未來需要我們嗎？

實(shí)際上，大家對“人工智能來了，究竟是一個(gè)什么樣的情況”這個(gè)問題有兩種不同的觀點(diǎn)。一種觀點(diǎn)認(rèn)為人類現(xiàn)在所擁有的這些技術(shù)將使人類自身變成一種瀕危的物種；但是也有樂觀主義者認(rèn)為，在機(jī)器人的幫助下人類能夠獲得永生。實(shí)際上不論是一種烏托邦還是一種反烏托邦，這樣一種人文的或者是哲學(xué)社會(huì)科學(xué)的思考，它實(shí)際上是讓我們在發(fā)展科技的時(shí)候去找到它的上限或者是下限。

實(shí)際上，這個(gè)技術(shù)很簡單，大家都知道，就是所謂的融合科技或者是人類增強(qiáng)。就是說，我們可以通過藥物，通過基因，通過認(rèn)知，甚至達(dá)到一種超級(jí)的智能?，F(xiàn)在已經(jīng)有很多人在吃一種“能讓人變聰明”的藥，據(jù)說吃了這個(gè)藥以后，考試的時(shí)候成績就會(huì)比較好，確實(shí)是有，像日本都有很多這些藥在賣。   

另外一種就是所謂的認(rèn)知介入，用現(xiàn)在的話說就是很多的賽博格。我們最近這兩年可以看到，不僅人的記憶可以移植，甚至動(dòng)物的記憶都可以移植。這樣就會(huì)帶來一個(gè)問題，就是我們將來作為人的自主性的一個(gè)最重要的因素，即人的認(rèn)知上的自由還有沒有？就是說我能不能夠去想這個(gè)問題，我把別人的記憶移植到我的大腦里面以后，我怎么知道這是移植過來的還是我自己的？我搞不清楚。這就是我們將要經(jīng)歷的事情。

那么現(xiàn)實(shí)層面的話，智能化其實(shí)已經(jīng)帶來一些不平等的極端化。我們現(xiàn)在可以看到，人工智能的出現(xiàn)和網(wǎng)絡(luò)時(shí)代的來臨以及網(wǎng)絡(luò)科技的發(fā)展是一脈相承的。比如，我們可以看到的一個(gè)事實(shí)就是，低報(bào)酬與高報(bào)酬的職位是同等增加的。我們一邊可以看到網(wǎng)絡(luò)的高管可以拿到很高的薪水，另外一方面我們也看到那些外賣小哥，他們的工資是很低的，這是一個(gè)值得我們注意的問題。

另外，當(dāng)下網(wǎng)絡(luò)和金融的發(fā)展已經(jīng)導(dǎo)致了分配體系的極大扭曲。我們甚至可以說，當(dāng)下的金融體系或者科技金融并沒有創(chuàng)造那么多的價(jià)值，這也是值得我們反省的。另外，在這樣一個(gè)“贏者通吃”的時(shí)代，在這樣一個(gè)“網(wǎng)紅經(jīng)濟(jì)”的時(shí)代，明星們的收入也是拜當(dāng)下的新媒體或者是智能化的發(fā)展所賜。

再就是我們可以看到，智能化時(shí)代來臨以后，我們可以列一個(gè)所謂的“人類剩余優(yōu)勢清單”，就是我們?nèi)祟愡€剩下哪些優(yōu)勢？這也可以說是一種危機(jī)意識(shí)。也許現(xiàn)在我們還可以說我們有創(chuàng)造性和變通性。但是也有人講，人工智能現(xiàn)在也可以繪畫了，或者可以作曲了。然后有人說我們?nèi)祟愑幸环N社會(huì)自覺，所謂社會(huì)自覺就是我們能夠搞關(guān)系。英文中有個(gè)詞ralation叫“關(guān)系”，說的就是我們中國人的這樣一種社會(huì)關(guān)系、社會(huì)交往能力。

再就是談判和所謂的“論證”，哲學(xué)家的這樣一種論證。當(dāng)然，我們將來還會(huì)有很多新的疾病，比如說虛擬現(xiàn)實(shí)成癮，其實(shí)就是我們現(xiàn)在的電子游戲成癮。我們分不清楚哪些是現(xiàn)實(shí)，哪些是虛擬，有一定的障礙；還有身份的認(rèn)同焦慮等等。說到身份認(rèn)同，因?yàn)槲覀儗碛性絹碓蕉嗟氖虑槭墙唤o智能化的代理去做的?，F(xiàn)在有一些微信“大咖”，他們都是在用機(jī)器人來幫他發(fā)微信的，你不要以為是他本人在發(fā)。我們現(xiàn)在想一想，一個(gè)人有50個(gè)群，他到底是哪個(gè)群的群主，恐怕連他自己都搞不清楚，現(xiàn)在就是這么一個(gè)情況。

當(dāng)然還有很多其他情形，有些是科幻性的，比如說機(jī)械移植，具有排異性。還有就是吃了聰明藥以后，智能增強(qiáng)以后，有時(shí)候會(huì)導(dǎo)致精神疾患。因?yàn)槟阋坏┎怀阅莻€(gè)藥的時(shí)候，馬上就會(huì)對自己的信心不一樣了，甚至?xí)ψ约菏バ判摹＿€有就是機(jī)器人的恐懼癥、自我刺激的成癮，現(xiàn)在還有所謂的性愛機(jī)器人。再就是人真正壽命延長以后，你自己都活得不耐煩了，不是沒有這種可能。這樣的話，未來的社會(huì)就會(huì)出現(xiàn)兩種情況，第一種就是由機(jī)器人來掌控世界。它指的不是我們現(xiàn)在科幻電影講的機(jī)器人來主動(dòng)掌握這個(gè)權(quán)利，或者人主動(dòng)放棄這個(gè)權(quán)利。實(shí)際上是什么呢？實(shí)際上是人對機(jī)器的高度依賴。我們知道，社會(huì)發(fā)展到今天，需要面對的問題越來越復(fù)雜，我們越來越多地依靠智能機(jī)器人，依靠這種智能化的機(jī)器。實(shí)際上最終會(huì)出現(xiàn)的一個(gè)情況就是，人不得不把自己的決策權(quán)讓給機(jī)器，而且人依賴于機(jī)器，等到真正機(jī)器本身出現(xiàn)問題的時(shí)候，人也不可能再去關(guān)閉這個(gè)機(jī)器，因?yàn)殛P(guān)閉機(jī)器就意味著自殺，就像現(xiàn)在，如果把網(wǎng)絡(luò)關(guān)了，就意味著這個(gè)社會(huì)可能會(huì)癱瘓。這是第一種未來情景。

第二種未來情景，就是人類繼續(xù)保持對機(jī)器的控制，這種情況也是有的。但是在這種情況下，它實(shí)際上和當(dāng)下是不一樣的，它實(shí)際上只能是少數(shù)精英掌握了技術(shù)，而普通人是不太能夠掌握技術(shù)的。也就是說，有可能大眾對整個(gè)系統(tǒng)來說不是那么必要，反而成為累贅，這就是所謂“無用階層”的出現(xiàn)。

“無用階層”的出現(xiàn)將來會(huì)產(chǎn)生一個(gè)很大的產(chǎn)業(yè)，就是要對他們進(jìn)行心理疏導(dǎo)和社會(huì)管控，要從心理和精神層面對他們進(jìn)行智能化的引導(dǎo)和校正。由此可能會(huì)帶來更多的社會(huì)問題。

二、數(shù)據(jù)智能與解析社會(huì)的來臨

剛才講了很多科幻的情況，下面我們再來講一講現(xiàn)實(shí)。現(xiàn)實(shí)是什么呢？就是數(shù)據(jù)智能和解析社會(huì)的來臨。一方面我們的數(shù)據(jù)是呈指數(shù)增長的，這個(gè)大家都知道，我就不多說了。實(shí)際上現(xiàn)在是一種什么情況呢？簡單一句話就是，數(shù)據(jù)就是存在。就是不管你是主動(dòng)還是被動(dòng)，我們都是數(shù)據(jù)的貢獻(xiàn)者。所謂解析社會(huì)，就像我們在近代科學(xué)早期出現(xiàn)的解析幾何一樣的，古典的歐式幾何只是解決了平面幾何的問題，解析幾何才能解決物體軌跡的問題。而現(xiàn)在，解析社會(huì)通過數(shù)據(jù)能夠解析什么呢？我們通過數(shù)據(jù)能夠精確地描述每個(gè)人的行為軌跡，這是一個(gè)極其巨大的變化。就是說，一切都將被記錄，一切都將被分析。

13世紀(jì)的時(shí)候，人們發(fā)明了透鏡。有了透鏡以后，我們才有了眼鏡，我們的近視眼和遠(yuǎn)視眼的問題得到了解決。后來我們有了望遠(yuǎn)鏡，有了顯微鏡，我們可以看到整個(gè)世界自然的圖景。但是我們現(xiàn)在是在用數(shù)據(jù)透鏡來改變我們的社會(huì)，用數(shù)據(jù)透鏡來進(jìn)行政治的計(jì)算。通過數(shù)據(jù)的解析，我們甚至可以站在上帝的視角來看整個(gè)社會(huì)是怎樣來發(fā)展的，包括我們現(xiàn)在有很多網(wǎng)格的管理，，然后我們還有很多的測繪測時(shí)。比如說我們有個(gè)技術(shù)，把每個(gè)人的微表情全部記錄下來，然后就告訴你在上課的時(shí)候，你在聽演講的時(shí)候應(yīng)該怎么樣，你應(yīng)該怎么樣去跟人家互動(dòng)等等。而且這個(gè)東西看起來是非?？陀^的，所以它對人的控制力應(yīng)該是很強(qiáng)的。換句話說，數(shù)據(jù)透鏡最后起到了一個(gè)什么作用呢？就是對人的行為的一種智能化的調(diào)節(jié)。它的社會(huì)應(yīng)用實(shí)際上是很廣泛的，我們知道我們現(xiàn)在所有采集的數(shù)據(jù)，實(shí)際上很多東西本來只有單一目的，但是一旦成為數(shù)據(jù)被記錄下來，就可以有多重目的了，就可以有各種各樣的用途。比如，我們可以把你的醫(yī)院的數(shù)據(jù)和你犯罪的數(shù)據(jù)結(jié)合在一起，然后判斷你可能真的有某種精神疾患，所以才去犯罪。

另外，我們的數(shù)據(jù)整合有時(shí)候會(huì)帶來意想不到的效果。有好多人，只要上網(wǎng)點(diǎn)擊一個(gè)什么東西，人家馬上就會(huì)知道你的電話號(hào)碼，就會(huì)馬上給你打電話推薦什么東西，更不要說把所有的數(shù)據(jù)都整合起來，就會(huì)具有這樣一種評(píng)價(jià)社會(huì)的功能。實(shí)際上，評(píng)價(jià)社會(huì)對我們?nèi)祟愖陨淼男袨橐彩且环N調(diào)節(jié)。比如說我們?nèi)プ蔚蔚臅r(shí)候，滴滴的評(píng)分是很重要的，因?yàn)榈蔚问?ldquo;記仇”的，如果你老是取消訂單，那么在你特別想打車的時(shí)候它就會(huì)不給你派車，因?yàn)樗o你評(píng)分了，它認(rèn)為你的信用度不夠高，還有就是什么人給貸款、什么人不給貸款。有的領(lǐng)導(dǎo)說為什么我的保險(xiǎn)高、你的保險(xiǎn)低？有可能就是因?yàn)槟阍谀骋惶旄思衣放?，跟人家打架了，然后有攝像頭拍下來了，那就表明你在安全上是有問題的，所以你的保險(xiǎn)金就高，但是它不會(huì)告訴你。另外，現(xiàn)在還有預(yù)測犯罪的問題，我們現(xiàn)在就有很多這樣的例子。但是預(yù)測犯罪跟我們以往的無罪推定還是有些不一樣的。   

大家知道，現(xiàn)在有一種運(yùn)動(dòng)就是所謂的“可穿戴設(shè)備”，就是量化自我，通過一種跑步軟件，可以統(tǒng)計(jì)每天跑多少步。但是如果我們每天在朋友圈去刷“今天跑了10公里，明天跑了10公里”，實(shí)際上這也是我們屈從于機(jī)器職能的一種表現(xiàn)。而且，我們要知道，還有很多東西是不可量化的，將來還有很多智能化的生活。我們現(xiàn)在正在進(jìn)入一個(gè)老齡化的社會(huì)，很多小孩和老人都可以有自己的智能陪伴。甚至如果我們現(xiàn)在的記憶不夠用了，還可以有自己的所謂“記憶管家”，也就是一個(gè)智能陪伴，它從小就陪伴在你身邊，對你生活的所有細(xì)節(jié)進(jìn)行錄像。有時(shí)候你可能很多東西都記不起來。比如說“我上次見到我爸爸是什么時(shí)間”“我送了他什么禮物”，或者“我見到領(lǐng)導(dǎo)講了什么話”，它都能幫你記下來。再就是我們現(xiàn)在身體的數(shù)據(jù)也是透明的，這個(gè)透明的數(shù)據(jù)包括基因檢測等資料，但是這些數(shù)據(jù)已經(jīng)跟以往不一樣了，它看起來是屬于你的，但是實(shí)際上是屬于整個(gè)社會(huì)的，因?yàn)槟愕幕驒z測，只有每一個(gè)數(shù)據(jù)都拿來共享、都拿來分析的時(shí)候才有價(jià)值，才能看出來它們之間的差距。不能說你的數(shù)據(jù)不用，他的數(shù)據(jù)也不用，全部都成為數(shù)據(jù)的“孤島”，那這些數(shù)據(jù)就沒有意義了。這是我要講的一個(gè)情況。

實(shí)際上，我們現(xiàn)在正在經(jīng)歷一種控制革命2.0。什么意思呢？就是從近代以來人類社會(huì)經(jīng)歷了一種控制的革命。我們以前從熟人社會(huì)到了一個(gè)陌生人的社會(huì)，進(jìn)入工業(yè)社會(huì)以后，大工業(yè)化的生產(chǎn)需要進(jìn)行管理。所以不論是科學(xué)管理，還是電報(bào)、電信技術(shù)的出現(xiàn)，都是為了對這個(gè)社會(huì)進(jìn)行某種控制。我們現(xiàn)在有了一種新的控制，有了數(shù)據(jù)以后，我們就要對這個(gè)社會(huì)進(jìn)行一種最大限度的解析，進(jìn)行一種觀測、監(jiān)視、預(yù)測、評(píng)價(jià)、誘導(dǎo)。一個(gè)很典型的例子就是澳門的賭場，它是一個(gè)絕對精細(xì)化的智能化的設(shè)計(jì)，你進(jìn)去以后上演的行為，全部都是它給你設(shè)計(jì)好了的。