三、智能算法的倫理審計(jì)與爭(zhēng)勝性策略

那么，面對(duì)以上的情況，我們應(yīng)該怎么辦呢？我這里提出一個(gè)概念，叫“倫理審計(jì)”，就好像我們財(cái)經(jīng)上的審計(jì)，大抵就是這個(gè)意思。我們要知道，現(xiàn)在有很多東西可以通過(guò)數(shù)據(jù)洞察去發(fā)現(xiàn)它們的差異性。比如說(shuō)大學(xué)生的飯卡可以用來(lái)打開(kāi)水，現(xiàn)在有一種統(tǒng)計(jì)，有人通過(guò)統(tǒng)計(jì)有一種數(shù)據(jù)洞察，就是一般來(lái)說(shuō)，打開(kāi)水打得多的孩子，他學(xué)習(xí)一般是比較勤奮的，成績(jī)一般是比較好的。而那些完全不打開(kāi)水的孩子他很可能有孤獨(dú)癥，很可能是游戲上癮，或者有這樣那樣的問(wèn)題。

還有標(biāo)簽，以往我們要從科學(xué)上進(jìn)行一種絕對(duì)的分類是很困難的，但是現(xiàn)在可以用一種大眾的分類法來(lái)分類。比如說(shuō)他是有寶馬車的，他是開(kāi)奔馳的，他是開(kāi)桑塔納的，然后還有各種各樣的不同的習(xí)慣，可以根據(jù)各種標(biāo)簽來(lái)斷物識(shí)人，因?yàn)槿吮旧硎强床磺宄?。另外，還有一種內(nèi)容推薦，你買(mǎi)了這個(gè)書(shū)，他會(huì)告訴你買(mǎi)了這些書(shū)的人還買(mǎi)了一些什么書(shū)等等信息。還有根據(jù)人群來(lái)分，有一種算法推薦，像現(xiàn)在的今日頭條，還有抖音、快手都是這樣。

當(dāng)然它也會(huì)帶來(lái)一些問(wèn)題。比如說(shuō)重復(fù)推薦、立即推薦，甚至?xí)扑]一些你反感的內(nèi)容。因?yàn)樗皇菍?duì)你進(jìn)行一種揣測(cè)，所以有時(shí)候可能也是一種負(fù)面誘導(dǎo)，往往誘導(dǎo)你產(chǎn)生一些負(fù)面的情緒。再就是它會(huì)使你的偏見(jiàn)增加，還可能導(dǎo)致你生活在一個(gè)自己的小圈子里。

比如，有的人老抱怨快手和抖音給他推薦一些不良的視頻，但是實(shí)際上人家說(shuō)我們根據(jù)數(shù)據(jù)顯示，你確實(shí)看過(guò)那些不良的視頻，這說(shuō)明什么？這說(shuō)明它們比你還要了解你自己，智能算法就是研究這個(gè)問(wèn)題，這樣就很麻煩了。

實(shí)際上，這些算法在認(rèn)知上也有不確定性，有的時(shí)候因?yàn)椴蝗菀桌斫膺€會(huì)導(dǎo)致誤解，所以我們要對(duì)它的認(rèn)知進(jìn)行審計(jì)，就是看看它有哪些偏差。同時(shí)，它還有價(jià)值上的偏差，比如說(shuō)歧視。然后還有一些自主，就是影響人的自主，甚至?xí)绊懭说碾[私。

講到歧視或者偏見(jiàn)，我想特別跟大家講一下，我們?nèi)魏蔚恼Z(yǔ)言、任何數(shù)據(jù)的選取和表達(dá)都是有偏見(jiàn)的。比如說(shuō)水煮魚(yú)，其實(shí)水煮魚(yú)是什么？不就是水煮豆芽菜嘛！是不是？它其實(shí)就是水煮豆芽菜里面加幾塊魚(yú)片。有時(shí)候你認(rèn)為的這些東西沒(méi)有偏見(jiàn)嗎？它都是有偏見(jiàn)的。京醬肉絲，可能你只想到肉，那后面是什么呢？其實(shí)就是這個(gè)問(wèn)題。

另外，可以告訴大家，我們現(xiàn)在的內(nèi)容推薦都是根據(jù)你的購(gòu)買(mǎi)行為來(lái)對(duì)你進(jìn)行的一種計(jì)算，但是人生的意義絕對(duì)不僅僅是購(gòu)買(mǎi)行為，所以我們可以和他進(jìn)行反駁，人生的意義絕對(duì)不是說(shuō)你買(mǎi)了鉆石，他買(mǎi)了勞力士，絕對(duì)不是。

所以我們現(xiàn)在就有了一種爭(zhēng)勝性的策略，它指的是在設(shè)計(jì)上的一種非對(duì)抗性的競(jìng)爭(zhēng)策略。就是說(shuō)，我們首先要進(jìn)行價(jià)值揭示。比如說(shuō)現(xiàn)在的滴滴順風(fēng)車的事件，我們就要從價(jià)值上去揭示平臺(tái)的責(zé)任：這個(gè)平臺(tái)為什么要把順風(fēng)車的軟件變成一個(gè)社交軟件？這就是問(wèn)題。那么背后最大的利害關(guān)系人是誰(shuí)？另外，我們要對(duì)它進(jìn)行價(jià)值的糾偏。比如說(shuō)有些司機(jī)對(duì)女性乘客進(jìn)行騷擾的那些數(shù)據(jù)能不能讓它有價(jià)值？

同時(shí)，我們通過(guò)人工智能計(jì)算，還可以進(jìn)行倫理的引導(dǎo)，包括經(jīng)濟(jì)學(xué)的助推、社會(huì)管理層面的助推等等。其實(shí)，在計(jì)算機(jī)領(lǐng)域，10多年前就已經(jīng)發(fā)展出一種計(jì)算機(jī)說(shuō)服技術(shù)。比如說(shuō)你抽煙、你肥胖，他都可以來(lái)說(shuō)服你，幫助你改進(jìn)你的行為。我們現(xiàn)在的智能手環(huán)其實(shí)也是起到這樣一個(gè)作用。我們現(xiàn)在實(shí)際上已經(jīng)發(fā)展為一種智能化的助推、智能化的勸導(dǎo)。另外，我們還可以通過(guò)一種數(shù)據(jù)來(lái)增強(qiáng)我們的道德提升。比如說(shuō)你老去看那些低俗的視頻的話，如果有個(gè)智能助手告訴你“你不要這樣看”，你這樣看的話，且不說(shuō)你是高尚還是不高尚，至少別人會(huì)認(rèn)為你是不高尚的，這也是一種糾正，我們叫做爭(zhēng)勝性的策略。而不是滴滴不行了，我們把它關(guān)了，不是這樣的，我們要從反面去校正它。

四、面向智能化社會(huì)的美好生活之路

面對(duì)智能化的社會(huì)，我們現(xiàn)在不是講“美好生活”嗎？實(shí)際上我們可以看到，追蹤數(shù)據(jù)就是追蹤人的價(jià)值觀。因?yàn)闄C(jī)器是沒(méi)有思想的，是沒(méi)有心的，也是沒(méi)有價(jià)值觀的，而人類卻是有思想、有心、有價(jià)值觀的。所以數(shù)據(jù)實(shí)際上反映的是人的價(jià)值觀。實(shí)際上我們現(xiàn)在要正確地面對(duì)一個(gè)現(xiàn)實(shí)，這個(gè)現(xiàn)實(shí)就是人工智能在定義我們，在定義人類。“你是個(gè)好人”，或者“你是個(gè)壞人”，在給你打分。實(shí)際上，人工智能給我們帶來(lái)的一個(gè)好處就是，它能夠定義我們?nèi)祟?，它能夠告訴我們“我們是誰(shuí)”。

其實(shí)我們一直也是這樣做的。比如說(shuō)我們一直以來(lái)會(huì)照鏡子，猿猴會(huì)看河里的水照鏡子，現(xiàn)在的美女早上會(huì)起來(lái)照鏡子，這實(shí)際上就是對(duì)自己的一種觀察。那么，我們現(xiàn)在是什么呢？我們實(shí)際上是一個(gè)數(shù)據(jù)的鏡子。我們現(xiàn)在有了這種智能設(shè)備，你往那兒一站，它就告訴你“你的健康狀況怎么樣”。將來(lái)我們有了這個(gè)數(shù)據(jù)透鏡以后，它能夠告訴你“你的微表情是什么”。如果你是領(lǐng)導(dǎo)，然后他告訴你“應(yīng)該怎么樣微笑”，告訴你“應(yīng)該怎么樣去見(jiàn)新的下屬”。它不僅可以告訴我們“你是誰(shuí)”，還可以告訴我們“你該怎么做”，以及我們?cè)撛趺慈?ldquo;改進(jìn)我們的行為”，所以，我們要怎么樣進(jìn)行自我變革其實(shí)取決于我們自己。   

我們應(yīng)該知道，我們現(xiàn)在處在智能的數(shù)據(jù)分析的設(shè)施之下，其實(shí)這也是我們?nèi)祟悂?lái)改變自身的一個(gè)契機(jī)。實(shí)際上我們將來(lái)有兩種愿景：第一種愿景是，我們是繼續(xù)充滿侵略性的秘密監(jiān)視的模式還是創(chuàng)造一個(gè)以信任環(huán)境為特征的新模型。前兩年有一個(gè)試驗(yàn)：有一個(gè)虛擬現(xiàn)實(shí)的頭盔，給它一個(gè)云數(shù)據(jù)，然后讓它從一個(gè)餐廳走過(guò)，或者從我們的國(guó)展中心走過(guò)，然后設(shè)計(jì)一個(gè)技術(shù)，就是說(shuō)每當(dāng)有人要收集數(shù)據(jù)的時(shí)候它就會(huì)叫。結(jié)果有個(gè)人從那兒走過(guò)還不到500米，大概有7000多聲“嘀嘀”的叫聲。換句話說(shuō)，可能會(huì)有各種無(wú)形的手伸過(guò)來(lái)要你的數(shù)據(jù)，這種感覺(jué)會(huì)讓我們很不愉快。

如果這樣一種情景長(zhǎng)期進(jìn)行下去會(huì)發(fā)生什么呢？就是使我們的幸福感下降，還有我們對(duì)這種東西的信任的缺失，長(zhǎng)期來(lái)講它是不利于經(jīng)濟(jì)發(fā)展的。所以我們現(xiàn)在需要?jiǎng)?chuàng)造一種以信任為社會(huì)特征的模型。在這樣的模型下，我們每個(gè)人都知道這個(gè)數(shù)據(jù)是怎樣利用的。實(shí)際上，我們需要有一種數(shù)據(jù)所有權(quán)與算法的再平衡。具體怎么實(shí)施，這是另外一個(gè)問(wèn)題。從原則上講，任何實(shí)體要想從個(gè)人那里獲得數(shù)據(jù)，必須讓這個(gè)人知道他們想要挖掘哪些信息以及如何使用這些信息；然后我們每個(gè)人都要主動(dòng)參與數(shù)據(jù)的提供與選擇，讓算法更準(zhǔn)確地了解我們，包括現(xiàn)在所謂的被遺忘權(quán)、數(shù)據(jù)的可刪除權(quán)等等。

因此，我們不要忘了人類自身的尊嚴(yán)，這里所說(shuō)的“人類的尊嚴(yán)”不是西方價(jià)值觀講的那些好像看起來(lái)很高大上的東西，其實(shí)它很簡(jiǎn)單，就是我們要尊重人的情感的需要，我們要在合理的設(shè)計(jì)目標(biāo)下最大限度地尊重人類的隱私權(quán)。人如果沒(méi)有隱私權(quán)，有時(shí)候是會(huì)有問(wèn)題的。還有就是它把我們的所有數(shù)據(jù)都記錄下來(lái)，這就好像說(shuō)我們有一個(gè)疤痕在那兒永遠(yuǎn)也抹不掉，就是這樣的感覺(jué)。

實(shí)際上人是什么？人最重要的東西是一直在尋求改變。其實(shí)即使人自身做得不好，他也希望自己能夠做得更好。但是如果社會(huì)不給他這個(gè)機(jī)會(huì)，把他定性了，把他框死了，說(shuō)他就是這個(gè)樣子的，完全不遺忘他的一些過(guò)失，這實(shí)際上是違背人性的。

比如說(shuō)，我得罪了領(lǐng)導(dǎo)，沒(méi)關(guān)系，他今天不高興，他可能覺(jué)得很生氣，過(guò)兩天一高興，他可能就把這個(gè)事情忘掉了。我們還可以舉一個(gè)極端的例子，如果小學(xué)老師的記憶力是超強(qiáng)的，那么小學(xué)生肯定完蛋。那么多調(diào)皮的孩子，他把所有的調(diào)皮生都記下來(lái)，那他這些孩子就會(huì)永遠(yuǎn)被貼上一個(gè)“壞孩子”的標(biāo)簽，這些所謂的“壞孩子”就很難再改了，所以說(shuō)，遺忘這個(gè)東西本身就是人類的一種智慧。包括隱私，其實(shí)也可以使我們自己能夠有所改進(jìn)，除了保證我們私生活的隱秘性之外。

這樣來(lái)看的話，在智能化時(shí)代，我們要尊重人的脆弱，人都是脆弱的，也是很辛苦的，包括身體上和心理上。同時(shí)我們要牢記人的責(zé)任，而且我們要強(qiáng)調(diào)的是，機(jī)器人沒(méi)有與生俱來(lái)的道德，機(jī)構(gòu)要對(duì)人工智能負(fù)責(zé)，這是最重要的。我們現(xiàn)在的大企業(yè)，也要對(duì)人工智能負(fù)責(zé)。如果說(shuō)我們最開(kāi)始講到的是一種生存危機(jī)，那么在這種生存危機(jī)到來(lái)之前，在我們?nèi)祟惓蔀樗^的“瀕臨絕種”的物種這個(gè)危機(jī)到來(lái)之前，我們要去設(shè)計(jì)新的道德標(biāo)準(zhǔn)，要把價(jià)值觀編入到人工智能系統(tǒng)中去。

我們還可以進(jìn)一步思考，難道今天的人類就是最后一批能夠體驗(yàn)死亡的人嗎？難道我們是這樣的嗎？難道以后的人類真的會(huì)得到永生嗎？如果說(shuō)超級(jí)人類是將來(lái)的一個(gè)絕對(duì)狀態(tài)的話，那么人會(huì)不會(huì)就像軟件一樣過(guò)時(shí)了？如果機(jī)器有一天真的會(huì)取代人，我們?cè)撛趺礃幼非笮腋Ｄ?？?dāng)然有些想法是有點(diǎn)無(wú)厘頭的。

我最后還想講的就是，人類現(xiàn)在確實(shí)面臨一個(gè)危機(jī)，我們其實(shí)一生下來(lái)就覺(jué)得自己是過(guò)時(shí)的。為什么？手機(jī)、計(jì)算機(jī)現(xiàn)在發(fā)展得非?？?。比如說(shuō)，我們現(xiàn)在在手機(jī)上能夠買(mǎi)飛機(jī)票、買(mǎi)別的什么，但是我們的父母那一輩就沒(méi)有辦法這么做?，F(xiàn)在，當(dāng)我們看到90后、00后的孩子在玩什么的時(shí)候，我們會(huì)發(fā)現(xiàn)他們的那種方式我們也完全不會(huì)，我們會(huì)有一種緊迫感。我們要反思，這種想法本身是不是有問(wèn)題？更重要的是，我們要證明自己的價(jià)值，如果我們不能證明自己的價(jià)值，不能證明我們?nèi)说膬r(jià)值，如果我們不能借助人工智能來(lái)認(rèn)清人自身，認(rèn)清我們的優(yōu)點(diǎn)，認(rèn)清我們的缺點(diǎn)，認(rèn)清我們脆弱的地方，認(rèn)清在新的時(shí)代我們應(yīng)該努力的方向，那么機(jī)器怎么可能愿意讓我們繼續(xù)存在呢？如果我們認(rèn)識(shí)不到這一點(diǎn)，我們將來(lái)怎么走向人機(jī)共生時(shí)代的美好生活？這應(yīng)該是一個(gè)非常大的挑戰(zhàn)。

我就講這么多，謝謝。       

（根據(jù)宣講家網(wǎng)報(bào)告整理編輯，未經(jīng)許可，不得印刷、出版，違者追究法律責(zé)任）