人工智能的持續(xù)進步和廣泛應(yīng)用帶來的好處將是巨大的。但是，為了讓人工智能真正有益于人類社會，我們也不能忽視人工智能背后的倫理問題。現(xiàn)在的人工智能界更多是工程師在參與，缺乏哲學(xué)、倫理學(xué)、法學(xué)等其他社會學(xué)科的參與，未來跨學(xué)科的人工智能倫理測試需要加強研究。

人工智能時代加速到來，算法決策興起

第三次AI（人工智能，以下簡稱AI）浪潮已經(jīng)開啟。在技術(shù)層面，有算法的進步。當(dāng)1956年人工智能開始起步的時候，人們更多是在說人工智能；在第二次浪潮期間，機器學(xué)習(xí)成為主流；這一次則是深度學(xué)習(xí)，是能夠自我學(xué)習(xí)、自我編程的學(xué)習(xí)算法，可以用來解決更復(fù)雜的任務(wù)。此外，計算能力的提升，包括現(xiàn)在的量子計算機，以及越來越普遍的大數(shù)據(jù)，對人工智能的作用和價值也非常大，使得更復(fù)雜的算法成為可能。在應(yīng)用層面，從語音識別、機器翻譯到醫(yī)療診斷、自動駕駛，AI應(yīng)用在不斷加深、不斷成熟，甚至已經(jīng)開始超越人類，引發(fā)人們關(guān)于失業(yè)的擔(dān)憂。同時也讓人們開始期待具有通用智能的終極算法。在商業(yè)層面，面對可預(yù)期的好處和利益，國內(nèi)外主流的互聯(lián)網(wǎng)公司如騰訊、谷歌等都開始向AI看齊，AI領(lǐng)域的創(chuàng)業(yè)和投資在如火如荼地進行著。全球已經(jīng)有超過1000家AI公司，市場規(guī)模增長空間是非常大的，未來八年內(nèi)將超過350億美元。

在此背景下，各種互聯(lián)網(wǎng)服務(wù)中越來越多地看到人工智能的影子，人們?nèi)找嫔钤谒惴ㄖ?，算法決策開始介入甚至主導(dǎo)越來越多的人類社會事務(wù)。比如，人們在互聯(lián)網(wǎng)上獲取的內(nèi)容，諸如新聞、音樂、視頻、廣告等等，以及購買的商品，很多都是推薦引擎?zhèn)€性化推薦給用戶的，而不是有人在背后決策。再比如，在金融領(lǐng)域，算法可以決定是否給某個用戶發(fā)放貸款，以及具體的貸款額度。此外，一家美國投資公司早在幾年前就開始研發(fā)管理公司的AI系統(tǒng)，招聘、投資、重大決策等公司事務(wù)都由這個AI系統(tǒng)來管理并決策。也許在未來，一家公司的成功不再主要依賴于擁有像喬布斯那樣偉大的CEO，而是一個足夠智能足夠強大的AI系統(tǒng)。更有甚者，英國、歐盟等都在大力推動人工智能技術(shù)在政務(wù)和民生方面的更深應(yīng)用，政府服務(wù)不僅是數(shù)字化，而且是智能化。

人工智能倫理問題日益凸顯

人工智能的持續(xù)進步和廣泛應(yīng)用帶來的好處將是巨大的。但是，為了讓AI真正有益于人類社會，我們也不能忽視AI背后的倫理問題。

第一個是算法歧視?？赡苋藗儠f，算法是一種數(shù)學(xué)表達(dá)，是很客觀的，不像人類那樣有各種偏見、情緒，容易受外部因素影響，怎么會產(chǎn)生歧視呢？之前的一些研究表明，法官在餓著肚子的時候，傾向于對犯罪人比較嚴(yán)厲，判刑也比較重，所以人們常說，正義取決于法官有沒有吃早餐。算法也正在帶來類似的歧視問題。比如，一些圖像識別軟件之前還將黑人錯誤地標(biāo)記為“黑猩猩”或者“猿猴”。此外，2016年3月，微軟公司在美國的Twitter上上線的聊天機器人Tay在與網(wǎng)民互動過程中，成為了一個集性別歧視、種族歧視等于一身的“不良少女”。隨著算法決策越來越多，類似的歧視也會越來越多。而且，算法歧視會帶來危害。一方面，如果將算法應(yīng)用在犯罪評估、信用貸款、雇傭評估等關(guān)切人身利益的場合，一旦產(chǎn)生歧視，必然危害個人權(quán)益。另一方面，深度學(xué)習(xí)是一個典型的“黑箱”算法，連設(shè)計者可能都不知道算法如何決策，要在系統(tǒng)中發(fā)現(xiàn)有沒有存在歧視和歧視根源，在技術(shù)上是比較困難的。