人工智能剛剛推出的時候，就有人呼吁暫停。但是人類現(xiàn)在最大的困境就在于一方面車速過快，道路情況又很復(fù)雜，另一方面剎車失靈。2024年3月，歐洲議會以壓倒性票數(shù)通過《歐盟人工智能法案》。這是全球首部綜合性人工智能監(jiān)管法案。同年5月，25位世界頂尖AI科學(xué)家呼吁，全世界應(yīng)對AI風(fēng)險采取更強有力的行動。

從實際效果看，科技在進步，人們對于科技風(fēng)險的認識和治理卻在倒退。過去人類有很多好的智慧、好的機制，但在激烈競爭和資本增殖的壓力下，這些好機制都消失了。個體的風(fēng)險感知較為敏銳，早些年就有人提出發(fā)展人工智能的風(fēng)險。群體對此保持緘默，《烏合之眾》一書有精辟的講解。

（二）伴侶機器人

雖然目前的機器人還不能和真人一模一樣，但是隨著合成生物學(xué)與人工智能的交叉研究不斷深入，終有一天伴侶機器人的外觀能做到和真人一樣。到那時，或許年輕一代的初戀都將是機器人。

（三）鏡像生命

DNA具有手性，“鏡像生命”指通過合成生物學(xué)技術(shù)，將構(gòu)成生命的分子（如DNA、RNA、蛋白質(zhì)）替換為其鏡像版本而創(chuàng)造的全新生物形式。例如，自然界中DNA為右旋（D型），蛋白質(zhì)由左旋氨基酸（L型）構(gòu)成，而鏡像生命則使用左旋DNA和右旋氨基酸，形成與地球生命“互為鏡像”的結(jié)構(gòu)。2024年12月，國際頂級期刊《科學(xué)》刊發(fā)由38位科學(xué)家聯(lián)合撰寫的重磅報告《應(yīng)對“鏡像生物”風(fēng)險》，呼吁全球立即禁止人工合成“鏡像生命”的研究。這一警告由包括諾貝爾獎得主在內(nèi)的多國頂尖學(xué)者發(fā)起，直指合成生物學(xué)領(lǐng)域潛藏的“前所未有的風(fēng)險”，引發(fā)科學(xué)界與公眾的深度反思。

三、科技風(fēng)險的雙重挑戰(zhàn)性

隨著科技發(fā)展，尤其是進入21世紀以后，越來越多的自然科學(xué)家加入預(yù)警科技風(fēng)險的隊伍，以前提出科技風(fēng)險的大多是人文學(xué)者。我認為，目前存在雙重挑戰(zhàn)：一方面科技風(fēng)險愈演愈烈，另一方面人類的防控機制存在嚴重漏洞。

（一）認知失靈

什么是“有效加速主義”？它是一種關(guān)于技術(shù)和社會關(guān)系的哲學(xué)思想。有效加速者認為，有效加速運動并不是一場社會運動，甚至也不是一種意識形態(tài)，而只是一種對真理的承認。無論是現(xiàn)實中的官僚體系、技術(shù)治理，還是任何試圖控制技術(shù)的力量，都妨礙了人們承認真理，因而都需要被革除。一言以蔽之，就是不顧一切地加速技術(shù)的發(fā)展。

什么是“超級對齊”？大致上講，它指的是通過對AI系統(tǒng)的行為進行引導(dǎo)，讓其能夠符合設(shè)計者的意圖。一些AI從業(yè)人士建議用“超級對齊”來對AI系統(tǒng)，尤其是超級AI系統(tǒng)進行對齊。這種策略的基本思路是先創(chuàng)建一個“大致相當于人類水平的自動對齊研究員”，用它來執(zhí)行針對AI的對齊工作。換言之，就是在執(zhí)行對齊工作的過程中，將那些更適合由AI完成的工作盡可能交由AI來自動完成，而人類則僅負責(zé)其中最為關(guān)鍵的那一部分，以此來盡可能提升對齊的效率。

（二）倫理失靈

科技倫理的建設(shè)是按照社會倫理的思路進行的。什么是社會倫理？社會倫理是指在社會生活中，人們共同認可并遵循的道德規(guī)范和行為準則，它調(diào)節(jié)著人與人、人與社會之間的關(guān)系，是社會穩(wěn)定與和諧的重要基礎(chǔ)。只要多數(shù)人遵守社會倫理，社會秩序便可以井然有序。少數(shù)不遵守社會倫理的人造成的社會危害是有限的。但是科技環(huán)境不是這樣，只要有一個實驗室不遵守倫理秩序，就會造成很大危害。所以，我們很難用科技倫理約束科技風(fēng)險問題，重點應(yīng)放在改變科技發(fā)展模式上。