（三）知錯糾錯機(jī)制失靈

知錯糾錯是人類的重要智慧之一，人類只有通過不斷地知錯糾錯才能達(dá)到目標(biāo)。囚徒困境，用于描述在一種博弈情境下，個體之間可能面臨的合作與背叛之間的沖突，反映個人最佳選擇并非團(tuán)體最佳選擇。換句話說，行為主體面臨選擇的兩難境地時，往往會趨向于考慮相對利己但是不利于集體最大利益的方式。囚徒困境揭示了個人理性與集體理性之間的矛盾。黑格爾說過一句話：人類從歷史中學(xué)到的唯一的教訓(xùn)，就是沒有從歷史中吸取到任何教訓(xùn)。

對此，結(jié)合囚徒困境，從人類是否犯重大錯誤和能否認(rèn)清、糾正、抵消易犯重大錯誤的角度來揭示人類面臨的根本性困境，我提出“囚車劍魔”四大困境。囚徒困境表明吃一塹未必長一智。動車?yán)Ь潮砻骷m正大錯是邊運(yùn)行、邊分析、邊爭論、邊糾錯，糾錯需要邁過“達(dá)成正確共識、預(yù)期共贏、共同有效行動、具備有關(guān)條件”四道坎。雙刃劍困境表明正負(fù)效應(yīng)無法抵消、無法彌補(bǔ)，一“壞”遮百“好”。魔戒困境表明犯重大錯誤的門檻越來越低，人有理性，會權(quán)衡利弊，所以經(jīng)不住誘惑，尖端科技使小人物和機(jī)器人可以犯大錯誤。

四、如何應(yīng)對加速演進(jìn)的科技風(fēng)險

我們要有正確有效的思想和對策，提高相關(guān)領(lǐng)域的研究支持。我們要用中國的理論闡釋中國的問題，要維護(hù)好中國的利益，講好中國故事，傳播中國聲音。而且，我們要更加關(guān)注可持續(xù)發(fā)展的大局觀，充分考慮人類當(dāng)前面臨的挑戰(zhàn)和中國應(yīng)該擔(dān)起的責(zé)任，在解釋中國現(xiàn)象、解決中國問題、維護(hù)中國利益的同時，維護(hù)人類利益，推動構(gòu)建人類命運(yùn)共同體。我國高度重視安全發(fā)展。在黨的二十屆三中全會公報中，“安全”共出現(xiàn)16次。

當(dāng)務(wù)之急是要轉(zhuǎn)變觀念，要站在未來看今天。推動科技的可持續(xù)發(fā)展，要確立合作比競爭重要、安全比財富重要、方向比速度重要、和平相處比獨(dú)占鰲頭重要的原則。以和為貴不僅是中國傳統(tǒng)文化的主張，更是高科技巨風(fēng)險時代不得不遵循的生存法則。我們要有新的發(fā)展，從平面的科學(xué)走向立體的科學(xué)，倡導(dǎo)科技創(chuàng)新風(fēng)控先行、科學(xué)研究倫理先行。

人類社會正面臨一系列巨大的變革和轉(zhuǎn)型，以前強(qiáng)調(diào)的是大規(guī)模的技術(shù)創(chuàng)新，強(qiáng)調(diào)“科學(xué)技術(shù)是第一生產(chǎn)力”，現(xiàn)在強(qiáng)調(diào)的是學(xué)術(shù)創(chuàng)新、人文社會科學(xué)的發(fā)展，提倡的是安全的科學(xué)技術(shù)是第一生產(chǎn)力。中國科學(xué)院院士韓啟德指出：“既然科學(xué)存在方向和價值問題，那就提醒人們要重視人文的作用，因?yàn)槿宋氖强茖W(xué)發(fā)展的方向盤和剎車器。在發(fā)展科學(xué)技術(shù)的同時，必須大力發(fā)展科學(xué)文化。”我們要明白什么該做什么不該做，有所為有所不為。中國主張集體主義，提出構(gòu)建人類安全共同體。我們要將科學(xué)發(fā)展領(lǐng)域分為三個類型：鼓勵發(fā)展型、謹(jǐn)慎發(fā)展型、限制發(fā)展型。要以人文社會科學(xué)的發(fā)展為基礎(chǔ)，建立可持續(xù)發(fā)展的科學(xué)體系，形成新的世界科學(xué)中心，推動科技與AI的健康發(fā)展，從科技致富轉(zhuǎn)向科技致善。