科技創(chuàng)新是發(fā)展新質(zhì)生產(chǎn)力的核心要素,要加強科技創(chuàng)新特別是原創(chuàng)性、顛覆性科技創(chuàng)新,加快實現(xiàn)高水平科技自立自強。原創(chuàng)性、顛覆性科技創(chuàng)新具有一個重要特征——不確定性,蘊含諸多新的倫理風險。發(fā)展新質(zhì)生產(chǎn)力,既要加強科技創(chuàng)新,也要加強科技倫理風險治理,正確處理科技創(chuàng)新與倫理治理的關系,營造適合科技創(chuàng)新的倫理環(huán)境。
一是加強科技倫理治理,優(yōu)化科技創(chuàng)新倫理環(huán)境。發(fā)展新質(zhì)生產(chǎn)力關鍵在于科技創(chuàng)新,特別是原創(chuàng)性、顛覆性科技創(chuàng)新。科技創(chuàng)新深刻影響國家利益和人民福祉,同時也面臨隱私、安全、公平等方面的倫理風險。加強科技倫理治理旨在為新質(zhì)生產(chǎn)力發(fā)展提供適宜的倫理環(huán)境??萍紓惱硎情_展科學研究、技術開發(fā)等科技活動需要遵循的價值理念和行為規(guī)范,是維護科技創(chuàng)新活動秩序、防范科技倫理風險的規(guī)范體系。
原創(chuàng)性、顛覆性科技創(chuàng)新具有不確定性,更可能面臨“科林格里奇困境”,即一項技術的社會后果在技術生命的早期難以預料,而當不希望的后果被發(fā)現(xiàn)時,技術往往已成為整個經(jīng)濟和社會結構的一部分,以至于對其控制十分困難。這意味著,以往“先發(fā)展后治理”的反復模式,以及對行為后果承擔責任的回溯模式,目前已越發(fā)失靈。今天,人類必須面向未來主動承擔前瞻責任,對未來行為作出合理的事先選擇。同時,我國的科技創(chuàng)新也不斷從跟跑型轉(zhuǎn)向領跑型。這意味著,我國科技創(chuàng)新面臨的風險,往往也是其他國家未曾經(jīng)歷過的。這就要求相應的科技倫理治理秉持倫理先行原則,注重風險防范,治理模式應實現(xiàn)從“善后型”向“預警型”轉(zhuǎn)變。
二是立足我國國情,尊重國際共識,解決科技倫理牽鼻子問題。科技倫理牽鼻子問題主要表現(xiàn)為倫理失范導致的風險兌現(xiàn)和倫理傾銷導致的風險轉(zhuǎn)移,使一個國家或地區(qū)的科技倫理形象和科技形象受損,最終阻礙科技創(chuàng)新發(fā)展。一個國家或地區(qū)的科技倫理治理體系不健全或滯后于科技發(fā)展需要、科技倫理監(jiān)管存在疏漏、倫理審查沒有充分發(fā)揮作用,都可能導致倫理失范,從而造成風險兌現(xiàn),損害個人權利和公共利益,影響國家或地區(qū)的科技發(fā)展和科學聲譽。倫理傾銷是指倫理監(jiān)管比較嚴格的國家或地區(qū)的科學家到倫理監(jiān)管相對滯后的其他國家或地區(qū),開展不被自己國家或地區(qū)允許或被允許但容易引起爭議的研究,導致倫理風險跨國或跨地區(qū)轉(zhuǎn)移,使該國家或地區(qū)承受倫理風險,降低科技創(chuàng)新的可信度??萍紓惱韱栴}正在成為繼知識產(chǎn)權壁壘、綠色壁壘和企業(yè)社會責任壁壘之后影響國際科技合作和國際貿(mào)易的新壁壘。
解決科技倫理牽鼻子問題,必須立足我國社會發(fā)展階段和科技創(chuàng)新要求,建立健全符合我國國情的科技倫理治理體系,對存在科技倫理高風險的國際合作研究要加強倫理監(jiān)管。同時,必須堅持開放發(fā)展理念,加強國際參與和多方協(xié)同,貢獻中國智慧,提出中國方案,尊重并參與制定國際共識,積極推進全球科技倫理治理。目前,人工智能已成為與氣候變化、核擴散等相提并論的影響人類共同命運的重大課題。人工智能倫理風險治理,不僅要走技術倫理治理之路,而且要走全球倫理治理之路。要反對利用技術壟斷和單邊強制措施制造發(fā)展壁壘,惡意阻斷全球人工智能供應鏈。要致力于解決數(shù)字鴻溝,避免少數(shù)國家壟斷和獨享人工智能福利。要讓全球人口共享人工智能紅利。
三是堅持原創(chuàng)原則,促進原創(chuàng)性、顛覆性科技創(chuàng)新。新質(zhì)生產(chǎn)力是原創(chuàng)性、顛覆性的科技創(chuàng)新。原創(chuàng)是科技倫理的基本原則,是由科學社會建制的認知目標決定的。科學社會建制的認識目標是獲得確證的新知,科學家只有遵守原創(chuàng)原則才能實現(xiàn)這一目標。違背原創(chuàng)原則將產(chǎn)生徒有其表的偽科研成果和偽作者。缺少原創(chuàng)性或零原創(chuàng)會嚴重阻礙科技創(chuàng)新。零原創(chuàng)是指科研成果無任何原創(chuàng)內(nèi)容,沒有為科學體系或技術體系增添任何新的東西。跟蹤型研究本質(zhì)上屬于非原創(chuàng)性研究。對于很多發(fā)展中國家來說,跟蹤型研究能夠為經(jīng)濟發(fā)展作出巨大貢獻,但它所解決的,與其說是科技問題,不如說是經(jīng)濟問題。
發(fā)展新質(zhì)生產(chǎn)力關鍵在于原創(chuàng)性、顛覆性的科技創(chuàng)新,在于科技自立自強。原創(chuàng)是科技自立自強的必然要求。我們不僅要致力于解決“卡脖子”問題,而且要下大力氣解決零原創(chuàng)問題。零原創(chuàng)是新時代科技倫理治理的重中之重。只有深入理解、深刻認同、切實踐行原創(chuàng)原則,原創(chuàng)性、顛覆性的科技創(chuàng)新才可能實現(xiàn)。
四是堅持相稱原則,合理控制倫理風險,正確處理科技創(chuàng)新與倫理治理的關系。科技倫理治理,應根據(jù)風險的性質(zhì)和大小對風險進行分類分級,劃定倫理敏感科技活動領域,確定高風險科技活動清單,根據(jù)相稱原則治理倫理風險。要堅持治理廣度力度與風險類別級別相稱:對不可接受的嚴重風險實行預禁原則;對低于最小風險的實行先行原則;對其他風險實行慎行原則,即進行不同類別的倫理審查。我國科技部等部門制定的《科技倫理審查辦法(試行)》,根據(jù)科技活動倫理風險發(fā)生的可能性、風險種類、嚴重程度、影響范圍等,列出了納入清單管理的科技活動,并規(guī)定對這些活動進行更為嚴格的監(jiān)管,實行專家復核審查。目前,列入清單管理的科技活動主要涉及生命科學、醫(yī)學、人工智能等關鍵領域的七類研究。該清單將根據(jù)科技風險的變化進行動態(tài)調(diào)整。
自2023年以來,關于生成式人工智能的風險治理,出現(xiàn)了有效加速主義與超級對齊主義的分野和爭論。分野反映了人們對生成式人工智能風險的不同認知和態(tài)度,爭論都是圍繞科技創(chuàng)新與倫理治理的平衡問題展開的。有效加速派崇尚技術創(chuàng)新,認為人類應無條件地加速技術創(chuàng)新,快速推動人工智能技術的商業(yè)化和普及化。超級對齊派強調(diào)人工智能的發(fā)展應充分考慮其倫理影響和社會后果,在人工智能技術研發(fā)中需要進行價值對齊,應加強對人工智能應用的監(jiān)管。有效加速主義與超級對齊主義代表著處理科技創(chuàng)新與倫理治理平衡問題的立場譜系的兩端。人類走向未來,必然會在科技創(chuàng)新與倫理治理的張力中前行。
我國在科技創(chuàng)新與風險治理平衡上有自己的理解和實踐,在充分借鑒世界科技倫理治理經(jīng)驗的基礎上,相繼頒布《關于加強科技倫理治理的意見》《科技倫理審查辦法(試行)》等文件,初步完成了科技倫理治理的頂層設計。我國提出了科技倫理的基本原則和治理措施,既重視科技創(chuàng)新,也重視科技倫理風險治理,不斷完善科技倫理風險監(jiān)測預警機制,按照敏捷治理的要求,及時調(diào)整重點治理領域和治理方式,靈活應對科技創(chuàng)新帶來的倫理挑戰(zhàn),從而推動新質(zhì)生產(chǎn)力的高質(zhì)量發(fā)展。
(作者系大連理工大學人文學院院長、科技倫理與科技管理研究中心主任、哲學系教授)
已有0人發(fā)表了評論