中央全面深化改革委員會第九次會議不久前審議通過了《國家科技倫理委員會組建方案》（以下簡稱《方案》）。會議指出，科技倫理是科技活動必須遵守的價值準則。組建國家科技倫理委員會，目的就是加強統(tǒng)籌規(guī)范和指導協(xié)調(diào)，推動構(gòu)建覆蓋全面、導向明確、規(guī)范有序、協(xié)調(diào)一致的科技倫理治理體系。要抓緊完善制度規(guī)范，健全治理機制，強化倫理監(jiān)管，細化相關法律法規(guī)和倫理審查規(guī)則，規(guī)范各類科學研究活動。根據(jù)會議精神，發(fā)展科技倫理，不僅要明確科技活動必須遵守的價值準則，更要把這些準則落實在行動中，通過各種制度、機制、監(jiān)管和審查，構(gòu)建切實有效的“科技倫理治理體系”。

規(guī)范科技活動的倫理原則

發(fā)展科技倫理，就是把價值、原則、規(guī)范帶入科技活動，從而在各個環(huán)節(jié)、各個層面提升科技活動的倫理質(zhì)量，使科學技術更好地造福人類社會。要做到這一點，需要在以下兩個方面著力：一方面，不斷消解科技活動可能帶來的負面后果。特別是對那些技術發(fā)展不成熟、應用后果不明朗的前沿新興科技，要通過建立評估體系和預警機制進行風險管控。不能僅僅通過經(jīng)濟指標來衡量科技活動的社會效益，尤其警惕“資本邏輯”對科技活動的控制，堅決制止把人類社會當作技術實驗場景的極端做法。另一方面，再次明確科技活動的屬人本性。要做到這一點，就不能偏執(zhí)于“科技中立”的價值觀念，認為科技雖然也是人的活動，但終究隱含著超越人類的獨立發(fā)展主題?？蓡栴}是，如果我們把科技理解為自然向人類的打開方式，那么很顯然，這些方式不僅可以有選擇，而且應當是屬人的選擇。

盡管科技倫理問題在當代的重要性已不言而喻，但在現(xiàn)實生活中，普通民眾對這個問題還很陌生，遠沒有形成對應的概念。據(jù)此，不少批評者深表憂慮。在他們看來，高科技多掌握在技術專家、商業(yè)領袖、政府管理者等社會精英手中。如果這些人在從事科技活動的時候不考慮倫理問題，那么普通民眾就更難意識到專業(yè)的科技倫理問題?？萍疾粋惱硭鶐淼膼盒院蠊麑⒉豢杀苊獾厥姑癖娤萑肟只?。不過，值得慶幸的是，在那些頻繁接觸和運用前沿新興科技的人們中間，開始涌現(xiàn)出越來越多關注科技倫理的人。他們不僅研究科技倫理問題，也熱衷于科技倫理實踐，并身體力行地推動科技倫理的發(fā)展。這些先行者的研究成果和實踐經(jīng)驗大致可以被歸結(jié)為如下一些倫理原則：

后果應風控。我們常說科學技術是一把雙刃劍。這意味著，科技力量越是強大，它可能帶來的風險也就越大。可想而知，如果我們對某項科學研究和技術應用所產(chǎn)生的后果不得而知，且沒有相應的補救措施消解不良后果，那么，我們就會使自己陷入進退兩難、無所適從的境地。2018年的基因編輯嬰兒事件就是一例。由于存在脫靶效應，新生兒的基因異于常人。因此，這臺基因編輯手術對這兩個孩子的生理、心理以及未來生活所造成的影響不僅無法預測，而且后果不可逆。所以，對于那些后果未知且可能造成不可逆結(jié)果的前沿新興科技應用，應當建立風險管控機制，必要時可明令禁止。

信息應公開。這條準則對那些經(jīng)常和數(shù)據(jù)打交道的企業(yè)來說尤其重要。在智能大數(shù)據(jù)時代，為了開發(fā)更加“懂得”消費者的產(chǎn)品，越來越多的企業(yè)開始以數(shù)據(jù)管理的模式建立用戶系統(tǒng)。但是，企業(yè)在儲存、分析和使用消費者私人數(shù)據(jù)的同時，也存在著大量違規(guī)處理數(shù)據(jù)和利用數(shù)據(jù)操控用戶的隱蔽做法。2018年，美國著名的社交網(wǎng)絡企業(yè)臉書（Facebook）就因把未經(jīng)用戶授權的私人數(shù)據(jù)提供給第三方使用而受到美國司法部門的立案調(diào)查。因此，企業(yè)必須確保消費者在使用產(chǎn)品或接受服務時知道自己需要同意什么。企業(yè)應當向公眾發(fā)布更多的產(chǎn)品信息和技術信息，讓更多的消費者通過更加透明的方式參與到企業(yè)的產(chǎn)品設計決策中去。

知識可解釋。在日常生活中，普通民眾是通過各種商品和服務間接接觸各類科技的。但在他們享用科技產(chǎn)品帶來的生活便利的同時，往往對產(chǎn)品背后的技術條件及其工作方式不明就里，因而也就無法對產(chǎn)品使用后果做出自己的判斷。如今，當我們用網(wǎng)絡進行購物或社交時，得到的絕大部分信息都是被算法推薦的。通過相應的算法設計，各種購物和社交軟件甚至能左右我們?nèi)ツ睦铩⒂鲆娬l、買什么，使我們在不知不覺之中被算法牽著鼻子走。因此，我們需要企業(yè)提供易于理解并說明清晰的產(chǎn)品知識和技術信息。只要有足夠透明且解釋清晰的知識，普通民眾在科技倫理問題上自己就能作出決定。

行為可問責。科技活動可能造成的后果需要被納入一個清晰的問責體系之中。如果這個問責體系不能建立，我們就既不能對科技活動進行反向的倫理規(guī)制，也無法妥善處理科技活動產(chǎn)生的各種后果。2018年3月，在美國一輛無人駕駛汽車肇事傷人之后，至少有四家責任主體陷入了訴訟糾紛。究竟如何認定傳感器制造商、駕駛軟件設計商、算法開發(fā)商和汽車所有人之間的責任關系？對這一問題的討論甚至登上了世界權威的學術期刊之一《科學》。實際上，隨著大量新興科技通過產(chǎn)品不斷進入社會，類似這樣的問責困境今后還會頻頻出現(xiàn)。如果事先不能建立問責體系，我們實際上是無法善后的。

減少不平等。在理想條件下，沒有人會反對科技的作用之一在于平等地造福社會上更多的人。但在現(xiàn)實中，這個理想常常受到各種挑戰(zhàn)。我們是否應當設計更加公平的制度，使更多的科技資源流向最需要的人？但由誰來承擔分配這些科技資源的費用呢？新一輪人工智能的發(fā)展可能會造成大面積的結(jié)構(gòu)性失業(yè)。我們需要考慮那些失業(yè)人員的工作問題嗎？還是有條件地限制人工智能的應用場景？我們可以發(fā)展功能型基因編輯技術嗎？但那些沒有條件購買這項技術產(chǎn)品的人會在出生時就“輸在起跑線上”，造成人與人之間“先天的”不平等。顯然，如果沒有相應的價值準則回應這些問題，任由科技應用野蠻生長，最終必然導致更大范圍、更深程度上的社會不平等。

建立可行的“科技倫理治理體系”

后果應風控、信息應公開、知識可解釋、行為可問責、減少不平等，這些都是科技活動應當遵守的價值準則，或稱科技倫理原則。當然，科技倫理原則顯然不止這些。不僅如此，在特殊的科技領域，這些原則還各有其特定內(nèi)涵并需要根據(jù)價值重要性進行排序。更為關鍵的是，只有當這些原則轉(zhuǎn)化為具體的科技倫理規(guī)范，才可能切實有效地發(fā)揮作用。這需要科學家、發(fā)明家、倫理學家、企業(yè)家、監(jiān)管機構(gòu)、第三方組織開展專項的跨學科研究，合作建立科技倫理治理體系，同時把普通公眾納入更加廣泛的科技倫理決策系統(tǒng)。在這個面向行動的過程中，需要認真對待以下三方面問題：

協(xié)同經(jīng)濟倫理發(fā)展科技倫理。在現(xiàn)代社會，科技造福人類的方式在很大程度上是由經(jīng)濟活動來安排的。因此，建立科技倫理治理體系就需要統(tǒng)籌考慮經(jīng)濟活動及其倫理問題。實際上，許多當代科技倫理問題，也是經(jīng)濟倫理問題。有些科技倫理問題，其實從根本上說反倒是經(jīng)濟倫理問題。我們實際上需要開發(fā)的是一種統(tǒng)籌“科技—經(jīng)濟—倫理”的治理體系。這種治理體系需要融合三個領域的價值結(jié)構(gòu)，并根據(jù)側(cè)重不同的層次和環(huán)節(jié)吸取各自的分析框架。例如在后果分析和責任評價這兩個維度上，現(xiàn)代經(jīng)濟倫理學理論中的利益相關者理論和企業(yè)社會責任理論，都是比較成熟的、可以用來討論科技倫理問題的分析框架。

定向開發(fā)專業(yè)的科技倫理治理技術。面對更為實證化、標準化、技術化的科技活動，倫理學需要把抽象的價值、原則、論證推理方式轉(zhuǎn)化為更加可度量、可評價、可操作的倫理治理技術。這項技術的本質(zhì)是在倫理與科技之間建立一種有彈性的平衡機制，就像一根可松緊的橡皮筋。一方面，對于那些發(fā)展比較成熟、應用前景及其后果比較明朗的科學技術，可逐級放寬倫理規(guī)制。相反，對于那些應用條件不成熟、應用后果未知的科學技術，應當逐級收緊倫理規(guī)制。這種分級管理的方式，需要倫理學更加深入地研究科技活動的各個環(huán)節(jié)，為各層級上的科技決策提供倫理參照系。不僅如此，這項技術還可轉(zhuǎn)化為科技倫理發(fā)展指數(shù)，引導資本投向更值得信賴的科技應用。

把科技倫理研究和職業(yè)倫理培訓結(jié)合起來。職業(yè)倫理培訓必然是科技倫理治理體系中極端重要的一個環(huán)節(jié)。要發(fā)展科技倫理，首先需要解決人的觀念問題。價值觀念的養(yǎng)成有兩個途徑：一個源于道德知識，一個源于道德經(jīng)驗。在前者，各種價值準則的證成方式及其推理過程可以教會人們?nèi)绾芜\用概念分析和判斷倫理問題。在后者，各種科技倫理實踐活動可以培養(yǎng)人的倫理敏感性。所謂倫理敏感性就是能迅速地識別科技活動中可能存在的倫理問題。要做好這兩點“人的工作”，最好的方式就是開展專門的職業(yè)倫理培訓。與此同時，要把職業(yè)倫理培訓和各個層級、各個環(huán)節(jié)上的科技活動結(jié)合起來，有機地嵌入到倫理治理體系中，真正做到有的放矢、行之有效。

《方案》是在全面深化改革的大背景下提出的，落腳點是建立科技倫理治理體系。它從這個角度創(chuàng)造性地發(fā)展了“依法治國和以德治國相結(jié)合”的新思路和新策略，為我國新時代公民道德建設提供了新的方向和新的路徑。

（作者：張霄，系中國人民大學倫理學與道德建設研究中心副主任、副教授）