3.未來的人工智能帶來的風險與挑戰(zhàn)
未來的人工智能有兩個較為麻煩的風險:第一,人工智能主宰的網(wǎng)絡(luò)意識可能導(dǎo)致人類過度依賴機器,從而導(dǎo)致人類認知能力的減退和被動地位。例如,隨著科技的發(fā)展,人們越來越依賴導(dǎo)航等工具,而自身的能力卻在退化。如果這種趨勢持續(xù)下去,人類可能會變得只能執(zhí)行簡單的標記任務(wù),實質(zhì)上是在為機器打工。
因此,我們需要在推進人工智能發(fā)展的同時,高度重視這些問題,尋求保持和提升人類認知能力的方法,以實現(xiàn)人機共生而不是人類被機器取代。這需要社會科學(xué)工作者、科技人員以及社會各界共同努力,尋找合適的平衡點。
第二,如果人工智能失控,其復(fù)雜性和能力可能超出人類的理解和管理范圍。未來的人工智能可能對人類產(chǎn)生災(zāi)難性后果,甚至有人認為這可能會帶來人類滅絕級別的風險。如果人工智能達到能夠自我復(fù)制和主宰的地步,人類可能只能淪為為其工作的角色,甚至可能連這樣的資格都不夠。
在這樣的背景下,我們希望能找到一個合適的平衡點,使得人類和人工智能可以共生,而不是一方完全取代另一方。我們需要尋找一種方式,不讓這種轉(zhuǎn)變變成無法逆轉(zhuǎn)的基點,而是引導(dǎo)它走向共生的道路。同時,我們也需要對科技發(fā)展保持警惕,對不符合科技倫理的研究進行限制和阻止,確保人類不會因自身的發(fā)展而走向自我毀滅。這是一個復(fù)雜而重大的戰(zhàn)略問題,其重要性遠超過一些局部的地緣政治沖突。
(二)量子科技
量子科技是未來發(fā)展的重要領(lǐng)域,包括量子計算、量子通信和量子精密測量。由于其在算力等方面的潛力,量子科技對傳統(tǒng)技術(shù)體系將產(chǎn)生重大沖擊和顛覆式創(chuàng)新。
量子是按照量子運動規(guī)律在微觀世界中運動的粒子,其運動規(guī)律與宏觀世界不同,具有不確定性,即測不準原理。量子可以處于疊加態(tài),表現(xiàn)為同時存在多種可能性,直到被觀測才會坍縮為確定的狀態(tài)。量子測量的坍縮現(xiàn)象挑戰(zhàn)了宏觀世界的唯物主義觀念。在微觀世界中,物質(zhì)的狀態(tài)并非完全客觀決定,而是受到觀測者的影響。
量子科技利用了量子的疊加態(tài)和糾纏現(xiàn)象進行信息處理和通信。在測量之前,量子可以處于多種狀態(tài)的疊加,而一旦被測量,就會坍縮為一個確定的狀態(tài)。量子糾纏是一種奇特的現(xiàn)象,兩個糾纏的量子無論相隔多遠,都會瞬間相互影響。
量子通信利用了量子疊加態(tài)和糾纏的特性,通過量子密鑰分發(fā)實現(xiàn)絕對安全的保密通信。例如,中國的墨子號衛(wèi)星就成功實現(xiàn)了量子密鑰的分發(fā),使得接收方能夠解碼并獲取信息。
量子計算機則利用量子比特的疊加態(tài)和糾纏進行并行計算,其處理能力理論上比傳統(tǒng)計算機強大得多。例如,量子計算機可以在幾分鐘內(nèi)解決傳統(tǒng)計算機需要數(shù)年才能處理的問題。中國已經(jīng)研制出76個光子的量子計算機原型機——九章,其計算速度比傳統(tǒng)超級計算機快約100萬億倍。
然而,量子計算機并不能完全取代經(jīng)典計算機。它們主要用于解決經(jīng)典計算機難以處理的大規(guī)模問題,如結(jié)構(gòu)動力學(xué)、大分子藥物設(shè)計和運輸路線優(yōu)化等戰(zhàn)略問題。由于成本高和技術(shù)復(fù)雜性,量子計算機不會用于處理一般的小問題,因此經(jīng)典計算機仍將繼續(xù)發(fā)展和進步。同時,量子科技的發(fā)展也將對人工智能等領(lǐng)域產(chǎn)生深遠影響。
二、展望未來產(chǎn)業(yè)
未來產(chǎn)業(yè)是指由前沿技術(shù)驅(qū)動,旨在滿足經(jīng)濟社會不斷升級需求的新興產(chǎn)業(yè)。這些產(chǎn)業(yè)將在未來逐漸成熟并實現(xiàn)產(chǎn)業(yè)化,對國民經(jīng)濟產(chǎn)生重要支撐和巨大帶動作用。目前,國家已經(jīng)部署了數(shù)字通信、生物、空天、低碳、材料等領(lǐng)域的顛覆性技術(shù)研究。
例如,雖然我們在光刻機技術(shù)上仍有較大差距,但如果納米壓印技術(shù)取得突破,就可能實現(xiàn)換道超車,顛覆現(xiàn)有技術(shù)。同樣,新能源汽車也在對傳統(tǒng)汽車產(chǎn)業(yè)進行小幅度顛覆。
未來產(chǎn)業(yè)可能包括數(shù)字產(chǎn)業(yè)、生物產(chǎn)業(yè)、空天產(chǎn)業(yè)、低碳產(chǎn)業(yè)、新材料產(chǎn)業(yè)等。有人認為人工智能的發(fā)展將導(dǎo)致人們無事可做,但事實上,新產(chǎn)業(yè)的出現(xiàn)將帶來更多的工作機會和挑戰(zhàn)。
未來產(chǎn)業(yè)中涉及眾多新技術(shù),如類腦智能、量子信息、區(qū)塊鏈、元宇宙、氫能、儲能、碳存儲等。技術(shù)的顛覆性變革將會越來越頻繁,特別是在我國當前的上升階段。指出正確的發(fā)展方向與實際研發(fā)技術(shù)同樣重要。只要我們遵循科技倫理和科技道德,致力于人類美好生活的提升和未知世界的探索,未來產(chǎn)業(yè)的發(fā)展?jié)摿⑹蔷薮蟮摹?/p>
生命科學(xué)是未來產(chǎn)業(yè)的重要領(lǐng)域,預(yù)計到2050年,通過人工智能、生物技術(shù)和細胞治療等技術(shù)的發(fā)展,人類壽命有望延長至100歲。人工智能在醫(yī)療領(lǐng)域的應(yīng)用能夠?qū)崿F(xiàn)及時的診斷和治療,通過持續(xù)監(jiān)測心率、血壓、血糖等生理指標,在疾病形成前就進行干預(yù)和控制。
生物技術(shù),特別是基因編輯和修復(fù),有可能改善人類基因,增強免疫力,預(yù)防遺傳病,增強自我修復(fù)能力,從而延長壽命。雖然基因編輯由于涉及科技倫理問題已被限制,但基因修復(fù)作為改善健康的方法仍有很大潛力。
細胞治療,尤其是干細胞技術(shù),是一種細胞修復(fù)和再生的技術(shù)。目前已有用于修復(fù)身體部位和治療某些疾病的實踐,如老年癡呆癥。中國科學(xué)院的周琪院士表示,他們正在研究使用干細胞修復(fù)治療阿爾茨海默癥,并有望在五年內(nèi)推出相關(guān)藥物。盡管這種治療的費用高昂,但其帶來的可能性令人振奮,預(yù)示著壽命延長不再是夢想。
未來產(chǎn)業(yè)的發(fā)展趨勢主要集中在智能、健康和綠色三大主導(dǎo)技術(shù)群以及戰(zhàn)略空間領(lǐng)域。如果這些領(lǐng)域全面突破,將對社會整體系統(tǒng)帶來顛覆性變化。在第四次工業(yè)革命中,如果我們能領(lǐng)先并實現(xiàn)民族復(fù)興,不僅對中國,也將對全世界和人類作出更大的貢獻。
(根據(jù)宣講家網(wǎng)報告整理編輯,
未經(jīng)許可,不得印刷、出版,轉(zhuǎn)載請注明出處,違者追究法律責任。)
已有0人發(fā)表了評論