人工(gong)智能(neng)科(ke)學與技術的(de)發(fa)展日新月異，它(ta)直接(jie)(jie)(jie)作(zuo)用于社會(hui)(hui)(hui)，也將以最(zui)直接(jie)(jie)(jie)的(de)方式接(jie)(jie)(jie)收到(dao)社會(hui)(hui)(hui)的(de)反饋。它(ta)在推動科(ke)技、經濟、社會(hui)(hui)(hui)的(de)發(fa)展中起到(dao)的(de)持續性(xing)積(ji)極(ji)作(zuo)用毋庸置疑，然而如果在其發(fa)展過程(cheng)中沒有對社會(hui)(hui)(hui)潛在影(ying)響和(he)可持續性(xing)進行充分考(kao)慮，可能(neng)會(hui)(hui)(hui)造成預期之(zhi)外(wai)的(de)負面影(ying)響。因此，對人工(gong)智能(neng)倫理(li)的(de)考(kao)量(liang)應(ying)貫穿(chuan)于人工(gong)智能(neng)產品與服務的(de)整個生(sheng)命周期。

　　需秉承以(yi)人為本及可持續發展(zhan)的理念

　　符(fu)合人(ren)類倫(lun)理與(yu)價值觀的(de)人(ren)工(gong)智能應秉承以人(ren)為(wei)本及可(ke)(ke)持續發展的(de)理念，尊重隱私，促(cu)進(jin)公(gong)平公(gong)正，不(bu)引入種族、文化等偏(pian)見，人(ren)工(gong)智能技(ji)術的(de)發展應做到透(tou)明與(yu)可(ke)(ke)解釋、安(an)全可(ke)(ke)控、可(ke)(ke)驗證、可(ke)(ke)追(zhui)責，為(wei)推(tui)動技(ji)術普惠各(ge)(ge)行各(ge)(ge)業、各(ge)(ge)個國(guo)家與(yu)地區，應避免(mian)惡意競爭，促(cu)進(jin)開放合作與(yu)包(bao)容共(gong)享。

　　倡導(dao)和(he)(he)諧發(fa)展(zhan)(zhan)應(ying)當是(shi)新一(yi)代人(ren)(ren)工智能(neng)倫(lun)理(li)與治(zhi)理(li)的主旋(xuan)律。一(yi)方面為實(shi)(shi)現通過(guo)人(ren)(ren)工智能(neng)增進人(ren)(ren)類共同福祉(zhi)這一(yi)目標，采用(yong)的途徑(jing)并不唯一(yi)，應(ying)當始終秉承與實(shi)(shi)踐和(he)(he)而不同、和(he)(he)合向善(shan)的發(fa)展(zhan)(zhan)理(li)念。另一(yi)方面應(ying)推動人(ren)(ren)類與技術的和(he)(he)諧共生，避免技術的誤用(yong)、濫用(yong)、惡(e)用(yong)對人(ren)(ren)類權益(yi)的傷害，總體(ti)愿景應(ying)是(shi)發(fa)展(zhan)(zhan)對人(ren)(ren)類與生態有益(yi)的人(ren)(ren)工智能(neng)。

　　無論采(cai)取哪(na)種技術(shu)途徑實現(xian)新一代人工智能(neng)(neng)，都(dou)無法杜絕在(zai)發展過程中可能(neng)(neng)帶(dai)來的(de)潛在(zai)技術(shu)與(yu)社會風(feng)險(xian)(xian)及對(dui)現(xian)代科(ke)技倫理的(de)潛在(zai)沖擊。技術(shu)發展的(de)途徑與(yu)方(fang)式的(de)多樣性使得其所帶(dai)來的(de)風(feng)險(xian)(xian)也具有不(bu)確定性，因(yin)此應當(dang)在(zai)探索(suo)新一代人工智能(neng)(neng)，特別是不(bu)同類型的(de)高等智能(neng)(neng)的(de)過程中，建立對(dui)其技術(shu)與(yu)社會風(feng)險(xian)(xian)的(de)持續戰(zhan)略(lve)性前瞻研究(jiu)，以(yi)避(bi)免、降低潛在(zai)風(feng)險(xian)(xian)帶(dai)來的(de)負面影響。

　　在對(dui)未來人工智能的潛(qian)在風險及應(ying)對(dui)策略(lve)的研究方面，應(ying)最(zui)大(da)限(xian)度地共享(xiang)對(dui)隱患的認識(shi)及危(wei)機處理方案(an)與經(jing)驗(yan)。只(zhi)有(you)建(jian)立全(quan)球共享(xiang)、群策群力的機制并(bing)采(cai)取行(xing)動，才能保證安全(quan)，避免顛覆性技(ji)術(shu)可能帶來的災難性風險。

　　多方(fang)協作(zuo)實現發展(zhan)與(yu)治理雙輪(lun)驅動(dong)

　　作(zuo)為我國新(xin)一代(dai)(dai)人(ren)工智(zhi)(zhi)能戰略的(de)牽頭單位，2019年(nian)3月，科技部組建了國家新(xin)一代(dai)(dai)人(ren)工智(zhi)(zhi)能治(zhi)(zhi)理專(zhuan)業(ye)委(wei)員(yuan)(yuan)會(hui)。同年(nian)6月，該委(wei)員(yuan)(yuan)會(hui)發(fa)布了《新(xin)一代(dai)(dai)人(ren)工智(zhi)(zhi)能治(zhi)(zhi)理原(yuan)則——發(fa)展負責任的(de)人(ren)工智(zhi)(zhi)能》，這(zhe)是(shi)我國新(xin)一代(dai)(dai)人(ren)工智(zhi)(zhi)能戰略對發(fa)展與治(zhi)(zhi)理關(guan)系的(de)原(yuan)則性闡述，也是(shi)中國新(xin)一代(dai)(dai)人(ren)工智(zhi)(zhi)能治(zhi)(zhi)理的(de)重要基礎。

　　為了(le)確保中國新一代人工智能向對社(she)會有益的(de)(de)(de)方(fang)向發展(zhan)，新一代人工智能應(ying)采取(qu)發展(zhan)與治理(li)(li)雙輪驅動的(de)(de)(de)戰略。治理(li)(li)的(de)(de)(de)目(mu)的(de)(de)(de)并(bing)不是阻礙發展(zhan)，而是保持發展(zhan)的(de)(de)(de)穩健。

　　敏捷治(zhi)理(li)(li)應成為中國人(ren)工(gong)(gong)(gong)(gong)智(zhi)能治(zhi)理(li)(li)重要特征之一(yi)。這里敏捷治(zhi)理(li)(li)可以被(bei)解讀(du)為有兩方面的(de)(de)含義：一(yi)方面是(shi)人(ren)工(gong)(gong)(gong)(gong)智(zhi)能治(zhi)理(li)(li)隨人(ren)工(gong)(gong)(gong)(gong)智(zhi)能技(ji)術(shu)的(de)(de)進(jin)展進(jin)行自適應，使(shi)得治(zhi)理(li)(li)工(gong)(gong)(gong)(gong)作(zuo)能夠更適應發展的(de)(de)特點；另一(yi)方面是(shi)相(xiang)關治(zhi)理(li)(li)工(gong)(gong)(gong)(gong)作(zuo)動作(zuo)迅速。

　　與新一(yi)(yi)代人(ren)工(gong)(gong)智(zhi)(zhi)能發(fa)展一(yi)(yi)脈相(xiang)承(cheng)，作(zuo)為中(zhong)(zhong)國人(ren)工(gong)(gong)智(zhi)(zhi)能發(fa)展的重(zhong)要(yao)方面，人(ren)工(gong)(gong)智(zhi)(zhi)能治理(li)在中(zhong)(zhong)國也應(ying)通過(guo)多部(bu)門(men)(men)聯(lian)動深度協作(zuo)的方式進行。政府(fu)部(bu)門(men)(men)、科研機構、企業等創(chuang)新單元在人(ren)工(gong)(gong)智(zhi)(zhi)能治理(li)工(gong)(gong)作(zuo)中(zhong)(zhong)應(ying)各自承(cheng)擔相(xiang)應(ying)的責任并深度協作(zuo)，真(zhen)正從技術和社會等不(bu)同視角(jiao)實現新一(yi)(yi)代人(ren)工(gong)(gong)智(zhi)(zhi)能的敏捷治理(li)。

　　建立人工(gong)智能治理公(gong)共服務體系防患于(yu)未然

　　未(wei)來，一方(fang)面(mian)需要政府相關(guan)部門、科研機(ji)(ji)構(gou)、產業對(dui)人(ren)(ren)工(gong)智(zhi)能(neng)可(ke)能(neng)存在的(de)風險、安全與(yu)(yu)(yu)倫理隱(yin)患加(jia)以足(zu)夠的(de)重視，并(bing)對(dui)人(ren)(ren)工(gong)智(zhi)能(neng)倫理與(yu)(yu)(yu)治理進行戰(zhan)略性的(de)關(guan)注與(yu)(yu)(yu)投入，加(jia)強自律自治。另一方(fang)面(mian)，對(dui)于國家和地方(fang)相關(guan)機(ji)(ji)構(gou)而(er)言，應當推動人(ren)(ren)工(gong)智(zhi)能(neng)治理相關(guan)高(gao)端智(zhi)庫、執(zhi)行機(ji)(ji)構(gou)、協作網絡的(de)建立，并(bing)鼓勵公眾(zhong)參與(yu)(yu)(yu)討論，及時(shi)了解公眾(zhong)對(dui)技(ji)術參與(yu)(yu)(yu)變革社會的(de)思考。

　　需要指出，新(xin)(xin)(xin)一(yi)代(dai)人(ren)工(gong)(gong)(gong)智(zhi)(zhi)能治理(li)(li)(li)工(gong)(gong)(gong)作的(de)重(zhong)點應(ying)(ying)當是(shi)防患(huan)于未然，而不僅僅是(shi)事后的(de)警戒(jie)、責令整改與(yu)(yu)(yu)(yu)懲治。發展(zhan)與(yu)(yu)(yu)(yu)治理(li)(li)(li)的(de)雙輪驅動(dong)需要將人(ren)工(gong)(gong)(gong)智(zhi)(zhi)能倫(lun)(lun)理(li)(li)(li)與(yu)(yu)(yu)(yu)治理(li)(li)(li)工(gong)(gong)(gong)作推(tui)動(dong)為(wei)兼服(fu)務(wu)與(yu)(yu)(yu)(yu)監管于一(yi)身(shen)的(de)公(gong)共(gong)(gong)體(ti)系。應(ying)(ying)鼓(gu)勵政(zheng)府(fu)相關(guan)部門、科(ke)(ke)研機構、企業及(ji)其(qi)他創新(xin)(xin)(xin)單元(yuan)，乃至公(gong)眾共(gong)(gong)建(jian)(jian)新(xin)(xin)(xin)一(yi)代(dai)人(ren)工(gong)(gong)(gong)智(zhi)(zhi)能倫(lun)(lun)理(li)(li)(li)與(yu)(yu)(yu)(yu)治理(li)(li)(li)公(gong)共(gong)(gong)體(ti)系。應(ying)(ying)在政(zheng)府(fu)和(he)相關(guan)機構的(de)指導下，鼓(gu)勵新(xin)(xin)(xin)一(yi)代(dai)人(ren)工(gong)(gong)(gong)智(zhi)(zhi)能倫(lun)(lun)理(li)(li)(li)與(yu)(yu)(yu)(yu)治理(li)(li)(li)公(gong)共(gong)(gong)服(fu)務(wu)平(ping)臺(tai)的(de)建(jian)(jian)設并面向政(zheng)府(fu)、科(ke)(ke)研機構、企業、公(gong)眾提供服(fu)務(wu)，從而負責任地推(tui)動(dong)并確保新(xin)(xin)(xin)一(yi)代(dai)人(ren)工(gong)(gong)(gong)智(zhi)(zhi)能的(de)穩健發展(zhan)。（作者系中科(ke)(ke)院(yuan)自動(dong)化研究(jiu)(jiu)(jiu)所研究(jiu)(jiu)(jiu)員(yuan)、北京(jing)智(zhi)(zhi)源(yuan)人(ren)工(gong)(gong)(gong)智(zhi)(zhi)能研究(jiu)(jiu)(jiu)院(yuan)人(ren)工(gong)(gong)(gong)智(zhi)(zhi)能倫(lun)(lun)理(li)(li)(li)與(yu)(yu)(yu)(yu)安全(quan)中心主任 曾毅）