今年(nian)7月，中央政治局召(zhao)開會(hui)議，分析研(yan)究(jiu)當前經濟形勢(shi)，部署下半年(nian)經濟工(gong)作(zuo)。會(hui)議強(qiang)調，要推動(dong)數字經濟與先進制(zhi)造業、現代(dai)服務業深度融合，促(cu)進人工(gong)智能(neng)安全(quan)發展。圍(wei)繞人工(gong)智能(neng)安全(quan)發展的一系列問(wen)題，學習(xi)時報高端智庫版組(zu)織了此次三(san)方筆談。
做好人工智能發展的風險防范
中國科學技術信息研究所黨委書記、所長 科技部新一代人工智能發展研究中心主任 趙志耘
當前，ChatGPT類大模型(xing)加速了數字世界和物理世界的(de)(de)深度(du)融合，引領(ling)人工(gong)智能進入新(xin)的(de)(de)發(fa)(fa)展階段。與此(ci)同時(shi)，人工(gong)智能固有的(de)(de)不確(que)定性(xing)、不透明性(xing)、難以解(jie)釋、事(shi)實性(xing)錯誤等能力局限，對經濟發(fa)(fa)展、國(guo)(guo)際政治和全(quan)球(qiu)治理等方面帶來(lai)深遠(yuan)影響，引發(fa)(fa)了全(quan)球(qiu)對大模型(xing)廣(guang)泛(fan)應用安全(quan)風險(xian)的(de)(de)熱議。如(ru)何(he)應對人工(gong)智能風險(xian)并(bing)把(ba)握(wo)人工(gong)智能發(fa)(fa)展的(de)(de)戰略主動，有效保障國(guo)(guo)家安全(quan)，已成為我國(guo)(guo)國(guo)(guo)家安全(quan)治理的(de)(de)重(zhong)要(yao)議題。
大模型技術引發(fa)新的安(an)全風(feng)險(xian)(xian)和治理挑戰。隨著技術的更(geng)新迭(die)代，人工智能的應用(yong)門檻持(chi)續降低，伴隨著誤用(yong)濫用(yong)情況的增加(jia)，經濟(ji)社會領域的多(duo)重安(an)全風(feng)險(xian)(xian)也在交織疊加(jia)。
一是(shi)放(fang)大(da)隱(yin)私信息泄露風險。當前(qian)，人(ren)工智能(neng)(neng)開發者和服(fu)務(wu)(wu)提供者可(ke)能(neng)(neng)利用(yong)用(yong)戶(hu)數據進(jin)行優(you)化訓(xun)練，但(dan)相關(guan)服(fu)務(wu)(wu)條款卻(que)并未對(dui)數據使用(yong)做出解釋說明，可(ke)能(neng)(neng)涉(she)及在用(yong)戶(hu)不知情情況下收集(ji)個人(ren)信息、商(shang)業秘密等，安(an)(an)全風險較為(wei)突出。為(wei)保護個人(ren)信息安(an)(an)全，部(bu)分歐洲國家對(dui)大(da)模型進(jin)行了嚴(yan)格監管(guan)和審查，甚至考慮禁止ChatGPT等人(ren)工智能(neng)(neng)應(ying)用(yong)。
二是(shi)輿(yu)論(lun)引導與文(wen)化滲透風險。在輿(yu)論(lun)和文(wen)化領域，人工智能(neng)(neng)技術可(ke)(ke)被用于算法(fa)引導、平(ping)臺(tai)滲透、網絡監(jian)控(kong)、內容(rong)生成(cheng)等信(xin)息處理(li)環節，由大模型(xing)驅動的文(wen)本(ben)創作(zuo)工具(ju)可(ke)(ke)能(neng)(neng)產生頗具(ju)影響力或說(shuo)服(fu)力的信(xin)息，使得虛(xu)假信(xin)息不易被識(shi)破，負面(mian)輿(yu)情傳播(bo)速(su)度加快(kuai)，進而導致侵(qin)犯(fan)他人合法(fa)權益(yi)、擾亂(luan)經濟秩(zhi)序(xu)和社(she)會(hui)秩(zhi)序(xu)，甚(shen)至危害國家(jia)安全和社(she)會(hui)公共利益(yi)。
三是情報軍(jun)事領域應用(yong)的(de)新(xin)威脅。人(ren)工智能的(de)自(zi)動生成代碼功能使黑客技術的(de)習得(de)過程更為(wei)容(rong)易(yi)，使網絡攻防的(de)更新(xin)頻率大(da)(da)幅提升。利用(yong)ChatGPT類大(da)(da)模(mo)型可以(yi)幫(bang)助機器學習識別(bie)更加復雜(za)的(de)文本及實體，或將擴大(da)(da)無人(ren)軍(jun)用(yong)智能無人(ren)裝備(bei)的(de)應用(yong)，增大(da)(da)軍(jun)事對(dui)峙摩擦，對(dui)國家安全帶(dai)來嚴峻(jun)挑(tiao)戰。
加快推進(jin)人工智能安全治理。面對人工智能技術(shu)快速發(fa)展、風險(xian)持(chi)續蔓延的(de)形勢，增(zeng)強(qiang)人工智能的(de)安全性成為國(guo)際(ji)組織、各國(guo)政(zheng)府及產業界等(deng)共同關(guan)注(zhu)的(de)議(yi)題。
我國高度重視人工(gong)(gong)智(zhi)能安(an)全(quan)(quan)(quan)問(wen)題，不斷加強(qiang)人工(gong)(gong)智(zhi)能發(fa)展的(de)潛在風險研判和防范，建立健(jian)全(quan)(quan)(quan)人工(gong)(gong)智(zhi)能安(an)全(quan)(quan)(quan)治理(li)體(ti)系(xi)，對人工(gong)(gong)智(zhi)能技術本身所致的(de)內生(sheng)安(an)全(quan)(quan)(quan)、人工(gong)(gong)智(zhi)能應用中的(de)衍生(sheng)安(an)全(quan)(quan)(quan)以及影響和決定人工(gong)(gong)智(zhi)能前景(jing)的(de)發(fa)展安(an)全(quan)(quan)(quan)問(wen)題進行系(xi)統性(xing)治理(li)，確(que)保人工(gong)(gong)智(zhi)能安(an)全(quan)(quan)(quan)、可靠、可控。
2017年，國(guo)務院(yuan)發(fa)布《新(xin)一代(dai)人(ren)(ren)工(gong)(gong)(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)發(fa)展(zhan)(zhan)規劃》，對(dui)人(ren)(ren)工(gong)(gong)(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)治理(li)工(gong)(gong)(gong)(gong)(gong)(gong)作進(jin)(jin)行了專門部署，并要求建立人(ren)(ren)工(gong)(gong)(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)安(an)全(quan)監管和(he)評估體系。我(wo)國(guo)不斷完善數(shu)據安(an)全(quan)、網絡安(an)全(quan)、人(ren)(ren)工(gong)(gong)(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)等相關法(fa)律制度(du)建設，為新(xin)技(ji)術的(de)(de)快速應(ying)用(yong)(yong)奠定(ding)(ding)法(fa)律基礎。研究制定(ding)(ding)算法(fa)推(tui)薦、深(shen)度(du)合成、生成式人(ren)(ren)工(gong)(gong)(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)等領(ling)域的(de)(de)管理(li)規定(ding)(ding)，對(dui)人(ren)(ren)工(gong)(gong)(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)發(fa)展(zhan)(zhan)進(jin)(jin)行引(yin)導(dao)和(he)規范(fan)，保障相關技(ji)術產(chan)品的(de)(de)有序發(fa)展(zhan)(zhan)。先后發(fa)布《新(xin)一代(dai)人(ren)(ren)工(gong)(gong)(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)治理(li)原(yuan)則——發(fa)展(zhan)(zhan)負責任的(de)(de)人(ren)(ren)工(gong)(gong)(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)》《新(xin)一代(dai)人(ren)(ren)工(gong)(gong)(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)倫理(li)規范(fan)》，為人(ren)(ren)工(gong)(gong)(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)技(ji)術的(de)(de)開發(fa)和(he)應(ying)用(yong)(yong)設定(ding)(ding)道(dao)德約束，促使人(ren)(ren)工(gong)(gong)(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)更好(hao)地服務于人(ren)(ren)類(lei)。此(ci)外，我(wo)國(guo)也積極參與全(quan)球人(ren)(ren)工(gong)(gong)(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)治理(li)，堅持倫理(li)先行、和(he)平利用(yong)(yong)、安(an)全(quan)可控等治理(li)原(yuan)則，呼吁加強對(dui)人(ren)(ren)工(gong)(gong)(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)軍事應(ying)用(yong)(yong)的(de)(de)監管，以負責任的(de)(de)態度(du)促進(jin)(jin)人(ren)(ren)工(gong)(gong)(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)安(an)全(quan)治理(li)。
推(tui)動形成人(ren)工(gong)智(zhi)能安(an)全(quan)(quan)治(zhi)(zhi)理(li)(li)的(de)(de)強大(da)合力(li)。盡管(guan)(guan)已開(kai)展(zhan)一系列治(zhi)(zhi)理(li)(li)行動，但(dan)人(ren)工(gong)智(zhi)能安(an)全(quan)(quan)治(zhi)(zhi)理(li)(li)還面臨(lin)諸多(duo)全(quan)(quan)球共性(xing)難題。人(ren)工(gong)智(zhi)能技(ji)術(shu)目前并不(bu)具(ju)備較強的(de)(de)可解釋(shi)性(xing)、準確性(xing)和(he)真實性(xing)，難以完全(quan)(quan)實現人(ren)工(gong)智(zhi)能治(zhi)(zhi)理(li)(li)所倡導的(de)(de)透明度、可靠性(xing)和(he)安(an)全(quan)(quan)性(xing)。如何(he)在創新發(fa)展(zhan)和(he)有效(xiao)監(jian)管(guan)(guan)之(zhi)間取得平(ping)衡也是各國普遍面臨(lin)的(de)(de)問題。既要(yao)避免過度監(jian)管(guan)(guan)阻(zu)礙技(ji)術(shu)發(fa)展(zhan)，也要(yao)防止管(guan)(guan)理(li)(li)力(li)度不(bu)夠而引發(fa)嚴重問題。
當(dang)前，人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)影(ying)響(xiang)下的(de)國際(ji)(ji)科(ke)(ke)技(ji)、經濟及(ji)政治(zhi)領(ling)域發生(sheng)沖突的(de)可能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)性(xing)日益增大(da)。我國正(zheng)處在人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)技(ji)術(shu)快速發展(zhan)的(de)階段(duan)，必須堅(jian)持(chi)(chi)貫徹(che)總體國家安(an)全(quan)(quan)(quan)觀，構建多(duo)元(yuan)參與(yu)、協(xie)同共治(zhi)的(de)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)治(zhi)理(li)機(ji)制，調(diao)動(dong)各主體參與(yu)治(zhi)理(li)的(de)積極性(xing)，促進(jin)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)與(yu)經濟社會健康有序融合(he)(he)，以高水平(ping)科(ke)(ke)技(ji)安(an)全(quan)(quan)(quan)保(bao)障(zhang)國家總體安(an)全(quan)(quan)(quan)。一是(shi)建立(li)健全(quan)(quan)(quan)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)安(an)全(quan)(quan)(quan)治(zhi)理(li)機(ji)制。堅(jian)持(chi)(chi)審(shen)慎(shen)監(jian)管(guan)、開放包容原則，強(qiang)(qiang)(qiang)(qiang)化(hua)風險研(yan)(yan)判和監(jian)測預警，完善科(ke)(ke)技(ji)倫理(li)審(shen)查和監(jian)管(guan)制度。二是(shi)增強(qiang)(qiang)(qiang)(qiang)法(fa)治(zhi)保(bao)障(zhang)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)力(li)。加快推(tui)進(jin)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)立(li)法(fa)，開展(zhan)生(sheng)成(cheng)式人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)、信息(xi)安(an)全(quan)(quan)(quan)利用等(deng)法(fa)律(lv)問(wen)題研(yan)(yan)究，建立(li)追溯和問(wen)責機(ji)制，清晰界定(ding)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)相關主體權利、義務及(ji)責任邊界，從而保(bao)障(zhang)各類群體的(de)合(he)(he)法(fa)權益。三是(shi)增強(qiang)(qiang)(qiang)(qiang)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)技(ji)術(shu)治(zhi)理(li)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)力(li)。強(qiang)(qiang)(qiang)(qiang)化(hua)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)數據(ju)安(an)全(quan)(quan)(quan)、隱私保(bao)護等(deng)技(ji)術(shu)研(yan)(yan)發，強(qiang)(qiang)(qiang)(qiang)化(hua)對(dui)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)算(suan)法(fa)和模型的(de)審(shen)計監(jian)管(guan)和對(dui)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)系統安(an)全(quan)(quan)(quan)性(xing)測試(shi)評估(gu)，增強(qiang)(qiang)(qiang)(qiang)抗(kang)系統性(xing)風險能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)力(li)。四是(shi)增強(qiang)(qiang)(qiang)(qiang)國際(ji)(ji)安(an)全(quan)(quan)(quan)合(he)(he)作能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)力(li)。倡導以人(ren)(ren)為本、智(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)向善理(li)念，在《中(zhong)國關于規范人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)軍事應用的(de)立(li)場文件》等(deng)基礎上(shang)，發揮(hui)聯合(he)(he)國、G20、上(shang)合(he)(he)組織等(deng)多(duo)邊機(ji)制的(de)作用，拓展(zhan)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)安(an)全(quan)(quan)(quan)共識(shi)，避免人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)(zhi)(zhi)能(neng)(neng)(neng)(neng)(neng)(neng)(neng)(neng)濫用帶(dai)來的(de)安(an)全(quan)(quan)(quan)風險。
推進大模型賦能數智化應用健康發展
中國科學院自動化研究所副所長 曾大軍
近(jin)年來(lai)，大(da)(da)模型(xing)技術飛(fei)速發展(zhan)，極大(da)(da)提升了全(quan)球人(ren)工(gong)智(zhi)能(neng)(neng)技術發展(zhan)和(he)應用(yong)迭代速度，被認(ren)為是“邁向通用(yong)人(ren)工(gong)智(zhi)能(neng)(neng)的(de)里程(cheng)碑技術”。面對(dui)新一(yi)輪大(da)(da)模型(xing)引領的(de)人(ren)工(gong)智(zhi)能(neng)(neng)變革，加(jia)快推(tui)進大(da)(da)模型(xing)賦能(neng)(neng)數智(zhi)化(hua)應用(yong)健康發展(zhan)具有重要意義。
作為最成(cheng)功(gong)的(de)(de)一類大模(mo)型(xing)，大語言模(mo)型(xing)是(shi)一種包含大規(gui)模(mo)參數、使用大量文(wen)本數據訓練(lian)出來的(de)(de)深度(du)學習模(mo)型(xing)，展現了大模(mo)型(xing)的(de)(de)能力(li)和(he)基本技術(shu)框(kuang)(kuang)架。目前，這一技術(shu)思路和(he)框(kuang)(kuang)架已被(bei)(bei)用來處理圖像、視頻等多模(mo)態(tai)數據，并被(bei)(bei)推廣應用于(yu)機器人(ren)控制(zhi)與智(zhi)能決策等場景。各類大模(mo)型(xing)正(zheng)處于(yu)迅(xun)猛(meng)發(fa)展之(zhi)中，眾多高科技企(qi)業紛紛投身大模(mo)型(xing)建(jian)設，圍繞大模(mo)型(xing)已經形(xing)成(cheng)相對(dui)成(cheng)熟(shu)的(de)(de)技術(shu)框(kuang)(kuang)架，但(dan)產品和(he)生態(tai)尚在發(fa)展形(xing)成(cheng)之(zhi)中。總體而(er)言，大模(mo)型(xing)的(de)(de)技術(shu)發(fa)展歷程相比以往任(ren)何人(ren)工智(zhi)能技術(shu)都(dou)更(geng)迅(xun)猛(meng)，其(qi)影響(xiang)力(li)也是(shi)史無前例(li)的(de)(de)。
大(da)模(mo)型的(de)(de)(de)“大(da)”主(zhu)要體現在(zai)3個(ge)方(fang)面(mian)(mian)，即(ji)模(mo)型參數(shu)(shu)(shu)(shu)規(gui)模(mo)大(da)、訓(xun)(xun)練(lian)數(shu)(shu)(shu)(shu)據規(gui)模(mo)大(da)和算(suan)力消耗(hao)需求大(da)。模(mo)型參數(shu)(shu)(shu)(shu)方(fang)面(mian)(mian)，當前(qian)主(zhu)流大(da)模(mo)型的(de)(de)(de)參數(shu)(shu)(shu)(shu)規(gui)模(mo)通常在(zai)千億(yi)甚至萬(wan)億(yi)級別(bie)，遠遠大(da)于以往的(de)(de)(de)各類深度學習模(mo)型。訓(xun)(xun)練(lian)數(shu)(shu)(shu)(shu)據方(fang)面(mian)(mian)，大(da)模(mo)型在(zai)前(qian)期訓(xun)(xun)練(lian)階(jie)段和后(hou)期調優階(jie)段都需要海量的(de)(de)(de)數(shu)(shu)(shu)(shu)據支撐，例如(ru)引爆大(da)模(mo)型范(fan)式(shi)的(de)(de)(de)聊天機器(qi)人ChatGPT，預訓(xun)(xun)練(lian)數(shu)(shu)(shu)(shu)據量達到了(le)45TB，其(qi)研(yan)發公(gong)司還在(zai)拉丁美(mei)洲等地區(qu)招募了(le)約1000名(ming)員工，專門從事(shi)與大(da)模(mo)型相關的(de)(de)(de)訓(xun)(xun)練(lian)數(shu)(shu)(shu)(shu)據標(biao)注工作(zuo)。算(suan)力需求方(fang)面(mian)(mian)，根據有(you)關市場調查機構估(gu)計，ChatGPT的(de)(de)(de)運行需要上(shang)萬(wan)片最先進的(de)(de)(de)圖形處(chu)理(li)芯片同時工作(zuo)，耗(hao)電量巨大(da)。
大(da)模(mo)(mo)(mo)型(xing)已經(jing)展現出驚人的(de)(de)能(neng)(neng)力，基于大(da)語(yu)言模(mo)(mo)(mo)型(xing)的(de)(de)聊天機器人是(shi)以人機對(dui)話為接(jie)口(kou)的(de)(de)高(gao)效信息獲取、智能(neng)(neng)處理和(he)內容生成(cheng)工具，能(neng)(neng)夠(gou)實現高(gao)質量的(de)(de)信息整合、翻譯和(he)簡(jian)單的(de)(de)問題求解(jie)與(yu)規(gui)劃。其受到全(quan)社(she)會廣泛關注，主要是(shi)它(ta)已經(jing)初步具備通(tong)用(yong)人工智能(neng)(neng)的(de)(de)部分特性(xing)，包(bao)括(kuo)通(tong)順的(de)(de)自然語(yu)言生成(cheng)、全(quan)領域的(de)(de)知識體系覆蓋、跨任務場景的(de)(de)通(tong)用(yong)處理模(mo)(mo)(mo)型(xing)、通(tong)暢的(de)(de)人機交互接(jie)口(kou)。當然，聊天機器人只是(shi)大(da)模(mo)(mo)(mo)型(xing)的(de)(de)起點，大(da)模(mo)(mo)(mo)型(xing)未來的(de)(de)發展趨勢也已初見(jian)端倪。
第一，大(da)模型(xing)有望引領(ling)諸多行業的(de)(de)數智(zhi)(zhi)化(hua)(hua)創新發(fa)展(zhan)。大(da)模型(xing)的(de)(de)學習(xi)(xi)模式類(lei)似人類(lei)大(da)腦，通(tong)(tong)過學習(xi)(xi)不同的(de)(de)數據(ju)，能夠形成多樣化(hua)(hua)的(de)(de)能力，不需要按(an)照(zhao)任務開發(fa)定制化(hua)(hua)的(de)(de)算法。通(tong)(tong)過自然(ran)的(de)(de)人機交互，智(zhi)(zhi)能化(hua)(hua)地解決復雜(za)問(wen)題和實現(xian)輔助決策(ce)，推動各行業體(ti)系(xi)(xi)變革和生態發(fa)展(zhan)。例(li)如，未來的(de)(de)信(xin)息系(xi)(xi)統(tong)可以由領(ling)域用戶通(tong)(tong)過與大(da)模型(xing)的(de)(de)交互直接(jie)搭建(jian)和維護(hu)，“用戶即(ji)程序員”，顛覆信(xin)息系(xi)(xi)統(tong)研(yan)發(fa)和應用范式。
第二，領(ling)(ling)域專(zhuan)用(yong)和輕量(liang)化大(da)(da)模(mo)型(xing)(xing)是當前技(ji)術研究的(de)重(zhong)點。大(da)(da)模(mo)型(xing)(xing)雖然(ran)已(yi)經展現出諸多優勢，但(dan)依(yi)然(ran)存在可(ke)靠性差、訓練數據依(yi)賴(lai)、因果(guo)推(tui)理能力弱(ruo)、搭建成本高等(deng)短(duan)板，在部分(fen)領(ling)(ling)域深度應用(yong)上的(de)表現弱(ruo)于專(zhuan)用(yong)小模(mo)型(xing)(xing)。為了(le)更充分(fen)地發揮大(da)(da)模(mo)型(xing)(xing)優勢，金(jin)融、教育(yu)、醫療等(deng)領(ling)(ling)域專(zhuan)用(yong)大(da)(da)模(mo)型(xing)(xing)已(yi)取得(de)了(le)階段性成果(guo)，有(you)望促進(jin)各項專(zhuan)業能力的(de)涌現。
第三，大(da)模型(xing)有望發(fa)(fa)展(zhan)成為更加通用的人工智(zhi)(zhi)能。大(da)模型(xing)起(qi)步于文本信(xin)息處理，現(xian)已涵蓋圖片、音視頻等多模態(tai)數據(ju)。在(zai)不(bu)久的將來，大(da)模型(xing)將超越信(xin)息域(yu)，結合硬件設(she)施(shi)，發(fa)(fa)展(zhan)成為與物理和人類(lei)世界互動的具(ju)象智(zhi)(zhi)能，逐步縮小與真正的“通用人工智(zhi)(zhi)能”的差(cha)距。
雖然大(da)模(mo)型展現的能(neng)(neng)力已經(jing)(jing)讓全社會看到了(le)通用人(ren)工智能(neng)(neng)的曙光，但(dan)當前大(da)模(mo)型也有(you)一定的局限(xian)性。一方(fang)面，由于大(da)模(mo)型自身結構和機制漏(lou)洞(dong)，有(you)被惡意攻擊的風險；另一方(fang)面，大(da)模(mo)型自身的知識表(biao)達和學習模(mo)式(shi)還存在缺(que)陷(xian)，導致其(qi)回答中經(jing)(jing)常(chang)出現“幻(huan)覺”，如常(chang)識性錯誤、杜撰內容(rong)等。
推(tui)進大模型(xing)賦能數(shu)智化應(ying)(ying)(ying)用(yong)健康(kang)發展(zhan)，應(ying)(ying)(ying)堅(jian)持規劃引領、需求(qiu)帶(dai)動(dong)、應(ying)(ying)(ying)用(yong)導向(xiang)、安全為基，引導、扶持和監督大模型(xing)在(zai)更(geng)廣泛的領域應(ying)(ying)(ying)用(yong)中長計(ji)遠慮、扎實落地(di)、穩(wen)步推(tui)進。
首先，掌(zhang)握技(ji)(ji)術主(zhu)(zhu)(zhu)動(dong)權(quan)，加(jia)快自主(zhu)(zhu)(zhu)可控的(de)(de)國(guo)(guo)(guo)產(chan)大(da)(da)(da)模(mo)型(xing)(xing)全鏈條建設。依托我國(guo)(guo)(guo)現有(you)的(de)(de)人(ren)工智能(neng)人(ren)才基礎，構(gou)建面(mian)向大(da)(da)(da)模(mo)型(xing)(xing)與通用人(ren)工智能(neng)技(ji)(ji)術的(de)(de)平臺和隊(dui)伍。加(jia)大(da)(da)(da)芯片、大(da)(da)(da)數據(ju)、人(ren)工智能(neng)等產(chan)業的(de)(de)投入與整(zheng)合力度，保障“海量數據(ju)”“頂尖人(ren)才”“算(suan)力支撐”的(de)(de)落地，推(tui)進我國(guo)(guo)(guo)全階段(duan)自主(zhu)(zhu)(zhu)可控大(da)(da)(da)模(mo)型(xing)(xing)建設，掌(zhang)握大(da)(da)(da)模(mo)型(xing)(xing)技(ji)(ji)術發展(zhan)的(de)(de)主(zhu)(zhu)(zhu)動(dong)權(quan)和話(hua)語權(quan)。大(da)(da)(da)力支持(chi)國(guo)(guo)(guo)產(chan)大(da)(da)(da)模(mo)型(xing)(xing)的(de)(de)下游(you)技(ji)(ji)術攻關和產(chan)品(pin)推(tui)廣，促進國(guo)(guo)(guo)產(chan)大(da)(da)(da)模(mo)型(xing)(xing)產(chan)品(pin)的(de)(de)應(ying)用落地和迭(die)代升級(ji)。
其次，深化大(da)模(mo)(mo)型應(ying)(ying)用(yong)(yong)生(sheng)態(tai)建設，構建“通用(yong)(yong)大(da)模(mo)(mo)型+專(zhuan)用(yong)(yong)小模(mo)(mo)型”的(de)(de)成熟應(ying)(ying)用(yong)(yong)生(sheng)態(tai)。早(zao)在大(da)模(mo)(mo)型產生(sheng)之前，基于領域(yu)經驗(yan)歸納和業(ye)務知識構建的(de)(de)“小模(mo)(mo)型”已(yi)經廣泛應(ying)(ying)用(yong)(yong)于各(ge)行業(ye)。應(ying)(ying)充分(fen)認識并應(ying)(ying)用(yong)(yong)好大(da)模(mo)(mo)型和傳統(tong)小模(mo)(mo)型各(ge)自(zi)的(de)(de)特性，在推廣大(da)模(mo)(mo)型產品的(de)(de)同時(shi)進(jin)一步推進(jin)小模(mo)(mo)型技(ji)術(shu)的(de)(de)升級(ji)和應(ying)(ying)用(yong)(yong)，發揮好小模(mo)(mo)型輕(qing)量級(ji)、高(gao)效(xiao)率、善于解決特定(ding)問(wen)題的(de)(de)優勢，逐步推進(jin)大(da)小模(mo)(mo)型融合的(de)(de)應(ying)(ying)用(yong)(yong)生(sheng)態(tai)。
最后，建立健全(quan)(quan)大模型(xing)安全(quan)(quan)審查制度(du)與(yu)(yu)法律體系，從(cong)源頭(tou)規(gui)避大模型(xing)發(fa)展風(feng)險。推(tui)動建立行(xing)之有效的(de)(de)數據審查機(ji)制和接入(ru)許(xu)可(ke)(ke)規(gui)范，從(cong)源頭(tou)把控大模型(xing)內容安全(quan)(quan)性(xing)，并主動參(can)與(yu)(yu)全(quan)(quan)球(qiu)人工智(zhi)能(neng)模型(xing)使用(yong)規(gui)范的(de)(de)標準制定。同時，對于(yu)大模型(xing)可(ke)(ke)能(neng)產(chan)生的(de)(de)風(feng)險進行(xing)合(he)理評估(gu)與(yu)(yu)審核，如歧視、仇恨言論、私人信(xin)息泄露、虛假信(xin)息、協助犯(fan)罪等。
鍛長補短 打造人工智能產業新優勢
安徽省合肥市人大常委會副主任，合肥高新區黨工委書記、管委會主任 宋道軍
隨(sui)著國(guo)內外大(da)模(mo)型相繼(ji)發(fa)布，全球掀起(qi)了人(ren)工(gong)智(zhi)能(neng)發(fa)展新浪潮，開啟了通用(yong)(yong)人(ren)工(gong)智(zhi)能(neng)賦能(neng)千(qian)行(xing)百業的路徑，引領(ling)人(ren)工(gong)智(zhi)能(neng)產(chan)業創新發(fa)展。我(wo)國(guo)人(ren)工(gong)智(zhi)能(neng)發(fa)展在產(chan)業規模(mo)、應用(yong)(yong)場景(jing)等方面具有一定(ding)競爭優(you)勢，但(dan)算法、算力、數據和安(an)全方面存在明顯短板。
近(jin)年來，合(he)(he)肥充分發(fa)(fa)(fa)揮(hui)人才(cai)、科創和產業融合(he)(he)發(fa)(fa)(fa)展優勢，堅持創新驅動、平臺(tai)支(zhi)撐、開放(fang)共享、生態賦能，人工(gong)智能創新能力領先、產業聚鏈成(cheng)群、綜合(he)(he)實力躋身全(quan)國(guo)(guo)前列。接下來，推進人工(gong)智能安(an)全(quan)發(fa)(fa)(fa)展，將以創新引(yin)領、鍛長補短為(wei)主線(xian)，全(quan)力打造國(guo)(guo)內領先、國(guo)(guo)際一流的人工(gong)智能創新策源(yuan)、要素供給、場景應用和安(an)全(quan)治理高(gao)地(di)。
打(da)造(zao)創新(xin)(xin)策(ce)源高地，迸發產(chan)業動能(neng)。我國人(ren)工(gong)(gong)智(zhi)(zhi)能(neng)領(ling)域核(he)(he)心技(ji)(ji)術(shu)(shu)創新(xin)(xin)較少，大模(mo)型研(yan)發所(suo)用(yong)(yong)的算法及相關核(he)(he)心技(ji)(ji)術(shu)(shu)絕(jue)大部(bu)分(fen)仍來(lai)自(zi)國外(wai)，國內自(zi)研(yan)訓練(lian)工(gong)(gong)具與(yu)國際主(zhu)流(liu)相比(bi)仍存在一(yi)定差距，需在技(ji)(ji)術(shu)(shu)創新(xin)(xin)上取得新(xin)(xin)突(tu)(tu)破(po)(po)(po)，打(da)造(zao)產(chan)業發展核(he)(he)心動力(li)和(he)競爭力(li)。一(yi)是不斷集聚和(he)依托來(lai)自(zi)中國科(ke)大、國家(jia)實驗室、綜合(he)性國家(jia)科(ke)學中心等(deng)(deng)戰略科(ke)技(ji)(ji)力(li)量(liang)的人(ren)工(gong)(gong)智(zhi)(zhi)能(neng)高能(neng)級(ji)創新(xin)(xin)平臺和(he)高層次領(ling)軍(jun)人(ren)才團(tuan)隊(dui)，聚焦基礎理論研(yan)究(jiu)、關鍵(jian)核(he)(he)心技(ji)(ji)術(shu)(shu)、核(he)(he)心支撐部(bu)件等(deng)(deng)領(ling)域，推(tui)動核(he)(he)心算法、GPU芯片、云計(ji)算等(deng)(deng)關鍵(jian)技(ji)(ji)術(shu)(shu)突(tu)(tu)破(po)(po)(po)，構(gou)(gou)建(jian)自(zi)主(zhu)可控(kong)大模(mo)型技(ji)(ji)術(shu)(shu)體系。二是推(tui)動類(lei)腦智(zhi)(zhi)能(neng)技(ji)(ji)術(shu)(shu)突(tu)(tu)破(po)(po)(po)，研(yan)究(jiu)神經(jing)網絡學習、知識推(tui)理等(deng)(deng)創新(xin)(xin)計(ji)算模(mo)型和(he)方法，構(gou)(gou)建(jian)新(xin)(xin)的通用(yong)(yong)人(ren)工(gong)(gong)智(zhi)(zhi)能(neng)發展路(lu)徑。三是推(tui)動量(liang)子計(ji)算技(ji)(ji)術(shu)(shu)研(yan)發，突(tu)(tu)破(po)(po)(po)量(liang)子比(bi)特操控(kong)、量(liang)子模(mo)擬(ni)加速(su)、量(liang)子編譯等(deng)(deng)核(he)(he)心技(ji)(ji)術(shu)(shu)，推(tui)動量(liang)子計(ji)算商用(yong)(yong)進程。
打造要素供給高地(di)，強化產(chan)業(ye)支撐。我國智能(neng)算(suan)(suan)(suan)(suan)力(li)(li)基礎薄(bo)弱，GPU芯(xin)片面(mian)臨(lin)“卡脖(bo)子(zi)”難(nan)題，可用于人工智能(neng)計算(suan)(suan)(suan)(suan)的智能(neng)算(suan)(suan)(suan)(suan)力(li)(li)嚴(yan)重不(bu)(bu)足(zu)，分布分散且異構(gou)嚴(yan)重，統一調度難(nan)度大(da)，缺乏大(da)規(gui)模(mo)公益性開(kai)放算(suan)(suan)(suan)(suan)力(li)(li)平臺；訓練數(shu)(shu)(shu)(shu)(shu)據供給不(bu)(bu)足(zu)，中(zhong)文語音、詞匯和(he)語法(fa)多樣(yang)復雜，數(shu)(shu)(shu)(shu)(shu)據量雖大(da)但數(shu)(shu)(shu)(shu)(shu)據質量參差(cha)不(bu)(bu)齊(qi)，數(shu)(shu)(shu)(shu)(shu)據清(qing)洗和(he)數(shu)(shu)(shu)(shu)(shu)據標注難(nan)度較高，需在(zai)算(suan)(suan)(suan)(suan)力(li)(li)和(he)數(shu)(shu)(shu)(shu)(shu)據支撐上(shang)開(kai)展(zhan)統籌建設和(he)有效積累。一是支持相關龍頭企業(ye)聯合(he)攻關，構(gou)建千P智能(neng)算(suan)(suan)(suan)(suan)力(li)(li)集群(qun)，實現(xian)國產(chan)算(suan)(suan)(suan)(suan)力(li)(li)訓練性能(neng)完全(quan)對標國際領先企業(ye)，突破大(da)模(mo)型訓練算(suan)(suan)(suan)(suan)力(li)(li)底座(zuo)的“卡脖(bo)子(zi)”難(nan)題。二是推(tui)動(dong)大(da)規(gui)模(mo)高質量多渠(qu)道(dao)數(shu)(shu)(shu)(shu)(shu)據資源獲取(qu)、無監督預(yu)訓練數(shu)(shu)(shu)(shu)(shu)據清(qing)洗、人機(ji)協同的多模(mo)態眾包數(shu)(shu)(shu)(shu)(shu)據標注平臺研發，構(gou)建100TB以(yi)上(shang)超(chao)大(da)規(gui)模(mo)多模(mo)態多語種數(shu)(shu)(shu)(shu)(shu)據資源，爭創國家級數(shu)(shu)(shu)(shu)(shu)據訓練基地(di)。三是推(tui)動(dong)國產(chan)GPU、自然語言處理、數(shu)(shu)(shu)(shu)(shu)據挖掘(jue)、深度學習(xi)等(deng)領域企業(ye)集聚，構(gou)建自主可控產(chan)業(ye)鏈體系。
打(da)造場景應(ying)用(yong)高(gao)地(di)，提(ti)升產業能(neng)級。龐大人(ren)口基數(shu)產生的(de)海(hai)量數(shu)據(ju)和(he)背后的(de)巨(ju)大市場需求，是(shi)(shi)我國(guo)人(ren)工智(zhi)能(neng)產業發(fa)展(zhan)(zhan)得天獨(du)厚的(de)優(you)勢，需加速全時全域場景探(tan)索應(ying)用(yong)。一是(shi)(shi)推(tui)動(dong)“科(ke)(ke)研探(tan)索+”應(ying)用(yong)示范，充分(fen)發(fa)揮人(ren)工智(zhi)能(neng)技術在(zai)文獻(xian)數(shu)據(ju)獲(huo)取(qu)、實驗(yan)(yan)預(yu)測(ce)、結(jie)果(guo)分(fen)析(xi)等方面的(de)作(zuo)用(yong)，支持域內高(gao)校院所與人(ren)工智(zhi)能(neng)企業聯(lian)合(he)設(she)立科(ke)(ke)研合(he)作(zuo)專(zhuan)項，研發(fa)科(ke)(ke)學(xue)智(zhi)能(neng)計算(suan)模(mo)型(xing)，充分(fen)挖掘分(fen)析(xi)實驗(yan)(yan)數(shu)據(ju)，學(xue)習、模(mo)擬、預(yu)測(ce)和(he)發(fa)現(xian)各種(zhong)現(xian)象(xiang)與科(ke)(ke)學(xue)規(gui)律，爭(zheng)取(qu)在(zai)量子信息、可控核聚變、深空(kong)探(tan)測(ce)等領(ling)域實現(xian)創新突破。二是(shi)(shi)推(tui)動(dong)“千行百業+”應(ying)用(yong)示范，推(tui)動(dong)國(guo)產大模(mo)型(xing)賦能(neng)地(di)域聚力發(fa)展(zhan)(zhan)的(de)產業地(di)標(biao)，在(zai)相關重點產業開展(zhan)(zhan)大模(mo)型(xing)應(ying)用(yong)示范，推(tui)出(chu)新能(neng)源和(he)智(zhi)能(neng)網聯(lian)汽車、工業互聯(lian)網、智(zhi)能(neng)家居(ju)等行業大模(mo)型(xing)，并形(xing)成一批(pi)可復制推(tui)廣的(de)細分(fen)領(ling)域應(ying)用(yong)解決方案和(he)標(biao)桿(gan)型(xing)示范應(ying)用(yong)案例。
打造安(an)(an)全(quan)(quan)(quan)(quan)(quan)治(zhi)理高地，優化產業(ye)環境(jing)。當(dang)前，我(wo)國人工(gong)智能(neng)安(an)(an)全(quan)(quan)(quan)(quan)(quan)監(jian)管(guan)面(mian)臨(lin)一些挑(tiao)戰。數(shu)據(ju)(ju)保護(hu)方面(mian)，用(yong)戶信息泄露和(he)(he)濫用(yong)涉(she)及的(de)(de)(de)網絡和(he)(he)數(shu)據(ju)(ju)安(an)(an)全(quan)(quan)(quan)(quan)(quan)技術有待突破，數(shu)據(ju)(ju)保護(hu)相(xiang)關(guan)法(fa)(fa)(fa)(fa)律制度(du)不完善；算(suan)(suan)法(fa)(fa)(fa)(fa)安(an)(an)全(quan)(quan)(quan)(quan)(quan)方面(mian)，對算(suan)(suan)法(fa)(fa)(fa)(fa)偏(pian)見、算(suan)(suan)法(fa)(fa)(fa)(fa)設計(ji)公正性(xing)(xing)和(he)(he)普適性(xing)(xing)的(de)(de)(de)監(jian)管(guan)仍存在不足，需堅持統籌發展和(he)(he)安(an)(an)全(quan)(quan)(quan)(quan)(quan)，加強風險防控(kong)。一是(shi)(shi)高水平(ping)、高標準建設“中國（合肥）安(an)(an)全(quan)(quan)(quan)(quan)(quan)谷”，爭(zheng)取在AI大(da)模型網絡、數(shu)據(ju)(ju)安(an)(an)全(quan)(quan)(quan)(quan)(quan)、算(suan)(suan)法(fa)(fa)(fa)(fa)安(an)(an)全(quan)(quan)(quan)(quan)(quan)、云安(an)(an)全(quan)(quan)(quan)(quan)(quan)等(deng)關(guan)鍵(jian)技術領域取得重大(da)突破，形成一批具有全(quan)(quan)(quan)(quan)(quan)國競爭(zheng)力的(de)(de)(de)網絡與數(shu)據(ju)(ju)安(an)(an)全(quan)(quan)(quan)(quan)(quan)核心產品和(he)(he)解決方案(an)，全(quan)(quan)(quan)(quan)(quan)面(mian)提(ti)升網絡和(he)(he)數(shu)據(ju)(ju)安(an)(an)全(quan)(quan)(quan)(quan)(quan)防護(hu)能(neng)力。二是(shi)(shi)完善風險防控(kong)和(he)(he)處(chu)置機(ji)制，遵守人工(gong)智能(neng)發展有關(guan)法(fa)(fa)(fa)(fa)律法(fa)(fa)(fa)(fa)規、倫(lun)理規范和(he)(he)技術標準，實行設計(ji)問責和(he)(he)應(ying)用(yong)監(jian)督并重的(de)(de)(de)雙層監(jian)管(guan)結構，防范和(he)(he)打擊數(shu)據(ju)(ju)濫用(yong)、侵(qin)犯用(yong)戶隱(yin)私等(deng)行為。
總之，打(da)造人工智(zhi)能(neng)產業(ye)新優勢(shi)，需(xu)在技術(shu)、要素、場景(jing)(jing)和安全(quan)等多方面充分整(zheng)合(he)調度資源，各方合(he)力(li)推(tui)進。國家層面應重(zhong)點(dian)支(zhi)持大(da)模型領(ling)域(yu)重(zhong)大(da)研(yan)發(fa)攻關項(xiang)目，適度超前布局綠色智(zhi)能(neng)的多層次算力(li)設施體系，加強數(shu)據標準體系建設和完善數(shu)據交易機制，加快制定人工智(zhi)能(neng)安全(quan)領(ling)域(yu)標準規范，鼓勵(li)地方和企業(ye)積極探索創(chuang)新通用人工智(zhi)能(neng)場景(jing)(jing)應用，推(tui)動我國人工智(zhi)能(neng)產業(ye)發(fa)展形(xing)成新優勢(shi)、取得(de)新進步(bu)。
原標題：人工智能如何發展更安全
學習時報
責任編輯：鄭繼民
頁面編輯：蘇偉