人(ren)工智能(neng)正加速各(ge)行各(ge)業的智能(neng)化轉型，但數據隱私、算法偏見、技術濫用(yong)等安全問題也給(gei)人(ren)工智能(neng)的治理與產(chan)業發(fa)展帶(dai)來嚴峻挑戰(zhan)。

　　未來(lai)人(ren)工智(zhi)能如何兼顧創新發展與安(an)全(quan)可(ke)(ke)控(kong)？在(zai)前不久舉辦的北京(jing)智(zhi)源大(da)會(hui)AI安(an)全(quan)與產(chan)業治理論壇上，中國科(ke)學院(yuan)(yuan)院(yuan)(yuan)士、清華大(da)學人(ren)工智(zhi)能研究(jiu)院(yuan)(yuan)院(yuan)(yuan)長(chang)張鈸表示，未來(lai)人(ren)工智(zhi)能產(chan)業發展在(zai)擴大(da)應用場景的同時，必(bi)須實現數據、算法與應用層的安(an)全(quan)可(ke)(ke)控(kong)。

　　“人工(gong)智能的(de)安全可(ke)(ke)控問題(ti)要從(cong)技(ji)術層(ceng)面(mian)來解決。”在具體實現(xian)路徑上，張鈸提(ti)出了(le)發展“第(di)三代人工(gong)智能”，即融合第(di)一代知識驅動和(he)第(di)二代數據驅動的(de)人工(gong)智能，利用(yong)數據、知識、算法(fa)和(he)算力4個要素(su)，發展安全、可(ke)(ke)信、可(ke)(ke)靠和(he)可(ke)(ke)擴展的(de)AI技(ji)術。

　　如何定(ding)義(yi)人工智(zhi)能“安全(quan)可控(kong)”？北京瑞萊智(zhi)慧科技有限公司CEO田天認為(wei)，“安全(quan)”是指(zhi)打造數據安全(quan)與算(suan)法(fa)安全(quan)兩大核心(xin)能力，解(jie)決(jue)數據強依(yi)賴帶來的(de)(de)隱私泄露等隱患，同時提升算(suan)法(fa)的(de)(de)可靠(kao)性，從而保證(zheng)系統在網絡過載(zai)或有意攻擊情況下，依(yi)然穩定(ding)運行不崩潰；“可控(kong)”既指(zhi)應用層面的(de)(de)合規(gui)可控(kong)，更指(zhi)核心(xin)技術的(de)(de)自(zi)(zi)主可控(kong)，以自(zi)(zi)主可控(kong)為(wei)根基，通過理論創新、技術突破(po)形成核心(xin)競爭力。安全(quan)可控(kong)是發(fa)展第三代人工智(zhi)能的(de)(de)核心(xin)基準，也(ye)是加快人工智(zhi)能高(gao)質量發(fa)展的(de)(de)有力支撐。

　　數(shu)據的(de)(de)不安(an)全(quan)和算(suan)法的(de)(de)不安(an)全(quan)是制約當前(qian)人(ren)工(gong)(gong)智(zhi)(zhi)能(neng)產業發(fa)展(zhan)(zhan)的(de)(de)主(zhu)要(yao)因素，也是發(fa)展(zhan)(zhan)安(an)全(quan)可控人(ren)工(gong)(gong)智(zhi)(zhi)能(neng)需要(yao)解決(jue)的(de)(de)核心問題。在中國(guo)信息(xi)通(tong)信研(yan)究院安(an)全(quan)所信息(xi)安(an)全(quan)研(yan)究部主(zhu)任魏薇看來，人(ren)工(gong)(gong)智(zhi)(zhi)能(neng)與數(shu)據產業互促(cu)發(fa)展(zhan)(zhan)的(de)(de)同(tong)時，安(an)全(quan)問題也相互影響。一方面，人(ren)工(gong)(gong)智(zhi)(zhi)能(neng)對(dui)數(shu)據強依賴的(de)(de)發(fa)展(zhan)(zhan)特(te)性導致其面臨的(de)(de)自(zi)身數(shu)據安(an)全(quan)風(feng)(feng)險(xian)、應用(yong)導致的(de)(de)數(shu)據安(an)全(quan)風(feng)(feng)險(xian)以及(ji)應用(yong)加劇(ju)的(de)(de)數(shu)據治理挑(tiao)戰日益凸顯；另一方面，人(ren)工(gong)(gong)智(zhi)(zhi)能(neng)也為數(shu)據治理工(gong)(gong)作(zuo)提供自(zi)動(dong)化(hua)(hua)、智(zhi)(zhi)能(neng)化(hua)(hua)、高(gao)效化(hua)(hua)、精準化(hua)(hua)的(de)(de)智(zhi)(zhi)慧支撐(cheng)。

　　相(xiang)較(jiao)數據安(an)(an)全(quan)，算法(fa)安(an)(an)全(quan)問題初(chu)露端倪。阿里安(an)(an)全(quan)資深(shen)算法(fa)專家何源介紹，雖然人工(gong)智能技術已經在(zai)凈化網(wang)絡環(huan)境、知識(shi)產權保護、生(sheng)物識(shi)別、線(xian)下安(an)(an)防(fang)等(deng)安(an)(an)全(quan)工(gong)作中(zhong)發揮著越(yue)來越(yue)大(da)的助力作用(yong)(yong)，讓安(an)(an)全(quan)更(geng)智能，但其本(ben)身(shen)也面臨著魯棒性不(bu)夠、可解釋性差(cha)、技術濫用(yong)(yong)等(deng)安(an)(an)全(quan)風險。比如，算法(fa)漏(lou)洞(dong)的存在(zai)可以針對圖像檢索系(xi)統開展攻(gong)擊，導致非原創圖片逃逸檢測，對網(wang)站安(an)(an)全(quan)與商家權益造成威脅。

　　發(fa)展安(an)(an)(an)全(quan)可控(kong)的人(ren)工(gong)智能(neng)是一項系(xi)統性的工(gong)作，需(xu)要(yao)從行業標準(zhun)、法律規范、技(ji)術發(fa)展等(deng)多個維(wei)度打(da)(da)造與之配(pei)套的“基(ji)(ji)礎設施(shi)(shi)”，其中(zhong)技(ji)術基(ji)(ji)礎設施(shi)(shi)的打(da)(da)造仍將發(fa)揮(hui)基(ji)(ji)礎性作用(yong)。比如，基(ji)(ji)于安(an)(an)(an)全(quan)多方計(ji)算、聯邦(bang)學習、匿蹤查詢等(deng)技(ji)術打(da)(da)造數(shu)(shu)據(ju)安(an)(an)(an)全(quan)共(gong)享平臺(tai)解(jie)決(jue)數(shu)(shu)據(ju)隱私難題，讓(rang)數(shu)(shu)據(ju)安(an)(an)(an)全(quan)共(gong)享流(liu)通；打(da)(da)造人(ren)工(gong)智能(neng)系(xi)統防火墻(qiang)，為人(ren)臉識別、目標檢測、圖像分類等(deng)系(xi)統提(ti)(ti)供安(an)(an)(an)全(quan)檢測與防御加(jia)固(gu)，從根本上提(ti)(ti)升系(xi)統安(an)(an)(an)全(quan)性。

　　在(zai)(zai)新(xin)基建(jian)浪潮驅動(dong)下，人(ren)工智(zhi)能(neng)(neng)(neng)產(chan)業(ye)(ye)即將迎來與(yu)傳(chuan)統產(chan)業(ye)(ye)深度融(rong)合(he)的(de)機遇期。田天表示，在(zai)(zai)安(an)全(quan)可(ke)控(kong)的(de)核心支撐下，人(ren)工智(zhi)能(neng)(neng)(neng)能(neng)(neng)(neng)夠(gou)實現從“單(dan)點自(zi)動(dong)化”到“深度智(zhi)能(neng)(neng)(neng)化”的(de)價值提升。例如，在(zai)(zai)金融(rong)領域，人(ren)工智(zhi)能(neng)(neng)(neng)的(de)創(chuang)新(xin)融(rong)合(he)正為(wei)金融(rong)行業(ye)(ye)打(da)造出一(yi)個兼具決策分析與(yu)感官感知(zhi)的(de)“智(zhi)慧大(da)腦(nao)”。而在(zai)(zai)安(an)全(quan)可(ke)控(kong)的(de)支撐下，“智(zhi)慧大(da)腦(nao)”能(neng)(neng)(neng)夠(gou)拓展全(quan)新(xin)能(neng)(neng)(neng)力邊界，形成更(geng)好的(de)“決策左腦(nao)”與(yu)更(geng)加安(an)全(quan)可(ke)靠的(de)“感知(zhi)右(you)腦(nao)”。

　　在安全可(ke)(ke)控的(de)助(zhu)力下，“深度智(zhi)(zhi)(zhi)能(neng)”時(shi)代正加速(su)到(dao)來，人(ren)工智(zhi)(zhi)(zhi)能(neng)在各行業領域的(de)應用廣度和深度將不斷得(de)到(dao)拓展。“第三(san)代人(ren)工智(zhi)(zhi)(zhi)能(neng)通過(guo)釋放‘數據、知識、算法、算力’的(de)全新(xin)維度，為實現安全可(ke)(ke)控的(de)新(xin)一代人(ren)工智(zhi)(zhi)(zhi)能(neng)提供可(ke)(ke)能(neng)，讓人(ren)工智(zhi)(zhi)(zhi)能(neng)走(zou)出‘淺層智(zhi)(zhi)(zhi)能(neng)’的(de)舒適區，重塑(su)產業價值。”田天說。