產業的(de)需求決定了(le)要完成(cheng)的(de)人工(gong)智能(neng)任務越(yue)來越(yue)復雜(za)，輕量化人工(gong)智能(neng)必須通過加(jia)速運算效率、提高計算密(mi)度才能(neng)實現極致的(de)效率。
——冷聰 中國科學(xue)院自(zi)動化研究所副(fu)研究員
◎本(ben)報(bao)記者(zhe) 陸成寬
人(ren)工智(zhi)能算(suan)法的復雜度急劇攀升，神經網絡計(ji)算(suan)的能耗代(dai)價越(yue)來(lai)越(yue)高，數據洪水式地涌積堰塞……這些(xie)年，人(ren)工智(zhi)能的發展遇到了(le)越(yue)來(lai)越(yue)多(duo)的瓶頸。如何將人(ren)工智(zhi)能模型及其計(ji)算(suan)載體前端化(hua)、輕(qing)量化(hua)成為亟待解決(jue)的問題。最新興(xing)起的輕(qing)量化(hua)人(ren)工智(zhi)能被寄(ji)予厚望，以“輕(qing)量化(hua)”為賽點的人(ren)工智(zhi)能競賽下半場已(yi)經來(lai)臨。為此，4月27日，科技日報記者采訪了(le)中國(guo)科學(xue)院自動化(hua)研究所(suo)的相關專家(jia)。
輕量化成(cheng)為人工(gong)智能下半(ban)場(chang)賽(sai)點
人(ren)工智(zhi)能技術在行業(ye)應用(yong)中，大多(duo)依賴海量的(de)訓(xun)練數(shu)據和大規(gui)模服務器的(de)算力支持。
然(ran)而(er)，近年來(lai)，隨著信息技術領域的摩爾定律逐步放緩，硬件的發展越來(lai)越難(nan)以(yi)滿足當前人工智(zhi)能(neng)模型動輒萬億級規模的存儲(chu)和算(suan)力需求，數據堰塞、存儲(chu)暴漲、隱(yin)私泄(xie)露、能(neng)耗高(gao)企(qi)等問題(ti)隨之(zhi)而(er)來(lai)。
“當前(qian)，對于人(ren)工(gong)(gong)(gong)智能(neng)設備和應(ying)用的快速響應(ying)、隱私保護以及(ji)節能(neng)減排的需求(qiu)越發(fa)凸(tu)顯，輕量化(hua)人(ren)工(gong)(gong)(gong)智能(neng)應(ying)運(yun)而生，并被寄予厚望(wang)。2020年，《麻(ma)省(sheng)理工(gong)(gong)(gong)科(ke)技(ji)評論》將輕量化(hua)人(ren)工(gong)(gong)(gong)智能(neng)列為‘全球十大突破性技(ji)術’。”中國(guo)科(ke)學院自動化(hua)研(yan)究所研(yan)究員程健說。
所謂(wei)輕量(liang)化人(ren)工智能(neng)(neng)(neng)，是指以一系列輕量(liang)化技術為驅動(dong)提高芯(xin)片、平臺(tai)和(he)算法(fa)的(de)效率，在(zai)更緊密的(de)物理空間(jian)上實現低(di)功耗的(de)人(ren)工智能(neng)(neng)(neng)訓練和(he)應用部署，不需要依賴與云端(duan)的(de)交互就能(neng)(neng)(neng)實現智能(neng)(neng)(neng)化操作的(de)人(ren)工智能(neng)(neng)(neng)。
輕量化人工(gong)智(zhi)能(neng)被評(ping)(ping)入“全(quan)球十大突(tu)破性技(ji)術(shu)”，《麻省理(li)工(gong)科技(ji)評(ping)(ping)論》給出的(de)評(ping)(ping)選理(li)由是，輕量化智(zhi)能(neng)使現有的(de)服務，比如語音助(zhu)手、手機拍照(zhao)等，變得(de)更好更快，不(bu)必每次都(dou)需(xu)要連接云端(duan)才能(neng)運行深度學習模(mo)型；此外，輕量化人工(gong)智(zhi)能(neng)也將使新(xin)的(de)應用成為(wei)可能(neng)，比如基于移動端(duan)的(de)醫學檢測(ce)分析、對反應時間要求(qiu)更快的(de)自(zi)動駕駛(shi)汽(qi)車；此外，本(ben)地化的(de)人工(gong)智(zhi)能(neng)更利于隱私保護，用戶的(de)數(shu)據不(bu)再需(xu)要離開設備就能(neng)實現服務功能(neng)的(de)進化。
“更重要的(de)是，輕量化(hua)人(ren)工(gong)智能(neng)(neng)將人(ren)工(gong)智能(neng)(neng)推向更主(zhu)流，它大大降(jiang)低了(le)人(ren)工(gong)智能(neng)(neng)系統的(de)部(bu)署難度和成本，把人(ren)工(gong)智能(neng)(neng)從一(yi)場高門檻的(de)科技巨(ju)頭競(jing)賽變成更容易普惠民生的(de)智能(neng)(neng)生態。”程健(jian)說，在(zai)人(ren)工(gong)智能(neng)(neng)領域(yu)的(de)角逐中(zhong)，以輕量化(hua)為賽點的(de)下(xia)半場已經(jing)來臨(lin)。
極(ji)致效率、極(ji)低能耗是最終追求
在(zai)表現上，輕量(liang)化人(ren)工智能是在(zai)做減法，降低(di)能耗、降低(di)對硬件平(ping)臺性能指標的要(yao)求、降低(di)與(yu)云端的通(tong)訊(xun)需求等。
然而，“實(shi)質(zhi)上，輕量(liang)化的內核卻是在做加(jia)法。”中國科(ke)學院自動化研(yan)究所副(fu)研(yan)究員(yuan)冷聰說(shuo)，產業的需求決(jue)定了要(yao)完成的人工(gong)智(zhi)能任務(wu)越來(lai)越復雜，輕量(liang)化人工(gong)智(zhi)能必須通過提高運算速度、計算密度才能實(shi)現極致(zhi)的效率。
在(zai)程健看來，在(zai)精度接(jie)近無損的前提下，將人工智能模型及其計算載體輕量化，是(shi)一個(ge)極具挑戰(zhan)性的任務。
解決這(zhe)一問題，需(xu)要對神(shen)經(jing)網絡(luo)進行(xing)輕量化設計(ji)、計(ji)算(suan)(suan)加速以及設計(ji)新的計(ji)算(suan)(suan)架(jia)構(gou)以實(shi)現(xian)模型的硬件化，這(zhe)需(xu)要從(cong)軟件和硬件兩方面來著(zhu)手。
在軟(ruan)(ruan)件上，進(jin)行模(mo)型和算(suan)法創(chuang)新(xin)，通(tong)過輕(qing)(qing)量化(hua)(hua)模(mo)型設(she)(she)計(ji)(ji)、矩(ju)陣分解、稀(xi)疏表示、量化(hua)(hua)計(ji)(ji)算(suan)來實現模(mo)型的微型化(hua)(hua)和計(ji)(ji)算(suan)加速；而在硬(ying)件上，則要通(tong)過流水線設(she)(she)計(ji)(ji)、存儲模(mo)式設(she)(she)計(ji)(ji)等手段進(jin)行硬(ying)件架構的創(chuang)新(xin)，通(tong)過軟(ruan)(ruan)硬(ying)協同設(she)(she)計(ji)(ji)和優化(hua)(hua)實現人工智能的輕(qing)(qing)量化(hua)(hua)。
“雖然執行神經網(wang)絡計算(suan)(suan)的(de)是硬件，但神經網(wang)絡結構和人(ren)工智(zhi)能(neng)平(ping)臺決(jue)定了計算(suan)(suan)量的(de)大小和運(yun)算(suan)(suan)方式。”冷聰坦言，所以極致的(de)輕(qing)量化(hua)必須是軟件和硬件的(de)協同輕(qing)量化(hua)——基于復雜的(de)人(ren)工智(zhi)能(neng)應用場景，將芯片、平(ping)臺和算(suan)(suan)法充(chong)分結合以聯合加速。
作為人工智能(neng)的(de)硬(ying)件(jian)載(zai)體，人工智能(neng)芯片必須達到更(geng)(geng)高(gao)(gao)的(de)性能(neng)、更(geng)(geng)高(gao)(gao)的(de)效(xiao)率、更(geng)(geng)低的(de)功耗和更(geng)(geng)小的(de)體積(ji)。這(zhe)樣(yang)才能(neng)有足(zu)夠平價高(gao)(gao)效(xiao)的(de)計算(suan)平臺滿足(zu)產業需求，承載(zai)復雜的(de)人工智能(neng)任務，并(bing)且(qie)使推(tui)理和運算(suan)從云端遷移到終端。
同時，輕量(liang)化(hua)(hua)的(de)(de)人(ren)工智(zhi)能平臺要(yao)以更低的(de)(de)功耗(hao)來訓練和運行人(ren)工智(zhi)能算法(fa)，最(zui)大化(hua)(hua)的(de)(de)發掘硬件的(de)(de)能力(li)。更重要(yao)的(de)(de)是，應用輕量(liang)化(hua)(hua)技術的(de)(de)神(shen)經網(wang)絡模型要(yao)小規模、少(shao)運算量(liang)并(bing)保(bao)持(chi)良好的(de)(de)精度(du)。
未來輕量化人工(gong)智能將(jiang)賦能萬物(wu)
程健介紹，中國(guo)科學院自動化(hua)研究所是(shi)輕量(liang)化(hua)人工智(zhi)能的先行者(zhe)，很早就開始了軟硬協(xie)同輕量(liang)化(hua)的技術研究，并走在國(guo)際前列。
早在(zai)(zai)2016年，卷積神經(jing)網絡(luo)大(da)規模(mo)邁向(xiang)應用(yong)之(zhi)初，中國(guo)科學院自動化研(yan)究所就在(zai)(zai)國(guo)際人(ren)工智能頂(ding)級期刊發表(biao)了多篇神經(jing)網絡(luo)模(mo)型輕量(liang)化領域的(de)重(zhong)要論(lun)文，成為(wei)國(guo)際上最(zui)早開始(shi)人(ren)工智能輕量(liang)化研(yan)究的(de)機(ji)構之(zhi)一，相關(guan)(guan)成果引起了國(guo)內外諸多專家的(de)廣(guang)泛關(guan)(guan)注。
“我們(men)設計開發的輕量化(hua)人工智能(neng)平(ping)臺QEngine及輕量化(hua)算法已經在(zai)數十(shi)萬終端上(shang)部署。2019年，在(zai)國(guo)際神經信(xin)息(xi)處理系統大會的微型網絡挑(tiao)戰競賽中，我們(men)與ARM、IBM、高通、Xilinx等國(guo)際一流芯(xin)片公司同場競技(ji)，獲得了(le)輕量化(hua)神經網絡架構(gou)圖像(xiang)類的雙(shuang)冠軍。”程健表示。
2020年(nian)，中(zhong)國科學院(yuan)自動化研究(jiu)所自主(zhu)研發的全球首款極低比特量化神經處(chu)理芯片(pian)(QNPU)成功流片(pian)，繞(rao)開了芯片(pian)計算領(ling)域(yu)備受(shou)關(guan)注的“內存墻(qiang)”難(nan)題，在芯片(pian)成本、功耗、計算結構(gou)、邊緣計算等方面實現革命性的變(bian)革。
“該芯(xin)(xin)片的(de)面世，也標(biao)志著自動化研究所成(cheng)為了全(quan)球為數不(bu)多的(de)擁(yong)有‘人(ren)工智能芯(xin)(xin)片—平臺(tai)—算法(fa)’全(quan)棧輕量(liang)化人(ren)工智能技術的(de)機構之一。”冷聰說。
未(wei)來(lai)，以(yi)人工智(zhi)能(neng)驅動的(de)(de)小(xiao)型(xing)化(hua)(hua)設備會越(yue)(yue)來(lai)越(yue)(yue)多出現在我們身邊(bian)。由人工智(zhi)能(neng)芯片、平臺(tai)和算(suan)法組成的(de)(de)輕(qing)量化(hua)(hua)人工智(zhi)能(neng)終端(duan)將在越(yue)(yue)來(lai)越(yue)(yue)多的(de)(de)場景中應用。
“比(bi)如，在電力行業，我國(guo)的(de)輸電線(xian)路覆(fu)蓋(gai)廣，野外自然環(huan)境復雜，檢(jian)(jian)(jian)修維護作業危(wei)險(xian)系數高、難度大，我們設計的(de)自主巡檢(jian)(jian)(jian)無人機、缺陷(xian)識(shi)別分析便攜終端、通道可視化智能(neng)感知攝像頭(tou)具備多種智能(neng)識(shi)別、檢(jian)(jian)(jian)測和(he)分析功能(neng)，能(neng)夠(gou)保障輸配電線(xian)路的(de)安全和(he)電力系統穩定。”程健舉例說。
同時，在消費電(dian)子行業，暗光(guang)增強、超分辨率等自動化(hua)所設計的輕量化(hua)算法及(ji)輕量化(hua)神經(jing)網絡計算架構，也(ye)為(wei)手(shou)機終端、安防終端提供了(le)影像增強效(xiao)果。
程健表示，輕量(liang)化人工(gong)智(zhi)能(neng)未來(lai)將賦能(neng)萬物，讓每個設備都具有環境感知、人機(ji)交互、決策控制的能(neng)力。