欧宝体育

業務資訊
欧宝体育  > 新聞中心 > 業(ye)務資訊

AI進入下半場 目標瞄準“舉重若輕”“大材小用”

發布日期: 2021-04-29 信息來源:欧宝体育

    產業的(de)需求決定(ding)了要(yao)完成的(de)人工(gong)智能(neng)任務(wu)越(yue)來越(yue)復雜(za),輕量化人工(gong)智能(neng)必(bi)須通過加速(su)運(yun)算效率(lv)、提高(gao)計算密度才(cai)能(neng)實現極致(zhi)的(de)效率(lv)。

  ——冷聰 中國科學院自動化研究所(suo)副研究員(yuan)

  ◎本報(bao)記者 陸(lu)成寬(kuan)

  人(ren)工(gong)智(zhi)(zhi)能(neng)(neng)算(suan)法的復雜度(du)急劇攀升(sheng),神經(jing)網絡計算(suan)的能(neng)(neng)耗代價越來(lai)(lai)越高(gao),數(shu)據(ju)洪(hong)水式地涌積堰塞……這(zhe)些年,人(ren)工(gong)智(zhi)(zhi)能(neng)(neng)的發(fa)展遇到了越來(lai)(lai)越多的瓶頸。如(ru)何將(jiang)人(ren)工(gong)智(zhi)(zhi)能(neng)(neng)模型及其計算(suan)載體前(qian)端化(hua)(hua)、輕(qing)量(liang)化(hua)(hua)成(cheng)為(wei)(wei)(wei)亟待(dai)解決的問題。最新興起(qi)的輕(qing)量(liang)化(hua)(hua)人(ren)工(gong)智(zhi)(zhi)能(neng)(neng)被寄予(yu)厚望,以“輕(qing)量(liang)化(hua)(hua)”為(wei)(wei)(wei)賽點的人(ren)工(gong)智(zhi)(zhi)能(neng)(neng)競賽下半場已經(jing)來(lai)(lai)臨。為(wei)(wei)(wei)此(ci),4月27日,科(ke)技日報記者(zhe)采訪了中國科(ke)學院自動化(hua)(hua)研究所的相關專(zhuan)家。

  輕量化成為人工(gong)智能下(xia)半場(chang)賽點

  人工智能(neng)技術在行業應用中,大多依賴海量的(de)(de)訓(xun)練數據(ju)和大規模服(fu)務器的(de)(de)算力支(zhi)持(chi)。

  然而,近(jin)年(nian)來(lai),隨著信息技術領域的(de)摩爾定律(lv)逐步放緩(huan),硬件的(de)發展越(yue)來(lai)越(yue)難(nan)以(yi)滿足當前人工智能模型動輒(zhe)萬億級規模的(de)存儲和算力需(xu)求,數據堰塞、存儲暴漲(zhang)、隱私泄露(lu)、能耗高企(qi)等(deng)問題隨之而來(lai)。

  “當前,對(dui)于人工(gong)智(zhi)能(neng)設備和應(ying)用的(de)快速(su)響應(ying)、隱(yin)私保(bao)護以(yi)及(ji)節能(neng)減排的(de)需求越發凸顯,輕量(liang)化人工(gong)智(zhi)能(neng)應(ying)運而生,并被(bei)寄予(yu)厚望。2020年,《麻省理工(gong)科(ke)(ke)技評論》將輕量(liang)化人工(gong)智(zhi)能(neng)列為‘全球十大突破(po)性技術’。”中國(guo)科(ke)(ke)學(xue)院(yuan)自動(dong)化研(yan)究(jiu)所(suo)研(yan)究(jiu)員程健說。

  所(suo)謂輕量(liang)(liang)化人(ren)工智(zhi)(zhi)能,是(shi)指以一系列輕量(liang)(liang)化技術(shu)為驅動提高芯(xin)片、平臺和算(suan)法的(de)效率,在(zai)更緊密的(de)物理空間上實(shi)現(xian)低功耗的(de)人(ren)工智(zhi)(zhi)能訓練和應(ying)用部署,不需(xu)要依賴與(yu)云端的(de)交互就能實(shi)現(xian)智(zhi)(zhi)能化操作的(de)人(ren)工智(zhi)(zhi)能。

  輕(qing)量(liang)(liang)化(hua)(hua)人工(gong)智(zhi)能(neng)被評(ping)(ping)(ping)入“全球十大突破(po)性技(ji)術”,《麻省理工(gong)科技(ji)評(ping)(ping)(ping)論》給出的評(ping)(ping)(ping)選理由是(shi),輕(qing)量(liang)(liang)化(hua)(hua)智(zhi)能(neng)使現有的服務,比如語音助(zhu)手(shou)、手(shou)機拍照等,變得更(geng)(geng)好更(geng)(geng)快,不必每次都需要連接云端才能(neng)運行深度學(xue)習(xi)模型(xing);此(ci)外,輕(qing)量(liang)(liang)化(hua)(hua)人工(gong)智(zhi)能(neng)也將使新的應(ying)用(yong)成為可能(neng),比如基于(yu)移(yi)動端的醫學(xue)檢測分析、對反應(ying)時間要求(qiu)更(geng)(geng)快的自動駕駛汽車(che);此(ci)外,本(ben)地化(hua)(hua)的人工(gong)智(zhi)能(neng)更(geng)(geng)利于(yu)隱(yin)私保(bao)護,用(yong)戶的數(shu)據不再(zai)需要離開設備就能(neng)實現服務功能(neng)的進(jin)化(hua)(hua)。

  “更重要的是,輕(qing)(qing)量化人(ren)(ren)工智能(neng)(neng)將(jiang)人(ren)(ren)工智能(neng)(neng)推向更主流,它大(da)大(da)降低了人(ren)(ren)工智能(neng)(neng)系統的部署難(nan)度和成本(ben),把(ba)人(ren)(ren)工智能(neng)(neng)從一(yi)場高(gao)門(men)檻的科(ke)技巨(ju)頭競賽變成更容易(yi)普惠民生的智能(neng)(neng)生態。”程健說,在人(ren)(ren)工智能(neng)(neng)領域的角逐中(zhong),以輕(qing)(qing)量化為賽點的下半場已經來臨。

  極致效(xiao)率、極低(di)能耗是最終追求

  在(zai)表(biao)現上,輕量化人工智能是在(zai)做減法(fa),降低(di)(di)能耗、降低(di)(di)對(dui)硬件平(ping)臺性能指標的(de)要求、降低(di)(di)與云(yun)端(duan)的(de)通(tong)訊需求等。

  然(ran)而,“實(shi)質上,輕量(liang)化的內核卻(que)是在做加法。”中國科學院自動化研究所副研究員(yuan)冷聰說,產業(ye)的需求決定了要完成的人工智(zhi)能(neng)(neng)任務越來越復雜,輕量(liang)化人工智(zhi)能(neng)(neng)必須通過提(ti)高運(yun)算速度、計算密度才能(neng)(neng)實(shi)現(xian)極(ji)致(zhi)的效率。

  在程健看來,在精度接近無損的前提下,將(jiang)人工智能模型(xing)及其計算載體輕量化(hua),是一個(ge)極(ji)具挑戰(zhan)性的任務(wu)。

  解決這(zhe)一(yi)問題,需要對神(shen)經(jing)網絡進行輕量化(hua)設計、計算加速以及設計新的計算架(jia)構以實(shi)現模型的硬件(jian)化(hua),這(zhe)需要從軟件(jian)和硬件(jian)兩方(fang)面來(lai)著手。

  在(zai)軟件上,進行模型(xing)(xing)和(he)算法創新,通(tong)(tong)(tong)過(guo)輕量(liang)化(hua)模型(xing)(xing)設(she)計、矩(ju)陣(zhen)分解(jie)、稀疏表(biao)示、量(liang)化(hua)計算來實(shi)現模型(xing)(xing)的(de)(de)微型(xing)(xing)化(hua)和(he)計算加速;而(er)在(zai)硬件上,則(ze)要通(tong)(tong)(tong)過(guo)流水(shui)線設(she)計、存儲模式設(she)計等手段進行硬件架構的(de)(de)創新,通(tong)(tong)(tong)過(guo)軟硬協(xie)同設(she)計和(he)優化(hua)實(shi)現人工智(zhi)能的(de)(de)輕量(liang)化(hua)。

  “雖(sui)然(ran)執行神(shen)經(jing)網(wang)絡計算的(de)是(shi)硬(ying)件,但(dan)神(shen)經(jing)網(wang)絡結構和(he)人工智(zhi)能平(ping)(ping)臺(tai)決定了(le)計算量的(de)大小和(he)運算方式(shi)。”冷聰坦言,所以(yi)極致的(de)輕(qing)量化必(bi)須是(shi)軟件和(he)硬(ying)件的(de)協同輕(qing)量化——基于復雜的(de)人工智(zhi)能應用場景,將(jiang)芯片、平(ping)(ping)臺(tai)和(he)算法充分結合(he)以(yi)聯合(he)加速。

  作(zuo)為人工智能的(de)硬件(jian)載體,人工智能芯(xin)片必須達(da)到更高的(de)性能、更高的(de)效(xiao)率、更低的(de)功(gong)耗和更小的(de)體積。這樣才能有(you)足(zu)夠平價高效(xiao)的(de)計算平臺滿足(zu)產業需(xu)求(qiu),承載復雜(za)的(de)人工智能任(ren)務,并(bing)且使(shi)推理(li)和運算從云(yun)端(duan)遷移(yi)到終端(duan)。

  同時,輕(qing)量化(hua)的(de)人(ren)工智(zhi)(zhi)能平臺(tai)要以更低(di)的(de)功耗來訓練和運行人(ren)工智(zhi)(zhi)能算(suan)法(fa),最大化(hua)的(de)發掘硬件的(de)能力。更重要的(de)是,應用輕(qing)量化(hua)技(ji)術的(de)神經(jing)網絡模型要小規模、少(shao)運算(suan)量并保持(chi)良好的(de)精度。

  未(wei)來(lai)輕量化人工智能將賦能萬物

  程(cheng)健介紹,中國科學院自動(dong)化(hua)研究所是輕量化(hua)人工(gong)智能的先(xian)行者(zhe),很早就開始了軟硬協同輕量化(hua)的技術研究,并走(zou)在國際前列(lie)。

  早(zao)在(zai)2016年,卷積神經網絡大規模邁向應(ying)用(yong)之初,中(zhong)國科學院自動化(hua)研(yan)究所就在(zai)國際(ji)人工智能頂(ding)級期刊(kan)發表了多篇(pian)神經網絡模型輕(qing)(qing)量化(hua)領域的重要(yao)論文,成為國際(ji)上最早(zao)開始人工智能輕(qing)(qing)量化(hua)研(yan)究的機構(gou)之一(yi),相關(guan)(guan)成果引起了國內外(wai)諸多專(zhuan)家的廣泛關(guan)(guan)注。

  “我們設計開(kai)發(fa)的(de)(de)輕量化(hua)(hua)人工(gong)智能平臺QEngine及輕量化(hua)(hua)算法已經(jing)在數十萬終端(duan)上部(bu)署。2019年,在國際(ji)神經(jing)信息處(chu)理系(xi)統(tong)大會的(de)(de)微(wei)型網絡(luo)挑戰(zhan)競(jing)賽中(zhong),我們與(yu)ARM、IBM、高通、Xilinx等(deng)國際(ji)一(yi)流芯(xin)片(pian)公(gong)司同場競(jing)技,獲得了(le)輕量化(hua)(hua)神經(jing)網絡(luo)架構圖像類的(de)(de)雙冠軍。”程健(jian)表(biao)示。

  2020年,中國(guo)科學院(yuan)自動化研究所(suo)自主研發的全球首款極低比特量化神經處理芯片(QNPU)成功流片,繞開了(le)芯片計(ji)算領域備受關注(zhu)的“內存墻”難題(ti),在芯片成本、功耗、計(ji)算結構、邊緣計(ji)算等(deng)方(fang)面實現革命性的變革。

  “該芯(xin)片(pian)的面世(shi),也標志(zhi)著自動化研究所(suo)成為(wei)了全球為(wei)數不多的擁有‘人工智能芯(xin)片(pian)—平臺—算法’全棧輕量(liang)化人工智能技(ji)術(shu)的機構之一(yi)。”冷(leng)聰說。

  未來,以(yi)人(ren)(ren)工(gong)智(zhi)能(neng)驅動的小(xiao)型(xing)化(hua)設備(bei)會越(yue)(yue)來越(yue)(yue)多出(chu)現在我們身邊。由人(ren)(ren)工(gong)智(zhi)能(neng)芯片、平臺和算法組成的輕(qing)量化(hua)人(ren)(ren)工(gong)智(zhi)能(neng)終端將在越(yue)(yue)來越(yue)(yue)多的場景中應用。

  “比(bi)如,在(zai)電(dian)力(li)行業,我國的輸電(dian)線(xian)(xian)路(lu)覆(fu)蓋廣,野外自然環境復(fu)雜(za),檢(jian)修維護作(zuo)業危險系(xi)數高、難度大,我們設計的自主巡檢(jian)無人機、缺陷識別分析便(bian)攜終端、通道可視化智能(neng)感知攝像(xiang)頭具備多種智能(neng)識別、檢(jian)測和分析功能(neng),能(neng)夠保障輸配(pei)電(dian)線(xian)(xian)路(lu)的安全和電(dian)力(li)系(xi)統穩(wen)定。”程(cheng)健(jian)舉例(li)說。

  同時(shi),在(zai)消費(fei)電子行業,暗光(guang)增強、超分辨率等自動(dong)化所設計的輕量化算(suan)法及輕量化神(shen)經網絡(luo)計算(suan)架構,也(ye)為手機終端(duan)、安防終端(duan)提供了影像增強效果(guo)。

  程健表示,輕量化人工智(zhi)能未來將賦能萬物,讓每個設(she)備都具有環境感知、人機交互(hu)、決策控制的能力。

 

媒體垂詢

E-mail:ZNJ@mucagel.com

欧宝体育