欧宝体育

業務資訊
欧宝体育  > 新聞中心 > 業務資訊

人工智能產業先過“安全可控”關

發布日期: 2021-07-07 信息來源:欧宝体育

   人(ren)工智能正加速各行(xing)各業的智能化(hua)轉型,但(dan)數據隱私、算(suan)法偏(pian)見、技術濫用等(deng)安(an)全問(wen)題也給人(ren)工智能的治理與產業發(fa)展帶來嚴峻(jun)挑(tiao)戰(zhan)。

  未來人工(gong)智(zhi)(zhi)能(neng)如何兼顧(gu)創新(xin)發(fa)展(zhan)與安全(quan)可控?在前不久舉辦的(de)北京智(zhi)(zhi)源大(da)(da)會(hui)AI安全(quan)與產業(ye)治理論壇上,中國(guo)科學院(yuan)院(yuan)士(shi)、清華大(da)(da)學人工(gong)智(zhi)(zhi)能(neng)研(yan)究院(yuan)院(yuan)長張鈸(ba)表(biao)示,未來人工(gong)智(zhi)(zhi)能(neng)產業(ye)發(fa)展(zhan)在擴大(da)(da)應(ying)用場景的(de)同時(shi),必須(xu)實現數(shu)據、算法(fa)與應(ying)用層的(de)安全(quan)可控。

  “人(ren)(ren)工智能的(de)安全(quan)可(ke)控問題要從技術(shu)層面來解決。”在具體實(shi)現路徑上,張(zhang)鈸提出了發展“第三代(dai)人(ren)(ren)工智能”,即(ji)融合第一代(dai)知(zhi)識驅(qu)動(dong)和第二代(dai)數據(ju)驅(qu)動(dong)的(de)人(ren)(ren)工智能,利用數據(ju)、知(zhi)識、算法和算力(li)4個要素,發展安全(quan)、可(ke)信、可(ke)靠和可(ke)擴展的(de)AI技術(shu)。

  如何(he)定(ding)義人(ren)(ren)工(gong)(gong)智能(neng)“安(an)全(quan)可(ke)控(kong)”?北(bei)京瑞萊智慧科(ke)技有(you)限公(gong)司(si)CEO田(tian)天認為(wei),“安(an)全(quan)”是(shi)(shi)指打造數(shu)(shu)據安(an)全(quan)與算法安(an)全(quan)兩大核心能(neng)力(li)(li),解決數(shu)(shu)據強依(yi)賴帶來的(de)隱私泄露(lu)等隱患,同時提升算法的(de)可(ke)靠性,從而保(bao)證系(xi)統(tong)在網絡過(guo)載或有(you)意攻擊情況下,依(yi)然穩定(ding)運行不崩潰;“可(ke)控(kong)”既指應用層面的(de)合規可(ke)控(kong),更指核心技術的(de)自主(zhu)可(ke)控(kong),以自主(zhu)可(ke)控(kong)為(wei)根基(ji),通過(guo)理論創新、技術突(tu)破形(xing)成核心競爭力(li)(li)。安(an)全(quan)可(ke)控(kong)是(shi)(shi)發(fa)展(zhan)第(di)三代人(ren)(ren)工(gong)(gong)智能(neng)的(de)核心基(ji)準,也是(shi)(shi)加快人(ren)(ren)工(gong)(gong)智能(neng)高質量發(fa)展(zhan)的(de)有(you)力(li)(li)支撐。

  數(shu)據的不(bu)安(an)全(quan)和算法(fa)的不(bu)安(an)全(quan)是制(zhi)約當前人工(gong)(gong)智(zhi)(zhi)能(neng)產(chan)業發(fa)展的主(zhu)要(yao)因素(su),也(ye)是發(fa)展安(an)全(quan)可(ke)控人工(gong)(gong)智(zhi)(zhi)能(neng)需(xu)要(yao)解決的核心問(wen)題。在中國信息通信研究(jiu)院安(an)全(quan)所信息安(an)全(quan)研究(jiu)部(bu)主(zhu)任魏薇看來(lai),人工(gong)(gong)智(zhi)(zhi)能(neng)與數(shu)據產(chan)業互促發(fa)展的同時,安(an)全(quan)問(wen)題也(ye)相互影響。一方面(mian),人工(gong)(gong)智(zhi)(zhi)能(neng)對數(shu)據強依(yi)賴(lai)的發(fa)展特(te)性(xing)導(dao)致(zhi)其面(mian)臨(lin)的自身數(shu)據安(an)全(quan)風險、應用導(dao)致(zhi)的數(shu)據安(an)全(quan)風險以及應用加劇(ju)的數(shu)據治理挑(tiao)戰日(ri)益凸顯(xian);另一方面(mian),人工(gong)(gong)智(zhi)(zhi)能(neng)也(ye)為(wei)數(shu)據治理工(gong)(gong)作提(ti)供自動化(hua)、智(zhi)(zhi)能(neng)化(hua)、高效化(hua)、精(jing)準化(hua)的智(zhi)(zhi)慧(hui)支撐。

  相較數據安(an)全(quan),算(suan)法安(an)全(quan)問題初露端倪(ni)。阿里安(an)全(quan)資(zi)深算(suan)法專家何(he)源介紹,雖然人(ren)工智(zhi)能(neng)技術(shu)已經在凈化網(wang)絡環境、知(zhi)識產權保(bao)護、生物識別、線下安(an)防等安(an)全(quan)工作中發揮著越來(lai)越大(da)的助力(li)作用,讓(rang)安(an)全(quan)更(geng)智(zhi)能(neng),但其本身(shen)也面(mian)臨著魯棒(bang)性(xing)不(bu)夠、可解釋性(xing)差、技術(shu)濫用等安(an)全(quan)風險。比如,算(suan)法漏洞的存在可以針對圖像檢索(suo)系統(tong)開展攻擊,導致非原(yuan)創圖片逃逸檢測,對網(wang)站安(an)全(quan)與商家權益造成威脅。

  發展安全可控的(de)(de)人工(gong)智能(neng)(neng)是一項(xiang)系統(tong)(tong)(tong)性的(de)(de)工(gong)作,需要從行業標準、法律規范(fan)、技(ji)術(shu)發展等(deng)多(duo)個維(wei)度打(da)造(zao)與之配套的(de)(de)“基礎(chu)設施(shi)”,其中(zhong)技(ji)術(shu)基礎(chu)設施(shi)的(de)(de)打(da)造(zao)仍(reng)將發揮基礎(chu)性作用。比如,基于安全多(duo)方計算、聯邦學習、匿蹤查詢等(deng)技(ji)術(shu)打(da)造(zao)數據(ju)(ju)安全共享平臺解決數據(ju)(ju)隱私難題,讓數據(ju)(ju)安全共享流通;打(da)造(zao)人工(gong)智能(neng)(neng)系統(tong)(tong)(tong)防火墻,為人臉識別、目標檢(jian)測、圖像分(fen)類等(deng)系統(tong)(tong)(tong)提供安全檢(jian)測與防御加(jia)固,從根本上(shang)提升系統(tong)(tong)(tong)安全性。

  在新基建(jian)浪潮驅(qu)動下(xia),人工智(zhi)(zhi)(zhi)能(neng)(neng)產業(ye)即將迎來(lai)與(yu)傳(chuan)統產業(ye)深(shen)度(du)融(rong)合(he)(he)的(de)(de)機遇期。田天表示,在安(an)全(quan)(quan)可控的(de)(de)核心(xin)支撐(cheng)下(xia),人工智(zhi)(zhi)(zhi)能(neng)(neng)能(neng)(neng)夠實現從(cong)“單點自動化”到“深(shen)度(du)智(zhi)(zhi)(zhi)能(neng)(neng)化”的(de)(de)價值提升。例如(ru),在金融(rong)領域,人工智(zhi)(zhi)(zhi)能(neng)(neng)的(de)(de)創新融(rong)合(he)(he)正(zheng)為金融(rong)行業(ye)打造出一個兼具決(jue)策分析與(yu)感官感知的(de)(de)“智(zhi)(zhi)(zhi)慧(hui)大腦”。而在安(an)全(quan)(quan)可控的(de)(de)支撐(cheng)下(xia),“智(zhi)(zhi)(zhi)慧(hui)大腦”能(neng)(neng)夠拓(tuo)展(zhan)全(quan)(quan)新能(neng)(neng)力(li)邊界(jie),形成(cheng)更好(hao)的(de)(de)“決(jue)策左腦”與(yu)更加安(an)全(quan)(quan)可靠(kao)的(de)(de)“感知右腦”。

  在(zai)安全(quan)可(ke)控(kong)(kong)的(de)助力(li)下(xia),“深(shen)度(du)智(zhi)能(neng)”時(shi)代(dai)正(zheng)加(jia)速到來,人工智(zhi)能(neng)在(zai)各行業領域的(de)應用廣度(du)和(he)深(shen)度(du)將不斷得到拓展。“第三代(dai)人工智(zhi)能(neng)通過釋放(fang)‘數據、知識、算法、算力(li)’的(de)全(quan)新(xin)維度(du),為實現安全(quan)可(ke)控(kong)(kong)的(de)新(xin)一(yi)代(dai)人工智(zhi)能(neng)提供(gong)可(ke)能(neng),讓人工智(zhi)能(neng)走出‘淺層智(zhi)能(neng)’的(de)舒適區(qu),重塑產業價值。”田天說(shuo)。

 

媒體垂詢

E-mail:ZNJ@mucagel.com

欧宝体育