欧宝体育

業務資訊
欧宝体育  > 新聞中心 > 業務資訊

對新一代AI倫理的考量需貫穿整個產品生命周期

發布日期: 2020-06-05 信息來源:欧宝体育

   人(ren)工智(zhi)(zhi)能科學與技術的(de)(de)發展(zhan)日新(xin)月異,它直接作用(yong)于社(she)會,也將以最(zui)直接的(de)(de)方式接收到(dao)社(she)會的(de)(de)反饋。它在推動(dong)科技、經濟、社(she)會的(de)(de)發展(zhan)中起到(dao)的(de)(de)持(chi)續性積極(ji)作用(yong)毋(wu)庸置疑,然而如果(guo)在其發展(zhan)過程中沒有對社(she)會潛在影(ying)響(xiang)和可(ke)持(chi)續性進行(xing)充分考(kao)慮,可(ke)能會造成預期之(zhi)外的(de)(de)負面影(ying)響(xiang)。因此,對人(ren)工智(zhi)(zhi)能倫理的(de)(de)考(kao)量應貫穿(chuan)于人(ren)工智(zhi)(zhi)能產品(pin)與服務的(de)(de)整(zheng)個生命周期。

  需(xu)秉承(cheng)以人(ren)為本及(ji)可持續發展的(de)理(li)念(nian)

  符(fu)合人(ren)類倫理與(yu)價(jia)值觀的人(ren)工(gong)智能(neng)應(ying)(ying)秉承以人(ren)為本及可(ke)持(chi)續(xu)發展的理念,尊(zun)重隱(yin)私,促進公(gong)平公(gong)正,不引(yin)入種族、文化等偏見(jian),人(ren)工(gong)智能(neng)技術的發展應(ying)(ying)做(zuo)到透明與(yu)可(ke)解釋、安全可(ke)控、可(ke)驗證、可(ke)追責(ze),為推(tui)動技術普惠各行各業、各個國家與(yu)地區(qu),應(ying)(ying)避免惡意競爭,促進開(kai)放(fang)合作與(yu)包(bao)容共享。

  倡導(dao)和(he)諧發(fa)展(zhan)應(ying)(ying)當(dang)是新一(yi)(yi)代人(ren)(ren)工智(zhi)能倫理(li)(li)(li)與(yu)治理(li)(li)(li)的(de)(de)主旋律(lv)。一(yi)(yi)方(fang)面為實現通過人(ren)(ren)工智(zhi)能增進人(ren)(ren)類(lei)共(gong)同福祉(zhi)這(zhe)一(yi)(yi)目標,采用(yong)(yong)的(de)(de)途徑并不唯一(yi)(yi),應(ying)(ying)當(dang)始終秉承與(yu)實踐和(he)而不同、和(he)合向善的(de)(de)發(fa)展(zhan)理(li)(li)(li)念。另一(yi)(yi)方(fang)面應(ying)(ying)推動人(ren)(ren)類(lei)與(yu)技(ji)術的(de)(de)和(he)諧共(gong)生(sheng),避免技(ji)術的(de)(de)誤用(yong)(yong)、濫用(yong)(yong)、惡用(yong)(yong)對人(ren)(ren)類(lei)權(quan)益(yi)的(de)(de)傷害,總體(ti)愿景應(ying)(ying)是發(fa)展(zhan)對人(ren)(ren)類(lei)與(yu)生(sheng)態(tai)有益(yi)的(de)(de)人(ren)(ren)工智(zhi)能。

  無論采取哪種技術途徑實(shi)現(xian)新(xin)一代人(ren)工智(zhi)能,都無法杜絕(jue)在發展過程(cheng)中(zhong)可能帶來的(de)(de)潛(qian)在技術與社會風(feng)險(xian)及(ji)對(dui)(dui)現(xian)代科技倫理的(de)(de)潛(qian)在沖(chong)擊。技術發展的(de)(de)途徑與方式的(de)(de)多(duo)樣性(xing)(xing)使(shi)得其(qi)所帶來的(de)(de)風(feng)險(xian)也具有(you)不確(que)定性(xing)(xing),因此應當在探索新(xin)一代人(ren)工智(zhi)能,特(te)別是不同類型的(de)(de)高等智(zhi)能的(de)(de)過程(cheng)中(zhong),建立對(dui)(dui)其(qi)技術與社會風(feng)險(xian)的(de)(de)持(chi)續(xu)戰略性(xing)(xing)前瞻研(yan)究,以避免、降低潛(qian)在風(feng)險(xian)帶來的(de)(de)負(fu)面影響。

  在對未來(lai)人工智能(neng)的(de)潛在風險(xian)及(ji)(ji)應對策略的(de)研究方面,應最大限度地(di)共享(xiang)對隱患的(de)認識及(ji)(ji)危機(ji)處理方案與經驗。只(zhi)有(you)建(jian)立全(quan)球共享(xiang)、群策群力的(de)機(ji)制并采取行動(dong),才能(neng)保證安全(quan),避免顛(dian)覆性技術可能(neng)帶來(lai)的(de)災難性風險(xian)。

  多方協作實現發(fa)展(zhan)與治理(li)雙輪驅動

  作為我國新(xin)一代人工(gong)智(zhi)(zhi)能(neng)(neng)戰略的牽頭單位,2019年3月,科技部組建(jian)了(le)國家(jia)新(xin)一代人工(gong)智(zhi)(zhi)能(neng)(neng)治(zhi)理專(zhuan)業委員會。同(tong)年6月,該委員會發(fa)布了(le)《新(xin)一代人工(gong)智(zhi)(zhi)能(neng)(neng)治(zhi)理原(yuan)(yuan)則——發(fa)展負責任(ren)的人工(gong)智(zhi)(zhi)能(neng)(neng)》,這是我國新(xin)一代人工(gong)智(zhi)(zhi)能(neng)(neng)戰略對發(fa)展與(yu)治(zhi)理關系的原(yuan)(yuan)則性闡(chan)述(shu),也(ye)是中國新(xin)一代人工(gong)智(zhi)(zhi)能(neng)(neng)治(zhi)理的重要基(ji)礎。

  為了確(que)保中國新(xin)(xin)一(yi)代人工智能向對社會有益的(de)方向發(fa)展(zhan)(zhan),新(xin)(xin)一(yi)代人工智能應(ying)采(cai)取發(fa)展(zhan)(zhan)與治(zhi)理雙(shuang)輪驅動(dong)的(de)戰略。治(zhi)理的(de)目的(de)并不是阻(zu)礙發(fa)展(zhan)(zhan),而是保持發(fa)展(zhan)(zhan)的(de)穩(wen)健。

  敏(min)捷治(zhi)(zhi)理(li)(li)應(ying)成為(wei)(wei)中(zhong)國人工(gong)智能(neng)治(zhi)(zhi)理(li)(li)重要特征之一。這里敏(min)捷治(zhi)(zhi)理(li)(li)可以被(bei)解讀為(wei)(wei)有兩方面(mian)的含義: 一方面(mian)是人工(gong)智能(neng)治(zhi)(zhi)理(li)(li)隨人工(gong)智能(neng)技術的進展進行自適應(ying),使得治(zhi)(zhi)理(li)(li)工(gong)作能(neng)夠更適應(ying)發展的特點;另一方面(mian)是相關治(zhi)(zhi)理(li)(li)工(gong)作動作迅速。

  與新(xin)(xin)一(yi)(yi)代人工智(zhi)能發(fa)(fa)展一(yi)(yi)脈相承,作(zuo)為(wei)中國(guo)人工智(zhi)能發(fa)(fa)展的(de)重要(yao)方面,人工智(zhi)能治(zhi)理(li)(li)在中國(guo)也應(ying)通過多(duo)部(bu)門(men)(men)聯動深度協作(zuo)的(de)方式進行。政(zheng)府部(bu)門(men)(men)、科研機構、企(qi)業等創新(xin)(xin)單(dan)元在人工智(zhi)能治(zhi)理(li)(li)工作(zuo)中應(ying)各自承擔(dan)相應(ying)的(de)責任并(bing)深度協作(zuo),真正從技術和社會等不(bu)同(tong)視(shi)角(jiao)實現新(xin)(xin)一(yi)(yi)代人工智(zhi)能的(de)敏(min)捷治(zhi)理(li)(li)。

  建(jian)立人工智能治理公共(gong)服務體系防患于未然

  未來(lai),一方(fang)面(mian)需要(yao)政府相(xiang)關(guan)部門(men)、科研機構(gou)、產(chan)業對人(ren)工智(zhi)能可能存(cun)在(zai)的(de)(de)(de)風險、安全(quan)與(yu)倫理隱患加以足夠的(de)(de)(de)重視,并對人(ren)工智(zhi)能倫理與(yu)治理進(jin)行戰略性的(de)(de)(de)關(guan)注與(yu)投入,加強(qiang)自律自治。另一方(fang)面(mian),對于國家和地(di)方(fang)相(xiang)關(guan)機構(gou)而言,應當推動人(ren)工智(zhi)能治理相(xiang)關(guan)高端(duan)智(zhi)庫、執行機構(gou)、協(xie)作網(wang)絡的(de)(de)(de)建立,并鼓勵公眾(zhong)參與(yu)討論(lun),及時了解公眾(zhong)對技術參與(yu)變(bian)革(ge)社(she)會的(de)(de)(de)思考。

  需要指(zhi)出,新(xin)一(yi)代(dai)人(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)(neng)治(zhi)(zhi)理工(gong)(gong)(gong)作(zuo)的(de)重點(dian)應當(dang)是(shi)防(fang)患于(yu)未(wei)然,而不僅僅是(shi)事后的(de)警戒、責令整(zheng)改與(yu)(yu)懲治(zhi)(zhi)。發展與(yu)(yu)治(zhi)(zhi)理的(de)雙輪驅動(dong)需要將人(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)(neng)倫(lun)(lun)(lun)(lun)理與(yu)(yu)治(zhi)(zhi)理工(gong)(gong)(gong)作(zuo)推動(dong)為兼服(fu)務(wu)(wu)與(yu)(yu)監管于(yu)一(yi)身的(de)公共(gong)體系(xi)。應鼓勵政府(fu)相關(guan)部門(men)、科研機(ji)(ji)構、企(qi)業及其他創新(xin)單元,乃至(zhi)公眾(zhong)共(gong)建新(xin)一(yi)代(dai)人(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)(neng)倫(lun)(lun)(lun)(lun)理與(yu)(yu)治(zhi)(zhi)理公共(gong)體系(xi)。應在政府(fu)和相關(guan)機(ji)(ji)構的(de)指(zhi)導下,鼓勵新(xin)一(yi)代(dai)人(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)(neng)倫(lun)(lun)(lun)(lun)理與(yu)(yu)治(zhi)(zhi)理公共(gong)服(fu)務(wu)(wu)平臺的(de)建設并(bing)(bing)面向政府(fu)、科研機(ji)(ji)構、企(qi)業、公眾(zhong)提供服(fu)務(wu)(wu),從而負責任地推動(dong)并(bing)(bing)確(que)保新(xin)一(yi)代(dai)人(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)(neng)的(de)穩健發展。(作(zuo)者系(xi)中(zhong)(zhong)科院(yuan)自動(dong)化研究所(suo)研究員、北京(jing)智(zhi)(zhi)源人(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)(neng)研究院(yuan)人(ren)(ren)(ren)(ren)工(gong)(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)(neng)倫(lun)(lun)(lun)(lun)理與(yu)(yu)安(an)全中(zhong)(zhong)心主任 曾(ceng)毅)

 

媒體垂詢

E-mail:ZNJ@mucagel.com

欧宝体育