在京舉行的世界機器人大會上，人工智能的倫理法律話題引熱議

　　機器與人 怎樣當好“合伙人”

　　15日(ri)，2018世界機(ji)器(qi)(qi)人(ren)大會在(zai)北京(jing)亦創(chuang)國際會展(zhan)中心開幕，展(zhan)示全世界機(ji)器(qi)(qi)人(ren)產業(ye)的最新成果。為期(qi)3天的論壇上，由機(ji)器(qi)(qi)人(ren)發展(zhan)引發的人(ren)工(gong)智能倫理(li)和法(fa)律話題就是議題之一。

　　應當建立規范機器人及其使用行為的法律框架

　　在(zai)國際人(ren)(ren)工(gong)(gong)智(zhi)(zhi)能(neng)(neng)界(jie)，不(bu)少人(ren)(ren)認為人(ren)(ren)工(gong)(gong)智(zhi)(zhi)能(neng)(neng)會對人(ren)(ren)類產生巨(ju)大威脅(xie)，呼吁不(bu)要開發“人(ren)(ren)工(gong)(gong)智(zhi)(zhi)能(neng)(neng)自主武(wu)器(qi)”，警(jing)惕人(ren)(ren)工(gong)(gong)智(zhi)(zhi)能(neng)(neng)的(de)潛在(zai)風險。他們(men)討論(lun)的(de)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)能(neng)(neng)，通常指(zhi)的(de)是(shi)未(wei)來(lai)能(neng)(neng)自主進(jin)化、有(you)類人(ren)(ren)意識的(de)“強人(ren)(ren)工(gong)(gong)智(zhi)(zhi)能(neng)(neng)”，而當前應用(yong)的(de)多是(shi)擅長單項(xiang)任務、完成人(ren)(ren)類指(zhi)令的(de)“弱(ruo)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)能(neng)(neng)”。即便如此(ci)，人(ren)(ren)工(gong)(gong)智(zhi)(zhi)能(neng)(neng)的(de)迅速發展帶來(lai)的(de)挑戰已經逐漸(jian)顯現。

　　為保護隱私，人(ren)們(men)發(fa)布照片或(huo)視(shi)頻(pin)時，會(hui)打上馬賽克覆(fu)蓋人(ren)臉，但美國一個研(yan)究小組開發(fa)了一套機(ji)器學習(xi)算法，通(tong)過訓練，神經網(wang)絡可以識別圖像或(huo)視(shi)頻(pin)中隱藏的信息。

　　時下(xia)，一些機(ji)(ji)器(qi)人(ren)應用(yong)到兒童(tong)和老人(ren)陪護中。中國社(she)會(hui)科(ke)學(xue)院哲學(xue)研究所研究員段偉文認為(wei)，機(ji)(ji)器(qi)人(ren)與兒童(tong)對(dui)(dui)答、給老人(ren)喂(wei)飯等行(xing)為(wei)看似簡單，長期(qi)相處可(ke)能使人(ren)類對(dui)(dui)機(ji)(ji)器(qi)傾注感情、產(chan)生(sheng)依(yi)賴，有(you)必要(yao)設(she)置(zhi)(zhi)防止(zhi)過度依(yi)賴機(ji)(ji)器(qi)人(ren)的(de)原(yuan)則。此(ci)外，無人(ren)駕駛汽車發(fa)生(sheng)交通事故怎么界定責任，醫療外科(ke)手術(shu)機(ji)(ji)器(qi)人(ren)出現意外怎樣處置(zhi)(zhi)……隨著智能機(ji)(ji)器(qi)人(ren)深(shen)入(ru)參與人(ren)類生(sheng)活，專家認為(wei)，如何建(jian)立規范機(ji)(ji)器(qi)人(ren)及其使用(yong)行(xing)為(wei)的(de)法律框架，成為(wei)人(ren)工智能和機(ji)(ji)器(qi)人(ren)產(chan)業發(fa)展無法回避的(de)重要(yao)問題(ti)。

　　清華大學人工(gong)智(zhi)能(neng)研究院院長、中科(ke)院院士(shi)張鈸(ba)曾表(biao)示，當前(qian)的人工(gong)智(zhi)能(neng)與人類(lei)智(zhi)能(neng)本質上是不同的。與人類(lei)相(xiang)比(bi)，人工(gong)智(zhi)能(neng)系統(tong)抗干(gan)擾能(neng)力(li)差，推廣能(neng)力(li)弱，甚至(zhi)可(ke)能(neng)犯大錯。因此使(shi)用這樣的人工(gong)智(zhi)能(neng)系統(tong)需要小心。

　　思考與智能機器的相處模式，控制不良影響

　　人工智能的發展(zhan)幾(ji)經波(bo)折，也在(zai)不(bu)斷(duan)進化。

　　“人工智能及其(qi)智能化自動系統的普遍應(ying)用，不(bu)僅僅是一場結果未知的科技創新，更可能是人類文明史上影(ying)響(xiang)深(shen)遠(yuan)的社會倫理試驗(yan)。”段偉文說。

　　北京師范大(da)學哲(zhe)學學院教授田海平(ping)表示(shi)，機(ji)(ji)器(qi)深(shen)度學習和算法(fa)體(ti)系，使得智(zhi)能(neng)(neng)體(ti)具有了一(yi)種準人(ren)格或擬主體(ti)的(de)特(te)性。當(dang)前，“阿爾法(fa)狗(gou)”、醫療機(ji)(ji)器(qi)人(ren)“沃森(sen)”和智(zhi)能(neng)(neng)伴侶虛擬機(ji)(ji)器(qi)人(ren)微軟“小冰”仍屬于(yu)“弱人(ren)工(gong)智(zhi)能(neng)(neng)”，離(li)真正的(de)智(zhi)能(neng)(neng)主體(ti)還比較遠(yuan)。即便如此(ci)，它(ta)(ta)們(men)也(ye)已經呈現改變人(ren)類形態的(de)發展趨勢。未來(lai)假若“強人(ren)工(gong)智(zhi)能(neng)(neng)”出現，并(bing)深(shen)度介入(ru)人(ren)類事務，那么，“我(wo)們(men)必須提前思考人(ren)類如何與(yu)之相(xiang)處的(de)問題(ti)，控制它(ta)(ta)的(de)不良影響。”田海平(ping)說(shuo)：“人(ren)工(gong)智(zhi)能(neng)(neng)是(shi)否以及(ji)如何為自己的(de)行為負責，這仍然且始終是(shi)技術難題(ti)。”

　　近(jin)年來，國際人(ren)(ren)工(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)界日益重視人(ren)(ren)工(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)中的(de)(de)(de)(de)(de)倫(lun)(lun)理與(yu)法律(lv)問題，并推動相關技術標(biao)準及社會(hui)規范的(de)(de)(de)(de)(de)研(yan)討和(he)制(zhi)定。2017年1月，一個國際學術會(hui)議制(zhi)定并發(fa)布了人(ren)(ren)工(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)23條(tiao)倫(lun)(lun)理原則(ze)，其中包(bao)括，人(ren)(ren)工(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)研(yan)究的(de)(de)(de)(de)(de)目標(biao)應該建立有(you)益的(de)(de)(de)(de)(de)智(zhi)(zhi)(zhi)能(neng)(neng)，而(er)不是無向(xiang)的(de)(de)(de)(de)(de)智(zhi)(zhi)(zhi)能(neng)(neng)；人(ren)(ren)工(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)系統的(de)(de)(de)(de)(de)設(she)計和(he)運作應符(fu)合人(ren)(ren)類尊(zun)嚴，權利，自由和(he)文化多(duo)樣性的(de)(de)(de)(de)(de)理念等。電(dian)氣和(he)電(dian)子工(gong)(gong)(gong)(gong)程(cheng)師協會(hui)（IEEE）也(ye)頒布了《人(ren)(ren)工(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)設(she)計的(de)(de)(de)(de)(de)倫(lun)(lun)理準則(ze)》，試圖從工(gong)(gong)(gong)(gong)程(cheng)設(she)計和(he)生(sheng)產的(de)(de)(de)(de)(de)角度，提出人(ren)(ren)工(gong)(gong)(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)的(de)(de)(de)(de)(de)倫(lun)(lun)理標(biao)準。

　　我國人工(gong)智能研(yan)究及實踐走在(zai)世界前列，但在(zai)相關機器倫理(li)、立法研(yan)究和(he)安全標準(zhun)等方面起(qi)步相對(dui)較(jiao)晚(wan)，近(jin)些(xie)年正在(zai)積極加強這些(xie)方面的研(yan)究。

　　有(you)專家表示，人(ren)工智(zhi)能倫理法律等涉及(ji)科學(xue)界(jie)、企(qi)業界(jie)、哲學(xue)、法學(xue)等多個領域，有(you)必要(yao)成(cheng)立(li)應對(dui)人(ren)工智(zhi)能發展(zhan)的(de)聯盟組織(zhi)，吸納(na)各方面的(de)力量，共同(tong)推進相關研(yan)究。

　　運用算法，將人類道德規范體系嵌入智能機器

　　段偉文(wen)說，人(ren)工(gong)(gong)智(zhi)能(neng)(neng)系統(tong)的(de)“擬(ni)主體性(xing)”，使得(de)它們的(de)行為可以看(kan)作是(shi)與(yu)人(ren)類倫(lun)(lun)理行為類似的(de)擬(ni)倫(lun)(lun)理行為。因此(ci)，人(ren)工(gong)(gong)智(zhi)能(neng)(neng)界在探討(tao)能(neng)(neng)不能(neng)(neng)運用(yong)智(zhi)能(neng)(neng)算法，將(jiang)人(ren)類的(de)價值觀和(he)道德規范(fan)體系嵌入到智(zhi)能(neng)(neng)機器中。有專家認為，這既是(shi)人(ren)工(gong)(gong)智(zhi)能(neng)(neng)未來愿(yuan)景，也是(shi)當前面(mian)臨的(de)最大挑戰。

　　田海平說(shuo)，把(ba)道德(de)代碼嵌入機器(qi)，是人工智能(neng)發展的必(bi)然趨勢(shi)。缺少這一步，自動駕駛、無人機、助理機器(qi)人等(deng)智能(neng)體就不可(ke)能(neng)進入人類(lei)生(sheng)活。機器(qi)在自主性(xing)上達到了人類(lei)高度后，它在做決策時，只有遵循道德(de)算法，才(cai)能(neng)發展各種各樣(yang)的功能(neng)。

　　段偉文介紹，讓機器(qi)符合(he)人類(lei)(lei)道德規(gui)范(fan)，學界大(da)體(ti)(ti)有3種設(she)想：一是(shi)自上而下(xia)，即在智能體(ti)(ti)中預(yu)設(she)一套倫(lun)理(li)規(gui)范(fan)，如自動駕駛汽車應將撞車對(dui)他(ta)人造成的(de)傷害降(jiang)到最(zui)低；二是(shi)自下(xia)而上，即機器(qi)通過數據驅動，學習人類(lei)(lei)的(de)倫(lun)理(li)德道規(gui)范(fan)；三是(shi)人機交互，即讓智能體(ti)(ti)用自然語言解(jie)釋其決(jue)策，使人類(lei)(lei)能把握(wo)其復(fu)雜的(de)邏輯并及(ji)時糾(jiu)正可(ke)能存在的(de)問題。

　　“人(ren)工智能(neng)倫(lun)理研究目前(qian)沒有一(yi)套普遍原(yuan)則(ze)，因此可以從應(ying)用中遇(yu)到(dao)(dao)的實例(li)出發，找(zhao)到(dao)(dao)價(jia)值(zhi)沖(chong)突(tu)點，討論需要作哪些倫(lun)理考慮。”段偉文說(shuo)，比如針對偏見，有必要追(zhui)溯到(dao)(dao)機(ji)器(qi)學習的數據中，完善(shan)數據信息，并改(gai)進算法，讓人(ren)工智能(neng)判斷盡量客觀公正，符合(he)人(ren)類的價(jia)值(zhi)觀。

　　盡管人工智能(neng)發展存在(zai)(zai)許(xu)多潛在(zai)(zai)問題，但更多人對(dui)技術(shu)應用(yong)的(de)(de)前(qian)景表(biao)示樂觀。他們認為(wei)，人工智能(neng)能(neng)提(ti)供更安全(quan)、更智能(neng)的(de)(de)生活體驗，不能(neng)因為(wei)技術(shu)潛在(zai)(zai)的(de)(de)不足(zu)而因噎廢食，在(zai)(zai)提(ti)前(qian)布局(ju)，防范可能(neng)出現的(de)(de)挑戰的(de)(de)同時，也(ye)要利用(yong)新技術(shu)來應對(dui)風(feng)險。

　　以隱私(si)安全(quan)為例，人工智能(neng)并不是(shi)隱私(si)的天(tian)敵。北京大學信息科(ke)學技術(shu)學院教授郭(guo)耀說，利用人工智能(neng)技術(shu)能(neng)夠應(ying)對一些(xie)常規方法難以應(ying)對的安全(quan)問(wen)題。比(bi)如，基于行為分析，人工智能(neng)可以快速檢測出惡意軟(ruan)件(jian)，通過機器學習還能(neng)及(ji)時檢測異常網絡(luo)流(liu)量行為，預警黑客(ke)入(ru)侵，從而提(ti)升網絡(luo)安全(quan)防御水平。

　　張鈸說，不管人(ren)(ren)工(gong)智(zhi)能(neng)(neng)如何發展，基(ji)本理(li)念應該(gai)不是(shi)用智(zhi)能(neng)(neng)機器代(dai)替人(ren)(ren)，而是(shi)要協助人(ren)(ren)做好工(gong)作。人(ren)(ren)和機器各有優(you)勢(shi)，要互相(xiang)了解(jie)才能(neng)(neng)實現人(ren)(ren)機協作，但人(ren)(ren)還是(shi)人(ren)(ren)機關系(xi)的主導者(zhe)。如此，才可能(neng)(neng)將人(ren)(ren)工(gong)智(zhi)能(neng)(neng)引向人(ren)(ren)機合作的發展道路。

　　喻思南

【糾錯】

責任編輯： 郝多