智能穿戴設(shè)備吸引觀眾。湯彥俊 攝

　　近日，麻省理工學(xué)院媒體實(shí)驗(yàn)室出品了一個(gè)“暗黑版AI”，再次將人工智能的黑箱隱憂這個(gè)經(jīng)久不衰的話題送上熱門。據(jù)報(bào)道，實(shí)驗(yàn)室的三人團(tuán)隊(duì)聯(lián)手創(chuàng)造了一個(gè)叫諾曼(Norman)的人工智能，與希區(qū)柯克經(jīng)典電影《驚魂記》中的變態(tài)旅館老板諾曼·貝茲同名。

　　名如其人。諾曼會(huì)以負(fù)面想法來(lái)理解它看到的圖片。例如，一張?jiān)谝话鉇I看來(lái)只是“樹(shù)枝上的一群鳥(niǎo)”的普通圖片，在諾曼眼中卻是“一名男子觸電致死”。

　　團(tuán)隊(duì)希望通過(guò)諾曼的表現(xiàn)提醒世人：用來(lái)教導(dǎo)或訓(xùn)練機(jī)器學(xué)習(xí)算法的數(shù)據(jù)，會(huì)對(duì)AI的行為造成顯著影響。AI會(huì)成為什么樣，有時(shí)人類可能束手無(wú)策。

　　TA們的偏見(jiàn)就是人類的偏見(jiàn)

　　諾曼們從哪來(lái)？答案首先藏在數(shù)據(jù)里。

　　“人工智能識(shí)別出的結(jié)果不是憑空而來(lái)，是大量訓(xùn)練的結(jié)果。如果要訓(xùn)練AI某一方面的能力，比如下棋，就需要收集、清洗、標(biāo)記大量數(shù)據(jù)供機(jī)器學(xué)習(xí)。如果用于訓(xùn)練的數(shù)據(jù)不夠多，就會(huì)造成AI學(xué)習(xí)的不充分，導(dǎo)致其識(shí)別結(jié)果的失誤。”中科院自動(dòng)化研究所研究員王金橋?qū)萍既請(qǐng)?bào)記者表示。數(shù)據(jù)本身的分布特性，如偏差甚至偏見(jiàn)，也會(huì)被機(jī)器“有樣學(xué)樣”。針對(duì)諾曼的表現(xiàn)，創(chuàng)造它的實(shí)驗(yàn)室也指出，“當(dāng)人們談?wù)撊斯ぶ悄芩惴ù嬖谄詈筒还綍r(shí)，罪魁禍?zhǔn)淄皇撬惴ū旧恚菐в衅睢⑵?jiàn)的數(shù)據(jù)。因?yàn)楫?dāng)前的深度學(xué)習(xí)方法依賴大量的訓(xùn)練樣本，網(wǎng)絡(luò)識(shí)別的特性是由樣本本身的特性所決定。盡管在訓(xùn)練模型時(shí)使用同樣的方法，但使用了錯(cuò)誤或正確的數(shù)據(jù)集，就會(huì)在圖像中看到非常不一樣的東西”。

　　另外是算法本身的影響。“這可能是無(wú)法完全避免的，由深度學(xué)習(xí)算法本身的缺陷決定，它存在內(nèi)在對(duì)抗性。”王金橋表示，目前最流行的神經(jīng)網(wǎng)絡(luò)不同于人腦的生物計(jì)算，模型由數(shù)據(jù)驅(qū)動(dòng)，和人類的認(rèn)知不具有一致性。基于深度學(xué)習(xí)的框架，必須通過(guò)當(dāng)前訓(xùn)練數(shù)據(jù)擬合到目標(biāo)函數(shù)。在這個(gè)框架之下，如果機(jī)器要識(shí)別狗，它會(huì)通過(guò)狗的眼睛、鼻子、耳朵等局部特征進(jìn)行可視化識(shí)別，而這些可視化特征卻能給想利用深度學(xué)習(xí)漏洞的人機(jī)會(huì)，后者可以通過(guò)偽造數(shù)據(jù)來(lái)欺騙機(jī)器。

　　除了人訓(xùn)練機(jī)器的數(shù)據(jù)本身有偏差以外，機(jī)器通過(guò)對(duì)抗性神經(jīng)網(wǎng)絡(luò)合成的數(shù)據(jù)也可能有問(wèn)題。由于機(jī)器不可能“見(jiàn)過(guò)”所有東西(比如識(shí)別桌子，機(jī)器不可能學(xué)習(xí)所有長(zhǎng)短寬窄各異的桌子)，人也不可能標(biāo)記所有數(shù)據(jù)。如果研究者輸入一個(gè)隨機(jī)的噪音，機(jī)器可以向任何方向?qū)W習(xí)。這是一把雙刃劍，機(jī)器也可能合成一些有問(wèn)題的數(shù)據(jù)，學(xué)習(xí)時(shí)間長(zhǎng)了，機(jī)器就“跑偏”了。

　　數(shù)據(jù)的均衡或可減少“跑偏”

　　不少科學(xué)家以“garbage in, garbage out”來(lái)形容“數(shù)據(jù)和人工智能的關(guān)系”。中科視拓(北京)科技有限公司CEO劉昕說(shuō)：“對(duì)機(jī)器學(xué)習(xí)而言，進(jìn)什么就出什么。監(jiān)督學(xué)習(xí)就是讓模型擬合標(biāo)簽，比如訓(xùn)練者把帥哥都標(biāo)記成‘渣男’，那么機(jī)器看到劉德華，就會(huì)認(rèn)為他是……”談到諾曼引發(fā)的討論，劉昕表示：“不需要擔(dān)心，人類本身就有各種歧視和偏見(jiàn)，用人類生產(chǎn)的數(shù)據(jù)訓(xùn)練AI，再批判AI不夠正直良善，這么說(shuō)有點(diǎn)危言聳聽(tīng)。”

　　偏見(jiàn)、刻板印象、歧視都是人類社會(huì)的痼疾，有些流于表面，有些深入社會(huì)肌理，無(wú)法輕易剝離。在這樣的語(yǔ)境中產(chǎn)生的數(shù)據(jù)，攜帶著大量復(fù)雜、難以界定、泥沙俱下的觀點(diǎn)。如果研究者沒(méi)有意識(shí)到或著手處理這一問(wèn)題，機(jī)器學(xué)習(xí)的偏見(jiàn)幾乎無(wú)解。真正的“公正算法”或許是不存在的。

　　據(jù)有關(guān)媒體報(bào)道，在谷歌研究自然語(yǔ)言處理的科學(xué)家 Daphne Luong 表示，正確地校準(zhǔn)標(biāo)簽對(duì)機(jī)器學(xué)習(xí)來(lái)說(shuō)非常關(guān)鍵，有些數(shù)據(jù)集其實(shí)并不平衡，像維基百科上的數(shù)據(jù)，“他”(He)出現(xiàn)的次數(shù)遠(yuǎn)比“她”(She)要多。

　　王金橋也著重強(qiáng)調(diào)了“數(shù)據(jù)的均衡”。就算對(duì)人來(lái)說(shuō)，不同人秉持著不同的價(jià)值觀，但多聽(tīng)多看多受教育可以讓人向良好的方向改進(jìn)。機(jī)器學(xué)習(xí)也是如此。“訓(xùn)練機(jī)器時(shí)，要注重?cái)?shù)據(jù)的均衡，給它更多可靠的數(shù)據(jù)。研究團(tuán)隊(duì)成員具有多元的學(xué)術(shù)背景(如吸納更多社會(huì)學(xué)、心理學(xué)等領(lǐng)域?qū)W者加入)、性別、年齡、價(jià)值觀，也可以幫助機(jī)器學(xué)習(xí)更加均衡，減少機(jī)器出現(xiàn)偏見(jiàn)、謬誤甚至失控的可能。”王金橋說(shuō)。

　　“機(jī)器學(xué)習(xí)的模型本身也要有一定的防攻擊能力，從技術(shù)上防止本身結(jié)構(gòu)設(shè)計(jì)的漏洞被攻擊，研究者可以使用各種數(shù)據(jù)攻擊機(jī)器，訓(xùn)練機(jī)器的反攻擊能力。”王金橋說(shuō)。

　　作惡還是向善，是人類的選擇

　　1942年，阿西莫夫在短篇小說(shuō)《環(huán)舞》中首次提出著名的機(jī)器人三定律：機(jī)器人不得傷害人類，或因不作為使人類受到傷害；除非違背第一定律，機(jī)器人必須服從人類的命令；除非違背第一及第二定律，機(jī)器人必須保護(hù)自己。半個(gè)多世紀(jì)過(guò)去，人工智能在大數(shù)據(jù)的加持下迎來(lái)爆發(fā)式發(fā)展。某些專用型人工智能把人類智能甩在身后，人們開(kāi)始擔(dān)憂，機(jī)器傷害人類的那一天是不是不遠(yuǎn)了。

　　因此有一種看法很主流——人類訓(xùn)練有意識(shí)、有自我覺(jué)知的人工智能是不明智的。開(kāi)個(gè)腦洞，機(jī)器一旦發(fā)展出自我意識(shí)，要反向攻擊人類，場(chǎng)面或許失控。

　　前段時(shí)間，據(jù)路透社報(bào)道，韓國(guó)科學(xué)技術(shù)院的人工智能研發(fā)中心正在研發(fā)適用于作戰(zhàn)指揮、目標(biāo)追蹤和無(wú)人水下交通等領(lǐng)域的人工智能技術(shù)，希望在今年年底前研發(fā)出基于人工智能的導(dǎo)彈、潛艇和四軸飛行器。此事引發(fā)學(xué)術(shù)界的巨大震動(dòng)，抗議紛至沓來(lái)，并最終以院長(zhǎng)保證無(wú)意于“殺手機(jī)器人”的研發(fā)并重申人類尊嚴(yán)和倫理收?qǐng)觥Ｔ诿绹?guó)，以“不作惡”為綱的谷歌也因與國(guó)防部的合作協(xié)議涉及“Maven項(xiàng)目”被推上風(fēng)口浪尖，反對(duì)者普遍認(rèn)為，識(shí)別結(jié)果完全有可能被用于軍事用途，比如說(shuō)精準(zhǔn)打擊。谷歌最終表示終結(jié)協(xié)議。

　　相較于輿論環(huán)境的憂心忡忡，研究者對(duì)“技術(shù)向善”普遍樂(lè)觀。他們認(rèn)為把AI和“殺人機(jī)器”聯(lián)系在一起，近乎“捧殺”，夸大AI能力之余，也引發(fā)不明真相的公眾恐慌，無(wú)益于人工智能的發(fā)展環(huán)境。

　　“很多人提到AI總是一驚一乍，把AI說(shuō)成超人。我相信人工智能是能解決問(wèn)題的，但大家的期待也要在合理范圍內(nèi)。人和機(jī)器各有優(yōu)勢(shì)，技術(shù)會(huì)服務(wù)于特定場(chǎng)景，但也不需要把AI捧上天。”接受科技日?qǐng)?bào)記者采訪時(shí)，思必馳北京研發(fā)院院長(zhǎng)初敏博士忍不住“抱怨”了一下。看來(lái)“我們需要怎樣的AI”這一題，大家都還沒(méi)有答案。

【糾錯(cuò)】

責(zé)任編輯： 郝多