人工智能工程師現(xiàn)在面臨一個(gè)問(wèn)題：他們常常不知道自己研發(fā)出來(lái)的那個(gè)玩意兒在想什么。

　　隨著人工智能日趨復(fù)雜和普及，它的影響力也越來(lái)越大。在判定誰(shuí)該入獄，誰(shuí)能獲得貸款方面，人工智能都已經(jīng)開(kāi)始施展拳腳。有人建議，在一輛自動(dòng)駕駛汽車發(fā)生不可避免的車禍時(shí)，應(yīng)由人工智能判斷哪個(gè)人的存活幾率最大。

　　初創(chuàng)企業(yè)現(xiàn)在無(wú)論做什么，都喜歡給自己貼上人工智能的標(biāo)簽。蹭人工智能名頭的方式越來(lái)越狡猾，請(qǐng)務(wù)必謹(jǐn)慎定義。一般來(lái)說(shuō)，人們普遍認(rèn)為人工智能指的是模仿人類智慧和能力的科技。

　　人工智能領(lǐng)域中發(fā)展尤為神勇的一個(gè)分支是神經(jīng)網(wǎng)絡(luò)，該系統(tǒng)可像人類那樣通過(guò)訓(xùn)練來(lái)“學(xué)習(xí)”，把學(xué)習(xí)經(jīng)驗(yàn)轉(zhuǎn)變?yōu)槟M神經(jīng)元網(wǎng)絡(luò)。最終生成的不是代碼，而是晦澀難辨、紛亂復(fù)雜的數(shù)百萬(wàn)、甚至數(shù)十億個(gè)人工神經(jīng)元。這也解釋了創(chuàng)造現(xiàn)代人工智能的科學(xué)家何以對(duì)人工智能完成任務(wù)的方式表示費(fèi)解。

　　大多數(shù)研究人員一致認(rèn)為，了解人工智能是一項(xiàng)迫在眉睫的挑戰(zhàn)。如果我們不理解人工智能的工作方式，那我們?nèi)绾未_定它是否帶有偏見(jiàn)，又如何預(yù)測(cè)它可能出現(xiàn)的錯(cuò)誤？

　　人工智能會(huì)不會(huì)是種族主義者？它會(huì)不會(huì)有一些意想不到的“腦回路”，引發(fā)自動(dòng)駕駛車輛失靈，造成車禍？這些我們都無(wú)法提前預(yù)知。只有在它做出了無(wú)數(shù)個(gè)決定后，我們才可能了解到它是否有偏見(jiàn)。知道人工智能何時(shí)會(huì)失靈，何時(shí)會(huì)有意外之舉，何時(shí)會(huì)告訴我們：“對(duì)不起，戴維，恐怕我辦不到”，這一點(diǎn)非常重要。

　　曾在圖片社交網(wǎng)站Pinterest Inc.研究機(jī)器學(xué)習(xí)的軟件工程師TracyChou說(shuō)：“現(xiàn)在的一大問(wèn)題是，人們以為人工智能或機(jī)器學(xué)習(xí)不帶偏見(jiàn)，十分中立。之所以有這個(gè)印象，很重要的一個(gè)原因是，大家沒(méi)有認(rèn)識(shí)到，設(shè)計(jì)人工智能模式的是人，給它們選擇訓(xùn)練數(shù)據(jù)的也是人。”

　　谷歌翻譯(Google Translate)便是一例。比如，讓它將英文單詞“doctor”（醫(yī)生）譯成葡萄牙語(yǔ)，它給出的總是陽(yáng)性名詞medico，而不是陰性名詞medica。讓它翻“nurse”（護(hù)士），它給出的則是陰性名詞enfermeira，而不是陽(yáng)性名詞enfermeiro。

　　陰謀嗎？非也。用本身就帶有偏見(jiàn)的文學(xué)庫(kù)來(lái)訓(xùn)練翻譯系統(tǒng)，后者自然一脈相承地也有了偏見(jiàn)。若研究人員刪除種族這個(gè)類別，數(shù)據(jù)一樣帶有偏見(jiàn)，因?yàn)檫€有其他與種族關(guān)系密切的數(shù)據(jù)（比如一個(gè)人在哪里生活），那些數(shù)據(jù)就成了種族的代名詞。

　　機(jī)器人畢竟不是人，我們不能直接問(wèn)一個(gè)機(jī)器人，你為什么要做這件事？不錯(cuò)，人工智能可以出色地完成一些片面任務(wù)，而實(shí)際上，即便是那些會(huì)說(shuō)話的機(jī)器人，其自我反思能力跟一只蟑螂差不了多少。

　　這是個(gè)很難攻克的課題，美國(guó)國(guó)防高等研究計(jì)劃署(Defense Advanced Research Projects Agency，簡(jiǎn)稱：Darpa)正在為“可解釋人工智能”項(xiàng)目提供資金支持。

　　下面說(shuō)說(shuō)這個(gè)課題為何難以被攻克。在計(jì)算機(jī)科學(xué)領(lǐng)域，要想解決某個(gè)問(wèn)題，有個(gè)好辦法是讓工程師編寫一個(gè)神經(jīng)網(wǎng)絡(luò)（相當(dāng)于原腦），然后給它灌輸海量數(shù)據(jù)來(lái)訓(xùn)練它。舉例來(lái)說(shuō)，只要人工智能有足夠的時(shí)間去消化一堆貼有“貓”標(biāo)簽的圖像，那它就可以挑出貓的照片。

　　難點(diǎn)在于，神經(jīng)網(wǎng)絡(luò)是通過(guò)內(nèi)在的“自我改造”完成學(xué)習(xí)任務(wù)的。人腦基本上也是這樣工作的。就像我們無(wú)法理解人腦中約860億個(gè)神經(jīng)元之間的相互連接一樣，人工智能“思考”的具體方式亦令我們費(fèi)解。

　　工程師將上述情況稱為“可解釋性”問(wèn)題（也就是尚無(wú)法解釋），把神經(jīng)網(wǎng)絡(luò)稱為“黑匣子”（我們可以模擬和觀察、但無(wú)法了解其內(nèi)部的東西。）

　　Alphabet Inc.子公司DeepMind Technologies Ltd.的研究人員宣布了一個(gè)探索機(jī)器心智的獨(dú)辟蹊徑之道：像對(duì)待孩子一樣對(duì)待機(jī)器。

　　也就是說(shuō)，工程師對(duì)人工智能使用認(rèn)知心理學(xué)技術(shù)，這并不是比喻。參與這個(gè)項(xiàng)目的DeepMind的科學(xué)家巴雷特(David Barrett)說(shuō)，為了梳理人工智能的所思所想，DeepMind團(tuán)隊(duì)對(duì)人工智能用的測(cè)試題和材料與心理學(xué)家對(duì)兒童用的一模一樣。

　　巴雷特說(shuō)，幾十年來(lái)通過(guò)認(rèn)知科學(xué)解開(kāi)人腦之謎的研究如今應(yīng)用到了機(jī)器上，有可能打開(kāi)一扇認(rèn)識(shí)人工智能的新大門，讓人工智能變得更易懂。

　　DeepMind的研究結(jié)果之一是讓我們知道了，至少有一種人工智能（用來(lái)認(rèn)字的“一次性學(xué)習(xí)模式”，那些字只給它看一眼）用的是和人類一樣的解決問(wèn)題的方式，真是令人吃驚。它也是通過(guò)形狀來(lái)識(shí)別物體，哪怕沒(méi)人教它這么做，哪怕識(shí)別隨機(jī)物體還可以通過(guò)顏色、質(zhì)地或動(dòng)作等其他方式。以前它的學(xué)習(xí)方式不為人知。

　　理解只是我們與人工智能互動(dòng)的第一步。機(jī)器人心理學(xué)的另一半可被形容為“心理治療”，也就是說(shuō)，改變它的想法。

　　巴雷特說(shuō)，工程師在創(chuàng)造人工智能時(shí)，為了找到最棒的那個(gè)，一般會(huì)做出很多版本，而使用認(rèn)知心理學(xué)能讓工程師擁有更多“實(shí)權(quán)”，可以選擇那些按照人類希望的方式去“思考”的機(jī)器。又或許，人工智能的思考方式與我們不同，而且更好，這樣我們就可以學(xué)點(diǎn)解決問(wèn)題的新辦法。

　　結(jié)果就是，當(dāng)我們用人工智能替代人類決策者時(shí)，人工智能有更上一層樓的潛力，變得更少出錯(cuò)，更加可靠，因?yàn)槿斯ぶ悄艿男袨槭强珊饬康?，我們或許可以精確追溯它們做決定的整個(gè)過(guò)程。

　　對(duì)于人類的行為，我們一直也是這么要求的（如在法庭上剖析一個(gè)商業(yè)決定），但眾所周知，人類是不可靠的敘述者。有了機(jī)器人后，我們終于迎來(lái)了剛正不阿的決策者，它們的所有偏見(jiàn)和一閃而過(guò)的沖動(dòng)都可以被仔細(xì)審視和修正。