【邁向廣義AI之路的5大挑戰(zhàn)】IBM研究院(IBMResearch)AI與IBMQ量子計(jì)算機(jī)副總裁DarioGil在DAC發(fā)表“AI成為新IT技術(shù)”(AIisthenewIT)的專題演說。Gil介紹了AI技術(shù)的最新發(fā)展情勢，并強(qiáng)調(diào)業(yè)界積極拓展AI版圖的幾個重要領(lǐng)域。

回頭看看在關(guān)鍵的2012年，那是在ImageNet挑戰(zhàn)賽(ImageNetChallenge)中開發(fā)的深度卷積神經(jīng)網(wǎng)絡(luò)(CCN)首度被證實(shí)對于視覺對象辨識算法帶來突破之時。人工標(biāo)記(labeled)的數(shù)據(jù)與運(yùn)算能力急劇增加，加上算法的長足進(jìn)展，進(jìn)一步加速了深度學(xué)習(xí)革命。

許多產(chǎn)業(yè)領(lǐng)域開始對AI深感興趣。Gil指出，衡量這一趨勢的方法之一是學(xué)生選讀機(jī)器學(xué)習(xí)入門課程的人數(shù)。他說，以住這些課程通常約有30到40名學(xué)生注冊，而今，美國史丹佛大學(xué)(StanfordUniversity)已有逾千人報(bào)名，麻省理工學(xué)院(MIT)也有700多名學(xué)生選讀。

狹義AI

就像我們目前看到的，AI被應(yīng)用在語言翻譯、語音轉(zhuǎn)錄、對象檢測和人臉識別。Gil將現(xiàn)階段的AI應(yīng)用稱之為“狹義形式的AI”(anarrowformofAI)，即AI只在單一領(lǐng)域執(zhí)行單項(xiàng)任務(wù)。

盡管如此，AI已經(jīng)像野火般迅速在許多產(chǎn)業(yè)領(lǐng)域蔓延開來了。Gil說：“目前已經(jīng)累積幾百種應(yīng)用了，這一應(yīng)用清單還相當(dāng)長?！盜BM開始在這一廣泛應(yīng)用中追蹤AI可能帶來的各種挑戰(zhàn)，其范圍從設(shè)計(jì)自動化、工業(yè)、醫(yī)療保健以及視覺檢測到客戶服務(wù)、營銷/業(yè)務(wù)、物聯(lián)網(wǎng)(IoT)以及合規(guī)性等。例如，在IC設(shè)計(jì)中，機(jī)器學(xué)習(xí)已經(jīng)用于最佳化合成流程。

圖1：機(jī)器學(xué)習(xí)應(yīng)用于IBM22nmZ13系統(tǒng)（來源：IBM）。

IBM以22nm制程開發(fā)其z和Power服務(wù)器微處理器芯片，就是一個很好的例子。IBM根據(jù)經(jīng)驗(yàn)知道機(jī)器學(xué)習(xí)能有效地“讓合成流程參數(shù)自動化調(diào)整，向?qū)＜壹壴O(shè)計(jì)人員汲取知識，并從之前的設(shè)計(jì)執(zhí)行中學(xué)習(xí)。”

圖2：運(yùn)用機(jī)器學(xué)習(xí)實(shí)現(xiàn)合成流程優(yōu)化（來源：IBM）。

這項(xiàng)計(jì)劃顯示了AI的未來承諾。但Gil也在專題演講中提醒道，“我們還只是在AI的早期發(fā)展階段?！睘槭裁茨兀克麖?qiáng)調(diào)，在“狹義AI”(NarrowAI)和“廣義AI”(BroadAI)（以及最終的“普適AI”(GeneralAI)）之間，界線“還很遙遠(yuǎn)”。

Gil指出，最終，“我們必須打造一個可以學(xué)習(xí)和閱讀的系統(tǒng)，它能夠在跨不同領(lǐng)域之間自動游移，并跨越任意空間進(jìn)行學(xué)習(xí)。目前這仍然是非常困難的問題?！?/p>

針對以足夠的標(biāo)記數(shù)據(jù)在單一領(lǐng)域中執(zhí)行單項(xiàng)任務(wù)的AI，Gil說：“我們絲毫不懷疑這樣的AI能夠?qū)崿F(xiàn)超人類的準(zhǔn)確度性能?！钡涮魬?zhàn)在于狹義AI如何演變?yōu)楦鼜V泛的形式。Gil解釋了目前的這個困境：當(dāng)你需要在另一個領(lǐng)域執(zhí)行另一項(xiàng)任務(wù)時，你得從頭開始建構(gòu)一種新的神經(jīng)網(wǎng)絡(luò)并加以整理。他強(qiáng)調(diào)，這個世界需要的AI是可以跨越任務(wù)和領(lǐng)域發(fā)展的。

廣義AI——跨越不同任務(wù)與領(lǐng)域界線

為了進(jìn)一步拓展AI，AI社群面對幾項(xiàng)關(guān)鍵挑戰(zhàn)。

1）可解釋的AI

Gil首先強(qiáng)調(diào)的是“可解釋的AI”(ExplainableAI)。AI所作的判斷必須是可以解釋的。

Gil說：“我們必須創(chuàng)造一個沒有黑盒子(blackbox)的AI。我們應(yīng)該要能更清楚在神經(jīng)網(wǎng)絡(luò)中發(fā)生的事情?！彼a(bǔ)充說，神經(jīng)網(wǎng)絡(luò)需要有除錯器來發(fā)現(xiàn)錯誤。

對于推薦書籍閱讀的AI系統(tǒng)，黑盒子策略應(yīng)該是可行的。但是，Gil強(qiáng)調(diào)：“在這么多領(lǐng)域的許多產(chǎn)業(yè)中，黑盒子不一定都能被接受。這是AI進(jìn)展的基礎(chǔ)。當(dāng)人們做出涉及大量投資的高風(fēng)險(xiǎn)決策時，以安全性作為關(guān)鍵因素，黑盒子AI可能成為盲點(diǎn)。”

2）AI很脆弱

Gil說：“雖然神經(jīng)網(wǎng)絡(luò)的能力令人印象深刻，但AI卻非常脆弱?！敝灰腥魏胃蓴_注入系統(tǒng)中，你就可能騙過它。AI可能因?yàn)槿魏卧肼晫?dǎo)致混亂，甚至將一輛巴士誤認(rèn)為長頸鹿。Gil說，這聽起來很搞笑，但如果因?yàn)檎`判成一只長頸鹿這樣的錯誤讓數(shù)十億美元的投資化為泡影，那可是非常嚴(yán)重的問題。此外，入侵系統(tǒng)還可能造成神經(jīng)網(wǎng)絡(luò)中毒。他解釋說，有鑒于神經(jīng)網(wǎng)絡(luò)易于受到各種攻擊，架構(gòu)起難以穿透的安全性至關(guān)重要。

3）AI的道德問題

“至于倫理道德，這可是個重大的話題。”Gil說：“在我們討論這種超智慧的概念之前，我想談?wù)勛约赫嬲龑Ｗ⒌念I(lǐng)域。這就是偏見。在神經(jīng)網(wǎng)絡(luò)中加進(jìn)了偏見?！?/p>

在建立一個以各種例子作為訓(xùn)練基礎(chǔ)的系統(tǒng)時，這些例子本身可能就會帶入來自社會習(xí)俗的偏見。Gil引用了信貸決策的例子。一個從過去案例中學(xué)習(xí)的系統(tǒng)可能會認(rèn)為“不要提供信貸給少數(shù)族群或女人”Gil說：“我們?nèi)绾悟?yàn)證系統(tǒng)使用的例子是『無偏見的』？如何加以檢查？”

4）從“小數(shù)據(jù)”中學(xué)習(xí)？

在訓(xùn)練數(shù)據(jù)中，例子經(jīng)常是通用的。Gil強(qiáng)調(diào)，為了AI的進(jìn)展，下一步是要弄清楚如何從更少量的數(shù)據(jù)中學(xué)到更多東西。AI應(yīng)該要能夠利用“先驗(yàn)知識”(priorknowledge)，并將其學(xué)習(xí)和“權(quán)重”從一個神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)移到其他領(lǐng)域的其他網(wǎng)絡(luò)。AI結(jié)合了學(xué)習(xí)和推論。我們在學(xué)習(xí)方面取得了很大的進(jìn)步，但推論呢？Gil說：“似乎就不那么重要了”?？傊?，AI能夠累積知識，但也必須能夠?qū)⒗碛蓱?yīng)用于該知識。

5)AI基礎(chǔ)設(shè)施

業(yè)界必須繼續(xù)建設(shè)AI的基礎(chǔ)設(shè)施。AI的進(jìn)步一直是來自業(yè)界不斷地高運(yùn)算能力。最近的“硬件復(fù)興”(hardwarerenaissance)誕生了嶄新的架構(gòu)。Gil指出，更多的創(chuàng)造力預(yù)先為我們開啟了一張“美好的發(fā)展藍(lán)圖”。“由于像深度學(xué)習(xí)這樣的專用工作負(fù)載，”AI取得了巨大的進(jìn)步。但Gil也強(qiáng)調(diào)，業(yè)界還必須持續(xù)開發(fā)AI基礎(chǔ)設(shè)施。

圖3：邁向廣義AI之路（來源：IBM）。

普適AI

在廣義AI階段之后，IBMResearch預(yù)期“普適AI”(GeneralAI)至少要到2050年之后才會實(shí)現(xiàn)。Gil說，當(dāng)科學(xué)家拋出2050年這樣的數(shù)字時，他們真正的意思是“我們毫無頭緒……”。

圖4：AI的演進(jìn)（來源：IBM）。

但AI的普適形式仍在發(fā)展的議程上，研究界正致力于弄清楚AI如何理解的問題。

當(dāng)然，機(jī)器已經(jīng)證明了有能力在像棋弈競賽中超越人類，因?yàn)椤耙?guī)則”主宰了這一類明確定義環(huán)境的競賽。然而，IBM的研究人員現(xiàn)在想知道機(jī)器思考如何在非二進(jìn)制環(huán)境下運(yùn)作，它不再僅僅產(chǎn)生非黑即白的答案。有鑒于此，IBMResearch的以色列團(tuán)隊(duì)推出了AI辯論系統(tǒng)——IBMDebater。

上周，在舊金山舉行的活動中，IBM展示了這套IBMDebater——據(jù)稱針對政府是否應(yīng)該支持某些計(jì)劃(如支持音樂教育)等主題，它“不會輸給任何技巧純熟的人類辯論者”。