據(jù)外媒報(bào)道，Google收購(gòu)的英國(guó)人工智能公司DeepMind已經(jīng)展現(xiàn)出AI先進(jìn)的自學(xué)能力。這不禁引發(fā)了AI超越人類的擔(dān)憂，甚至還有人擔(dān)心類似《未來(lái)終結(jié)者》那樣天網(wǎng)對(duì)人類殺戮時(shí)刻的到來(lái)。對(duì)此，DeepMind提出了給機(jī)器人安裝“切斷開(kāi)關(guān)”的想法。
報(bào)道稱，DeepMind近日在論文中提出了給機(jī)器人安裝“切斷開(kāi)關(guān)(killswitch)”的想法，為的是阻止AI學(xué)會(huì)如何阻止人類對(duì)某項(xiàng)活動(dòng)(比方說(shuō)發(fā)射核武器)的干預(yù)。用專業(yè)術(shù)語(yǔ)來(lái)說(shuō)，這叫做“安全可中斷性”。
關(guān)于安全科中斷性的作用，論文寫道：安全可中斷性可用于控制機(jī)器人不端甚至可能導(dǎo)致不可逆后果的行為，或者將其從微妙處境中脫身出來(lái)，或者甚至臨時(shí)用來(lái)實(shí)現(xiàn)某項(xiàng)機(jī)器人尚未學(xué)會(huì)執(zhí)行或者未必會(huì)為此受到獎(jiǎng)勵(lì)的任務(wù)。
天生具備拯救人類使命感的ElonMusk以及地球最聰明的大腦之一霍金都認(rèn)為，機(jī)器對(duì)人類的威脅并非杞人憂天。去年底的時(shí)候，Musk和孵化器YC的總裁SamAltman共同宣布設(shè)立一家非盈利的人工智能公司OpenAI。
他們希望，這個(gè)項(xiàng)目能夠抵消邪惡的人工超級(jí)智能可能帶來(lái)的威脅。這種威脅的可能性正如牛津大學(xué)的哲學(xué)家NickBostrom發(fā)出的警告一樣—如果毫無(wú)限制地分享人工智能的研究成果，在沒(méi)能確保安全的情況下，一些不懷好意的人可能就會(huì)利用它干壞事：“如果你有一個(gè)按鈕，只要按一下就能夠?qū)κ澜缭斐善茐?，你肯定不希望每個(gè)人都擁有一個(gè)這樣按鈕。”
而DeepMind的研究，就是對(duì)這樣一種按鈕的切斷按鈕。不過(guò)將來(lái)的問(wèn)題也許是，哪一個(gè)按鈕會(huì)先起效？
網(wǎng)站客服
粵公網(wǎng)安備 44030402000946號(hào)