??對(duì)智能機(jī)器人自我意識(shí)問題的深切關(guān)注，反映了人們對(duì)智能機(jī)器人失控的憂懼。而消除這種憂懼的最佳方式，就是深刻認(rèn)識(shí)和把握其原理與本質(zhì)，打開智能機(jī)器人自我意識(shí)的黑箱，并推動(dòng)其向善發(fā)展。

??把握不同路徑

??總的來看，人類自我意識(shí)的產(chǎn)生主要有兩種方式，一是自我激發(fā)，二是他人認(rèn)同。自我意識(shí)與自我認(rèn)同是不可分割的，而自我認(rèn)同則離不開群體中他人的認(rèn)同。所以，自我意識(shí)通常在獲得社會(huì)其他成員的認(rèn)同中產(chǎn)生。在探索智能機(jī)器人自我意識(shí)時(shí)，這兩種路徑各自進(jìn)行了嘗試，并取得了不同的進(jìn)展。按照技術(shù)發(fā)展路徑，智能機(jī)器人主要分為數(shù)據(jù)智能和類腦智能，二者自我意識(shí)產(chǎn)生分別采用了他人認(rèn)同路徑和自我激發(fā)路徑，其本質(zhì)也不相同。

??一是數(shù)據(jù)智能機(jī)器人“設(shè)計(jì)”出自我意識(shí)，即他人認(rèn)同路徑。這一路徑通過算法設(shè)計(jì)和大數(shù)據(jù)支持，讓機(jī)器人表現(xiàn)得具有“自我意識(shí)”。無論是數(shù)字計(jì)算機(jī)，還是量子計(jì)算機(jī)，其產(chǎn)生自我意識(shí)的途徑都屬于數(shù)據(jù)智能路徑。但這一路徑存在數(shù)據(jù)兼容和溢出的風(fēng)險(xiǎn)。很明顯，這一路徑產(chǎn)生的“自我意識(shí)”是環(huán)境中的設(shè)計(jì)者和使用者賦予智能機(jī)器人的，認(rèn)知主體是人體而非機(jī)體。這在情感機(jī)器人或社交機(jī)器人中尤為常見。而社交類智能機(jī)器人的使用者，往往會(huì)在與其長(zhǎng)期相處中產(chǎn)生機(jī)器人也有情感和自我意識(shí)的錯(cuò)覺。心理學(xué)上將這種現(xiàn)象稱為共情效應(yīng)。通常情況下，能產(chǎn)生越強(qiáng)共情效應(yīng)的機(jī)器人往往越受消費(fèi)者歡迎。然而，通過考察情感或自我意識(shí)內(nèi)在的真實(shí)內(nèi)容及其規(guī)律性就會(huì)發(fā)現(xiàn)，這只是特定情境中的使用者認(rèn)為機(jī)器人已彰顯出自我意識(shí)和情感。因此，并不能說明這類機(jī)器人能夠自我激發(fā)產(chǎn)生自我意識(shí)或情感。

??二是類腦智能機(jī)器人“生長(zhǎng)”出自我意識(shí)，即自我激發(fā)路徑。這一路徑通過類腦技術(shù)支持，讓機(jī)器人擁有能感知的“身體”，形成獨(dú)立的“自我意識(shí)”。這里的“自我意識(shí)”雖然源自機(jī)體，但卻是承載生物芯片的有機(jī)體，因此無論是技術(shù)悲觀派還是樂觀派都不能否認(rèn)其產(chǎn)生自我意識(shí)的可能性。比如，曾毅團(tuán)隊(duì)在認(rèn)知神經(jīng)科學(xué)家的實(shí)驗(yàn)基礎(chǔ)上，用自主研發(fā)的類腦機(jī)器人成功挑戰(zhàn)了自我意識(shí)鏡像實(shí)驗(yàn)，為機(jī)器人自我意識(shí)建立了受生物激發(fā)的模型。雖然鏡像實(shí)驗(yàn)只能作為機(jī)器人自我意識(shí)驗(yàn)證的一個(gè)視角，但我們可以據(jù)此展望未來，制造出生物性質(zhì)的類人自我意識(shí)的智能機(jī)器人并不是天方夜譚。這一路徑存在生物芯片信息難以掌控的風(fēng)險(xiǎn)。目前大多數(shù)相關(guān)研究都局限于實(shí)驗(yàn)室內(nèi)，而已臨床使用的僅是針對(duì)腦部疾病的腦機(jī)接口技術(shù)，并且這種技術(shù)的使用需要患者提前進(jìn)行訓(xùn)練，也就是要通過人的協(xié)助才能展現(xiàn)出智能。

??探索人機(jī)融合

??智能機(jī)器人自我意識(shí)的產(chǎn)生可能增加人類對(duì)其失控的憂懼，而人機(jī)融合發(fā)展則能夠降低這種危害的可能性。人機(jī)融合智能是充分利用人和機(jī)器各自的長(zhǎng)處形成的新型智能形式。大數(shù)據(jù)人工智能、互聯(lián)網(wǎng)群體智能、感知和跨媒體智能、人機(jī)混合智能、自主智能系統(tǒng)等是目前主要的五類人機(jī)融合智能。為引導(dǎo)智能機(jī)器人向善發(fā)展，規(guī)避不良社會(huì)影響，需要人類主動(dòng)回應(yīng)和采取措施。

??一是進(jìn)行前瞻性倫理設(shè)計(jì)。技術(shù)實(shí)體論認(rèn)為，技術(shù)是一種實(shí)體，是負(fù)載著價(jià)值的。尤其是現(xiàn)在自主性越來越強(qiáng)的智能機(jī)器人，根據(jù)算法的設(shè)計(jì)能夠自適應(yīng)環(huán)境自主決策，產(chǎn)生的結(jié)果甚至是不可控的。這種算法復(fù)雜性和不可控性，很好地支持了技術(shù)實(shí)體論的立場(chǎng)。由此，對(duì)技術(shù)風(fēng)險(xiǎn)的治理則需要一種前瞻模式。雖然目前類腦智能對(duì)意識(shí)和自我意識(shí)的研究尚處于初級(jí)階段，但讓其自主產(chǎn)生自我意識(shí)一直是很多研發(fā)者的目標(biāo)。因此，要在其自我意識(shí)研究尚處于初級(jí)階段時(shí)提出倫理框架，根據(jù)“自上而下”和“自下而上”各自的優(yōu)勢(shì)提出組合模式：將“不傷害不作惡”作為底線原則進(jìn)行價(jià)值敏感設(shè)計(jì)，并在后天學(xué)習(xí)中通過底線原則對(duì)學(xué)習(xí)到的人類行為進(jìn)行過濾。倘若完全采取情境學(xué)習(xí)的路徑，一旦投入市場(chǎng)使用，就會(huì)出現(xiàn)不可控的后果。因此，必須將底線原則與情境學(xué)習(xí)相結(jié)合，才能保證智能機(jī)器人的安全可控。

??二是建立以人為主導(dǎo)的人機(jī)協(xié)同演化關(guān)系。對(duì)智能機(jī)器人自我意識(shí)的深切關(guān)注，實(shí)質(zhì)上反映了人們對(duì)智能機(jī)器人失控的憂懼。在此基礎(chǔ)上形成的人機(jī)關(guān)系，既不利于人工智能的健康發(fā)展，也不利于人的自由而全面發(fā)展。對(duì)此，我們需要探索出一種健康、可持續(xù)的人機(jī)關(guān)系，即以人為主導(dǎo)的人機(jī)協(xié)同演化關(guān)系。以人為主導(dǎo)，可以保證人在協(xié)同演化中不喪失主體性。只有保持這種主體性，人類才能理性決定機(jī)器人“能夠做什么”和“應(yīng)該做什么”，保證人工智能產(chǎn)品按照人的價(jià)值理念演化，從而掌握協(xié)同演化的主動(dòng)權(quán)，實(shí)現(xiàn)智能機(jī)器人向善發(fā)展的目標(biāo)。同時(shí)，以人為主導(dǎo)才能促使人類主動(dòng)承擔(dān)協(xié)同演化中的過失責(zé)任。若智能機(jī)器人產(chǎn)生自我意識(shí)，將引發(fā)其道德地位和道德承受能力的爭(zhēng)論。實(shí)際上，讓機(jī)器人擁有一定的道德判斷能力，目的是為了更好地為人類服務(wù)，盡量減少甚至避免負(fù)面影響，而不是讓它們必須擁有權(quán)利或承擔(dān)責(zé)任，二者是可以分開的。人是責(zé)任的承擔(dān)者。人的責(zé)任不僅包括在風(fēng)險(xiǎn)預(yù)防階段做好價(jià)值敏感設(shè)計(jì)，也包括在風(fēng)險(xiǎn)產(chǎn)生后通過制度構(gòu)建來降低損失。

??三是建立“社會(huì)—技術(shù)”一體化協(xié)調(diào)發(fā)展的體制機(jī)制。若智能機(jī)器人產(chǎn)生自我意識(shí)，所帶來的變化不僅是技術(shù)上的顛覆性創(chuàng)新，而且對(duì)原有社會(huì)運(yùn)行機(jī)制的影響更是難以清楚預(yù)判。面對(duì)具有自我意識(shí)的智能機(jī)器人的來臨，不僅需要在研發(fā)階段進(jìn)行提前干預(yù)，同時(shí)也需要社會(huì)體制機(jī)制的創(chuàng)新來適應(yīng)。為保證新的智能機(jī)器人產(chǎn)品的向善導(dǎo)向，就必須在研發(fā)和使用中進(jìn)行監(jiān)管。同時(shí)，政府要積極引導(dǎo)第三方機(jī)構(gòu)對(duì)其可能引發(fā)的隱私、安全、社會(huì)公正等問題進(jìn)行敏感性評(píng)估，要求企業(yè)對(duì)出現(xiàn)問題的產(chǎn)品建立補(bǔ)償或召回機(jī)制。

??四是積極引導(dǎo)公眾參與。技術(shù)的進(jìn)步與應(yīng)用在為人們的生活帶來便利的同時(shí)，也讓人們?cè)谝欢ǔ潭壬袭a(chǎn)生了恐懼。這種技術(shù)恐懼源于技術(shù)自身的復(fù)雜性和不確定性，尤其是對(duì)于可能產(chǎn)生自我意識(shí)的智能機(jī)器人。要消除技術(shù)恐懼的根本方法，就是讓公眾參與到智能機(jī)器人的技術(shù)治理過程當(dāng)中。一方面，公眾參與有助于提高智能機(jī)器人的社會(huì)接受度。公眾對(duì)技術(shù)研發(fā)的參與程度越深入，對(duì)技術(shù)細(xì)節(jié)越了解，也就越容易接受具有自我意識(shí)的智能機(jī)器人。另一方面，公眾參與有助于提高智能機(jī)器人社會(huì)風(fēng)險(xiǎn)評(píng)估的準(zhǔn)確性。適當(dāng)?shù)墓妳⑴c對(duì)智能機(jī)器人的社會(huì)風(fēng)險(xiǎn)因素識(shí)別更加全面和準(zhǔn)確，由此制定的預(yù)防性措施將更加有效?？傊?，更多公眾參與將有助于實(shí)現(xiàn)人工智能向善的目標(biāo)，這也是提出人機(jī)融合智能的初衷。