1931年，愛因斯坦在與加州理工大學(xué)的學(xué)生們交流時(shí)，充滿深情地說：關(guān)心人的本身，應(yīng)當(dāng)始終成為一切技術(shù)奮斗的主要目標(biāo)，以保證我們的科學(xué)思想的成果能夠造福于人類，而不至于成為禍害。

　　人工智能是第四次工業(yè)革命的標(biāo)志性技術(shù)，近年來智能化正在深刻改變我們的生產(chǎn)、生活方式，智能時(shí)代的大門已經(jīng)緩緩開啟。然而，人工智能在給我們帶來更多驚喜的同時(shí)，也帶來了公共安全風(fēng)險(xiǎn)、隱私侵權(quán)、數(shù)字鴻溝、責(zé)任困境、倫理失范等許多新挑戰(zhàn)。

　　因此，人工智能治理這一概念應(yīng)運(yùn)而生。如何引導(dǎo)技術(shù)“負(fù)責(zé)任”地發(fā)展已成為全世界的共同訴求。

　　近日，在2021人工智能合作與治理國際論壇上，與會專家圍繞“推動構(gòu)建平衡包容的人工智能治理體系”開展討論，探尋讓人工智能安全、可靠、負(fù)責(zé)的造福全人類之路——

　　科技并不是存在于真空之中

　　毋庸置疑，我們正在進(jìn)入“人機(jī)物”三元融合，萬物互聯(lián)的智能時(shí)代。

　　最近一段時(shí)間，受到全社會熱議的“困在算法里的外賣小哥”、網(wǎng)絡(luò)游戲沉迷、掌握用戶數(shù)據(jù)和高級算法優(yōu)勢形成壟斷性超級平臺、信息繭房導(dǎo)致群體極化和網(wǎng)絡(luò)暴力等問題，都在警示著我們——對于人工智能，如果利用得當(dāng)，將大有裨益;但是，科技并不是存在于真空之中，也有可能使得現(xiàn)有問題進(jìn)一步加劇。

　　聯(lián)合國開發(fā)計(jì)劃署駐華代表白雅婷舉例說，人工智能的客觀性僅在于其算法，而這些算法由人來編寫，因此人類的偏見可能會被編入人工智能當(dāng)中，從而延續(xù)偏見和歧視;另外，人工智能系統(tǒng)的有效性基于數(shù)據(jù)，這可能會成為濫用數(shù)據(jù)和侵犯個(gè)人隱私的動機(jī)。如果沒有恰當(dāng)?shù)闹卫?，這些技術(shù)的有害之處將對于人的生活構(gòu)成有害的影響。

　　同時(shí)，從總體來看，在人工智能的發(fā)展中，目前發(fā)展中國家話語權(quán)較少;在國家內(nèi)部，發(fā)揮人工智能潛能，只需要少數(shù)人獲得的先進(jìn)技能和專業(yè)知識，如果這種不平衡持續(xù)下去，會出現(xiàn)掉隊(duì)的數(shù)字弱勢群體，數(shù)字鴻溝將持續(xù)擴(kuò)大。

　　在清華大學(xué)公共管理學(xué)院教授、清華大學(xué)智庫中心主任蘇竣看來，在這場人工智能掀起的人類社會劇變中，我們需要科學(xué)的方法來研究和應(yīng)對科學(xué)技術(shù)帶來的種種風(fēng)險(xiǎn)、問題和挑戰(zhàn)。不但要關(guān)注技術(shù)本身，更要關(guān)注技術(shù)對社會的影響，需要做長周期、多學(xué)科、寬領(lǐng)域的觀察、研究，通過實(shí)踐的積累，通過實(shí)驗(yàn)去深刻理解人類社會轉(zhuǎn)型的過程機(jī)理，全方位回應(yīng)來自學(xué)術(shù)界，以及每個(gè)普通的人的關(guān)切。

　　“因此，政策制定者必須具備前瞻性的思維，不能僅解決當(dāng)下的問題，還必須要預(yù)見未來的挑戰(zhàn)?！卑籽沛弥赋?。

　　治理標(biāo)準(zhǔn)的統(tǒng)一并不容易

　　對于人工智能治理的路徑，專家們已有共識。

　　中科院院士、清華大學(xué)校長邱勇指出，人工智能治理必須協(xié)同多元主體，經(jīng)過多維目標(biāo)，融合多元價(jià)值，加強(qiáng)全球合作與對話，構(gòu)建平衡、包容的人工智能治理體系。

　　然而，這些原則的具體落地并不是那么簡單。據(jù)統(tǒng)計(jì)，目前全世界已有160多套組織、國家等建立的人工智能道德和治理原則，但缺少將這些獨(dú)立的倡議結(jié)合起來的框架和標(biāo)準(zhǔn);且在數(shù)據(jù)、算法、算力、場景等方面面臨許多挑戰(zhàn)。

　　11月24日，聯(lián)合國教科文組織在法國巴黎發(fā)布了《人工智能倫理建議書》，這是全球首個(gè)針對人工智能倫理制定的規(guī)范框架。

　　據(jù)世界工程組織聯(lián)合會主席、中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克介紹，這個(gè)建議書的制定付出了艱辛的過程。

　　早在2020年年初，建議書就在網(wǎng)上公開征求意見。在當(dāng)時(shí)意見基礎(chǔ)上，在全球遴選了24人組成特殊專家組，其中考慮了性別平衡、區(qū)域平衡、學(xué)科平衡等;通過專家組多輪討論和修改后，第一輪修改草稿在線征求意見，收到了來自90多個(gè)國家的5000多條意見;在此基礎(chǔ)上繼續(xù)修改，并在全球6個(gè)地區(qū)(涉及亞太、歐洲、非洲等)，與涉及102個(gè)成員國代表開展在線協(xié)商;定稿后再由聯(lián)合國教科文組織總干事發(fā)送給193個(gè)成員國征求意見，最終才正式通過。

　　龔克認(rèn)為，“這體現(xiàn)了多利益攸關(guān)方開放參與規(guī)定制定過程，不僅為人工智能治理體系建立提供了重要基石，本身協(xié)商過程也建立了多邊典范?！?/p>

　　事實(shí)上，當(dāng)前我國已躋身人工智能水平的第一梯隊(duì)，也肩負(fù)著參與國際治理規(guī)則制定的職責(zé)。

　　科技部副部長李萌表示，我國已成立了由15個(gè)部門構(gòu)成的人工智能規(guī)劃推進(jìn)辦公室，辦公室設(shè)立新一代人工智能治理專業(yè)委員會，發(fā)布了相關(guān)治理原則和倫理規(guī)范;同時(shí)開展了長周期、跨學(xué)科的人工智能綜合影響社會實(shí)驗(yàn)，部署了城市、農(nóng)村、教育、醫(yī)療、能源、環(huán)境等30多個(gè)領(lǐng)域的場景實(shí)驗(yàn)研究;并依托領(lǐng)軍企業(yè)布局了一批開放創(chuàng)新平臺，依托地方建立了17個(gè)創(chuàng)新發(fā)展實(shí)驗(yàn)區(qū)。

　　作為我國新一代人工智能治理專業(yè)委員會主任、清華大學(xué)人工智能國際治理研究院院長薛瀾指出，當(dāng)前人工智能治理已從理念探討走到了實(shí)踐探索的前沿。近年來，專委會正致力于構(gòu)建有效的治理框架和相關(guān)規(guī)則。

　　按照目前的研究成果，思路是構(gòu)建“政府、企業(yè)、公眾、大學(xué)與科研機(jī)構(gòu)、媒體、非營利組織、國際組織”等多主體參與，以“底線思維、人本思維、發(fā)展思維、全球思維”為價(jià)值導(dǎo)向，以“算法、數(shù)據(jù)、算力、外部環(huán)境、場景”為治理對象，應(yīng)用“宏觀-中觀-微觀”多維治理工具的人工智能綜合治理框架體系，通過“形成價(jià)值共識、多主體分工協(xié)作、治理理念迭代優(yōu)化”等治理機(jī)制推動人工智能健康發(fā)展，促進(jìn)人類福祉提升。

　　為人工智能發(fā)展劃定“紅線”

　　人們越來越認(rèn)識到：人工智能不是萬能藥，它的好壞取決于使用人工智能的人及數(shù)據(jù)基礎(chǔ)、治理標(biāo)準(zhǔn)等;而治理正是確保大船行穩(wěn)致遠(yuǎn)的航向標(biāo)。

　　為此，向著“平衡包容”的目標(biāo)，各方都在努力前行，為人工智能發(fā)展畫定“紅線”。

　　龔克提出，目前不僅要發(fā)展人工智能的相關(guān)應(yīng)用技術(shù)、開發(fā)更加有效的算法，還需要發(fā)展一批支撐治理的技術(shù)，如監(jiān)督性技術(shù)，用于保護(hù)公平性以及隱私等。比如從社會中采集的數(shù)據(jù)，其實(shí)帶有一定偏見，這不是社會的錯(cuò)，是現(xiàn)實(shí)社會固有的。但如果沒有適當(dāng)技術(shù)對數(shù)據(jù)進(jìn)行“減偏”，公平無歧視原則可能就無法落地。因此，要著力強(qiáng)調(diào)發(fā)展一批監(jiān)管性支撐技術(shù)。

　　李萌認(rèn)為，人工智能技術(shù)應(yīng)該將普遍適用與分類推進(jìn)相結(jié)合，根據(jù)不同群體需求提出差異化選擇，切實(shí)保護(hù)各相關(guān)主體合法權(quán)益，提高弱勢群體的適應(yīng)性，努力消除數(shù)字鴻溝;同時(shí)也要尊重和幫助弱勢群體提供必要的替代方案，避免忽視、偏見、歧視。

　　邱勇提到了教育的意義，他指出，大學(xué)作為人類科技文明的重要策源地，不僅要在人工智能基礎(chǔ)理論與技術(shù)前沿努力突破創(chuàng)新，也要進(jìn)行科技向善的文化理念，塑造良善的人工智能價(jià)值倫理。

　　卡內(nèi)基理事會資深研究員、清華大學(xué)人工智能國際治理研究院學(xué)術(shù)委員溫德爾·瓦拉赫(Wendell Wallach)強(qiáng)調(diào)了新的國際合作方式的重要性。他認(rèn)為，人工智能國際治理機(jī)制應(yīng)該具有敏捷性、適應(yīng)性、預(yù)見性、響應(yīng)性和包容性，中美兩國需要共同參與制定人工智能國際治理方案，將使其更具有可行性。同時(shí)，每個(gè)國家要處理好對國家安全和國際合作雙重需求之間的關(guān)系，接受國際標(biāo)準(zhǔn)的同時(shí)，積極開展旨在應(yīng)對新挑戰(zhàn)的前瞻性對話。

　　不過專家們也提出，人工智能治理的目的不是限制其發(fā)展，而是要為了實(shí)現(xiàn)向善、造福人類的健康發(fā)展。

　　李萌指出，目前社會對人工智能的社會風(fēng)險(xiǎn)、倫理風(fēng)險(xiǎn)和法律風(fēng)險(xiǎn)的認(rèn)識，有一些是基于理性的推演預(yù)判，也有一些是基于主觀判斷的臆想。他認(rèn)為，應(yīng)該秉持積極而負(fù)責(zé)任的態(tài)度，努力實(shí)現(xiàn)人工智能創(chuàng)新發(fā)展與有效規(guī)制之間的協(xié)調(diào)，技術(shù)邊界拓展與應(yīng)用范圍限制之間的平衡，避免陷入倫理陷阱而阻礙前沿技術(shù)的研究與應(yīng)用。