近期一則“人工智能已經(jīng)學(xué)會(huì)自動(dòng)編寫(xiě)虛假點(diǎn)評(píng)”的消息廣為流傳?！拔蚁矚g這個(gè)地方。我跟我哥一起去的，我們點(diǎn)了素食意大利面，很好吃。啤酒不錯(cuò)，服務(wù)也很棒。推薦這個(gè)地方，是個(gè)吃早餐的好去處。地兒小但是買賣大”。這些看起來(lái)如假包換的評(píng)論如果以為是消費(fèi)者評(píng)論的，那你就大錯(cuò)特錯(cuò)了。殊不知，這些評(píng)論都是AI操刀的點(diǎn)評(píng)，這種以假亂真的程度真是讓人咂舌。

消息源于趙燕斌等發(fā)表的一篇題為《在線點(diǎn)評(píng)系統(tǒng)中的自動(dòng)眾包攻擊和防御》的論文。在研究中，趙燕斌團(tuán)隊(duì)發(fā)現(xiàn)，人工智能可以被用來(lái)生成復(fù)雜的點(diǎn)評(píng)信息。這些虛假的點(diǎn)評(píng)不僅機(jī)器無(wú)法檢測(cè)出來(lái)，就連人類讀者也分辨不出來(lái)。

趙燕斌接受了第一財(cái)經(jīng)記者的采訪。他的實(shí)驗(yàn)室一直在從事和網(wǎng)絡(luò)安全相關(guān)的課題。最新的研究歷時(shí)一年左右，是過(guò)去研究的延伸?！叭斯ぶ悄艿募夹g(shù)很先進(jìn)，好處也顯而易見(jiàn)，但是我們的目的是提前預(yù)測(cè)出人工智能對(duì)于社會(huì)潛在的威脅，因此當(dāng)這些威脅真正來(lái)臨的時(shí)候，人們不會(huì)猝不及防?！壁w燕斌對(duì)第一財(cái)經(jīng)記者表示。

他進(jìn)一步解釋道，在獲得了美國(guó)的“大眾點(diǎn)評(píng)網(wǎng)”Yelp的公開(kāi)用戶評(píng)論數(shù)據(jù)后，團(tuán)隊(duì)就開(kāi)始做實(shí)驗(yàn)。具體而言，是從亞馬遜上雇了600位用戶，讓他們對(duì)真人和人工智能編寫(xiě)的點(diǎn)評(píng)進(jìn)行辨別。

“結(jié)果是幾乎沒(méi)有人看得出來(lái)哪些是機(jī)器撰寫(xiě)的點(diǎn)評(píng)?！壁w燕斌對(duì)第一財(cái)經(jīng)記者說(shuō)道，“更讓我們吃驚的是，用戶不僅分辨不出真假，而且還覺(jué)得機(jī)器撰寫(xiě)的這些點(diǎn)評(píng)對(duì)他們很有幫助。”

他表示：“目前這種技術(shù)仍較新，還無(wú)法做到十分精準(zhǔn)。比如已經(jīng)在微博或者Twitter上出現(xiàn)的有些基于簡(jiǎn)單模板產(chǎn)生的評(píng)論。”

人工智能相比人類水軍優(yōu)勢(shì)明顯

趙燕斌認(rèn)為，雖然他們無(wú)從得知是否已經(jīng)有一些公司試圖大規(guī)模利用人工智能的編程軟件撰寫(xiě)虛假評(píng)論，但是這無(wú)疑會(huì)成為不法分子未來(lái)的一個(gè)“必要選項(xiàng)”，因?yàn)槿斯ぶ悄芟啾热祟愃姷膬?yōu)勢(shì)非常明顯。

首先，人類“水軍”發(fā)送虛假評(píng)論的時(shí)間控制不了，因?yàn)椤八姟币灰?jiàn)了工作都上去搶，所以很容易在被攻擊的網(wǎng)頁(yè)上發(fā)現(xiàn)異常，而人工智能發(fā)送消息的時(shí)間是可以控制的。其次，雇傭人類“水軍”撰寫(xiě)評(píng)論的成本在增長(zhǎng)，而人工智能可以反復(fù)頻繁地被使用。

“社交網(wǎng)站已經(jīng)開(kāi)始利用人工智能技術(shù)發(fā)布一些虛假的消息或評(píng)論?！比斯ぶ悄艹鮿?chuàng)公司W(wǎng)orkFusion創(chuàng)始人、CEO揚(yáng)格列維奇（MaxYankelevich）告訴第一財(cái)經(jīng)記者，“這些消息只有通過(guò)人工智能的手段才能加以制止。這不僅僅需要政府的努力，更需要科技公司和整個(gè)社會(huì)的努力。”

人工智能能夠識(shí)別“機(jī)器水軍”

好消息是，人工智能有可能識(shí)別出機(jī)器中的“水軍”。趙燕斌團(tuán)隊(duì)研究發(fā)現(xiàn)，用計(jì)算機(jī)去分析字符的分布等特征，他們就會(huì)發(fā)現(xiàn)真假點(diǎn)評(píng)之間存在著細(xì)微的差異。

假點(diǎn)評(píng)是從真實(shí)點(diǎn)評(píng)里學(xué)出來(lái)的，在這個(gè)過(guò)程中，難免會(huì)有信息流失。假點(diǎn)評(píng)注重的是流暢、可信，但像字符分布這種平時(shí)沒(méi)人關(guān)注的特征，就做得不那么好了。

當(dāng)然，攻擊者也可以騙過(guò)檢測(cè)。換好一點(diǎn)的硬件，做更復(fù)雜一點(diǎn)的神經(jīng)網(wǎng)絡(luò)就行。但這種檢測(cè)至少提高了攻擊的門(mén)檻，為攻擊者設(shè)置了障礙。趙燕斌對(duì)第一財(cái)經(jīng)記者表示：“這就是一種勝利，所有的安全工作都是這樣，提高攻擊的門(mén)檻。”

不過(guò)，趙燕斌強(qiáng)調(diào)，雖然越來(lái)越多的研究致力于防御“假新聞”，但是并不是一切問(wèn)題都能夠用技術(shù)的手段來(lái)解決的?！拔覀冃枰嗟睾蜕鐣?huì)學(xué)科學(xué)家以及心理學(xué)家合作，尋求共同的解決方案?！壁w燕斌告訴第一財(cái)經(jīng)記者。

水軍橫行的互聯(lián)網(wǎng)可信度還剩多少

試想一下，如何像我們平常使用的網(wǎng)站，淘寶、京東、美團(tuán)、餓了么等等本來(lái)就是靠用戶的點(diǎn)評(píng)作為參照的，一點(diǎn)上面的點(diǎn)評(píng)都是虛假的，那么你還會(huì)相信這些網(wǎng)站的真實(shí)性嗎？

所以，隨著人工智能的不斷發(fā)展，一旦AI水軍盛興，勢(shì)必會(huì)給整個(gè)互聯(lián)網(wǎng)帶來(lái)巨大的沖擊，致使網(wǎng)絡(luò)的可信度會(huì)大打折扣，這時(shí)我們就需要有正確的防范措施防止AI水軍。

更多資訊請(qǐng)關(guān)注工業(yè)機(jī)器人頻道