隨著ChatGPT等各類AI產(chǎn)品逐漸融入大眾的工作,甚至日常生活,AI似乎以極大的便利性和廣泛的運(yùn)用掩蓋了自身的危險(xiǎn)性。AI正在以不道德的方式協(xié)助網(wǎng)絡(luò)攻擊者加速并升級(jí)其攻擊方式。與之相伴的還有當(dāng)前環(huán)境下的其他威脅,包括網(wǎng)絡(luò)犯罪分子與高級(jí)持續(xù)威脅 (APT) 團(tuán)伙之間的界限正在變得模糊,事故對(duì)目標(biāo)企業(yè)產(chǎn)生的影響更廣泛,檢測(cè)和緩解攻擊需要多種防御途徑。AI時(shí)代下,企業(yè)正在面臨著更加嚴(yán)峻的網(wǎng)絡(luò)安全環(huán)境。
AI催生新威脅
對(duì)于網(wǎng)絡(luò)攻擊者而言,AI的利用可以分成三大類,第一類是用AI寫木馬程序,并利用木馬程序進(jìn)入被攻擊者的環(huán)境中;第二是利用AI寫釣魚郵件;第三,攻擊者會(huì)利用AI使原本的攻擊更快速、簡(jiǎn)單。
以生成式AI為例,網(wǎng)絡(luò)攻擊者已經(jīng)研發(fā)出了像是WormGTP、FraudGPT這樣的AI程序,作為ChatGPT的一個(gè)衍生,它可以讓攻擊者很容易地寫出木馬程序或釣魚郵件。此前,當(dāng)人們收到釣魚郵件時(shí),由于詞匯不通順,或者用錯(cuò)詞語(yǔ),會(huì)很快被識(shí)破。但運(yùn)用AI去驅(qū)動(dòng)這一類型的工具時(shí),寫出來(lái)的文字就會(huì)變得更加準(zhǔn)確,釣魚郵件的辨認(rèn)也就變得更加困難。
當(dāng)企業(yè)運(yùn)用像Copilot這樣的ChatGPT類AI工具時(shí),相當(dāng)于為攻擊者開辟了端口。所以任何企業(yè)使用AI時(shí)都要慎之又慎。并且,生成式AI后端是語(yǔ)言模型,而此類語(yǔ)言模型背后有很多開源程序會(huì)在例如GitHub一類的平臺(tái)上分享。攻擊者可以利用這一類型的開源訓(xùn)練自己的AI模型。開放的網(wǎng)絡(luò)環(huán)境也會(huì)讓不同攻擊者更輕易地分享自己的成功經(jīng)驗(yàn)和故事。
與此同時(shí),勒索軟件會(huì)變得更加泛濫。在AI的助力下,勒索變得更加難以辨認(rèn),且危害性更高。比如,勒索者會(huì)利用AI換臉軟件制作勒索視頻。個(gè)人在社交媒體分享的照片和視頻都有可能變成犯罪分子的勒索素材。而現(xiàn)在越來(lái)越普遍的人臉識(shí)別登錄和付款也可能蘊(yùn)藏著被利用的風(fēng)險(xiǎn)。
AI構(gòu)筑新防御
面對(duì)AI環(huán)境中“道高一尺,魔高一丈”的網(wǎng)絡(luò)攻擊,用AI對(duì)抗AI是唯一的途徑。Palo Alto Networks(派拓網(wǎng)絡(luò))Unit 42咨詢總監(jiān)Terence Lau 認(rèn)為: “我們無(wú)法僅憑人力去阻擋AI攻擊,而是應(yīng)該用AI去對(duì)抗AI。我們之前所熟知的一些防御模式和方法需要改變,因?yàn)锳I讓我們看到了更快、更強(qiáng)、更精準(zhǔn)的攻擊模式?!?/p>
作為全球網(wǎng)絡(luò)安全領(lǐng)導(dǎo)者之一,派拓網(wǎng)絡(luò)會(huì)一直跟蹤AI演進(jìn)的過程、利用方式和攻擊者的新手段。派拓網(wǎng)絡(luò)Unit 42 是世界一流的威脅研究機(jī)構(gòu)和事件響應(yīng)團(tuán)隊(duì)之一,對(duì)于精準(zhǔn)AI頗有經(jīng)驗(yàn),會(huì)利用各種數(shù)據(jù)和機(jī)器學(xué)習(xí),并通過一些模式來(lái)研究目前威脅信息方面的整體現(xiàn)狀。同時(shí),信息和研究成果會(huì)以開放、免費(fèi)的形式公布在網(wǎng)站和論壇與大眾共享。派拓網(wǎng)絡(luò)始終希望能夠?qū)σ粋€(gè)企業(yè)所運(yùn)營(yíng)的網(wǎng)絡(luò)生態(tài)系統(tǒng)實(shí)現(xiàn)整體保護(hù),并最終保護(hù)整個(gè)生態(tài)系統(tǒng)。
除了針對(duì)AI的持續(xù)跟蹤,對(duì)于企業(yè),派拓網(wǎng)絡(luò)還有一些重點(diǎn)建議:首先是要改變對(duì)成功防御的看法,企業(yè)不僅要預(yù)防,更要懂得響應(yīng)。其次是優(yōu)先考慮限制攻擊者,并為防御者提供回旋的空間和時(shí)間,做到精簡(jiǎn)防御,實(shí)現(xiàn)可重復(fù)性和自動(dòng)化。企業(yè)還需要注意24/7全天候監(jiān)控,以增加攻擊者的時(shí)間壓力。除此之外,努力過渡到零信任企業(yè)、增強(qiáng)安全措施、測(cè)量并減少外部攻擊面也是面對(duì)AI時(shí)代網(wǎng)絡(luò)攻擊的必要防御手段之一。