信息來(lái)源：mottoin

近年來(lái)，人們期待已久的AI商業(yè)前景已開(kāi)始成為現(xiàn)實(shí)，AI驅(qū)動(dòng)的系統(tǒng)已在許多商業(yè)運(yùn)營(yíng)領(lǐng)域得到應(yīng)用，這些系統(tǒng)有助于實(shí)現(xiàn)手動(dòng)任務(wù)的自動(dòng)化、增強(qiáng)決策和其他人類(lèi)活動(dòng)。然而，AI技術(shù)若被惡意利用，同樣也會(huì)帶來(lái)巨大的負(fù)面影響。

AI模擬語(yǔ)音

上周三（7月10日），以色列國(guó)家網(wǎng)絡(luò)局（INCD）發(fā)布了一種新型網(wǎng)絡(luò)攻擊的警告，威脅行為者現(xiàn)在能夠使用人工智能（AI）技術(shù)來(lái)模擬公司高級(jí)管理人員的聲音，進(jìn)而欺騙他人從中獲利。據(jù)國(guó)內(nèi)新華社報(bào)道，最近INCD的運(yùn)營(yíng)中心已經(jīng)接獲到此類(lèi)網(wǎng)絡(luò)攻擊的案例。

利用這種方法，威脅行為者能夠指示公司工作人員執(zhí)行諸如匯款之類(lèi)的交易，以及在公司網(wǎng)絡(luò)上發(fā)動(dòng)惡意活動(dòng)。

新威脅屬于商業(yè)電子郵件欺詐（BEC）的范疇——通過(guò)電子郵件欺騙商業(yè)和政府組織，以使用社會(huì)工程學(xué)的方法誘騙員工為攻擊者的利益行事。其中最常見(jiàn)的類(lèi)型是網(wǎng)絡(luò)釣魚(yú)郵件和虛假發(fā)票：威脅行為者冒充成供應(yīng)商，向公司提交發(fā)票并試圖誘騙員工在極短時(shí)間內(nèi)進(jìn)行銀行轉(zhuǎn)帳，并提供機(jī)密信息或允許訪(fǎng)問(wèn)公司的網(wǎng)絡(luò)。

此外，威脅者現(xiàn)在使用的攻擊方法已經(jīng)升級(jí)，包括使用基于人工智能的惡意軟件，該軟件可以模擬自定義人員的語(yǔ)音來(lái)?yè)艽蜥烎~(yú)電話(huà)。

目前市面上已經(jīng)有一些應(yīng)用程序，在聽(tīng)完特定語(yǔ)音20分鐘后，就可以使用該語(yǔ)音說(shuō)出用戶(hù)輸入的所有內(nèi)容。根據(jù)INCD的說(shuō)法，這樣的新型攻擊對(duì)于企業(yè)來(lái)說(shuō)，可能造成極大的經(jīng)濟(jì)損失。

AI：以子之矛，攻子之盾

當(dāng)組織采用人工智能來(lái)加強(qiáng)他們的安全工作時(shí)，網(wǎng)絡(luò)犯罪分子也會(huì)采用敏捷軟件開(kāi)發(fā)，自動(dòng)化和機(jī)器學(xué)習(xí)之類(lèi)的東西，來(lái)潛在地利用人工智能來(lái)更好地識(shí)別和更快地利用網(wǎng)絡(luò)漏洞，這一點(diǎn)也不足為奇。

由AI提供支持的自動(dòng)化系統(tǒng)可以探測(cè)網(wǎng)絡(luò)和系統(tǒng)，搜索可能被利用的未發(fā)現(xiàn)的漏洞。通過(guò)創(chuàng)建極其逼真的視頻和音頻或精心設(shè)計(jì)的電子郵件旨在欺騙目標(biāo)個(gè)體的，AI還可用于使網(wǎng)絡(luò)釣魚(yú)和其他社交工程攻擊更加復(fù)雜。

“過(guò)去兩三年來(lái)，專(zhuān)家們一直在警告人工智能的危險(xiǎn)方面，即網(wǎng)絡(luò)犯罪分子可以利用它來(lái)迅速擴(kuò)大其攻擊覆蓋范圍，”CNBC的網(wǎng)絡(luò)安全記者Kate Fazzini表示。

這些都不只是停留在理論上。在2017年，網(wǎng)絡(luò)安全公司Darktrace在印度進(jìn)行了一次攻擊，該攻擊使用了“初級(jí)”人工智能來(lái)觀(guān)察和學(xué)習(xí)網(wǎng)絡(luò)中正常用戶(hù)行為的模式，用于偵察。該活動(dòng)還可以開(kāi)始解析特定用戶(hù)的通信模式，以便能夠模仿他或她的語(yǔ)氣和風(fēng)格，這比標(biāo)準(zhǔn)的社會(huì)工程嘗試更有效、更有說(shuō)服力。

另一個(gè)由AI驅(qū)動(dòng)的開(kāi)發(fā)是僵尸網(wǎng)絡(luò)群的興起，就像最近的Hide and Seek僵尸網(wǎng)絡(luò)一樣。Hide and Seek是一組自我學(xué)習(xí)的設(shè)備，這是世界上第一個(gè)通過(guò)自定義的對(duì)等協(xié)議進(jìn)行交流的設(shè)備，可以同時(shí)識(shí)別和攻擊不同的攻擊載體。

AI攻擊手段

據(jù)悉，目前至少有三種與人工智能相關(guān)的網(wǎng)絡(luò)安全攻擊手段。

首先是利用人工智能提高攻擊效率。比如，現(xiàn)在黑客可以通過(guò)機(jī)器學(xué)習(xí)，分析社群媒體上的訊息、朋友圈等，依照這些個(gè)人化信息發(fā)起針對(duì)性攻擊，提高釣魚(yú)攻擊成功率。此外，現(xiàn)在網(wǎng)絡(luò)上也出現(xiàn)通過(guò)機(jī)器學(xué)習(xí)以及可自動(dòng)識(shí)別圖像的免費(fèi)軟件，讓黑客可破解用來(lái)防御自動(dòng)化攻擊的驗(yàn)證碼機(jī)制。

其次是黑客攻擊AI系統(tǒng)。這是以一種改變系統(tǒng)的方法進(jìn)行攻擊，簡(jiǎn)單來(lái)說(shuō)就是污染AI系統(tǒng)，或是找到AI系統(tǒng)弱點(diǎn)、繞過(guò)防御以進(jìn)行攻擊。以微軟在2016年推出聊天機(jī)器人Tay為例。網(wǎng)絡(luò)罪犯可以借助機(jī)器學(xué)習(xí)技術(shù)讓它在每次的對(duì)話(huà)中改變回復(fù)話(huà)語(yǔ)，以至于該機(jī)器人在上線(xiàn)24小時(shí)候就出現(xiàn)了種族歧視的言論。其實(shí)不僅僅是聊天機(jī)器人，現(xiàn)在的技術(shù)也能做到入侵語(yǔ)音識(shí)別系統(tǒng)，只要在聲音中插入噪音，就能徹底改變翻譯結(jié)果，讓機(jī)器說(shuō)出特定語(yǔ)句。雖然這些看似無(wú)傷大雅，但由于A(yíng)I已經(jīng)被企業(yè)大量用于商業(yè)營(yíng)運(yùn)中，一旦被黑客知道模型如何訓(xùn)練和運(yùn)作，就能借此機(jī)會(huì)破壞訓(xùn)練模型的數(shù)據(jù)來(lái)操控模型。比如，銀行把AI導(dǎo)入借貸決策系統(tǒng)來(lái)分析申請(qǐng)人的收入、年齡、居住地、信用分?jǐn)?shù)等，以決定是否批準(zhǔn)該借貸，一旦找到方法繞過(guò)偵測(cè)，就算有很差的信用分?jǐn)?shù)仍可貸款成功。

至于最后一種攻擊手段，黑客看重的不是模型本身，而是用來(lái)訓(xùn)練AI模型背后的數(shù)據(jù)，而黑客已經(jīng)可以竊取訓(xùn)練AI模型背后的數(shù)據(jù)。以圖像識(shí)別系統(tǒng)為例，正常情況是，給出圖片后，系統(tǒng)可以識(shí)別出人名，而在破解系統(tǒng)后，黑客只要擁有姓名，就能逆向重建圖片。

黑客追求規(guī)模效應(yīng)，他們?cè)噲D攻擊盡可能多的目標(biāo)用戶(hù)，同時(shí)降低自身的風(fēng)險(xiǎn)。人工智能和機(jī)器學(xué)習(xí)則是他們實(shí)現(xiàn)目標(biāo)的完美工具。AI技術(shù)可以輔助黑客們決策攻擊的對(duì)象、攻擊的方式和時(shí)機(jī)等等因素。