網絡安全是一個人力受限的市場——因此，人工智能(AI)自動化的機會是巨大的。通常，人工智能被用于使網絡安全的某些防御方面更加廣泛和有效。打擊垃圾郵件和檢測惡意軟件就是最好的例子。

另一方面，當試圖攻擊屬于他人的脆弱系統時，使用人工智能有許多動機。這些激勵措施包括攻擊速度快、成本低，以及在已經受到限制的環境中難以吸引熟練員工。

目前公共領域的研究僅限于白帽黑客使用機器學習來識別漏洞并提出修復建議。然而，以人工智能的發展速度，我們很快就會看到攻擊者大規模使用這些功能，如果他們還沒有這么做的話。

我們怎么能確定呢?事實上，很難將僵尸網絡或網絡釣魚活動歸因于人工智能，而非人類。然而，業內人士認為，我們將在一年內看到一場AI驅動的網絡攻擊;62%接受調查的黑帽會議參與者似乎相信這種可能性。

許多人認為，人工智能已經被高度主動和老練的攻擊者用于惡意目的。考慮到人工智能系統讓對手的工作變得容易得多，這一點也不奇怪。

為什么?撇開資源效率不談，人工智能系統在攻擊者和受害者之間引入了心理距離。事實上，許多傳統的攻擊技術包括與他人接觸和在場，這反過來限制了攻擊者的匿名性。AI增加了匿名性和距離。自主武器就是一個很好的例子;攻擊者不再需要扣動扳機并觀察其行為的影響。

它也不一定是關于人類生活的。讓我們來看看一些不那么嚴重的人工智能惡意應用:網絡犯罪。

社會工程仍然是最常見的攻擊載體之一。當某人僅僅點擊一個看起來無害的鏈接時，惡意軟件多久會被引入系統

事實上，要吸引受害者點擊這個鏈接，需要付出相當大的努力。從歷史上看，制作一個可信的釣魚電子郵件是一項勞動密集型的工作。成功實施這樣的襲擊需要幾天甚至幾周的研究和適當的機會。隨著網絡人工智能的出現，情況正在發生變化。

分析大型數據集有助于攻擊者根據在線行為和估計的財富對受害者進行優先排序。預測模型可以更進一步，根據歷史數據確定支付贖金的意愿，甚至可以調整支付的規模，以最大限度地增加網絡罪犯的機會，從而增加他們的收入。

想象一下，公共領域中所有可用的數據，以及之前通過各種數據泄露的秘密，現在都在幾秒鐘內組合在一起，不需要人工操作，就可以完成最終的受害者分析。

當受害者被選中時，人工智能可以用來創建和定制電子郵件和網站，這些郵件和網站很可能會根據經過處理的數據被點擊。信任是通過讓人們在社交媒體上進行長時間的對話而建立的，不需要人力。聊天機器人現在能夠保持這種互動，甚至通過模仿他們的寫作風格來模仿真實的聯系人。

用于受害者識別和偵察的機器學習大大減少了攻擊者的資源投入。事實上，甚至沒有必要再講同樣的語言了。這不可避免地導致了高針對性魚叉式釣魚攻擊的規模和頻率的增加。

此類攻擊的復雜性也可能上升。由于人工智能在語音合成方面的快速發展，它超越了人類的欺騙能力，能夠模仿聲音。這些系統可以基于現有數據創建真實的語音記錄，并通過模擬將社會工程提升到下一個級別。這與上面討論的其他技術相結合，描繪了一幅相當可怕的畫面。

那么，我們該怎么辦呢

讓我們概述一些我們應該考慮的潛在防御策略。

首先，很明顯，增加人工智能用于網絡防御并不是一個壞的選擇。一種結合了監督和非監督學習的方法已經被用來預測新的威脅和惡意軟件基于現有的模式。

行為分析是另一個探索的途徑。機器學習技術可用于監控系統和人類活動，以檢測潛在的惡意偏差。

但重要的是，在使用人工智能進行防御時，我們應該假設攻擊者已經預料到了它。我們還必須跟蹤人工智能的發展及其在網絡中的應用，以便能夠可靠地預測惡意應用程序。

為了實現這一目標，行業從業者、學術研究人員和決策者之間的合作至關重要。立法者必須考慮到人工智能的潛在用途，并更新一些“黑客”的定義。研究人員應該仔細考慮惡意應用他們的研究成果。補丁和漏洞管理程序應該在企業界得到應有的重視。

最后，應該提高用戶對防止社會工程攻擊、阻止密碼重用以及在可能的情況下提倡雙因素身份驗證的意識。

來源：ISACA   編輯：Leron Zinatullin