在網(wǎng)絡(luò)威脅瞬息萬(wàn)變的世界中，人工智能既可以被視為一種獨(dú)特的武器，又可以被視為一種日益嚴(yán)重的威脅。在這方面，可以做出兩種不同的觀察：一方面，人工智能技術(shù)為改善數(shù)字環(huán)境中的網(wǎng)絡(luò)安全防御、基于內(nèi)容的分析，以及高級(jí)威脅檢測(cè)和預(yù)防場(chǎng)景，提供了巨大的潛力，遠(yuǎn)遠(yuǎn)超出了傳統(tǒng)IT安全工具所能實(shí)現(xiàn)的范圍。在本文中，我們將了解每個(gè)網(wǎng)絡(luò)安全必須面對(duì)的主要人工智能威脅，幫助有興趣的人熟悉潛在的人工智能威脅以及如何防范。
關(guān)于人工智能（AI）對(duì)網(wǎng)絡(luò)安全的影響，已經(jīng)有很多的討論和文章；然而，它仍然是一個(gè)年輕的領(lǐng)域，可以從技術(shù)和社會(huì)角度成為未來(lái)研究的重點(diǎn)。
機(jī)器學(xué)習(xí)和人工智能已廣泛應(yīng)用于網(wǎng)絡(luò)安全活動(dòng)，具有威脅識(shí)別、信號(hào)識(shí)別和機(jī)構(gòu)內(nèi)顯著模式等優(yōu)勢(shì)?；谌斯ぶ悄艿男陆鉀Q方案和應(yīng)用程序，可幫助網(wǎng)絡(luò)安全專家對(duì)潛在威脅進(jìn)行大量計(jì)算和發(fā)現(xiàn)，并及時(shí)對(duì)違規(guī)行為做出反應(yīng)。
但隨著人工智能應(yīng)用的快速增長(zhǎng)，使用人工智能技術(shù)策劃和執(zhí)行新的、更復(fù)雜的攻擊的趨勢(shì)也越來(lái)越明顯，而這些攻擊無(wú)法被傳統(tǒng)安全系統(tǒng)阻止。這些都是人工智能威脅，它們對(duì)世界各地的組織來(lái)說(shuō)都是一個(gè)重大挑戰(zhàn)，因此需要繼續(xù)保持警惕，并為網(wǎng)絡(luò)安全專業(yè)人員制定主動(dòng)措施。
了解人工智能威脅
1.對(duì)抗性機(jī)器學(xué)習(xí)：對(duì)抗性機(jī)器學(xué)習(xí)是一種旨在通過(guò)向人工智能系統(tǒng)和模型提供專門設(shè)計(jì)用于誤導(dǎo)或隱藏的刺激來(lái)破壞其運(yùn)行的實(shí)踐。這是因?yàn)楹诳涂梢院苋菀椎貪B透人工智能算法中，并開始改變結(jié)果，甚至選擇誤報(bào)、漏報(bào)或滲透安全措施。
2.人工智能惡意軟件：網(wǎng)絡(luò)犯罪分子的新趨勢(shì)之一是利用人工智能技術(shù)創(chuàng)建惡意軟件，這些惡意軟件可以在每次與IT系統(tǒng)交互時(shí)學(xué)習(xí)和改進(jìn)功能和滲透方式，并采用安全措施保護(hù)IT系統(tǒng)。人工智能惡意軟件可以自給自足，無(wú)需其創(chuàng)建者的干預(yù)，并且能夠識(shí)別弱點(diǎn)、避免檢測(cè)，并在網(wǎng)絡(luò)環(huán)境中超速擴(kuò)散，這對(duì)組織的信息和材料來(lái)說(shuō)是危險(xiǎn)的。
3.Deepfake和操縱媒體：Deepfake制作技術(shù)包括通過(guò)人工智能算法合成的虛假音頻、視頻和圖像。它們可以利用Deepfake盜用資源、傳遞虛假信息或組織電話詐騙，從而破壞互動(dòng)中的信任和誠(chéng)實(shí)。
4.人工智能增強(qiáng)型網(wǎng)絡(luò)釣魚攻擊：人工智能輔助網(wǎng)絡(luò)釣魚攻擊充分利用人工智能來(lái)開發(fā)更多獨(dú)特且難以破譯的偽造電子郵件。這種攻擊允許攻擊者根據(jù)年齡、性別和其他可以從數(shù)據(jù)分析中收集的個(gè)人屬性等詳細(xì)信息，向特定個(gè)人發(fā)送網(wǎng)絡(luò)釣魚消息。
5.自動(dòng)化社會(huì)工程：一些社會(huì)工程攻擊利用人工智能（包括機(jī)器學(xué)習(xí)）來(lái)實(shí)現(xiàn)以下目標(biāo)：分析社交媒體上發(fā)布的數(shù)據(jù)，選擇攻擊目標(biāo)并創(chuàng)建利用心理漏洞的消息。認(rèn)知操作方法用途廣泛，能夠強(qiáng)迫人類采取行動(dòng)、欺騙用戶并獲取敏感信息。
減輕人工智能威脅：安全審計(jì)
1.持續(xù)監(jiān)控和分析：安全專業(yè)人員需要利用適當(dāng)?shù)墓ぞ邅?lái)檢測(cè)與實(shí)時(shí)數(shù)據(jù)處理中的基于人工智能的系統(tǒng)相關(guān)的此類威脅。具體而言，通過(guò)持續(xù)監(jiān)控網(wǎng)絡(luò)流量、系統(tǒng)日志和用戶活動(dòng)，組織將能夠確定哪些行為可能是人工智能攻擊的潛在指標(biāo)。
2.加強(qiáng)安全意識(shí)培訓(xùn)：正如本文所述，確保員工了解人工智能帶來(lái)的風(fēng)險(xiǎn)和適當(dāng)?shù)木W(wǎng)絡(luò)安全措施，對(duì)于防止人工智能驅(qū)動(dòng)的攻擊仍然至關(guān)重要。認(rèn)知安全意識(shí)培訓(xùn)概念包括評(píng)估和識(shí)別什么是網(wǎng)絡(luò)釣魚、評(píng)估收到的電子郵件和鏈接等內(nèi)容，以及知道如何報(bào)告異常的事情。
3.自適應(yīng)安全措施：基于人工智能和機(jī)器學(xué)習(xí)的自適應(yīng)安全，使組織能夠根據(jù)當(dāng)前和未來(lái)的威脅和風(fēng)險(xiǎn)調(diào)整安全措施。自適應(yīng)安全解決方案是指在很少或沒(méi)有人工干預(yù)的情況下，以動(dòng)態(tài)方式分析網(wǎng)絡(luò)攻擊模式、調(diào)整安全措施和控制以及防御新興威脅的能力
4.合作和信息共享：信息共享是網(wǎng)絡(luò)安全的一個(gè)重要因素，由于人工智能、其他行業(yè)參與者甚至政府機(jī)構(gòu)和組織不斷涌現(xiàn)的威脅，信息共享應(yīng)與該領(lǐng)域的其他專業(yè)人員一起進(jìn)行。這樣，各個(gè)組織可以加深對(duì)防御問(wèn)題和響應(yīng)的理解，同時(shí)改善對(duì)攻擊后果的防御管理。
5.道德的人工智能開發(fā)和監(jiān)管：保持對(duì)人工智能開發(fā)的適當(dāng)?shù)赖掠^點(diǎn)，推動(dòng)對(duì)潛在危險(xiǎn)的人工智能相關(guān)威脅進(jìn)行適當(dāng)?shù)谋O(jiān)管和處理至關(guān)重要。故此，建議網(wǎng)絡(luò)安全人員以更加開放、負(fù)責(zé)和公正的態(tài)度推動(dòng)新興人工智能技術(shù)，以避免受到對(duì)手的操縱和濫用。
總結(jié)
由于人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用越來(lái)越普遍，網(wǎng)絡(luò)安全行業(yè)的代表必須更加適應(yīng)變化，并更加關(guān)注人工智能在網(wǎng)絡(luò)安全領(lǐng)域帶來(lái)的威脅。通過(guò)認(rèn)識(shí)到人工智能帶來(lái)的危險(xiǎn)類型、應(yīng)用成功的防御措施和影響人工智能的理想實(shí)踐，網(wǎng)絡(luò)安全專家可以保護(hù)組織的信息、IT系統(tǒng)和貴重物品免受新型威脅。
隨著人工智能和網(wǎng)絡(luò)安全主題的不斷發(fā)展和交織，保持相關(guān)性、響應(yīng)性和協(xié)作性變得非常有用，而且確實(shí)必不可少，以便有效應(yīng)對(duì)人工智能發(fā)展帶來(lái)的威脅。只有通過(guò)正確采用這些原則，并由網(wǎng)絡(luò)安全專家有效使用人工智能技術(shù)，才能在全球范圍內(nèi)保護(hù)信息技術(shù)環(huán)境的神圣性和能力。
渝公網(wǎng)安備 50010902000974號(hào)