1. 首頁 > 生活百科 > >

AI成為雙刃劍！凱捷調查：97%組織遭遇過GenAI漏洞攻擊

網絡安全人工智能ai安全漏洞

AI成為雙刃劍！凱捷調查：97%組織遭遇過GenAI漏洞攻擊
調研機構凱捷研究院（Capgemini Research Institute）近期針對全球范圍內13個國家的1000家組織開展了一項深入調查 。 結果表明 ， 90%以上的組織在過去一年中至少經歷過一次網絡安全漏洞事件 ， 這一比例與2021年的51%相比有了顯著的增長 。
調查還發現 ， 在過去一年中 ， 97%的受訪組織至少經歷過一次與GenAI相關的安全漏洞攻擊事件 。 這份名為《新防御、新威脅：AI與GenAI對網絡安全的影響》的研究報告揭示了AI和GenAI在網絡安全中日益重要的作用 ， 同時強調了在采用這些技術過程中存在的重大漏洞 。

GenAI應用風險凸顯：網絡安全漏洞與經濟損失齊增
這項調查于2024年5月開展 ， 涵蓋了亞太、歐洲和北美13個國家的1000家組織 。 受訪者來自銀行、保險、能源、醫療保健和航空航天等多個關鍵行業領域 ， 且這些組織的年收入均超過10億美元 。
凱捷網絡安全、云基礎設施服務全球主管Marco Pereira表示：“迄今為止 ， AI和GenAI的應用被證明是一把雙刃劍 。 雖然它們帶來了前所未有的風險 ， 但組織也越來越依賴AI來更快、更準確地檢測網絡安全事件 。 AI和GenAI為他們的安全團隊提供了強大的新工具 ， 以緩解這些事件并推動防御策略的革新與升級 。 ”
【AI成為雙刃劍！凱捷調查：97%組織遭遇過GenAI漏洞攻擊】超過90%的受訪者表示 ， 在過去一年中至少遭遇了一次網絡安全漏洞事件 ， 與2021年的51%相比 ， 這一數字大幅上升 。 其中近一半的組織估計 ， 在過去三年中由于漏洞事件導致的財務損失超過5000萬美元 。 數據泄露事件的頻發與GenAI的應用呈現出同步增長的態勢 ， 而這些先進技術正逐漸淪為惡意行為者的攻擊工具 。
該報告指出了采用GenAI所帶來的多重風險 ， 例如數據中毒、敏感信息泄露以及深度偽造技術的濫用 。 約67%的組織對這些問題表示擔憂 ， 而43%的組織報告因涉及深度偽造內容的安全事件而造成了直接的經濟損失 。
此外其他漏洞也不容忽視 ， 例如AI系統可能產生錯誤或誤導性的輸出（這一現象被稱為“幻覺”）、生成有偏見的內容 ， 以及提示注入攻擊等 。 員工對GenAI的不當使用加劇了這些挑戰 ， 不僅擴大了組織的攻擊面 ， 還增加了防御策略的復雜性 。
利用AI與GenAI強化網絡安全 ， 檢測與投資策略并行
盡管存在潛要風險 ， 但組織仍在積極利用AI和GenAI來加強其網絡安全框架 。 超過60%的受訪者表示 ， AI使他們的威脅檢測時間縮短5%以上 ， 而40%的受訪者表示響應時間也有類似的改善 。
五分之三的組織認為AI對于有效檢測威脅和做出響應至關重要 。 同樣比例的組織預計 ， GenAI將通過實現更快識別和緩解復雜威脅 ， 進一步增強其長期網絡安全戰略 。
日益嚴峻的威脅態勢促使59%的組織考慮增加網絡安全預算 ， 他們重點投資于先進的數據管理系統、云計算資源和針對AI的風險緩解戰略 。
凱捷的報告強調了采用GenAI帶來的三個主要風險領域：日益復雜的網絡攻擊、不斷擴大的攻擊面 ， 以及自定義GenAI解決方案在整個生命周期中的漏洞 。 有效應對這些挑戰對于保持強有力的安全態勢至關重要 。
管理GenAI風險的建議
該報告概述了組織可以采取的幾種安全措施 ， 以平衡GenAI帶來的好處與相關風險 。 這些措施包括實施先進的數據管理系統以保護敏感信息、制定健全的治理政策以確保合乎道德地使用AI ， 以及為員工提供有關AI特定網絡安全風險的培訓 。
此外 ， 凱捷還強調了持續重新評估安全框架以適應不斷變化的威脅的重要性 。 通過采用這些策略 ， 組織可以在利用AI和生成式AI的變革潛力的同時 ， 緩解新興的安全漏洞 。
谷歌云研究人員最近也警告稱 ， 隨著威脅行為者越來越多地利用基于AI的工具來推進其惡意活動 ， 2025年的網絡攻擊可能呈現更為嚴峻的態勢 。 谷歌云在其《2025年網絡安全預測》報告中預測 ， 威脅行為者將使用AI和LLM來策劃并實施更復雜的網絡釣魚攻擊、短信詐騙以及其他社會工程學欺詐手段 。

    推薦閱讀