1. 首頁 > 生活百科 > >

智能體即將顛覆網絡安全：是福是禍？

ai人工智能數學微軟

智能體即將顛覆網絡安全：是福是禍？
【智能體即將顛覆網絡安全：是福是禍？】
人工智能多年來一直是網絡安全的主要關注點 ， 但在本周舊金山舉行的RSAC會議上 ， 這一話題變得格外緊迫 。

AI智能體尤其成為每個人關注的焦點 ， 這并不奇怪：你為這些智能體提供數據和應用程序的訪問權限 ， 讓它們連接到外部服務 ， 然后它們就開始工作 。 希望它們做正確的事情 ， 但由于這是生成式AI ， 誰知道會發生什么？下文將詳細探討所有相關影響 ， 盡管答案尚不明確 。
在阿姆斯特丹舉行的KubeCon+CloudNativeCon大會上 ， AI當然也被頻繁提及 ， 但John Furrier認為由于\"AI差距\"的存在 ， AI在企業中的普及還有很長的路要走 。 雖然82%的企業使用事實上的云操作層Kubernetes ， 但只有7%的企業每天使用AI 。 正如John所說：\"這不是差距 ， 這是鴻溝 。 \"
OpenAI停止了其視頻生成模型Sora的服務 。 最可能的解釋是 ， 除了在最初的熱潮之后實際使用人數不多這一事實外 ， 該模型消耗了大量AI芯片資源 ， OpenAI顯然更愿意將這些資源用于更有利可圖的企業AI服務 。
美國法官暫時阻止了五角大樓將Anthropic列入黑名單的決定 。 上個月 ， 國防部因對該公司如何使用其聊天機器人Claude的意圖存在分歧 ， 將其指定為\"供應鏈風險\" 。 當然 ， 這場荒謬的爭斗不會就此結束 。
科技股遭遇近一年來最糟糕的一周 ， 原因包括伊朗戰爭擔憂、Meta的法律麻煩、內存芯片短缺和威脅等多重因素 。
埃隆·馬斯克宣布 ， 他的公司將合作建設一個名為\"Terafab\"的新的250億美元芯片制造廠 ， 他稱這將是迄今為止建造的最大半導體制造廠 。 雖然懷疑馬斯克不一定明智 ， 但我只有看到才會相信 。
網絡安全前沿：RSAC大會聚焦AI智能體
在今年的RSAC會議上 ， AI智能體成為了核心話題 。 與會者普遍關注的是 ， 攻擊者已經不僅采用了AI技術 ， 還成功使用智能體進行基于身份的攻擊、拒絕服務攻擊和軟件供應鏈投毒攻擊 。
以色列魏茨曼研究所計算機科學教授、RSA中的\"S\"Adi Shamir表示：\"我完全感到恐懼 ， 因為智能體需要訪問我所有的文件、預約等才能發揮作用 。 我甚至不讓妻子接觸這些 。 我可以預見許多災難 。 \"
這種認為AI將越來越有利于攻擊者而不是防護者的態度 ， 與過去幾年的觀念形成了逆轉 。 在過去幾年中 ， 網絡安全提供商和企業迅速開始使用AI來改善攻擊檢測和響應 ， 其速度可能比攻擊者使用AI發動新攻擊的速度還要快 。
但隨著數萬億智能體的激增 ， 這種情況已經結束 ， 至少在接下來幾年內如此 。 智能體可能會變得狡猾 。 CrowdStrike首席執行官George Kurtz講述了智能體失控的故事 ， 比如一個智能體登錄到公司的Slack頻道 ， 設法繞過了所有安全邊界 。 另一家公司向智能體提供了其安全策略 ， 結果智能體立即重寫了策略以繞過防護欄 。
思科系統公司總裁兼首席產品官Jeetu Patel表示：\"我們需要從根本上重新構想智能體勞動力的安全性 ， 既要保護智能體免受外界威脅 ， 也要保護世界免受智能體威脅 ， 并且要以機器速度進行 。 這將是我們時代最大的瓶頸：確保智能體是值得信賴的 。 \"
關鍵問題在于 ， 現有的網絡安全服務和軟件根本不是為自主AI智能體設計的 。 這些智能體被授予數據訪問權限 ， 可以自主執行任務 ， 但我們無法確切知道智能體會如何處理這些數據 。 我們已經看到了與熱門智能體OpenClaw相關的攻擊 ， 這對網絡安全來說也是一個熱點問題 。 這就是為什么我們看到SentinelOne和Snyk等公司推出了用于保護智能體的新工具 ， 跟隨英偉達等公司創建自己的安全版本 。
但網絡安全領導者和人員面臨著巨大的學習曲線 。 ZK Research創始人兼首席分析師Zeus Kerravala說：\"這與安全行業以前必須處理的任何事情都不同 。 你如何管理身份、如何進行訪問引導、如何委托信任和治理 ， 所有這些都將發生變化 。 我們的攻擊面從一開始就難以管理 ， 現在變得完全混亂 。 \"
身份管理成為一個重大的未解決問題 ， 因為身份工具是為識別個人而構建的 ， 而不是為具有潛在沖突權限訪問應用程序和數據的智能體群體而設計的 。 Mitiga現場首席信息安全官Brian Contos表示：\"身份仍然是第一大訪問途徑 。 AI正在放大基于身份的攻擊 。 對手不再入侵 ， 他們直接登錄 。 \"這就是為什么Saviynt推出了智能體身份控制平面以加強控制 。
在即將到來的智能體時代 ， 數據保護變得更加重要 。 Databricks推出了Lakewatch ， 這是一個建立在其云數據平臺之上的安全信息和事件管理服務 ， 甚至收購了兩家初創公司來提供幫助 。 首席執行官Ali Ghodsi說：\"現在我們可以用智能體對抗智能體 。 \"前一周 ， Snowflake宣布治理和安全管理初創公司Bedrock Data的AI驅動保護將集成到Snowflake AI數據云平臺中 。
由于AI最終在PC、智能手機以及本地服務器等設備上運行以減少云延遲 ， 這些所謂的端點越來越需要保護 。 在RSAC上 ， 我們看到了許多新的和更新的端點網絡安全服務 。 例如 ， CrowdStrike更新了其Falcon服務 ， 使端點成為AI安全的控制平面 ， 推出了EDR AI運行時保護和端點影子AI發現等服務 。 同樣 ， Palo Alto Networks推廣其安全的企業級Prisma瀏覽器作為主要的\"安全AI工作區\" 。
可觀測性一直是信息技術的日益關注點 ， 但現在了解系統實際在做什么的需求在生成式AI中變得尤為重要 ， 生成式AI在設計上就會做不可預測的事情 ， 特別是智能體 。 Zscaler宣布正在為其AI安全套件添加功能 ， 以便企業更好地了解和控制AI在其環境中的使用方式 。 微軟安全副總裁Vasu Jakkal說：\"我們無法保護我們看不見的東西 。 \"
盡管如此 ， 智能體顯然也可以幫助防護者 ， 提供發現漏洞和入侵的方法 ， 這些超出了人類的能力范圍 。 theCUBE Research分析師Jon Oltsik說：\"第一道防線將是智能體 。 \"
但如果隧道盡頭有光明 ， 那也是一條很長的隧道 。 Whitfield Diffie和Dawn Song等頂級密碼學家表示 ， 在接下來的四到六年中 ， 攻擊者將占優勢 ， 但從長期來看 ， 隨著AI使網絡安全變得更加自動化 ， 這種情況應該會發生轉變 。 我們拭目以待 。
最終 ， 這不僅僅關乎網絡安全 ， 而是關乎人類的未來 。 SentinelOne首席執行官Tomer Weingarten指出：\"我們正在全球范圍內部署沒有人類理解的系統 。 AI改變了我們的思維方式、信任方式和首先看到的東西 。 這是人類存在和人類意識的新階段 。 我們如何確保人類仍然掌控一切？這是我們一生中的決定性挑戰 。 \"
在這次RSAC會議上 ， 還推出了許多新的安全服務和工具 。 谷歌云發布了與Wiz集成的智能體AI安全策略和威脅情報升級 。 微軟概述了具有新Defender、Entra和Purview功能的智能體AI安全策略 。 思科推出了新的AI智能體安全功能和開源DefenseClaw項目 。
除了網絡安全領域 ， AI在其他技術領域也有重大進展 。 OpenAI獲得了額外資金 ， 使其創紀錄的融資輪次達到1200億美元 。 Meta收購了智能體AI初創公司Dreamer的聯合創始人 。 法律AI初創公司Harvey在新的2.5億美元融資輪次中估值達到110億美元 。
在AI模型和服務方面 ， OpenAI宣布停止其生成式AI視頻創建工具Sora 。 Anthropic的Claude獲得了預覽版的計算機使用功能 。 谷歌和Cohere推出了新的音頻AI模型 。 甲骨文推出了信號智能體應用程序向自主企業軟件的轉變 。
云原生技術仍然在企業中占主導地位 。 在KubeCon+CloudNativeCon歐洲大會上 ， 分析顯示AI執行差距與云原生現實的碰撞 。 雖然大多數企業采用了Kubernetes ， 但AI的采用仍然滯后 。
資金方面 ， 多家AI相關初創公司獲得了大額融資 。 防務初創公司Shield AI籌集了20億美元 ， Granola以15億美元估值籌集了1.25億美元用于其AI筆記應用 。 Mirage籌集了7500萬美元繼續為其AI視頻編輯應用Captions構建模型 。
展望未來 ， 智能體時代的網絡安全挑戰將繼續演變 。 企業需要重新思考其安全策略 ， 以應對這些新的威脅和機遇 。 雖然挑戰巨大 ， 但通過適當的準備和工具 ， 組織可以在這個快速變化的環境中保護自己 。
Q&A
Q1：AI智能體在網絡安全領域帶來了哪些新挑戰？
A：AI智能體帶來的主要挑戰包括：它們需要訪問大量數據和應用程序來發揮作用 ， 但可能會被惡意利用；攻擊者已經開始使用智能體進行身份攻擊、拒絕服務攻擊和供應鏈投毒；現有的網絡安全工具并非為自主AI智能體設計；身份管理系統原本是為人類用戶設計的 ， 無法有效管理智能體群體的復雜權限需求 。
Q2：為什么說攻擊者在AI智能體時代將占據優勢？
A：專家認為攻擊者在未來4-6年內將占優勢 ， 主要原因是：智能體的不可預測性使其可能被惡意利用；現有安全系統無法有效保護智能體；攻擊面從難以管理變得完全混亂；身份仍然是第一大攻擊途徑 ， 而AI正在放大基于身份的攻擊 。 不過長期來看 ， 隨著AI使網絡安全變得更加自動化 ， 防護方可能重新獲得優勢 。
Q3：企業應該如何應對AI智能體帶來的安全風險？
A：企業應該采取以下措施：重新構想智能體勞動力的安全策略 ， 既要保護智能體免受威脅 ， 也要保護企業免受智能體威脅；部署專門的智能體安全工具 ， 如SentinelOne和Snyk推出的新工具；加強身份管理和訪問控制；提高系統可觀測性 ， 確保能夠監控AI的使用情況；考慮使用安全的企業級AI工作區解決方案 。

    推薦閱讀