帳號:
密碼:
智動化 / 新聞 /

微軟《Cyber Signals》研究:與OpenAI合作避免網路攻擊
[SmartAuto 陳念舜 報導]   2024年02月20日 星期二 瀏覽人次: [1499]

在資安領域,人工智慧(AI)正引領一場巨大變革,依微軟今(20)日發布第六期《Cyber Signals》研究報告,便揭示攻擊威脅者如何運用AI提升攻擊效率,並進行身份欺詐;以及微軟與OpenAI及MITRE合作,透過AI的威脅偵測、行為分析、機器學習模型、零信任原則以及加強驗證,保護自身免受這類網路威脅攻擊侵害。

微軟與 OpenAI 及MITRE 合作,透過 AI 的威脅偵測、行為分析、機器學習模型、零信任原則以及加強驗證,保護免受網路威脅攻擊。
微軟與 OpenAI 及MITRE 合作,透過 AI 的威脅偵測、行為分析、機器學習模型、零信任原則以及加強驗證,保護免受網路威脅攻擊。

因應目前AI既可協助企業組織,以高速擊敗網路攻擊,解決資安人才短缺問題,並推動資安的創新和效率;攻擊威脅者也可藉此,提升攻擊效率及範圍。微軟則與OpenAI合作,揭露其觀察到有關追蹤國家型攻擊者的手法與路徑,正試圖使用大型語言模型(LLMs)來增強其正在進行的網路攻擊的早期行動。

同時公布微軟如何指導及採取行動阻止的原則,以減輕因為國家型持久攻擊威脅者、持久操縱者和使用AI平台和API的網絡犯罪集團帶來的風險,保護AI平台和用戶。這些原則包括:識別和對惡意威脅行為者的行動、通知其他AI服務供應商的使用、與其他利害關係者合作及提升透明度。

因應網路犯罪分子和國家支持的攻擊行為者正在尋求利用AI(包括LLMs),來提高攻擊的速度及範圍,並利用可以進一步實現其目標和攻擊及技術的平台。微軟還與MITRE合作,將這些LLMs主題的戰術、技術和程序(TTPs)整合到 MITRE ATT&CK框架或MITRE ATLAS(人工智慧系統對抗性威脅情境)知識庫中,以幫助更廣泛的資安社群了解,和偵測LLMs在攻擊活動中的新藍圖。

儘管攻擊威脅行為者的動機和複雜程度各有不同,但在佈署攻擊時,他們的共同任務包括偵察、編碼和協助學習及使用人類和機器語言。微軟採用了多種方法來保護自身免受這類網絡攻擊威脅的侵害,包括人工智慧的威脅偵測、行為分析、機器學習模型、零信任原則以及加強驗證等。

針對企業組織,微軟也提出4大建議來應對網路威脅:

1. 限制AI存取範圍,並持續評估應用的合適與合規性。

2. 企業應實施嚴格的輸入驗證和清理,防範指令提示造成的風險。

3. 企業應評估AI可與組織數據接觸的所有領域,要求整個AI供應鏈保持透明度,包括透過第三方合作夥伴和供應商,並透過零信任和數據治理計劃來降低風險。

4. 明確與員工溝通企業的AI使用和風險政策。

此外,因為AI在資訊安全的作用是推動多面向的創新,並提高防禦效率。生成式AI也可以高速幫助資安防禦者保護其組織,從強化攻擊威脅的偵測到簡化資安事件回應來重塑資安。包括利用LLMs模型來分析大量數據,揭示網路攻擊威脅的模式和趨勢,為攻擊威脅情報提供有價值的背景資訊。從Microsoft Copilot for Security的用戶在所有任務上的準確性提高了44%、速度提升了26%,皆突顯了將AI整合到資安防禦中的重要性與效益。

如今AI賦予我們適應並防禦不斷變化的威脅,能夠即時偵測異常、快速回應以阻絕風險,並根據組織的需求量身定制防禦策略;還有助於解決全球400萬名資安專業人才的缺口,並幫助防禦者提高防禦的速度與效率。微軟強調:「AI帶來新的能力,也帶來了新的風險。即不僅只是工具,而是資安領域的典範轉移,使我們能夠抵禦複雜的網路攻擊威脅,並適應動態的攻擊威脅環境。」

相關新聞
趨勢科技提醒AI App及惡意內容才是資安防護要點
趨勢科技指漏洞修補為資安預防針 企業須知4大生命週期樣態
TeamT5資安開運館進駐資安大會 知己知彼防駭於未然
TXOne Networks揭示工控資安3大挑戰 展出最新SageOne整合平台
Fortinet資安報告:96%企業憂心雲端安全 雲地整合成解方
comments powered by Disqus
  相關產品
» ANSYS模擬技術為產品開發數位探索帶來突破進展
» NEC運用AI 協助製造業生產現場產品檢查
» 因應機器智慧應用 AMD推出Radeon Instinct加速器 
» 威聯通提供混合雲物聯網解決方案
» NVIDIA揭開機器人新世代
  相關文章
» 數位轉型下的工具機發展趨勢
» 氣候變遷速度加快 製造業綠色轉型迫在眉睫
» 雲端服務需求激增 數據機房面臨綠色能源挑戰
» 應用逐步落地 雲端平台成AIoT效能關鍵
» 感測器新功能加速物聯網技術應用於智慧場域


刊登廣告 新聞信箱 讀者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2024 遠播資訊股份有限公司版權所有 Powered by O3
地址:台北數位產業園區(digiBlock Taipei) 103台北市大同區承德路三段287-2號A棟204室
電話 (02)2585-5526 #0 轉接至總機 / E-Mail: webmaster@hope.com.tw