NVIDIA宣布未來五年將提供總值2.5億美元的運算資源,每年投入5,000萬美元,支持英國代理型AI安全與資安研究,協助研究人員開發、測試並強化AI防護機制,因應自主代理與機器人進入實際應用後的安全挑戰。
這項計畫多數資源將開放給英國AI安全與資安研究社群,部分則用於支持牛津大學主導的開放式學習與探索實驗室(BOLD)、倫敦大學學院主導的基礎AI研究科學實驗室(SOFAIR),以及倫敦帝國學院的合作研究。
NVIDIA 承諾未來五年將投入 2.5 億美元,推動英國代理型 AI 安全與資安研究,該運算存取將透過英國的 NVIDIA 雲端合作夥伴提供,支援該國的研究能力與運算生態系。
|
各機構將從不同技術路徑切入。BOLD聚焦讓AI與人類共同學習、適應及協作,並將治理與透明性納入設計;SOFAIR探索新型開源AI架構,降低開發與部署門檻;倫敦帝國學院則投入安全工程與機器人技術,研究能在物理世界感知、推理及行動的自主系統,如何建立可信賴的安全保證。
研究重點涵蓋安全代理、開放模型資安及實際威脅緩解,並支援安全沙盒、可重現研究與安全評估基準測試。相關工作將運用NVIDIA OpenShell開放式安全執行階段軟體及Sentry參考設計,探索代理運作期間的防護與持續監控,成果可作為更廣泛運算生態系建立安全措施的參考。運算資源將透過位於英國的NVIDIA雲端合作夥伴提供,基礎設施也將設於英國,建立在地研究平台並支持當地運算生態系。


