• 全新的集成軟件可幫助企業(yè)確保以安全負(fù)責(zé)的方式應(yīng)用和擴(kuò)展AI代理及其他生成式AI技術(shù)。
• 借助以上工具，企業(yè)可以對(duì)代理執(zhí)行「紅隊(duì)測試」和審計(jì)，並檢測「影子代理」等安全威脅。

香港 2025年7月7日 /美通社/ -- 隨著越來越多的企業(yè)開始推動(dòng)AI 代理的規(guī)模應(yīng)用，IBM 於近日推出業(yè)內(nèi)首款整合了AI 安全與 AI 治理、並提供企業(yè)風(fēng)險(xiǎn)態(tài)勢統(tǒng)一視圖的軟件。

IBM 推出業(yè)界首款統(tǒng)一AI代理的治理和安全的軟件

該產(chǎn)品的新功能增強(qiáng)並集成了 watsonx.governance 和 Guardium AI Security的能力，旨在幫助客戶以安全且負(fù)責(zé)任的方式，實(shí)現(xiàn)AI技術(shù)（包括AI代理）的規(guī)模應(yīng)用。watsonx.governance 是 IBM 的端到端 AI 治理工具，Guardium AI Security軟件則用於保護(hù) AI 模型、數(shù)據(jù)和應(yīng)用的安全。

IBM 數(shù)據(jù)和 AI業(yè)務(wù)總經(jīng)理 Ritika Gunnar 表示：「AI 代理有能力重塑企業(yè)的生產(chǎn)力，但其優(yōu)勢也會(huì)帶來挑戰(zhàn)。如果這些自主的系統(tǒng)得不到妥善的治理或保護(hù)，可能會(huì)帶來嚴(yán)重的後果?！?/p>

本次發(fā)佈的新產(chǎn)品包括：

AI代理安全的集成和自動(dòng)化

IBM 不斷增強(qiáng) IBM Guardium AI Security 與 watsonx.governance 的集成，為企業(yè)提供業(yè)內(nèi)首發(fā)的統(tǒng)一解決方案，可同時(shí)管理與 AI 用例相關(guān)的安全風(fēng)險(xiǎn)和治理風(fēng)險(xiǎn)。該集成支持用戶根據(jù) 12 種不同框架（包括《歐盟人工智能法案》和 ISO 42001）驗(yàn)證其合規(guī)標(biāo)準(zhǔn)的流程。

IBM 還與 AllTrue.ai 合作為 Guardium AI Security 打造新功能，包括能夠檢測雲(yún)環(huán)境、代碼庫和嵌入式系統(tǒng)中新的 AI 用例，以及為去中心化的 AI 生態(tài)提供全面的可視性與保護(hù)。一旦發(fā)現(xiàn)安全隱患，IBM Guardium AI Security 可自動(dòng)觸發(fā) watsonx.governance 中相應(yīng)的治理流程。

IBM Guardium AI Security 的更新還包括自動(dòng)化的「紅隊(duì)測試」功能，旨在幫助企業(yè)檢測和修復(fù) AI 用例中的漏洞和錯(cuò)誤配置。為了消除代碼注入、敏感數(shù)據(jù)暴露和數(shù)據(jù)洩露等風(fēng)險(xiǎn)，該功能可幫助用戶量身定制安全策略，同時(shí)對(duì)輸入和輸出提示進(jìn)行分析。上述功能已在 IBM Guardium AI Security正式上線，它們與 watsonx.governance 的集成將在今年晚些時(shí)候陸續(xù)推出。

IBM 安全和Runtime產(chǎn)品副總裁 Suja Viswesan表示：「AI 的未來取決於我們?nèi)绾未_保其安全。安全能力的構(gòu)建應(yīng)該從AI應(yīng)用的第一步就開始，這對(duì)於企業(yè)保護(hù)數(shù)據(jù)安全、滿足合規(guī)要求以及建立持久信任至關(guān)重要?！?/p>

IDC 安全與信任團(tuán)隊(duì)研究總監(jiān) Jennifer Glenn表示：「企業(yè)安全團(tuán)隊(duì)面臨的最大挑戰(zhàn)之一，就是將安全事件與違規(guī)行為轉(zhuǎn)變成可量化的業(yè)務(wù)風(fēng)險(xiǎn)，AI 和AI代理的快速引用進(jìn)一步加劇了這一挑戰(zhàn)。將 AI 治理與 AI 安全統(tǒng)一起來，為企業(yè)提供必要的背景信息，這將幫助他們輕鬆發(fā)現(xiàn)風(fēng)險(xiǎn)並確定優(yōu)先級(jí)，更直觀地看到忽略風(fēng)險(xiǎn)可能帶來的嚴(yán)重後果。」

增強(qiáng)的 AI代理評(píng)估和全生命週期治理

IBM watsonx.governance可監(jiān)控和管理 AI 代理從開發(fā)到部署的整個(gè)生命週期，並直接在AI 代理中構(gòu)建評(píng)估節(jié)點(diǎn)，監(jiān)控回答相關(guān)性、上下文相關(guān)性和忠誠度等指標(biāo)，並幫助用戶找出表現(xiàn)不佳的根因。AI 代理上線的風(fēng)險(xiǎn)評(píng)估、AI 代理審計(jì)跟蹤和AI 代理工具目錄等新功能，於 6 月 27 日推出。

即刻可用的合規(guī)能力 

IBM watsonx.governance Compliance Accelerators 預(yù)置了全球各地的部分法規(guī)、標(biāo)準(zhǔn)和框架，幫助用戶瞭解相關(guān)義務(wù)，從而調(diào)整自己的 AI 用例。這些內(nèi)容涵蓋了《歐盟人工智能法案》、美聯(lián)儲(chǔ) SR 11-7 文件以及紐約市第 144 號(hào)地方法律等重要法規(guī)，以及 ISO/IEC 42001 等全球標(biāo)準(zhǔn)和 NIST AI RMF 等框架。watsonx.governance Compliance Accelerators 已作為watsonx.governance的附加組件正式上線。

為了向 AWS（亞馬遜雲(yún)科技）客戶提供更多價(jià)值和便利，watsonx.governance 已支持在印度的 AWS 數(shù)據(jù)中心使用，包含增強(qiáng)的模型監(jiān)控功能。

此次推出的新功能和集成工具為企業(yè)提供了制勝AI代理時(shí)代所需的全面治理和安全能力。這些創(chuàng)新成果還與 IBM 更廣泛的watsonx AI 解決方案聯(lián)動(dòng)，幫助企業(yè)以負(fù)責(zé)任和安全的方式加速生成式 AI的規(guī)模應(yīng)用。

關(guān)於 IBM 未來方向和意向的聲明可能會(huì)隨時(shí)更改或撤銷，恕不另行通知，僅代表目標(biāo)和目的。

關(guān)於 IBM

IBM 是全球領(lǐng)先的混合雲(yún)、人工智能及企業(yè)服務(wù)提供商，幫助超過 175 個(gè)國家和地區(qū)的客戶，從其擁有的數(shù)據(jù)中獲取商業(yè)洞察，簡化業(yè)務(wù)流程，降低成本，並獲得行業(yè)競爭優(yōu)勢。金融服務(wù)、電信和醫(yī)療健康等關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域的數(shù)千家政府和企業(yè)實(shí)體依靠 IBM 混合雲(yún)平臺(tái)和紅帽 OpenShift 快速、高效、安全地實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型。IBM 在人工智能、量子計(jì)算、行業(yè)雲(yún)解決方案和企業(yè)服務(wù)方面的突破性創(chuàng)新為我們的客戶提供了開放和靈活的選擇。對(duì)企業(yè)誠信、透明治理、社會(huì)責(zé)任、包容文化和服務(wù)精神的長期承諾是 IBM 業(yè)務(wù)發(fā)展的基石。瞭解更多信息，請(qǐng)?jiān)L問： www.ibm.com/

傳媒查詢：

郭韜 gguotao@cn.ibm.com