芯耀
2557
AI智能體正處在快速發(fā)展階段，變得更加復(fù)雜、自主和多功能，且應(yīng)用范圍在不斷擴(kuò)大。在AI智能體進(jìn)入“規(guī)模就業(yè)”階段前，安全——成為一個(gè)不容忽視的問(wèn)題，企業(yè)需要解決信任、物理安全、網(wǎng)絡(luò)安全以及合規(guī)性等關(guān)鍵問(wèn)題。
應(yīng)對(duì)這一系列問(wèn)題，日前，英偉達(dá)發(fā)布了全新的 NVIDIA NIM AI Guardrail 微服務(wù)。作為NVIDIA NeMo Guardrails 軟件工具系列的一部分，該平臺(tái)用于 AI 的管理、定制和防護(hù)，可幫助開(kāi)發(fā)者在大語(yǔ)言模型 (LLM) 應(yīng)用中集成和管理 AI 護(hù)欄。行業(yè)領(lǐng)導(dǎo)企業(yè) Amdocs、Cerence AI 以及勞氏公司 (Lowe’s) 等都在使用 NeMo Guardrails 保護(hù) AI 應(yīng)用的安全。
直面AI智能體部署挑戰(zhàn)，英偉達(dá)全新微服務(wù)護(hù)航
一項(xiàng)對(duì)于企業(yè)組織采用AI智能體的調(diào)研顯示，10%已經(jīng)在使用，52% 計(jì)劃在未來(lái)2-3年內(nèi)使用，30%計(jì)劃在明年內(nèi)使用AI代理，僅有7%沒(méi)有探索使用的計(jì)劃。這也表明，大多數(shù)組織對(duì)采用AI智能體持積極態(tài)度，預(yù)計(jì)在未來(lái)兩三年內(nèi)將有大量組織開(kāi)始實(shí)施AI智能體。
企業(yè)部署AI智能體面臨哪些挑戰(zhàn)？英偉達(dá)方面指出，需要重點(diǎn)考慮四大因素：安全性（確保不會(huì)對(duì)企業(yè)系統(tǒng)造成安全威脅）、數(shù)據(jù)隱私（保護(hù)用戶數(shù)據(jù)不被未經(jīng)授權(quán)的訪問(wèn)或泄露）、治理（建立有效的管理機(jī)制來(lái)監(jiān)督AI智能體的運(yùn)行和決策過(guò)程）、性能（確保AI智能體能夠高效完成任務(wù)，滿足企業(yè)需求）。
為了幫助企業(yè)在部署AI智能體的過(guò)程中，構(gòu)建起強(qiáng)大的安全性和控制能力，NVIDIA NeMo Guardrails提供了一套全面的解決方案，主要覆蓋以下三個(gè)環(huán)節(jié)：
- 定義（Define）：根據(jù)獨(dú)特的需求定制安全規(guī)則；
- 編排（Orchestrate）：高效編排多個(gè)專(zhuān)業(yè)化的安全規(guī)則；
- 執(zhí)行（Enforce）：維護(hù)AI智能體的性能，確保安全規(guī)則得到執(zhí)行。
NeMo Guardrails 引入了三項(xiàng)全新的NIM微服務(wù)，可幫助AI智能體在大規(guī)模運(yùn)行的同時(shí)保持受控行為：
- 內(nèi)容安全NIM微服務(wù)：防止AI生成有偏見(jiàn)或有害的輸出結(jié)果，確?；卮鸱系赖聵?biāo)準(zhǔn)。
- 話題控制 NIM 微服務(wù)：將對(duì)話聚焦在經(jīng)過(guò)審核的話題上，避免離題或不當(dāng)內(nèi)容。
- 越獄檢測(cè) NIM 微服務(wù)：增加對(duì)越獄企圖的防護(hù)，幫助在對(duì)抗性場(chǎng)景中保持 AI 的完整性。
據(jù)英偉達(dá)方面解釋?zhuān)捎凇耙坏肚小钡姆椒o(wú)法有效保護(hù)和控制復(fù)雜的代理式 AI 工作流，通過(guò)應(yīng)用多個(gè)輕量級(jí)專(zhuān)業(yè)模型作為護(hù)欄，開(kāi)發(fā)者可以彌補(bǔ)在只采取較為通用的全局策略和保護(hù)措施時(shí)可能出現(xiàn)的漏洞。
同時(shí)，這也可以在不顯著影響性能的情況下，顯著提高AI智能體的安全性和合規(guī)性。為了在最小化延遲的情況下提高安全性，NeMo Guardrails系列中采用了延遲較低的小語(yǔ)言模型，即使是資源有限的場(chǎng)景或是分布式環(huán)境中也能高效運(yùn)行。
相關(guān)測(cè)試顯示，在添加了AI安全護(hù)欄的情況下，響應(yīng)延遲也僅為半秒，同時(shí)合規(guī)性提高了1.5倍，表明NeMo Guardrails能夠在不明顯影響性能的情況下，顯著提高AI代理的安全性和合規(guī)性。
在這些全新微服務(wù)中，有一項(xiàng)專(zhuān)為審核內(nèi)容安全而構(gòu)建，并使用 Aegis 內(nèi)容安全數(shù)據(jù)集 (Aegis Content Safety Dataset) 進(jìn)行訓(xùn)練，后者是同類(lèi)中質(zhì)量較高的人工注釋數(shù)據(jù)源之一。該數(shù)據(jù)集由英偉達(dá)整理并擁有，已在 Hugging Face 網(wǎng)站上公開(kāi)發(fā)布。該數(shù)據(jù)集包含超過(guò) 35000 個(gè)經(jīng)過(guò)人工標(biāo)記的數(shù)據(jù)樣本，這些樣本針對(duì) AI 安全和繞過(guò)系統(tǒng)限制的越獄企圖進(jìn)行標(biāo)記。
有了全新的 NVIDIA NIM AI Guardrail 微服務(wù)，開(kāi)發(fā)者可以構(gòu)建更加安全、可信的 AI 智能體。這些智能體能夠參考特定語(yǔ)境準(zhǔn)則做出安全、適當(dāng)?shù)幕卮?，并且加?qiáng)了對(duì)越獄企圖的抵御力度。它們可被部署在汽車(chē)、金融、醫(yī)療、制造、零售等行業(yè)的客戶服務(wù)中，提高客戶的滿意度和信任度。
NeMo Guardrails保障AI安全，正在大范圍展開(kāi)
AI 智能體有望成為能夠完成各種任務(wù)的“知識(shí)機(jī)器人”，提升全球數(shù)十億知識(shí)工作者的生產(chǎn)力。目前，多個(gè)行業(yè)已經(jīng)開(kāi)始采用NVIDIA的NeMo Guardrails來(lái)增強(qiáng)AI應(yīng)用的安全性和可控性。作為一個(gè)開(kāi)源工具，NeMo Guardrails允許開(kāi)發(fā)者通過(guò)編排AI策略來(lái)提升大型語(yǔ)言模型（LLM）應(yīng)用的安全性。這個(gè)工具與NVIDIA的NIM微服務(wù)，構(gòu)成了強(qiáng)大的AI系統(tǒng)構(gòu)建框架，支持大規(guī)模部署而不犧牲安全和性能。
全球傳媒軟件和服務(wù)提供商Amdocs、汽車(chē)AI解決方案提供商Cerence AI，以及家居裝飾零售商勞氏公司（Lowe’s）都在使用NeMo Guardrails來(lái)提高客戶交互的安全性和準(zhǔn)確性。這些公司通過(guò)集成NeMo Guardrails，能夠提供更安全、更符合語(yǔ)境的AI回答，增強(qiáng)客戶服務(wù)體驗(yàn)。
此外，NVIDIA在NRF展會(huì)上宣布了整合NeMo Guardrails微服務(wù)的AI Blueprint，旨在為零售購(gòu)物助手創(chuàng)造更可靠的客戶交互。咨詢(xún)行業(yè)的領(lǐng)導(dǎo)者如Taskus、Tech Mahindra和Wipro也在將NeMo Guardrails集成到他們的解決方案中，以提供更安全、可靠的生成式AI應(yīng)用。
NeMo Guardrails的開(kāi)放性和可擴(kuò)展性使其能夠集成領(lǐng)先的AI安全模型和防護(hù)提供商的生態(tài)系統(tǒng)，以及AI可觀察性和開(kāi)發(fā)工具。它支持與ActiveFence的ActiveScore集成，以及與AI可觀測(cè)性平臺(tái)Fiddler和端到端AI開(kāi)發(fā)者平臺(tái)Weights & Biases的集成，增強(qiáng)監(jiān)控和推理能力。
