印度全球系統整合商利用 NVIDIA AI 打造新一代企業代理程式，轉型後勤與客戶支援

Nvidia Blog

11 天前

AI 生成摘要

代理式 AI 正在重塑印度的科技產業，為全球服務帶來飛躍。透過運用 NVIDIA AI Enterprise 軟體與 NVIDIA Nemotron 模型，印度的技術領導者正加速各行各業的生產力與效率，從呼叫中心到電信與醫療保健皆涵蓋在內。

印度全球系統整合商利用 NVIDIA AI 打造新一代企業代理程式，轉型後勤部門與客戶支援 | NVIDIA 部落格

							來自 NVIDIA 的人工智慧運算領導地位

印度全球系統整合商利用 NVIDIA AI 打造新一代企業代理程式，轉型後勤部門與客戶支援

代理型 AI（Agentic AI）正在重塑印度的科技產業，為全球服務帶來跨越式的進步。

利用 NVIDIA AI Enterprise 軟體和 NVIDIA Nemotron 模型，印度的科技領導者正在加速各行各業的生產力與效率——從呼叫中心到電信和醫療保健。

Infosys、Persistent、Tech Mahindra 和 Wipro 正引領業務轉型，透過基於 NVIDIA AI Enterprise 構建的整合式代理型 AI 平台，提升後勤部門的生產力與客戶服務。

在今年的印度 AI 影響力峰會（India AI Impact Summit）上，由代理型與生成式 AI 驅動的新一代商業服務尖端技術得到了全面展示。

根據 IBEF 引用 9 月份獲得的 38,000 個 GPU 所帶動的 AI 動能，印度科技產業的營收有望在 2030 年達到 5,000 億美元，高於 2023 年的約 2,500 億美元。

Wipro WEGA 平台利用 NVIDIA AI Enterprise 提升呼叫中心效率

對於政府監管市場中的健康保險計畫而言，客戶體驗至關重要——尤其是在投保高峰期，當截止日期臨近，投保人需要 24/7 的支援來評估選項並為其家庭做出最佳投保決定。傳統的聯絡中心業務模式圍繞著季節性招聘和冗長的培訓，根本無法跟上節奏。現在需要的是一種新的營運模式，既能改善客戶體驗，又能控制不斷增長的服務成本。

Wipro 的 AI 代理輔助解決方案由 WEGA 平台和 NVIDIA AI Enterprise 軟體驅動，展現了未來的樣貌。該系統已部署於一家美國大型醫療保險供應商，透過讓服務代表能夠處理更複雜的請求、縮短解決時間、提供更個人化的支援並提高營運效率，正在重塑會員體驗。

AI 代理有助於滿足客戶對健康計畫的期待：即時獲取準確資訊、對話式自我服務、無障礙投保以及跨管道的一致引導。在幕後，保險機構面臨著通話量上升、數據碎片化和繁重的行政工作。AI 代理透過即時擴展、全天候運作以及利用即時情資支援人工代表，彌補了這一差距。

結果令人矚目：目前 42% 的撥入電話由 AI 代理處理，並在 900 個併發通話和每秒 164 個請求中實現了近乎即時的響應——所有延遲均低於 200 毫秒。

會員受益於自然、對話式的自我服務。人工代表則收到即時提示和知識檢索。集中式數據中心呈現個人化洞察，而自動化數位化則消除了下游流程中的手動工作。

該解決方案採用生產級、可水平擴展的 NVIDIA NIM 微服務和 NVIDIA NeMo Guardrails（NVIDIA AI Enterprise 的一部分），具備受監管醫療環境所需的性能、治理和安全性。

其影響力已擴展至醫療保健之外，金融服務領域也正在進行類似的部署。在任何重視準確性、合規性和規模的地方，AI 代理都正成為一種變革力量。

Tech Mahindra 部署大型電信模型，利用 NVIDIA NIM 驅動自動化網路營運

Tech Mahindra 正與 NVIDIA 合作開發新平台，加速向 AI 輔助網路營運的轉型。其核心是一個大型電信模型（LTM），該模型能生成優先排序的數據驅動建議，幫助現場技術人員根據整個網路的歷史成功率對每項修復進行排名。其結果是更快速、更準確的解決方案——通常只需一次上門即可完成——並為邁向第 4 級以上營運成熟度鋪平道路。

一家大型電信服務供應商正採用相同的 LTM 基礎作為其營運藍圖的一部分，目標是透過更高質量的工單和更少的呈報，改善服務層問題解決、客戶體驗和後勤效率。

該平台使用 NVIDIA Nemotron 嵌入模型對遙測數據進行語義搜索，並使用 Nemotron 重新排名模型來提高決策相關性。這些模型透過 NVIDIA NIM 微服務部署，以實現快速、可靠的加速 AI 推論。NVIDIA NeMo Agent Toolkit 則協調跨網路領域的代理工作流，實現大規模的真正代理型營運。

透過擁抱自動化網路營運，Tech Mahindra 展示了 AI 如何轉型年營收超過 1.5 兆美元的全球電信產業——在該產業中，即使是運行時間和效率的微小提升，也能帶來巨大的經濟影響。

Infosys 利用 NVIDIA AI Enterprise 構建企業級編碼小語言模型

Infosys 開發了一款全新的編碼小語言模型，該模型使用 NVIDIA AI Enterprise 中的 NVIDIA NeMo 框架構建，並整合於 Infosys Topaz Fabric 中。該模型以輕量化的體積提供尖端性能，加速軟體交付，並可部署於企業地端數據中心、雲端環境甚至標準桌上型電腦。

這款擁有 25 億參數的模型支援代理開發、程式碼生成、重構和端到端軟體工程工作流。它在精選的高質量程式碼、合成數據、數學推理和自然語言輸入組合上進行訓練——這種方法使其在 MBPP、MBPP+ 和 BFCL 等基準測試中能與尖端模型的性能相媲美。

Infosys 同樣重視安全與信任。該模型納入了安全對齊訓練和負責任的 AI 實踐，在保持流暢性的同時減少有害輸出。其安全編碼能力已通過包括 Stanford AIR-Bench 和 Meta 的 CyberSecEval 在內的業界基準測試驗證，讓企業有信心將其部署於程式碼生成、除錯和多代理開發流水線中。

Persistent 利用 NVIDIA BioNeMo 和 NeMo Agent Toolkit 加速 AI 驅動的分子發現

Persistent Systems 正與 NVIDIA 合作，將早期藥物發現推向速度與科學保真度的新紀元。此次合作結合了 Persistent 深厚的生命科學工程專業知識與 NVIDIA 的全棧加速運算平台，為研究人員提供了一條從 AI 實驗到生產級發現工作流的強大路徑。

這項工作的核心是 Persistent 全新的生成分子與虛擬篩選（GenMoIVS）解決方案，該方案構建於 NVIDIA BioNeMo 平台和 NeMo Agent Toolkit 之上。GenMoIVS 使用大型領域特定模型來高精度模擬分子行為，在進入濕實驗室之前生成並評估候選化合物。這些代理型工作流在虛擬篩選、優先排序和實驗規劃中持續進行推理，幫助團隊降低早期發現的風險並縮短開發週期。

該平台運行於 NVIDIA 的加速運算平台（包括 NVIDIA AI Enterprise 軟體和 NIM 微服務），能夠在受監管環境中實現高吞吐量模擬和即時科學決策。透過將可擴展的基礎設施與生產就緒的代理型 AI 相結合，Persistent 為生命科學組織提供了一種更快速、更具成本效益的方式來探索化合物空間並提高下游成功率。