NVIDIA AI Enterprise 增强 AI 代理的安全性和部署
realtime news Oct 29, 2024 16:54
NVIDIA AI Enterprise 引入了新的功能，用于安全和高效的 AI 代理部署，提升了各行业的生产力和创新。
根据NVIDIA 官方博客，NVIDIA AI Enterprise 发布了最新版本，重点增强 AI 代理的安全性和部署能力。此新版本旨在通过集成先进的 AI 能力提高组织效率和创新。
简化的 AI 管道管理
其中一个重要更新是引入了 NVIDIA NIM Operator，它简化了 Kubernetes 上 AI 管道的部署和管理。该工具通过智能模型预缓存等功能实现自动化部署和性能优化，降低初始推理延迟并加快自动扩展速度。用户现在可以根据多种指标进行扩展，包括 CPU、GPU 和 NIM 特定标准。
增强的安全性和 API 稳定性
NVIDIA AI Enterprise 提供了每月的功能分支版本以供开发者获取最新进展。然而，为了满足稳定性的需求，NVIDIA 还提供了确保 API 一致性和定期安全更新的生产分支，对于在稳定环境中部署 AI 至关重要。这些分支每年发布两次并维护九个月，持续监控漏洞并提供每月安全补丁。
更新中包括多个新的 NIM 微服务，如 Meta 的 Llama 3.1 模型和 Mistral AI 的模型，增强了用于构建安全可靠 AI 应用程序的工具套件。
医疗行业的 AI 应用
对于需要长期软件支持的行业，例如医疗行业，NVIDIA AI Enterprise 包括最多三年稳定 API 的长期支持分支 (LTSB)。最新版本增加了 Holoscan 平台，用于 AI 传感器处理，对开发支持扩展性的 AI 医疗设备至关重要。
云集成和部署
NVIDIA AI Enterprise 支持在内部部署和云服务中部署。值得注意的是，Google Cloud 已经将 NVIDIA NIM 集成到其 Kubernetes Engine 中，使企业客户能够直接从 Google Cloud Marketplace 部署优化的模型，简化了用户的流程。
可用性
NVIDIA AI Enterprise 的更新版本现已上市，大多数 AI 软件容器的生产分支版本已经可以下载。NIM 微服务预计将在 11 月底加入生产分支，为许可证持有者提供增强的工具和企业支持。
Image source: Shutterstock