随着视觉AI复杂性的增加,简化的部署解决方案对于优化空间和流程至关重要。NVIDIA加速开发,将创意在几周内变为现实,而不是几个月,使用NVIDIA Metropolis AI工作流程和微服务。
云原生AI应用开发和部署
使用AI管理和自动化基础设施具有挑战性,尤其是对于如超市、仓库、机场、港口和城市等大型复杂空间。这不仅仅是扩大摄像头数量的问题,而是构建视觉AI应用程序,可以智能地监控、提取见解并突出数十或成千上万平方英尺空间中数百或数千台摄像头的异常情况。
微服务架构通过将复杂的多摄像头AI应用程序分解为较小的、自我包含的单元,并通过定义良好的API进行交互,实现了可扩展性、灵活性和弹性。此方法使每个微服务的独立开发、部署和扩展成为可能,使整体应用程序更模块化且更易维护。
实时、可扩展的多摄像头跟踪和分析应用的关键组件包括:
- 多摄像头跟踪模块,用于从每个摄像头聚合本地信息并维护整个场景中的对象全局ID
- 用于行为分析和异常检测的不同模块
- 软件基础设施,如实时可扩展消息代理(例如Kafka)、数据库(例如Elasticsearch)
- 连接需要按需元数据和视频流的下游服务的标准接口
- 每个模块都必须是云原生微服务,以使您的应用程序具有可扩展性、分布式和弹性
Metropolis微服务提供了强大、可定制的云原生构建模块,用于开发视觉AI应用程序和解决方案。它们使从边缘到云的原型、构建、测试和扩展部署变得更加容易和快速,并增强了弹性和安全性。
使用Isaac Sim的仿真和合成数据生成
训练AI模型以应对特定用例需要多样化的标记数据集,这通常成本高昂且费时。通过计算机仿真生成的合成数据提供了一种降低训练时间和费用的经济实惠的替代方案。
NVIDIA Isaac Sim无缝集成到合成数据生成(SDG)管道中,提供了一种复杂的工具来增强AI模型训练以及端到端应用设计和验证。您可以在从机器人和工业自动化到智能城市和零售分析的广泛应用中生成合成数据。
使用PipeTuner进行自动精度调优
PipeTuner是一种新开发者工具,旨在简化AI管道的调优。
AI服务通常包含大量的推断和跟踪参数,找到最大化特定用例准确性的最佳设置可能颇具挑战。手动调优需要对每个管道模块有深入了解,而在大规模、高维参数空间中是不可行的。
PipeTuner通过自动识别基于提供的数据集实现最佳关键性能指标(KPIs)的最佳参数,解决了这些挑战。通过高效探索参数空间,PipeTuner简化了优化过程,使其易于访问,而无需了解管道及其参数的技术知识。
总结
Metropolis微服务简化并加速了从边缘到云的原型、构建、测试和扩展部署过程,提供了更好的弹性和安全性。这些微服务灵活、易配置且无需编码,包装了高效的CNN和基于变压器的型号以适应您的需求。只需几次点击即可将整个端到端工作流部署到公共云或生产环境中。
使用NVIDIA Isaac Sim, NVIDIA TAO Toolkit, PipeTuner和NVIDIA Metropolis微服务,您可以轻松创建功能强大的实时多摄像头AI解决方案。这个综合平台使您的企业能够发掘有价值的见解,优化各行各业的空间和流程。
Image source: Shutterstock