NVIDIA Jetson 平台服务是 NVIDIA JetPack™ SDK 不可或缺的组件,可提供一系列功能强大的云原生微服务和基础模组,用于为由 NVIDIA Jetson™ 提供支持的边缘构建功能强大的视觉 AI 应用。Jetson 平台服务可为开发者提供模块化和可扩展的架构,将蒸馏大型复杂应用程序集成到具有 API 的小型模块化微服务中,从而集成到其他应用程序和服务中,从而简化 NVIDIA Jetson 边缘 AI 应用程序的开发、部署和管理。

借助新版 NVIDIA Jetson 平台服务,现在可以轻松访问为边缘构建生成式 AI 应用。最新版本包括:

  • 参考工作流:AI-NVR、零样本检测视觉语言模型 (VLM)
  • 超过 15 项服务,包括生成式 AI 服务、基础服务等
  • 串流用于视觉语言模型和零样本检测的生成式 AI 服务,以及用于动态提示和串流更新的 API
  • 基于 DeepStream 的 AI 感知服务,可借助 API 进行物体检测和追踪,从而实现流更新
  • 支持 RTSP 和 WebRTC 等串流协议的媒体管理和存储服务
  • 核心基础服务,如 IoT 网关、API 网关、监控和系统总线

用于安全边缘到云连接和远程 API 调用的 IoT 服务

要开始使用,请查看 NGC 上的入门资源

查看公告博客:借助 NVIDIA JetPack 6.0 助力边缘云原生微服务,现已发布

文档 - Jetson 平台服务

文档快速入门指南