使用 AWS Panorama 实现边缘计算机视觉 - 向现有摄像头部署 ML 模型
在边缘设备上运行计算机视觉模型,实时分析摄像头画面。介绍 Panorama Appliance 的部署和模型管理。
Panorama 概述
Panorama 是向现有 IP 摄像头部署计算机视觉 ML 模型并在边缘执行实时推理的服务。无需将摄像头画面发送到云端,同时解决隐私和带宽两方面的问题。1 台设备(搭载 NVIDIA GPU,约 4,000 美元)可以 30 fps 并行处理最多 8 路摄像头流,推理结果通过 IoT Core 发送到云端。视频数据完全在设备内处理,不会离开本地网络,因此即使在 GDPR 或 HIPAA 等严格数据本地化法规要求的环境中也易于部署。
设备与模型部署
Panorama Appliance 是安装在本地的专用设备,通过 RTSP 协议连接 IP 摄像头。从控制台将 SageMaker 构建的物体检测模型(如产品缺陷检测)部署到设备,对摄像头画面实时应用推理。应用使用 Python 编写,根据推理结果触发动作(发送告警、停止产线)。仅推理结果的元数据发送到云端,通过 CloudWatch 进行监控。部署通过控制台或 API 以 OTA(Over-the-Air)方式执行,可以对分布在多个站点的设备同时批量部署同一模型。模型版本管理与 SageMaker Model Registry 集成,可构建仅将生产环境已批准的模型交付到边缘的流水线。
模型优化与多摄像头处理
Panorama Appliance 搭载 NVIDIA GPU,可同时处理多路 IP 摄像头画面。使用 SageMaker Neo 编译模型并针对 Panorama 硬件优化以提升推理速度。应用使用 Python 编写,通过 OpenCV 进行帧预处理、模型推理、结果后处理(绘制边界框、发送告警)。1 台设备可并行处理最多 8 路摄像头流,同时监控工厂产线或零售门店的多个角度。推理结果通过 MQTT 发送至 IoT Core,可作为 CloudWatch 指标可视化,或通过 Lambda 发出告警。 关于边缘 AI 的深入学习,Amazon 的专业书籍也可供参考。
用例与部署场景
Panorama 的代表性用例集中在制造业质量检测、物流仓库安全监控、零售门店客流分析三个领域。在制造业中,产线摄像头拍摄产品外观,实时检测缺陷(划痕、缺口、色差)并自动停线。与传统专用检测设备相比,可复用现有摄像头且通过软件更新检测逻辑,灵活性是其优势。在物流仓库中,姿态估计模型检测叉车与工人的接近,预防碰撞事故。在零售门店中,热力图生成模型可视化顾客动线,用于优化货架布局。所有场景均不向云端发送视频,兼顾客户隐私保护与通信成本削减。
与 Rekognition Video / DeepLens 的比较
与 Panorama 类似的 AWS 服务包括 Rekognition Video 和 DeepLens(2023 年停售)。Rekognition Video 在云端分析视频流,无需在边缘放置硬件即可使用,但将视频发送到云端会产生带宽成本和延迟,不适合隐私要求严格的环境。DeepLens 是面向教育和原型开发的摄像头一体化设备,不支持生产工作负载的性能或多摄像头处理。Panorama 定位为搭载生产级 GPU、支持 8 路并行处理和 OTA 运维管理的工业用途服务。摄像头数量少且带宽充裕时,Rekognition Video 无需硬件初始投资即可启动;当摄像头数量增加、带宽成本或延迟成为问题时,Panorama 更具优势。
Panorama 的定价与导入注意事项
Panorama Appliance 由约 4,000 美元的硬件购买费用和每台设备月约 8.33 美元的服务费构成。与基于云的视频分析(Rekognition Video)相比,在摄像头数量多的环境中边缘处理更具成本效益。由于不向云端发送视频,带宽成本也可降低。导入时需配置摄像头的 RTSP 流 URL、网络设置(设备 IP 地址、DNS)以及与 AWS 账户的关联。需要注意的是,设备必须连接互联网以接收管理命令和下载模型,无法在完全隔离的环境中使用。此外,受 GPU 内存限制,单个模型较大时可同时运行的流数量会减少,因此需在验证阶段确认模型轻量化与流数量之间的平衡。
总结
Panorama 是为现有 IP 摄像头添加边缘 AI 的服务。无需将视频发送到云端即可在边缘执行推理,优化隐私和带宽。1 台设备可并行处理最多 8 路摄像头流,通过 SageMaker Neo 优化模型提升推理速度。可通过 OTA 更新远程更新模型和应用,覆盖从制造业质量检测到零售客流分析的广泛工业用途。