Prometheus和Grafana如何监控GPU推理性能？

ofa_image-caption从部署到运维：PrometheusGrafana监控GPU推理指标 1. 项目概述 ofa_image-caption是基于OFA（ofa_image-caption_coco_distilled_en）模型开发的本地图像描述生成工具。该工具通过ModelScope Pipeline接口调用模型&#xff0…

查看更多 2026-02-19