@kubernetes_hpa
配置 Kubernetes Horizontal Pod Autoscaler (HPA) 的技能,可根据任务队列深度、处理延迟和 GPU 利用率等相关自定义指标自动扩展 KYC 管道推理服务工作线程。自动扩展对于处理身份验证需求峰值至关重要,同时又不会将响应时间降低到 8 秒 SLO 以下。
配置 Kubernetes Horizontal Pod Autoscaler (HPA) 的技能,可根据任务队列深度、处理延迟和 GPU 利用率等相关自定义指标自动扩展 KYC 管道推理服务工作线程。自动扩展对于处理身份验证需求峰值至关重要,同时又不会将响应时间降低到 8 秒 SLO 以下。