跳到主要内容

用夜莺监控 Kubernetes

抓 apiserver、kubelet、controller-manager、scheduler、kube-proxy、CoreDNS、kube-state-metrics 和 node-exporter 的原生 /metrics,模板覆盖控制面到 Pod 的每一层。

最后校对于

Kubernetes 的每个组件都自带 Prometheus 格式的 /metrics,推荐用 Categraf 的 prometheus 插件直接抓取,再部署 kube-state-metrics(工作负载状态)和 node-exporter(节点资源)。旧的 Categraf kubernetes 插件已废弃,但模板里的仪表盘和规则照常可用。

数据源常用端点覆盖的模板
kube-apiserverhttps://<api-server>:6443/metricsAPI Server
kubelethttps://<node>:10250/metrics、/metrics/cadvisor、/metrics/resourceKubelet、Node、Pod、Container
kube-controller-managerhttps://<control-plane>:10257/metricsController Manager
kube-schedulerhttps://<control-plane>:10259/metricsScheduler
kube-proxyhttp://<node>:10249/metricsProxy
kube-state-metricshttp://<service>:8080/metricsDeployment、StatefulSet、DaemonSet、Pod 状态
CoreDNShttp://<coredns>:9153/metricsCoreDNS
node-exporterhttp://<node>:9100/metricsNode 资源

这是模板数量最多的一个集成:仪表盘覆盖控制面各组件、节点、Deployment、StatefulSet、DaemonSet、Pod、容器和 CoreDNS;规则覆盖 Pod 反复重启与 Pending、副本数不足、节点 NotReady 与资源压力、apiserver 延迟与错误率、etcd 与调度失败、证书到期;指标说明按组件逐条解释。

模板里有什么​

  • 17 张仪表盘,共 470 个面板
  • 154 条告警规则,每条附处置步骤
  • 305 条指标说明

怎么接入​

这类组件自己就暴露 Prometheus 格式的 /metrics,用 Categraf 的 prometheus 插件抓取即可,不需要专门的插件。如果你已经有 Prometheus 或 VictoriaMetrics 在抓这些端点,直接把它接成夜莺的数据源,模板同样能用。

控制面组件的端点需要 ServiceAccount token 或客户端证书,Categraf 以 DaemonSet 部署在集群内时用 bearer_token_file 读取挂载的 token。K3s 等发行版的 scheduler、controller-manager 和 kube-proxy 可能只监听 loopback,要在控制面节点本机采集;不要为了方便把这些无鉴权端点暴露到公网。

  1. 在夜莺「集成中心」里找到 Kubernetes,把仪表盘和告警规则导入到业务组。
  2. 导入的告警规则默认是停用的。先确认指标已经入库,再按自己环境的阈值逐条启用。

内置仪表盘​

仪表盘面板数
Kubernetes / API Server13
Kubernetes / Controller Manager22
Kubernetes / Deployment / Container44
Kubernetes / Kube State Metrics21
Kubernetes / Kubelet Metrics13
Kubernetes / Pod48
Kubernetes / Scheduler20
Kubernetes / Statefulset / Container44
Kubernetes / CoreDNS11
Kubernetes / Daemonset10
Kubernetes / Deployment33
Kubernetes / Etcd20
Kubernetes / Container by categraf5
Kubernetes / Node93
Kubernetes / Cluster Overview35
Kubernetes / Proxy11
Kubernetes / StatefulSet27

内置告警规则​

共 154 条,导入后默认停用,按自己环境的阈值逐条启用。每条规则的触发条件(PromQL)和处置步骤收录在告警规则库:Kubernetes 告警规则、Prometheus 告警规则、Linux 告警规则。

规则级别持续
Deployment Pod 可用性不足70%(replica超过9个pod)S1 紧急1 分钟
Job执行失败S3 提醒1 分钟
Pod启动超时S2 警告1 分钟
Pod状态异常S1 紧急1 分钟
Pod频繁重启S2 警告1 分钟
容器CPU使用率超过80%S3 提醒1 分钟
容器内存超过80%S3 提醒1 分钟
Node CPU使用率超过90%S3 提醒1 分钟
Node内存使用率超过90%S2 警告1 分钟
Node状态异常S1 紧急1 分钟
Node磁盘使用率超过90%S3 提醒1 分钟
KubeClientCertificateExpiration-S2S2 警告—
KubeClientCertificateExpiration-S1S1 紧急—
AggregatedAPIErrorsS2 警告—
AggregatedAPIDownS2 警告5 分钟
KubeAPIDownS1 紧急15 分钟
KubeAPIErrorBudgetBurn-S1-120秒S1 紧急2 分钟
KubeAPIErrorBudgetBurn-S1-900秒S1 紧急15 分钟
KubeAPIErrorBudgetBurn-S2-3600秒S2 警告60 分钟
KubeAPIErrorBudgetBurn-S2-10800秒S2 警告180 分钟
Deployment副本异常S2 警告10 分钟
StatefulSet副本异常S2 警告10 分钟
DaemonSet未就绪PodS2 警告10 分钟
HPA扩容失败S2 警告5 分钟
Pod处于Failed状态S2 警告5 分钟
Job执行失败S2 警告5 分钟
CPUThrottlingHighS3 提醒15 分钟
KubeAggregatedAPIDownS2 警告5 分钟
KubeAggregatedAPIErrorsS2 警告—
KubeAPIDownS1 紧急15 分钟
KubeAPIErrorBudgetBurnS1 紧急2 分钟
KubeAPITerminatedRequestsS2 警告5 分钟
KubeClientCertificateExpirationS2 警告5 分钟
KubeClientErrorsS2 警告15 分钟
KubeContainerWaitingS2 警告60 分钟
KubeControllerManagerDownS1 紧急15 分钟
KubeCPUOvercommitS2 警告10 分钟
KubeCPUQuotaOvercommitS2 警告5 分钟
KubeDaemonSetMisScheduledS2 警告15 分钟
KubeDaemonSetNotScheduledS2 警告10 分钟
KubeDaemonSetRolloutStuckS2 警告15 分钟
KubeDeploymentGenerationMismatchS2 警告15 分钟
KubeDeploymentReplicasMismatchS2 警告15 分钟
KubeDeploymentRolloutStuckS2 警告15 分钟
KubeHpaMaxedOutS2 警告15 分钟
KubeHpaReplicasMismatchS2 警告15 分钟
KubeJobFailedS2 警告15 分钟
KubeJobNotCompletedS2 警告—
KubeletClientCertificateExpirationS2 警告—
KubeletClientCertificateRenewalErrorsS2 警告15 分钟
KubeletDownS1 紧急15 分钟
KubeletPlegDurationHighS2 警告5 分钟
KubeletPodStartUpLatencyHighS2 警告15 分钟
KubeletServerCertificateExpirationS2 警告—
KubeletServerCertificateRenewalErrorsS2 警告15 分钟
KubeletTooManyPodsS3 提醒15 分钟
KubeMemoryOvercommitS2 警告10 分钟
KubeMemoryQuotaOvercommitS2 警告5 分钟
KubeNodeNotReadyS2 警告15 分钟
KubeNodeReadinessFlappingS2 警告15 分钟
KubeNodeUnreachableS2 警告15 分钟
KubePersistentVolumeErrorsS1 紧急5 分钟
KubePersistentVolumeFillingUpS1 紧急1 分钟
KubePersistentVolumeInodesFillingUpS1 紧急1 分钟
KubePodCrashLoopingS2 警告15 分钟
KubePodNotReadyS2 警告15 分钟
KubeQuotaAlmostFullS3 提醒15 分钟
KubeQuotaExceededS2 警告15 分钟
KubeQuotaFullyUsedS3 提醒15 分钟
KubeSchedulerDownS1 紧急15 分钟
KubeStatefulSetGenerationMismatchS2 警告15 分钟
KubeStatefulSetReplicasMismatchS2 警告15 分钟
KubeStatefulSetUpdateNotRolledOutS2 警告15 分钟
KubeVersionMismatchS2 警告15 分钟
Node状态异常S2 警告15 分钟
Node不可达S2 警告15 分钟
Node运行太多PodS2 警告15 分钟
Node状态抖动S2 警告15 分钟
PLEG耗时高S2 警告5 分钟
Pod启动耗时高S2 警告15 分钟
客户端证书过期-S2S2 警告—
客户端证书过期-S1S1 紧急—
服务端证书过期-S2S2 警告—
服务端证书过期-S1S1 紧急—
客户端证书续签错误S2 警告15 分钟
服务证书续签错误S2 警告15 分钟
kubelet故障S1 紧急15 分钟
主机内存不足S2 警告2 分钟
主机内存有压力S2 警告2 分钟
主机入口网络吞吐量异常S2 警告5 分钟
主机出口网络吞吐量异常S2 警告5 分钟
主机磁盘读取速率异常S2 警告5 分钟
主机磁盘写入速率异常S2 警告2 分钟
主机磁盘空间不足S2 警告2 分钟
主机磁盘将在 24 小时内填满S2 警告2 分钟
文件系统inode使用率高S2 警告2 分钟
文件系统inode将在24小时内填满S2 警告2 分钟
主机磁盘读取延迟异常S2 警告2 分钟
主机磁盘写入延迟异常S2 警告2 分钟
节点cpu负载高S2 警告—
有其他云主机窃取cpuS2 警告—
主机上下文切换异常S2 警告—
主机交换内存快满了S2 警告2 分钟
主机系统服务崩溃S2 警告—
主机内核版本偏差S2 警告360 分钟
检测到 HostOomKillS2 警告—
主机网络接收错误S2 警告2 分钟
主机网络出口错误S2 警告2 分钟
主机网络接口饱和S2 警告1 分钟
conntrack数量接近极限S2 警告5 分钟
主机时钟偏差S2 警告2 分钟
主机时钟不同步S2 警告2 分钟
节点文件系统空间填满-S2S2 警告60 分钟
节点文件系统空间填满-S1S1 紧急60 分钟
节点磁盘快满了-S2-space-5S2 警告60 分钟
节点磁盘快满了-S1-space-3S1 紧急60 分钟
节点磁盘快满了-S2-inodes-40S2 警告60 分钟
节点磁盘快满了-S1-inodes-20S1 紧急60 分钟
节点磁盘快满了-S2-inodes-5S2 警告60 分钟
节点磁盘快满了-S1-inodes-3S1 紧急60 分钟
使用的节点Conntrack条目数量高S2 警告5 分钟
节点文本文件收集器抓取错误S2 警告—
节点网络接口抖动S2 警告2 分钟
ConfigReloaderSidecarErrorsS2 警告10 分钟
PrometheusOperatorListErrorsS2 警告15 分钟
PrometheusOperatorNodeLookupErrorsS2 警告10 分钟
PrometheusOperatorNotReadyS2 警告5 分钟
PrometheusOperatorReconcileErrorsS2 警告10 分钟
PrometheusOperatorRejectedResourcesS2 警告5 分钟
PrometheusOperatorSyncFailedS2 警告10 分钟
PrometheusOperatorWatchErrorsS2 警告15 分钟
ConfigReloaderSidecarErrorsS2 警告10 分钟
PrometheusBadConfigS1 紧急10 分钟
PrometheusDuplicateTimestampsS2 警告10 分钟
PrometheusErrorSendingAlertsToAnyAlertmanagerS1 紧急15 分钟
PrometheusErrorSendingAlertsToSomeAlertmanagersS2 警告15 分钟
PrometheusHighQueryLoadS2 警告15 分钟
PrometheusLabelLimitHitS2 警告15 分钟
PrometheusMissingRuleEvaluationsS2 警告15 分钟
PrometheusNotConnectedToAlertmanagersS2 警告10 分钟
PrometheusNotificationQueueRunningFullS2 警告15 分钟
PrometheusNotIngestingSamplesS2 警告10 分钟
PrometheusOutOfOrderTimestampsS2 警告10 分钟
PrometheusRemoteStorageFailuresS1 紧急15 分钟
PrometheusRemoteWriteBehindS1 紧急15 分钟
PrometheusRemoteWriteDesiredShardsS2 警告15 分钟
PrometheusRuleFailuresS1 紧急15 分钟
PrometheusScrapeBodySizeLimitHitS2 警告15 分钟
PrometheusScrapeSampleLimitHitS2 警告15 分钟
PrometheusSDRefreshFailureS2 警告20 分钟
PrometheusTargetLimitHitS2 警告15 分钟
PrometheusTargetSyncFailureS1 紧急5 分钟
PrometheusTSDBCompactionsFailingS2 警告240 分钟
PrometheusTSDBReloadsFailingS2 警告240 分钟

指标说明​

共 305 条,和仪表盘、告警规则里用到的指标一一对应。

指标含义单位
sum(rate(coredns_dns_requests_total{}[5m])) by (proto,instance)coreDNS请求速率 — CoreDNS自身指标
sum(rate(coredns_dns_requests_total{}[5m])) by (type,instance)coreDNS请求速率(记录类型分组) — CoreDNS自身指标
sum(rate(coredns_dns_do_requests_total{}[5m])) by (instance)coreDNS请求速率(DO标志位) — CoreDNS自身指标
histogram_quantile(0.99,sum(rate(coredns_dns_request_size_bytes_bucket{proto="udp"}[5m])) by(le,proto,instance))coreDNS UDP请求数据包大小 P99 — CoreDNS自身指标
histogram_quantile(0.90,sum(rate(coredns_dns_request_size_bytes_bucket{proto="udp"}[5m])) by(le,proto,instance))coreDNS UDP请求数据包大小 P90 — CoreDNS自身指标
histogram_quantile(0.50,sum(rate(coredns_dns_request_size_bytes_bucket{proto="udp"}[5m])) by(le,proto,instance))coreDNS UDP请求数据包大小 P50 — CoreDNS自身指标
histogram_quantile(0.99,sum(rate(coredns_dns_request_size_bytes_bucket{proto="tcp"}[5m])) by(le,proto,instance))coreDNS TCP请求数据包大小 P99 — CoreDNS自身指标
histogram_quantile(0.90,sum(rate(coredns_dns_request_size_bytes_bucket{proto="tcp"}[5m])) by(le,proto,instance))coreDNS TCP请求数据包大小 P90 — CoreDNS自身指标
histogram_quantile(0.50,sum(rate(coredns_dns_request_size_bytes_bucket{proto="tcp"}[5m])) by(le,proto,instance))coreDNS TCP请求数据包大小 P50 — CoreDNS自身指标
sum(rate(coredns_dns_responses_total{}[5m])) by(rcode,instance)coreDNS响应速率(根据响应状态码分组) — CoreDNS自身指标
histogram_quantile(0.99,sum(rate(coredns_dns_request_duration_seconds_bucket{}[5m])) by(le,job,instance))coreDNS响应时延 P99 — CoreDNS自身指标
histogram_quantile(0.90,sum(rate(coredns_dns_request_duration_seconds_bucket{}[5m])) by(le,job,instance))coreDNS响应时延 P90 — CoreDNS自身指标
histogram_quantile(0.50,sum(rate(coredns_dns_request_duration_seconds_bucket{}[5m])) by(le,job,instance))coreDNS响应时延 P50 — CoreDNS自身指标
histogram_quantile(0.99,sum(rate(coredns_dns_response_size_bytes_bucket{proto="udp"}[5m])) by(le,proto,instance))coreDNS UDP响应数据包大小 P99 — CoreDNS自身指标
histogram_quantile(0.90,sum(rate(coredns_dns_response_size_bytes_bucket{proto="udp"}[5m])) by(le,proto,instance))coreDNS UDP响应数据包大小 P90 — CoreDNS自身指标
histogram_quantile(0.50,sum(rate(coredns_dns_response_size_bytes_bucket{proto="udp"}[5m])) by(le,proto,instance))coreDNS UDP响应数据包大小 P50 — CoreDNS自身指标
histogram_quantile(0.99,sum(rate(coredns_dns_response_size_bytes_bucket{proto="tcp"}[5m])) by(le,proto,instance))coreDNS TCP响应数据包大小 P99 — CoreDNS自身指标
histogram_quantile(0.90,sum(rate(coredns_dns_response_size_bytes_bucket{proto="tcp"}[5m])) by(le,proto,instance))coreDNS TCP响应数据包大小 P90 — CoreDNS自身指标
histogram_quantile(0.50,sum(rate(coredns_dns_response_size_bytes_bucket{proto="tcp"}[5m])) by(le,proto,instance))coreDNS TCP响应数据包大小 P50 — CoreDNS自身指标
sum (coredns_cache_entries{}) by(type,instance)coreDNS缓存的DNS记录数 — CoreDNS自身指标
sum (rate(coredns_cache_hits_total{}[5m])) by (type,instance)coreDNS缓存命中率 — CoreDNS自身指标
sum (rate(coredns_cache_misses_total{}[5m])) by (type,instance)coreDNS缓存丢失率 — CoreDNS自身指标
kube_cronjob_info关于cronjob的信息 — kube-state-metrics 的cronjob指标
kube_cronjob_labelsKubernetes标签转换为Prometheus标签 — kube-state-metrics 的cronjob指标
kube_cronjob_createdUnix创建时间戳 — kube-state-metrics 的cronjob指标
kube_cronjob_next_schedule_time下次应该安排cronjob。在lastScheduleTime之后的时间,或者在cron作业的创建时间之后(如果从未计划过)。使用它来确定作业是否延迟 — kube-state-metrics 的cronjob指标
kube_cronjob_status_active活动保持指向当前正在运行的作业的指针 — kube-state-metrics 的cronjob指标
kube_cronjob_status_last_schedule_timeLastScheduleTime保留有关上一次成功调度作业的时间的信息 — kube-state-metrics 的cronjob指标
kube_cronjob_spec_suspend挂起标志告诉控制器挂起后续执行 — kube-state-metrics 的cronjob指标
kube_cronjob_spec_starting_deadline_seconds如果由于任何原因错过了计划时间,则开始工作的最后期限(以秒为单位) — kube-state-metrics 的cronjob指标
apiserver_request_duration_secondsapiserver响应的时间分布,按照url 和 verb 分类 — apiserver服务自身指标 类型: histogram
apiserver_request_totalapiserver的请求总数,按照verb、 version、 group、resource、scope、component、 http返回码分类统计 — apiserver服务自身指标 类型: counter
apiserver_current_inflight_requests最大并发请求数, 按mutating(非get list watch的请求)和readOnly(get list watch)分别限制 — apiserver服务自身指标 类型: gauge
apiserver_response_sizesapiserver 响应大小,单位byte, 按照verb、 version、 group、resource、scope、component分类统计 — apiserver服务自身指标 类型: histogram
watch_cache_capacity按照资源类型统计的watch缓存大小 — apiserver服务自身指标 类型: gauge
process_cpu_seconds_total每秒钟用户态和系统态cpu消耗时间, 计算apiserver进程的cpu的使用率 — apiserver服务自身指标 类型: counter
process_resident_memory_bytesapiserver的内存使用量(单位:Byte) — apiserver服务自身指标 类型: gauge
workqueue_adds_totalapiserver中包含的controller的工作队列,已处理的任务总数 — apiserver服务自身指标 类型: counter
workqueue_depthapiserver中包含的controller的工作队列深度,表示当前队列中要处理的任务的数量,数值越小越好 — apiserver服务自身指标 类型: gauge
kube_configmap_info有关configmap的信息 — kube-state-metrics 的configmap指标
kube_configmap_createdUnix创建时间戳 — kube-state-metrics 的configmap指标
kube_configmap_metadata_resource_version表示configmap特定版本的资源版本 — kube-state-metrics 的configmap指标
container_cpu_cfs_periods_totalcfs时间片总数, 完全公平调度的时间片总数(分配到cpu的时间片数) — cAdvisor暴露的容器指标 类型: counter
container_cpu_cfs_throttled_periods_total容器被throttle的时间片总数 — cAdvisor暴露的容器指标 类型: counter
container_cpu_cfs_throttled_seconds_total容器被throttle的时间 — cAdvisor暴露的容器指标 类型: counter
container_file_descriptors容器打开的fd数 — cAdvisor暴露的容器指标 类型: gauge
container_memory_usage_bytes容器内存使用量,单位byte — cAdvisor暴露的容器指标 类型: gauge
container_network_receive_bytes_total容器入方向的流量 — cAdvisor暴露的容器指标 类型: counter
container_network_transmit_bytes_total容器出方向的流量 — cAdvisor暴露的容器指标 类型: counter
container_spec_cpu_period容器的cpu调度单位时间 — cAdvisor暴露的容器指标 类型: gauge
container_spec_cpu_quota容器的cpu规格 ,除以单位调度时间可以计算核数 — cAdvisor暴露的容器指标 类型: gauge
container_spec_memory_limit_bytes容器的内存规格,单位byte — cAdvisor暴露的容器指标 类型: gauge
container_threads容器当前的线程数 — cAdvisor暴露的容器指标 类型: gauge
container_threads_max允许容器启动的最大线程数 — cAdvisor暴露的容器指标 类型: gauge
rest_client_request_duration_seconds请求apiserver的耗时分布,按照url+verb统计 — controller-manager服务自身指标 类型: histogram
cronjob_controller_cronjob_job_creation_skew_duration_secondscronjob 创建到运行的时间分布 — controller-manager服务自身指标 类型: histogram
leader_election_master_status控制器的选举状态,0表示backup, 1表示master — controller-manager服务自身指标 类型: gauge
node_collector_zone_health每个zone的健康node占比 — controller-manager服务自身指标 类型: gauge
node_collector_zone_size每个zone的node数 — controller-manager服务自身指标 类型: gauge
process_cpu_seconds_totalcpu使用量(也可以理解为cpu使用率) — controller-manager服务自身指标 类型: counter
process_open_fds控制器打开的fd数 — controller-manager服务自身指标 类型: gauge
pv_collector_bound_pv_count当前绑定的pv数量 — controller-manager服务自身指标 类型: gauge
pv_collector_unbound_pvc_count当前没有绑定的pvc数量 — controller-manager服务自身指标 类型: gauge
pv_collector_bound_pvc_count当前绑定的pvc数量 — controller-manager服务自身指标 类型: gauge
pv_collector_total_pv_countpv总数量 — controller-manager服务自身指标 类型: gauge
workqueue_adds_total各个controller已接受的任务总数 — controller-manager服务自身指标 类型: counter
workqueue_depth各个controller队列深度,表示一个controller中的任务的数量 — controller-manager服务自身指标 类型: gauge
workqueue_queue_duration_seconds任务在队列中的等待耗时,按照控制器分别统计 — controller-manager服务自身指标 类型: histogram
workqueue_work_duration_seconds任务出队到被处理完成的时间,按照控制分别统计 — controller-manager服务自身指标 类型: histogram
workqueue_retries_total任务进入队列重试的次数 — controller-manager服务自身指标 类型: counter
workqueue_longest_running_processor_seconds正在处理的任务中,最长耗时任务的处理时间 — controller-manager服务自身指标 类型: gauge
endpoint_slice_controller_syncsendpoint_slice 同步的数量(1.20以上) — controller-manager服务自身指标 类型: counter
get_token_fail_count获取token失败的次数 — controller-manager服务自身指标 类型: counter
go_memstats_gc_cpu_fractioncontroller gc的cpu使用率 — controller-manager服务自身指标 类型: gauge
kube_daemonset_createdUnix创建时间戳 — kube-state-metrics 的daemonset指标
kube_daemonset_status_current_number_scheduled运行至少一个且应该运行的守护程序容器的节点数 — kube-state-metrics 的daemonset指标
kube_daemonset_status_desired_number_scheduled应该运行守护程序容器的节点数 — kube-state-metrics 的daemonset指标
kube_daemonset_status_number_available应该运行守护程序容器并具有一个或多个守护程序容器正在运行并且可用的节点数 — kube-state-metrics 的daemonset指标
kube_daemonset_status_number_misscheduled运行守护程序容器但不应该运行的节点数 — kube-state-metrics 的daemonset指标
kube_daemonset_status_number_ready应该运行守护程序容器并已运行一个或多个守护程序容器并准备就绪的节点数 — kube-state-metrics 的daemonset指标
kube_daemonset_status_number_unavailable应该运行守护程序容器且没有任何守护程序容器正在运行并且可用的节点数 — kube-state-metrics 的daemonset指标
kube_daemonset_updated_number_scheduled正在运行更新的守护程序pod的节点总数 — kube-state-metrics 的daemonset指标
kube_daemonset_metadata_generation代表所需状态的特定生成的序列号 — kube-state-metrics 的daemonset指标
kube_daemonset_labelsKubernetes标签转换为Prometheus标签 — kube-state-metrics 的daemonset指标
kube_deployment_status_replicas每个deployment的副本数 — kube-state-metrics 的deployment指标
kube_deployment_status_replicas_available每个deployment的可用副本数 — kube-state-metrics 的deployment指标
kube_deployment_status_replicas_unavailable每个deployment中不可用副本的数量 — kube-state-metrics 的deployment指标
kube_deployment_status_replicas_updated每个deployment的更新副本数 — kube-state-metrics 的deployment指标
kube_deployment_status_observed_generationdeployment控制器观察到的生成 — kube-state-metrics 的deployment指标
kube_deployment_status_condition部署的当前状态condition — kube-state-metrics 的deployment指标
kube_deployment_spec_replicasdeployment所需的Pod数 — kube-state-metrics 的deployment指标
kube_deployment_spec_pauseddeployment是否暂停,并且deployment控制器不会处理 — kube-state-metrics 的deployment指标
kube_deployment_spec_strategy_rollingupdate_max_unavailable滚动更新deployment期间的最大不可用副本数 — kube-state-metrics 的deployment指标
kube_deployment_spec_strategy_rollingupdate_max_surge滚动更新deployment期间的最大不可用副本数 — kube-state-metrics 的deployment指标
kube_deployment_metadata_generation代表期望状态的特定生成的序列号 — kube-state-metrics 的deployment指标
kube_deployment_labelsKubernetes标签转换为Prometheus标签 — kube-state-metrics 的deployment指标
kube_deployment_createdUnix创建时间戳 — kube-state-metrics 的deployment指标
kube_endpoint_address_not_readyendpoint中not ready的addresses数 — kube-state-metrics 的endpoint指标
kube_endpoint_address_availableendpoint中可用的addresses数 — kube-state-metrics 的endpoint指标
kube_endpoint_info有关endpoint的信息 — kube-state-metrics 的endpoint指标
kube_endpoint_labelsKubernetes标签转换为Prometheus标签 — kube-state-metrics 的endpoint指标
kube_endpoint_createdUnix创建时间戳 — kube-state-metrics 的endpoint指标
etcd_server_is_leaderetcd leader 表示 ,1 leader 0 learner — etcd 服务自身指标 类型: gauge
etcd_server_health_successetcd server 健康检查成功次数 — etcd 服务自身指标 类型: counter
etcd_server_health_failuresetcd server 健康检查失败次数 — etcd 服务自身指标 类型: counter
etcd_disk_defrag_inflight是否启动数据压缩,1表示压缩,0表示没有启动压缩 — etcd 服务自身指标 类型: gauge
etcd_server_snapshot_apply_in_progress_total是否再快照中,1 快照中,0 没有 — etcd 服务自身指标 类型: gauge
etcd_server_leader_changes_seen_total集群leader切换的次数 — etcd 服务自身指标 类型: counter
grpc_server_handled_totalgrpc 调用总数 — etcd 服务自身指标 类型: counter
etcd_disk_wal_fsync_duration_secondsetcd wal同步耗时 — etcd 服务自身指标 类型: histogram
etcd_server_proposals_failed_totaletcd proposal(提议)失败总次数(proposal就是完成raft协议的一次请求) — etcd 服务自身指标 类型: counter
etcd_server_proposals_pendingetcd proposal(提议)pending总次数(proposal就是完成raft协议的一次请求) — etcd 服务自身指标 类型: gauge
etcd_server_read_indexes_failed_total读取索引失败的次数统计(v3索引为所有key都建了索引,索引是为了加快range操作) — etcd 服务自身指标 类型: counter
etcd_server_slow_read_indexes_total读取到过期索引或者读取超时的次数 — etcd 服务自身指标 类型: counter
etcd_server_quota_backend_bytes当前后端的存储quota(db大小的上限)通过参数quota-backend-bytes调整大小,默认2G,官方建议不超过8G — etcd 服务自身指标 类型: gauge
etcd_mvcc_db_total_size_in_bytesetcd 分配的db大小(使用量大小+空闲大小) — etcd 服务自身指标 类型: gauge
etcd_mvcc_db_total_size_in_use_in_bytesetcd db的使用量大小 — etcd 服务自身指标 类型: gauge
etcd_mvcc_range_totaletcd执行range的数量 — etcd 服务自身指标 类型: counter
etcd_mvcc_put_totaletcd执行put的数量 — etcd 服务自身指标 类型: counter
etcd_mvcc_txn_totaletcd实例执行事务的数量 — etcd 服务自身指标 类型: counter
etcd_mvcc_delete_totaletcd实例执行delete操作的数量 — etcd 服务自身指标 类型: counter
process_cpu_seconds_totaletcd cpu使用量 — etcd 服务自身指标 类型: counter
process_resident_memory_bytesetcd 内存使用量 — etcd 服务自身指标 类型: gauge
process_open_fdsetcd 打开的fd数目 — etcd 服务自身指标 类型: gauge
kube_job_info有关job的信息 — kube-state-metrics 的job指标
kube_job_labelsKubernetes标签转换为Prometheus标签 — kube-state-metrics 的job指标
kube_job_owner有关job所有者的信息 — kube-state-metrics 的job指标
kube_job_spec_parallelism在任何给定时间,job应运行的pod的最大期望数量 — kube-state-metrics 的job指标
kube_job_spec_completions运行job所需的成功完成的Pod数量 — kube-state-metrics 的job指标
kube_job_spec_active_deadline_seconds在系统尝试终止job之前,作业相对于startTime的活动持续时间(以秒为单位) — kube-state-metrics 的job指标
kube_job_status_active正在运行的pod数 — kube-state-metrics 的job指标
kube_job_status_succeeded成功reached Phase的pod数量 — kube-state-metrics 的job指标
kube_job_status_failedFailed reached Phase的pod数量 — kube-state-metrics 的job指标
kube_job_status_start_timeStartTime表示作业Job Manager job的时间 — kube-state-metrics 的job指标
kube_job_status_completion_timeCompletionTime表示job完成的时间 — kube-state-metrics 的job指标
kube_job_completejob已完成执行 — kube-state-metrics 的job指标
kube_job_failedjob执行失败 — kube-state-metrics 的job指标
kube_job_createdUnix创建时间戳 — kube-state-metrics 的job指标
node_netstat_Tcp_CurrEstab * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}TCP当前连接数 — 节点指标 类型: *
node_filefd_allocated * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}文件描述符使用数 — 节点指标 类型: *
node_filefd_maximum * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}文件描述符最大限制 — 节点指标 类型: *
100 - (node_filesystem_files_free * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"} / node_filesystem_files * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"} * 100)文件系统inode使用率 — 节点指标 类型: -
100 - ((node_filesystem_avail_bytes * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"} * 100) / node_filesystem_size_bytes * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"})文件系统使用率 — 节点指标 类型: -
sum(node_filesystem_device_error * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}) by (mountpoint)文件系统错误数 — 节点指标 类型: *
rate(node_disk_io_now[5m]) * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}磁盘IO使用率 — 节点指标 类型: *
rate(node_disk_writes_completed_total[5m]) * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}磁盘写入IOPS — 节点指标 类型: *
rate(node_disk_written_bytes_total[5m]) * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}磁盘写入速率 — 节点指标 类型: *
rate(node_disk_reads_completed_total[5m]) * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}磁盘读取IOPS — 节点指标 类型: *
rate(node_disk_read_bytes_total[5m]) * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}磁盘读取速率 — 节点指标 类型: *
rate(node_context_switches_total[5m]) * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}系统上下文切换率 — 节点指标 类型: *
rate(node_intr_total[5m]) * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}系统中断率 — 节点指标 类型: *
sum(rate(node_network_transmit_drop_total[5m]) * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"})网络发送丢包率 — 节点指标 类型: *
sum(rate(node_network_transmit_bytes_total[5m]) * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"})网络发送带宽 — 节点指标 类型: *
sum(rate(node_network_transmit_errs_total[5m]) * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"})网络发送错误率 — 节点指标 类型: *
sum(rate(node_network_receive_drop_total[5m]) * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"})网络接收丢包率 — 节点指标 类型: *
sum(rate(node_network_receive_bytes_total[5m]) * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"})网络接收带宽 — 节点指标 类型: *
sum(rate(node_network_receive_errs_total[5m]) * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"})网络接收错误率 — 节点指标 类型: *
node_nf_conntrack_entries * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}网络连接跟踪条目数 — 节点指标 类型: *
node_nf_conntrack_entries_limit * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}网络连接跟踪限制 — 节点指标 类型: *
sum by (instance) (rate(node_cpu_seconds_total{mode!~"idle|iowait|steal"}[5m])) * on(instance) group_left(nodename) node_uname_info{nodename=~"$node_name"} *100节点 CPU 使用率 — 节点指标 类型: by
node_load15 * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}节点15分钟负载 — 节点指标 类型: *
node_load1 * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}节点1分钟负载 — 节点指标 类型: *
node_load5 * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}节点5分钟负载 — 节点指标 类型: *
node_memory_SwapTotal_bytes * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"} - node_memory_SwapFree_bytes * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}节点Swap使用量 — 节点指标 类型: *
node_memory_SwapTotal_bytes * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}节点Swap总量 — 节点指标 类型: *
sum(kube_pod_info * on(node) group_left(nodename) node_uname_info{nodename=~"$node_name"})节点上运行的Pod数量 — 节点指标 类型: *
sum(node_memory_MemTotal_bytes * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"} - node_memory_MemAvailable_bytes * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}) / sum(node_memory_MemTotal_bytes * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"})节点内存使用率 — 节点指标 类型: *
node_memory_MemAvailable_bytes * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}节点内存详细信息 - 可用 — 节点指标 类型: *
node_memory_MemTotal_bytes * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}节点内存详细信息 - 总量 — 节点指标 类型: *
node_memory_MemFree_bytes * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}节点内存详细信息 - 空闲 — 节点指标 类型: *
node_memory_Buffers_bytes * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}节点内存详细信息 - 缓冲区 — 节点指标 类型: *
node_memory_Cached_bytes * on(instance, cluster) group_left(nodename) node_uname_info{nodename=~"$node_name"}节点内存详细信息 - 缓存 — 节点指标 类型: *
sum(container_fs_inodes_total{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}) by (name)Inode数量 — Pod自身指标 类型: pod=~"$pod_name",
sum(container_tasks_state{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*", state="uninterruptible"}) by (name)不可中断任务数量 — Pod自身指标 类型: pod=~"$pod_name",
(sum(container_memory_cache{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}) by (name))容器cache使用 — Pod自身指标 类型: pod=~"$pod_name",
(sum(container_spec_cpu_quota{namespace="$namespace", pod=~"$pod_name"}/container_spec_cpu_period{namespace="$namespace", pod=~"$pod_name"}) by (name))容器CPU Limit — Pod自身指标 类型: pod=~"$pod_name"}/container_spec_cpu_period{namespace="$namespace",
sum(container_cpu_load_average_10s{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}) by (name)容器CPU load 10 — Pod自身指标 类型: pod=~"$pod_name",
sum(rate(container_cpu_usage_seconds_total{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}[1m])*100) by(name)容器CPU使用率 — Pod自身指标 类型: pod=~"$pod_name",
sum(rate(container_cpu_usage_seconds_total{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}[1m])*100) by(name)/((sum(container_spec_cpu_quota{namespace="$namespace", pod=~"$pod_name"}/container_spec_cpu_period{namespace="$namespace", pod=~"$pod_name"}) by (name)))容器CPU归一化后使用率 — Pod自身指标 类型: pod=~"$pod_name",
sum(container_fs_io_current{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}) by (name)容器I/O — Pod自身指标 类型: pod=~"$pod_name",
(sum(container_memory_rss{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}) by (name))容器RSS内存使用 — Pod自身指标 类型: pod=~"$pod_name",
sum(container_spec_memory_limit_bytes{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}) by (name)容器内存 Limit — Pod自身指标 类型: pod=~"$pod_name",
(sum(container_memory_usage_bytes{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}) by (name))容器内存使用 — Pod自身指标 类型: pod=~"$pod_name",
((sum(container_memory_usage_bytes{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}) by (name)) /(sum(container_spec_memory_limit_bytes{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}) by (name)))*100容器内存使用率 — Pod自身指标 类型: pod=~"$pod_name",
sum(rate(container_cpu_system_seconds_total{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}[1m])*100) by(name)容器内核态CPU使用率 — Pod自身指标 类型: pod=~"$pod_name",
sum(rate(container_cpu_cfs_throttled_periods_total{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}[1m]))by(name) *100容器发生CPU throttle的比率 — Pod自身指标 类型: pod=~"$pod_name",
sum(container_oom_events_total{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}) by (name)容器发生OOM次数 — Pod自身指标 类型: pod=~"$pod_name",
sum((time()-container_start_time_seconds{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"})) by (name)容器启动时长(小时) — Pod自身指标 类型: pod=~"$pod_name",
sum(container_fs_usage_bytes{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}) by (name)容器已使用的文件系统大小 — Pod自身指标 类型: pod=~"$pod_name",
sum(rate(container_cpu_user_seconds_total{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}[1m])*100) by(name)容器用户态CPU使用率 — Pod自身指标 类型: pod=~"$pod_name",
sum(rate(container_fs_writes_bytes_total{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}[1m])) by(name)文件系统写入速率 — Pod自身指标 类型: pod=~"$pod_name",
sum(rate(container_fs_reads_bytes_total{namespace="$namespace", pod=~"$pod_name", image!~".*pause.*"}[1m])) by(name)文件系统读取速率 — Pod自身指标 类型: pod=~"$pod_name",
sum(rate(container_network_transmit_packets_dropped_total{namespace="$namespace", pod=~"$pod_name"}[1m])) by(name, interface)网络发送丢包数 — Pod自身指标 类型: pod=~"$pod_name"}[1m]))
sum(rate(container_network_transmit_packets_total{namespace="$namespace", pod=~"$pod_name"}[1m])) by(name, interface)网络发送数据包 — Pod自身指标 类型: pod=~"$pod_name"}[1m]))
sum(rate(container_network_transmit_bytes_total{namespace="$namespace", pod=~"$pod_name"}[1m])) by(name, interface)网络发送速率 — Pod自身指标 类型: pod=~"$pod_name"}[1m]))
sum(rate(container_network_transmit_errors_total{namespace="$namespace", pod=~"$pod_name"}[1m])) by(name, interface)网络发送错误数 — Pod自身指标 类型: pod=~"$pod_name"}[1m]))
sum(rate(container_network_receive_packets_dropped_total{namespace="$namespace", pod=~"$pod_name"}[1m])) by(name, interface)网络接收丢包数 — Pod自身指标 类型: pod=~"$pod_name"}[1m]))
sum(rate(container_network_receive_packets_total{namespace="$namespace", pod=~"$pod_name"}[1m])) by(name, interface)网络接收数据包数 — Pod自身指标 类型: pod=~"$pod_name"}[1m]))
sum(rate(container_network_receive_bytes_total{namespace="$namespace", pod=~"$pod_name"}[1m])) by(name, interface)网络接收速率 — Pod自身指标 类型: pod=~"$pod_name"}[1m]))
sum(rate(container_network_receive_errors_total{namespace="$namespace", pod=~"$pod_name"}[1m])) by(name, interface)网络接收错误数 — Pod自身指标 类型: pod=~"$pod_name"}[1m]))
go_gc_duration_secondsgc时间 — kube-proxy 服务自身指标 类型: summary
go_goroutinesgoroutine数量 — kube-proxy 服务自身指标 类型: gauge
go_threads线程数量 — kube-proxy 服务自身指标 类型: gauge
kubeproxy_network_programming_duration_secondsservice或者pod发生变化到kube-proxy规则同步完成时间指标含义较复杂,参照https://github.com/kubernetes/community/blob/master/sig-scalability/slos/network_programming_latency.md — kube-proxy 服务自身指标 类型: histogram
kubeproxy_sync_proxy_rules_duration_seconds规则同步耗时 — kube-proxy 服务自身指标 类型: histogram
kubeproxy_sync_proxy_rules_endpoint_changes_pendingendpoint 发生变化后规则同步pending的次数 — kube-proxy 服务自身指标 类型: gauge
kubeproxy_sync_proxy_rules_endpoint_changes_totalendpoint 发生变化后规则同步的总次数 — kube-proxy 服务自身指标 类型: counter
kubeproxy_sync_proxy_rules_iptables_restore_failures_total本机上 iptables restore 失败的总次数 — kube-proxy 服务自身指标 类型: counter
kubeproxy_sync_proxy_rules_last_queued_timestamp_seconds最近一次规则同步的请求时间戳,如果比下一个指标 kubeproxy_sync_proxy_rules_last_timestamp_seconds 大很多,那说明同步 hung 住了 — kube-proxy 服务自身指标 类型: gauge
kubeproxy_sync_proxy_rules_last_timestamp_seconds最近一次规则同步的完成时间戳 — kube-proxy 服务自身指标 类型: gauge
kubeproxy_sync_proxy_rules_service_changes_pendingservice变化引起的规则同步pending数量 — kube-proxy 服务自身指标 类型: gauge
kubeproxy_sync_proxy_rules_service_changes_totalservice变化引起的规则同步总数 — kube-proxy 服务自身指标 类型: counter
process_cpu_seconds_total利用这个指标统计cpu使用率 — kube-proxy 服务自身指标 类型: counter
process_max_fds进程可以打开的最大fd数 — kube-proxy 服务自身指标 类型: gauge
process_open_fds进程当前打开的fd数 — kube-proxy 服务自身指标 类型: gauge
process_resident_memory_bytes统计内存使用大小 — kube-proxy 服务自身指标 类型: gauge
process_start_time_seconds进程启动时间戳 — kube-proxy 服务自身指标 类型: gauge
rest_client_request_duration_seconds请求 apiserver 的耗时(按照url和verb统计) — kube-proxy 服务自身指标 类型: histogram
rest_client_requests_total请求 apiserver 的总数(按照code method host统计) — kube-proxy 服务自身指标 类型: counter
go_gc_duration_secondsgc的时间统计(summary指标) — kubelet 服务自身指标 类型: summary
go_goroutinesgoroutine 数量 — kubelet 服务自身指标 类型: gauge
go_threads线程数量 — kubelet 服务自身指标 类型: gauge
kubelet_cgroup_manager_duration_seconds操作cgroup的时长分布,按照操作类型统计 — kubelet 服务自身指标 类型: histogram
kubelet_containers_per_pod_countpod中container数量的统计(spec.containers的数量) — kubelet 服务自身指标 类型: histogram
kubelet_docker_operations_duration_seconds操作docker的时长分布,按照操作类型统计 — kubelet 服务自身指标 类型: histogram
kubelet_docker_operations_errors_total操作docker的错误累计次数,按照操作类型统计 — kubelet 服务自身指标 类型: counter
kubelet_docker_operations_timeout_total操作docker的超时统计,按照操作类型统计 — kubelet 服务自身指标 类型: counter
kubelet_docker_operations_total操作docker的累计次数,按照操作类型统计 — kubelet 服务自身指标 类型: counter
kubelet_eviction_stats_age_seconds驱逐操作的时间分布,按照驱逐信号(原因)分类统计 — kubelet 服务自身指标 类型: histogram
kubelet_evictions驱逐次数统计,按照驱逐信号(原因)统计 — kubelet 服务自身指标 类型: counter
kubelet_http_inflight_requests请求kubelet的inflight请求数,按照method path server_type统计, 注意与每秒的request数区别开 — kubelet 服务自身指标 类型: gauge
kubelet_http_requests_duration_seconds请求kubelet的请求时间统计, 按照method path server_type统计 — kubelet 服务自身指标 类型: histogram
kubelet_http_requests_total请求kubelet的请求数统计,按照method path server_type统计 — kubelet 服务自身指标 类型: counter
kubelet_managed_ephemeral_containers当前kubelet管理的临时容器数量 — kubelet 服务自身指标 类型: gauge
kubelet_network_plugin_operations_duration_seconds网络插件的操作耗时分布 ,按照操作类型(operation_type)统计, 如果 --feature-gates=EphemeralContainers=false, 否则一直为0 — kubelet 服务自身指标 类型: histogram
kubelet_network_plugin_operations_errors_total网络插件累计操作错误数统计,按照操作类型(operation_type)统计 — kubelet 服务自身指标 类型: counter
kubelet_network_plugin_operations_total网络插件累计操作数统计,按照操作类型(operation_type)统计 — kubelet 服务自身指标 类型: counter
kubelet_node_namenode name — kubelet 服务自身指标 类型: gauge
kubelet_pleg_discard_eventsPLEG(pod lifecycle event generator) 丢弃的event数统计 — kubelet 服务自身指标 类型: counter
kubelet_pleg_last_seen_secondsPLEG上次活跃的时间戳 — kubelet 服务自身指标 类型: gauge
kubelet_pleg_relist_duration_secondsPLEG relist pod时间分布 — kubelet 服务自身指标 类型: histogram
kubelet_pleg_relist_interval_secondsPLEG relist 间隔时间分布 — kubelet 服务自身指标 类型: histogram
kubelet_pod_start_duration_secondspod启动时间(从pending到running)分布, kubelet watch到pod时到pod中contianer都running后, watch各种source channel的pod变更 — kubelet 服务自身指标 类型: histogram
kubelet_pod_worker_duration_secondspod状态变化的时间分布, 按照操作类型(create update sync)统计, worker就是kubelet中处理一个pod的逻辑工作单位 — kubelet 服务自身指标 类型: histogram
kubelet_pod_worker_start_duration_secondskubelet watch到pod到worker启动的时间分布 — kubelet 服务自身指标 类型: histogram
kubelet_run_podsandbox_duration_seconds启动sandbox的时间分布 — kubelet 服务自身指标 类型: histogram
kubelet_run_podsandbox_errors_total启动sanbox出现error的总数 — kubelet 服务自身指标 类型: counter
kubelet_running_containers当前containers运行状态的统计, 按照container状态统计,created running exited — kubelet 服务自身指标 类型: gauge
kubelet_running_pods当前处于running状态pod数量 — kubelet 服务自身指标 类型: gauge
kubelet_runtime_operations_duration_seconds容器运行时的操作耗时(container在create list exec remove stop等的耗时) — kubelet 服务自身指标 类型: histogram
kubelet_runtime_operations_errors_total容器运行时的操作错误数统计(按操作类型统计) — kubelet 服务自身指标 类型: counter
kubelet_runtime_operations_total容器运行时的操作总数统计(按操作类型统计) — kubelet 服务自身指标 类型: counter
kubelet_started_containers_errors_totalkubelet启动容器错误总数统计(按code和container_type统计) — kubelet 服务自身指标 类型: counter
kubelet_started_containers_totalkubelet启动容器总数 — kubelet 服务自身指标 类型: counter
kubelet_started_pods_errors_totalkubelet启动pod遇到的错误总数(只有创建sandbox遇到错误才会统计) — kubelet 服务自身指标 类型: counter
kubelet_started_pods_totalkubelet启动的pod总数 — kubelet 服务自身指标 类型: counter
process_cpu_seconds_total统计cpu使用率 — kubelet 服务自身指标 类型: counter
process_max_fds允许进程打开的最大fd数 — kubelet 服务自身指标 类型: gauge
process_open_fds当前打开的fd数量 — kubelet 服务自身指标 类型: gauge
process_resident_memory_bytes进程驻留内存大小 — kubelet 服务自身指标 类型: gauge
process_start_time_seconds进程启动时间 — kubelet 服务自身指标 类型: gauge
rest_client_request_duration_seconds请求apiserver的耗时统计(按照url和请求类型统计verb) — kubelet 服务自身指标 类型: histogram
rest_client_requests_total请求apiserver的总次数(按照返回码code和请求类型method统计) — kubelet 服务自身指标 类型: counter
storage_operation_duration_seconds存储操作耗时(按照存储plugin(configmap emptydir hostpath 等 )和operation_name分类统计) — kubelet 服务自身指标 类型: histogram
volume_manager_total_volumes本机挂载的volume数量统计(按照plugin_name和state统计plugin_name包括"host-path" "empty-dir" "configmap" "projected")state(desired_state_of_world期状态/actual_state_of_world实际状态) — kubelet 服务自身指标 类型: gauge
kube_namespace_createdUnix创建时间戳 — kube-state-metrics 的namespace指标
kube_namespace_labelsKubernetes标签转换为Prometheus标签 — kube-state-metrics 的namespace指标
kube_namespace_status_condition命名空间的状态 — kube-state-metrics 的namespace指标
kube_namespace_status_phasekubernetes命名空间状态阶段 — kube-state-metrics 的namespace指标
kube_node_info有关群集节点的信息 — kube-state-metrics 的node指标
kube_node_labelsKubernetes标签转换为Prometheus标签 — kube-state-metrics 的node指标
kube_node_role集群节点的角色 — kube-state-metrics 的node指标
kube_node_spec_unschedulable节点是否可以调度新的Pod — kube-state-metrics 的node指标
kube_node_spec_taint群集节点的污点 — kube-state-metrics 的node指标
kube_node_status_capacity节点不同资源的容量 — kube-state-metrics 的node指标
kube_node_status_allocatable可用于调度的节点的不同资源的可分配资源 — kube-state-metrics 的node指标
kube_node_status_condition群集节点的状况 — kube-state-metrics 的node指标
kube_node_createdUnix创建时间戳 — kube-state-metrics 的node指标
rest_client_request_duration_seconds请求apiserver的延迟分布 — scheduler 服务自身指标 类型: histogram
rest_client_requests_total请求apiserver的总数 ,按照host code method 统计 — scheduler 服务自身指标 类型: counter
leader_election_master_status调度器的选举状态,0表示backup, 1表示master — scheduler 服务自身指标 类型: gauge
scheduler_queue_incoming_pods_total进入调度队列的pod数 — scheduler 服务自身指标 类型: counter
scheduler_preemption_attempts_total调度器驱逐容器的次数 — scheduler 服务自身指标 类型: counter
scheduler_scheduler_cache_size调度器cache中node pod和绑定pod的数目 — scheduler 服务自身指标 类型: gauge
scheduler_pending_pods调度pending的pod数量,按照queue type分别统计 — scheduler 服务自身指标 类型: gauge
scheduler_plugin_execution_duration_seconds调度插件在每个扩展点的执行时间,按照extension_point+plugin+status 分别统计 — scheduler 服务自身指标 类型: histogram
scheduler_e2e_scheduling_duration_seconds调度延迟分布,1.23.0 以后会被scheduling_attempt_duration_seconds替代 — scheduler 服务自身指标 类型: histogram
scheduler_framework_extension_point_duration_seconds调度框架的扩展点延迟分布,按extension_point(扩展点Bind Filter Permit PreBind/PostBind PreFilter/PostFilter Reseve)+profile(调度器)+ status(调度成功) 统计 — scheduler 服务自身指标 类型: histogram
scheduler_pod_scheduling_attemptspod调度成功前,调度重试的次数分布 — scheduler 服务自身指标 类型: histogram
scheduler_schedule_attempts_total按照调度结果统计的调度重试次数。 "unschedulable" 表示无法调度,"error"表示调度器内部错误 — scheduler 服务自身指标 类型: counter
scheduler_scheduler_goroutines按照功能(binding filter之类)统计的goroutine数量 — scheduler 服务自身指标 类型: gauge
scheduler_scheduling_algorithm_duration_seconds调度算法的耗时分布 — scheduler 服务自身指标 类型: histogram
scheduler_scheduling_attempt_duration_seconds调度算法+binding的耗时分布 — scheduler 服务自身指标 类型: histogram
scheduler_scheduler_goroutines调度器的goroutines数目 — scheduler 服务自身指标 类型: gauge
kube_statefulset_status_replicas每个StatefulSet的副本数 — kube-state-metrics 的statefulset指标
kube_statefulset_status_replicas_current每个StatefulSet的当前副本数 — kube-state-metrics 的statefulset指标
kube_statefulset_status_replicas_ready每个StatefulSet的就绪副本数 — kube-state-metrics 的statefulset指标
kube_statefulset_status_replicas_updated每个StatefulSet的更新副本数 — kube-state-metrics 的statefulset指标
kube_statefulset_status_observed_generationStatefulSet控制器观察到的生成 — kube-state-metrics 的statefulset指标
kube_statefulset_replicasStatefulSet所需的pod数 — kube-state-metrics 的statefulset指标
kube_statefulset_metadata_generation表示StatefulSet所需状态的特定生成的序列号 — kube-state-metrics 的statefulset指标
kube_statefulset_createdUnix创建时间戳 — kube-state-metrics 的statefulset指标
kube_statefulset_labelsKubernetes标签转换为Prometheus标签 — kube-state-metrics 的statefulset指标
kube_statefulset_status_current_revision指示用于按顺序[0,currentReplicas)生成Pod的StatefulSet的版本 — kube-state-metrics 的statefulset指标
kube_statefulset_status_update_revision指示用于按顺序[replicas-updatedReplicas,replicas]生成Pod的StatefulSet的版本 — kube-state-metrics 的statefulset指标

相关链接​