0%

[OpenShift 監控系列 - 1] OpenShift Prometheus 的 3 種部署模式

最近碰到個專案是想把既有的 MVC 應用程式打包,並且部署到 OpenShift 上面。

在經歷各種劫難之後,反而引發了我對於 Prometheus 部署模式的一點小小興趣,稍做研究後把心得摘錄於此系列文章中。

本系列要談的主題會偏向監控層面,主要會涵蓋以下主題:

🌼 OpenShift Prometheus 的 3 種部署模式
🌼 用 Sidecar Container 收 Apache 的 Log
🌼 自己寫 Prometheus Metrics 收 Prometheus Metrics

而今天會介紹第一個主題 - OpenShift Prometheus 的 3 種部署模式,本文將會針對這三種部署模式簡單的分析,可以自行斟酌自己的組織情況,決定要採用哪一種部署的方式,模式沒有絕對,只有適不適合。

環境:

🌿 OpenShift 4.7
🌿 Prometheus Operator: 0.44.1
🌿 Thanos: 0.17.2.


🌼 OpenShift Prometheus 的 3 種部署模式

OpenShift 原生已經自帶 Metrics 這個 Tab,打開就可以看到 Prometheus Metrics Dashboard

upload successful

OpenShift Cluster 本身的 Metrics 都會 Prometheus Operator 部署的 Prometheus Server 收走,架構圖如下:
upload successful

可以看到圖中的 Thanos Querier 元件會負責查詢所有節點的 Metrics,並負責將重複的 Metrics 透過 Deduplicate & Merge 的功能認出散落在不同的 Prometheus 上 Label 相同的 Metrics,並且把重複的 Metrics 去掉之後,顯示在 Dashboard 上面,其中的原理可以參考底下來自Thanos官方的架構圖以及 Coscup 分享 - HA Prometheus Solution Thanos,本篇針對底層元件運行邏輯不會多加描述。

upload successful

OpenShift 所有關於 Metrics 的元件都可以在Red Hat官方文件的表格中了解它們的用途。

針對 OpenShift 上自行開發的 Pods 主要有 3 種部署 Prometheus 的模式可以收 Metrics:

模式 說明 適用場域 圖解
Custom Query 撰寫 Customize Query Metrics,並且於 Developer > Metrics > Custom Query 查詢


在目標服務(target)被部署上去後,可以透過新增 Service Monitor CR 的方式指定想要監控的 Service 和 port,由同一個 Prometheus Server 管理全部的 targets。
開發者會自行撰寫 Prometheus Metrics / 熟知 Prometheus Metrics Exporter 建置方法、收集 Metrics / 會寫 Sidecar 收穫 Metrics upload successful
Custom Prometheus Operator 部署 Customize Prometheus Operator 在 OpenShift 叢集之內


透過部署 Prometheus Operator 的方式把不同 Project 或是不同 service 的 targets 透過不同的 Prometheus Server 管理。
比較大規模的組織,特別是需要各部門針對自己的應用收集 Metrics 的情況,建立獨立部署 Prometheus Operator,但是要注意資源的使用量以及建置文件的配置。 upload successful
獨立的 Prometheus Server 部署 Prometheus 於 OpenShift 叢集之外


Prometheus Server 獨立於 OpenShift Cluster 之外。
資源較為不足 / 對於監控的 Metrics 有保存的需求,需要特別獨立出來做管理的組織。 upload successful

這三種模式,我都各自附上了建置的參考文件,有興趣動手實作的人可以自行建置,下面提到的範例程式以及操作僅限於 Custom Query 以及 Custom Prometheus Operator 這兩種模式。


🌼 Reference

🌟 Understanding the monitoring stack
🌟 Coscup 分享 - HA Prometheus Solution Thanos
🌟 GitHub - Thanos
🌟 利用 Grafana Operator 部署 Grafana 到 OpenShift,並建立客製化的 Dashboard。
🌟 集群外独立部署Prometheus+Grafana监控K8S全面解析
🌟 OpenShift 4.3 之 Quarkus(3)用独立的Prometheus监控Quarkus应用
🌟 Kubernetes Operations and Maintenance Using Prometheus Overall Monitoring K8S
🌟 FIRST STEPS WITH PROMETHEUS