Prometheus と OpenTelemetry - ともに、より良く
Blog posts are not updated after publication. This post is more than a year old, so its content may be outdated, and some links may be invalid. Cross-verify any information before relying on it.

Prometheus や OpenTelemetry のようなツールは、複雑な分散システムの健全性、パフォーマンス、可用性の監視に役立ちます。 どちらも Cloud Native Computing Foundation (CNCF) 傘下のオープンソースプロジェクトですが、オブザーバビリティにおいてそれぞれどのような役割を果たしているのでしょうか。
OpenTelemetry(略称 OTel)は、テレメトリーデータの計装、生成、収集、エクスポートのためのベンダー中立なオープン標準です。 Prometheus はオブザーバビリティの分野で定番のツールであり、組織内の監視とアラートに広く利用されています。
Prometheus と OTel はどちらもメトリクスを出力しますが、両者の違いと類似点については多くのことがあり、この記事の範囲外です。 ここでは、OTel がどのように Prometheus をサポートしているか、特に Kubernetes 環境での連携に焦点を当てて紹介します。 この記事で学べること:
- OTel Collector の Prometheus レシーバー を使って Prometheus メトリクスを取り込む方法。
- K8s クラスターレシーバーや Kubelet 統計レシーバーなど、OTel ネイティブのオプションによる Prometheus メトリクス収集の代替手段。
また、OTel Operator の Target Allocator(TA)について技術的に掘り下げ、以下を学びます:
- Prometheus のサービスディスカバリにどのように活用できるか。
- Prometheus ターゲットの均等な分配をどのように実現するか。
OTel と Prometheus
OTel は主にオブザーバビリティの計装部分に焦点を当てているため、テレメトリーを保存するバックエンドは提供していません。 データの保存、アラート、クエリのためにバックエンドベンダーにデータを転送する必要があります。
一方、Prometheus は計装クライアントに加えて、メトリクス用の時系列データストアを提供します。 グラフやチャートの表示、アラートの設定、Web ユーザーインターフェイスを通じたデータのクエリが可能です。 また、Prometheus テキストベースのエクスポジションフォーマットとして知られるデータフォーマットも含んでいます。
Prometheus の データ はディメンショナル時系列として保存されます。 つまり、データには属性(たとえばラベルやディメンション)とタイムスタンプがあります。
Prometheus サーバー は、設定ファイルで定義されたターゲットから Prometheus メトリクスデータを収集します。 ターゲットとは、Prometheus サーバーが保存するメトリクスを公開するエンドポイントのことです。
Prometheus はモニタリングの分野で非常に普及しており、Kubernetes や HashiCorp の Nomad など、多くのツールが Prometheus フォーマットでメトリクスをネイティブに出力しています。 それ以外のツールについても、データを Prometheus に集約・インポートするためのベンダーやコミュニティによる Prometheus エクスポーターが多数あります。
Prometheus はさまざまなインフラストラクチャやアプリケーションのメトリクスの監視に利用できますが、最も一般的なユースケースの1つは Kubernetes の監視です。 この記事では、Prometheus による監視のこの側面に焦点を当てます。
OpenTelemetry を使った Prometheus メトリクス
このセクションでは、OTel と Prometheus の相互運用性を示すいくつかの OTel Collector コンポーネントについて学びます。
まず、Collector について簡単におさらいしましょう。 Collector は、複数のソースからテレメトリーを収集し、複数の送信先にデータをエクスポートするために使用できる OTel コンポーネントです。 Collector はデータ属性の変更や個人を特定できる情報のスクラブなど、テレメトリーの処理も行います。 たとえば、Prometheus SDK を使ってメトリクスを生成し、Collector で取り込み、処理を行い(必要に応じて)、選択したバックエンドに転送できます。

Prometheus レシーバーを使うと、Prometheus メトリクスを公開するあらゆるソフトウェアからメトリクスを収集できます。
サービスをスクレイプするための Prometheus のドロップインリプレースメントとして機能し、scrape_config のすべての設定をサポートしています。
OTel コンテキストをメトリクスイベントに関連付ける記録された値であるエグゼンプラーに興味がある場合も、Prometheus レシーバーを使用できます。 なお、エグゼンプラーは現在 OpenMetrics フォーマットでのみ利用可能です。
このコンポーネントに関して考慮すべき点は、活発に開発中であるということです。 そのため、ステートフルなコンポーネントであることを含め、いくつかの制限事項があります。 また、Target Allocator なしで Collector の複数レプリカを実行する場合、このコンポーネントの使用は推奨されません。 その状態では以下の問題が生じます:
- Collector がスクレイピングの自動スケールを行えない
- レプリカが同じ設定で実行されている場合、ターゲットが複数回スクレイプされる
- 手動でスクレイピングをシャーディングしたい場合、各レプリカに異なるスクレイピング設定を構成する必要がある
OTel Collector から Prometheus へメトリクスをエクスポートするには、以下のオプションがあります。 Prometheus エクスポーターと Prometheus Remote Write エクスポーターです。 また、Collector にデフォルトで付属する OTLP HTTP エクスポーターを使用し、Prometheus のネイティブ OTLP エンドポイントを利用することもできます。 なお、Prometheus も OTLP をネイティブにサポートするようになりました。
Prometheus エクスポーターを使うと、Prometheus フォーマットでデータを送信でき、その後 Prometheus サーバーによってスクレイプされます。 Prometheus のスクレイプ HTTP エンドポイントを通じてメトリクスをレポートするために使用されます。 この例を試して詳しく学べます。 ただし、すべてのメトリクスが単一のスクレイプで送信されるため、スクレイピングは実際にはスケールしません。
スケーリングの懸念を回避するために、かわりに Prometheus Remote Write エクスポーターを使用できます。 これにより、複数の Collector インスタンスから問題なく Prometheus にデータをプッシュできます。 Prometheus はリモートライトによる取り込みも受け付けるため、OTel メトリクスを生成して Prometheus リモートライト互換のバックエンドに送信したい場合にも、このエクスポーターを使用できます。
なお、Prometheus サーバーの Prometheus Remote Write は現在、Help や Type などのメタデータをサポートしていません。 詳しくは issue #13163 および issue #12608 をご確認ください。 これは Prometheus Remote Write v2.0 で対応される予定です。
両エクスポーターのアーキテクチャの詳細については、Use Prometheus Remote Write exporter を参照してください。
Target Allocator の活用
スケーラビリティは Prometheus の一般的な課題です。 つまり、監視対象のターゲットやメトリクスが増加する中で、パフォーマンスとリソース割り当てを効果的に維持する能力のことです。 これに対処するための1つのオプションは、ラベルやディメンションに基づいてワークロードをシャーディングすることです。 これは、特定のパラメーターに基づいてメトリクスを処理するために複数の Prometheus インスタンスを使用することを意味します。 これにより、個々のインスタンスの負荷を軽減できる可能性があります。 ただし、このアプローチには2つの考慮事項があります。
1つ目は、シャーディングされたインスタンスへのクエリを回避するために管理インスタンスが必要になることです。 つまり、N+1 個の Prometheus インスタンスが必要であり、+1 のメモリは N と同等になるため、メモリ要求が倍増します。 2つ目は、Prometheus のシャーディングでは、最終的にドロップされるとしても、各インスタンスがターゲットをスクレイプする必要があることです。
なお、個々のインスタンスの合計メモリ量に相当する Prometheus インスタンスを用意できる場合、シャーディングのメリットはあまりありません。 より大きなインスタンスを使って直接すべてをスクレイプできるからです。 シャーディングを行う理由は通常、ある程度のフォールトトレランスのためです。 たとえば、1つの Prometheus インスタンスがメモリ不足(OOM)になった場合でも、アラートパイプライン全体がオフラインにならないようにするためです。
幸い、OTel Operator の Target Allocator(TA)はこれらの問題の一部を解決できます。
たとえば、スクレイプされないと分かっているターゲットを自動的にドロップできます。
TA はまた、ターゲットを自動的にシャーディングします。
hashmod でシャーディングする場合はレプリカ数に基づいて設定を更新する必要がありますが、TA ではその必要がありません。
TA はまた、PodMonitor や ServiceMonitor などのリソースを引き続き使用して、Kubernetes インフラストラクチャに関する Prometheus メトリクスの収集を続けられます。
Target Allocator は OTel Operator の一部です。 OTel Operator は、以下を行う Kubernetes Operator です:
- OpenTelemetry Collector の管理
- Pod への自動計装の注入と設定
実際に、Operator はこの機能をサポートするために、Kubernetes に2つの新しいカスタムリソース(CR)タイプを作成します。 OpenTelemetry Collector CR と Autoinstrumentation CR です。
今回は Target Allocator に焦点を当てます。 TA は、Operator の OTel Collector 管理機能のオプションコンポーネントです。
一言で言えば、Target Allocator は、Prometheus のサービスディスカバリとメトリクス収集の機能を分離し、それぞれを独立してスケーリングできるようにするメカニズムです。 OTel Collector は Prometheus をインストールすることなく Prometheus メトリクスを管理します。 TA は Collector の Prometheus レシーバーの設定を管理します。
Target Allocator は2つの機能を提供します:
- OTel Collector のプール間での Prometheus ターゲットの均等分配
- Prometheus カスタムリソースのディスカバリ
それぞれについて掘り下げていきましょう。
Prometheus ターゲットの均等分配
Target Allocator の最初の仕事は、スクレイプするターゲットを発見し、ターゲットを割り当てる OTel Collector を発見することです。 具体的には以下のように動作します:
- Target Allocator がスクレイプするすべてのメトリクスターゲットを見つける
- Target Allocator が利用可能なすべての Collector を見つける
- Target Allocator がどの Collector がどのメトリクスをスクレイプするかを決定する
- Collector が Target Allocator にクエリしてスクレイプするメトリクスを確認する
- Collector が割り当てられたターゲットをスクレイプする
これは、Prometheus スクレイパーではなく、OTel Collector がメトリクスを収集することを意味します。
ターゲットとは、Prometheus が保存するメトリクスを提供するエンドポイントです。 スクレイプとは、ターゲットインスタンスから HTTP リクエストを通じてメトリクスを収集し、レスポンスを解析して、収集したサンプルをストレージに取り込むアクションです。
sequenceDiagram participant Target Allocator participant Metrics Targets participant OTel Collectors Target Allocator ->>Metrics Targets: 1. メトリクスターゲットを発見 Target Allocator ->>OTel Collectors: 2. 利用可能な Collector を発見 Target Allocator ->>Target Allocator: 3. メトリクスターゲットを割り当て OTel Collectors ->>Target Allocator: 4. TA にメトリクスエンドポイントのスクレイプをクエリ OTel Collectors ->>Metrics Targets: 5. メトリクスターゲットをスクレイプ
Prometheus カスタムリソースのディスカバリ
Target Allocator の2つ目の仕事は、Prometheus Operator の CR、すなわち ServiceMonitor と PodMonitor のディスカバリを提供することです。
以前は、すべての Prometheus スクレイプ設定は Prometheus レシーバーを通じて行う必要がありました。 Target Allocator のサービスディスカバリ機能が有効化されると、TA はクラスターにデプロイされた PodMonitor と ServiceMonitor のインスタンスからスクレイプ設定を作成することで、Prometheus レシーバーの設定を簡素化します。
flowchart RL pm(PodMonitor) sm(ServiceMonitor) ta(Target Allocator) oc1(OTel Collector) oc2(OTel Collector) oc3(OTel Collector) ta --> pm ta --> sm oc1 --> ta oc2 --> ta oc3 --> ta sm ~~~|1\. Prometheus Operator CR を発見| sm ta ~~~|2\. TA のスクレイプ設定にジョブを追加| ta oc3 ~~~|3\. OTel Collector のスクレイプ設定にジョブを追加| oc3
Target Allocator を Prometheus CR ディスカバリに使用するために、Kubernetes クラスターに Prometheus がインストールされている必要はありませんが、TA には ServiceMonitor と PodMonitor のインストールが必要です。 これらの CR は Prometheus Operator にバンドルされていますが、スタンドアロンでもインストールできます。 最も簡単な方法は、個別の PodMonitor YAML と ServiceMonitor YAML のカスタムリソース定義(CRD)のコピーを取得することです。
OTel が PodMonitor と ServiceMonitor の Prometheus リソースをサポートしているのは、これらが Kubernetes インフラストラクチャ監視で広く使われているためです。 そのため、OTel Operator の開発者は、これらを OTel エコシステムに簡単に追加できるようにしたいと考えました。
PodMonitor と ServiceMonitor は Pod からのメトリクス収集に限定されており、kubelet などの他のエンドポイントのスクレイプはできません。 その場合は、Collector の Prometheus レシーバーのPrometheus スクレイプ設定に引き続き依存する必要があります。
設定
以下は OTel Collector CR の YAML 設定です。
なお、この Collector は opentelemetry という名前の名前空間で実行されていますが、任意の名前空間で実行できます。
主なコンポーネントは以下のとおりです:
- mode: Operator がサポートする4つの OTel Collector デプロイメントモードの1つです:Sidecar、Deployment、StatefulSet、DaemonSet。
- targetallocator: Target Allocator を設定する場所です。なお、Target Allocator は Deployment、DaemonSet、StatefulSet モードでのみ動作します。
- config: OTel Collector の設定 YAML を構成する場所です。
apiVersion: opentelemetry.io/v1alpha1
kind: OpenTelemetryCollector
metadata:
name: otelcol
namespace: opentelemetry
spec:
mode: statefulset
targetAllocator:
enabled: true
serviceAccount: opentelemetry-targetallocator-sa
prometheusCR:
enabled: true
config: |
receivers:
otlp:
protocols:
grpc:
http:
prometheus:
config:
scrape_configs:
- job_name: 'otel-collector'
scrape_interval: 30s
static_configs:
- targets: [ '0.0.0.0:8888' ]
target_allocator:
endpoint: http://otelcol-targetallocator
interval: 30s
collector_id: "${POD_NAME}"
…
Target Allocator を使用するには、spec.targetallocator.enabled を true に設定する必要があります(サポートされるモードについては前述の注記を参照してください)。
次に、デプロイされた Collector の Prometheus レシーバーが、spec の Collector 設定セクションで target_allocator.endpoint を設定することにより、Target Allocator を認識するようにする必要があります:
receivers:
prometheus:
config:
scrape_configs:
- job_name: 'otel-collector'
scrape_interval: 30s
static_configs:
- targets: ['0.0.0.0:8888']
target_allocator:
endpoint: http://otelcol-targetallocator
interval: 30s
collector_id: '${POD_NAME}'
Prometheus レシーバー設定が指し示す Target Allocator エンドポイントは、OTel Collector の名前(この例では otelcol)と -targetallocator 接尾辞の連結です。
Prometheus のサービスディスカバリ機能を使用するには、spec.targetallocator.prometheusCR.enabled を true に設定して有効化する必要があります。
最後に、Target Allocator の Prometheus CR 機能を有効にしたい場合は、独自の ServiceMonitor と PodMonitor のインスタンスを定義する必要があります。
以下は、app: my-app というラベルを持つサービスを探し、prom という名前のポートを持つエンドポイントを15秒ごとにスクレイプする、ServiceMonitor の定義例です。
apiVersion: monitoring.coreos.com/v1
kind: ServiceMonitor
metadata:
name: sm-example
namespace: opentelemetry
labels:
app.kubernetes.io/name: py-prometheus-app
release: prometheus
spec:
selector:
matchLabels:
app: my-app
namespaceSelector:
matchNames:
- opentelemetry
endpoints:
- port: prom
interval: 15s
対応する Service 定義は、標準の Kubernetes Service 定義であり、以下のとおりです:
apiVersion: v1
kind: Service
metadata:
name: py-prometheus-app
namespace: opentelemetry
labels:
app: my-app
app.kubernetes.io/name: py-prometheus-app
spec:
selector:
app: my-app
app.kubernetes.io/name: py-prometheus-app
ports:
- name: prom
port: 8080
Service には app: my-app というラベルと prom という名前のポートがあるため、ServiceMonitor によって検出されます。
監視したいサービスごとに個別の ServiceMonitor を作成することも、すべてのサービスを包含する単一の ServiceMonitor を作成することもできます。 PodMonitor についても同様です。
Target Allocator がスクレイプを開始する前に、Kubernetes のロールベースアクセス制御(RBAC)を設定する必要があります。 つまり、Target Allocator がメトリクスを取得するために必要なすべてのリソースにアクセスできるよう、ServiceAccount と対応するクラスターロールが必要です。
独自の ServiceAccount を作成し、OTel Collector CR で spec.targetAllocator.serviceAccount として参照できます。
その後、このサービスアカウントの ClusterRole と ClusterRoleBinding を設定する必要があります。
ServiceAccount の設定を省略した場合、Target Allocator は自動的に ServiceAccount を作成します。
ServiceAccount のデフォルト名は、Collector 名と -collector 接尾辞の連結です。
デフォルトでは、この ServiceAccount にはポリシーが定義されていないため、独自の ClusterRole と ClusterRoleBinding を作成する必要があります。
以下は OTel Target Allocator の readme から取得した RBAC 設定の例です。 ServiceAccount、ClusterRole、ClusterRoleBinding の設定が含まれています:
apiVersion: v1
kind: ServiceAccount
metadata:
name: opentelemetry-targetallocator-sa
namespace: opentelemetry
---
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
name: opentelemetry-targetallocator-role
rules:
- apiGroups:
- monitoring.coreos.com
resources:
- servicemonitors
- podmonitors
verbs:
- '*'
- apiGroups: ['']
resources:
- namespaces
verbs: ['get', 'list', 'watch']
- apiGroups: ['']
resources:
- nodes
- nodes/metrics
- services
- endpoints
- pods
verbs: ['get', 'list', 'watch']
- apiGroups: ['']
resources:
- configmaps
verbs: ['get']
- apiGroups:
- discovery.k8s.io
resources:
- endpointslices
verbs: ['get', 'list', 'watch']
- apiGroups:
- networking.k8s.io
resources:
- ingresses
verbs: ['get', 'list', 'watch']
- nonResourceURLs: ['/metrics']
verbs: ['get']
---
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:
name: opentelemetry-targetallocator-rb
subjects:
- kind: ServiceAccount
name: opentelemetry-targetallocator-sa
namespace: opentelemetry
roleRef:
kind: ClusterRole
name: opentelemetry-targetallocator-role
apiGroup: rbac.authorization.k8s.io
前述の ClusterRole を詳しく見ると、以下のルールが、Target Allocator が Prometheus 設定に基づいて必要なすべてのターゲットをクエリするために最低限必要なアクセス権を提供します:
- apiGroups: ['']
resources:
- nodes
- nodes/metrics
- services
- endpoints
- pods
verbs: ['get', 'list', 'watch']
- apiGroups: ['']
resources:
- configmaps
verbs: ['get']
- apiGroups:
- discovery.k8s.io
resources:
- endpointslices
verbs: ['get', 'list', 'watch']
- apiGroups:
- networking.k8s.io
resources:
- ingresses
verbs: ['get', 'list', 'watch']
- nonResourceURLs: ['/metrics']
verbs: ['get']
OpenTelemetryCollector CR で prometheusCR を有効にした場合(spec.targetAllocator.prometheusCR.enabled を true に設定)、以下のロールも定義する必要があります。
これらは Target Allocator に PodMonitor と ServiceMonitor の CR へのアクセス権を付与します。
また、PodMonitor と ServiceMonitor への名前空間アクセスも付与します。
- apiGroups:
- monitoring.coreos.com
resources:
- servicemonitors
- podmonitors
verbs:
- '*'
- apiGroups: ['']
resources:
- namespaces
verbs: ['get', 'list', 'watch']
Kubernetes 向けの追加 OTel コンポーネント
このセクションでは、Kubernetes メトリクスの収集に使用できる追加の OTel Collector コンポーネントについて説明します。
データの受信:
- Kubernetes Cluster Receiver:Kubernetes API サーバーからクラスターレベルのメトリクスとエンティティイベントを収集
- Kubernetes Objects Receiver:Kubernetes API サーバーからオブジェクトを収集(プル/ウォッチ)
- Kubelet Stats Receiver:Kubelet からメトリクスをプルし、さらなる処理のためにメトリクスパイプラインに送信
- Host Metrics Receiver:クラスターを構成するホストからシステムメトリクスをスクレイプ
データの処理:
- Kubernetes Attributes Processor:Kubernetes コンテキストを追加し、これにより
- アプリケーションのテレメトリーと Kubernetes のテレメトリーを相関させることが可能になります。
- Kubernetes を OpenTelemetry で監視する上で最も重要なコンポーネントの1つと考えられています。
Kubernetes Attributes Processor を使用して、Pod や名前空間に追加した Kubernetes ラベルやアノテーションを利用して、トレース、メトリクス、ログのカスタムリソース属性を設定することもできます。
Kubernetes を監視するために実装できる Collector コンポーネントは他にもいくつかあります。 Kubernetes 固有のものに加え、バッチ、メモリリミッター、リソースプロセッサーなどの汎用プロセッサーもあります。 詳しくは Kubernetes の重要なコンポーネントを参照してください。
Collector 設定ファイルでコンポーネントを設定した後、パイプラインセクションでそれらを有効化する必要があります。 データパイプラインにより、任意のソースからデータを収集、処理し、1つ以上の送信先にルーティングできます。
メリットとデメリット
以下は、この記事で取り上げた構成のメリットとデメリットです。
メリット:
- Prometheus をデータストアとして維持する必要がなく、全体的に維持すべきインフラストラクチャが削減されます。 特に、OTel データ(トレース、メトリクス、ログ)を取り込むオールインワンのオブザーバビリティバックエンドを選択する場合はなおさらです。
- ServiceMonitor と PodMonitor の維持は必要ですが、Prometheus Operator を最新に保つことに比べれば作業量ははるかに少なくなります。
- Prometheus メトリクスを引き続き取得しながら、完全な OTel ソリューションに移行できます。
- OTel はメトリクスに加えてトレースとログを提供し、これらのシグナルの相関も可能にするため、Kubernetes 環境のオブザーバビリティが強化されます。
- OTel は Target Allocator や OTel Collector コンポーネントなどの便利なツールを提供し、設定やデプロイメントオプションに柔軟性をもたらします。
デメリット:
- 新しいオブザーバビリティツールの導入と管理には、OTel の概念、コンポーネント、ワークフローに不慣れなユーザーにとって急な学習曲線が伴います。
- Prometheus の強力なクエリ言語である PromQL のユーザーは、メトリクスを Prometheus 互換のバックエンドに送信する場合にのみ引き続き使用できます。
- OTel 自体に多くの可動部品があり、スケーラビリティと導入において独自の課題があります。
- OTel 内の成熟度と安定性にはばらつきがあります。 Prometheus には成熟したエコシステムがあります。
- OTel コンポーネントの維持と管理に追加の計算リソースと人的リソースが必要です。
- Prometheus と OTel の両方のコンポーネントの管理と維持は、監視インフラストラクチャに運用上の複雑さをもたらします。
まとめ
Prometheus のメンテナーも、OTLP メトリクスのバックエンドとして使いやすくするために、Prometheus 側から両プロジェクト間の相互運用性をさらに発展させてきました。 たとえば、Prometheus は OTLP を受け入れられるようになり、近い将来、Prometheus エクスポーターを使って OTLP をエクスポートできるようになります。 つまり、Prometheus SDK で計装されたサービスがある場合、OTLP を プッシュ して、OTel ユーザー向けの豊富な Prometheus エクスポーターエコシステムを活用できるようになります。 メンテナーはまた、デルタテンポラリティのサポートの追加にも取り組んでいます。 このコンポーネントは、デルタサンプルをそれぞれの累積的な対応するものに集約します。 Prometheus の OTel へのコミットメントについて詳しくは、Our commitment to OpenTelemetry を参照してください。
OTel を使って Prometheus メトリクスを収集する方法をどのように決定するにしても、最終的に組織にとって正しいものはビジネスニーズに依存します。 前述の OTel コンポーネントを使用して、すべてのメトリクスを Prometheus フォーマットに変換することも、Prometheus メトリクスを OTLP に変換することもできます。 Prometheus 自体は長期的なデータ保存向けに構築されておらず、スケーリングの課題もありますが、Mimir、Thanos、Cortex などのオープンソースプロジェクトがこれらの懸念に対処できます。
これらのソリューションを組織に実装するかどうかにかかわらず、OTel と Prometheus を使ってオブザーバビリティの素晴らしさに導く追加のオプションがあることを知っておくのは良いことです。
この記事のバージョンは、もともと New Relic のブログに投稿されたものです。