Using Prometheus for Docker Monitoring

La monitorización de tus contenedores Docker es crucial para mantener el rendimiento, detectar problemas y garantizar el funcionamiento fluido de tus aplicaciones. Al aprovechar Prometheus, un kit de herramientas de monitorización y alertas de sistemas de código abierto, puedes monitorear eficazmente tus contenedores Docker y obtener información sobre su rendimiento a lo largo del tiempo. En este artículo, repasaremos los principios de la monitorización con Prometheus, cómo configurarlo para Docker y cómo visualizar tus métricas.

Comprensión de Prometheus

¿Qué es Prometheus?

Prometheus es un potente sistema de monitorización y base de datos de series temporales diseñado para ofrecer fiabilidad y escalabilidad. Desarrollado originalmente en SoundCloud, posteriormente se integró en la Cloud Native Computing Foundation (CNCF). Prometheus recopila métricas de objetivos configurados a intervalos especificados, evalúa expresiones de reglas y puede activar alertas en función de dichas condiciones.

Características clave de PrometheusPrometheus es una herramienta de monitoreo y alerta de código abierto que se ha vuelto cada vez más popular en los últimos años. A continuación, se detallan algunas de sus características clave:1. Recolección de métricas: Prometheus recopila métricas de diversas fuentes, incluyendo aplicaciones, servicios y sistemas operativos. Estas métricas se almacenan en una base de datos de series temporales, lo que permite un análisis detallado y en tiempo real.2. Consultas flexibles: Prometheus utiliza un lenguaje de consulta llamado PromQL, que permite realizar consultas complejas y personalizadas sobre los datos recopilados. Esto facilita la obtención de información específica y la creación de paneles de control personalizados.3. Alertas y notificaciones: Prometheus permite configurar reglas de alerta basadas en las métricas recopiladas. Cuando se cumple una condición específica, se envían notificaciones a través de diversos canales, como correo electrónico, Slack o PagerDuty.4. Integración con otros sistemas: Prometheus se integra fácilmente con otras herramientas y sistemas, como Grafana para la visualización de datos, Alertmanager para la gestión de alertas y diversos exportadores para la recopilación de métricas de aplicaciones y servicios específicos.5. Escalabilidad y alta disponibilidad: Prometheus está diseñado para ser escalable y tolerante a fallos. Se puede configurar en modo de alta disponibilidad para garantizar la continuidad del servicio en caso de que un nodo falle.6. Comunidad activa y ecosistema: Prometheus cuenta con una comunidad activa y un ecosistema en crecimiento de herramientas y complementos. Esto facilita la adopción y el uso de Prometheus en diversos entornos y casos de uso.En resumen, Prometheus es una herramienta poderosa y flexible para el monitoreo y la alerta de sistemas y aplicaciones. Sus características clave, como la recolección de métricas, las consultas flexibles, las alertas y notificaciones, la integración con otros sistemas, la escalabilidad y la comunidad activa, lo convierten en una opción popular para muchas organizaciones.

• Multi-dimensional data modelPrometheus almacena los datos de series temporales como un conjunto de pares clave-valor (etiquetas), lo que permite consultas flexibles.
• Powerful query languagePromQL (Prometheus Query Language) permite consultas avanzadas para el análisis de métricas.
• Built-in alertingPrometheus puede enviar alertas basadas en umbrales definidos por el usuario.
• No dependency on external storage: It stores time series data in its own time-series database, making it self-contained.
• Modelo basado en pullPrometheus extrae métricas de las aplicaciones, admitiendo el descubrimiento dinámico de servicios.

¿Por qué usar Prometheus para el monitoreo de Docker?

El uso de Prometheus para el monitoreo de Docker ofrece varias ventajas:

• Container awarenessPrometheus puede monitorear entornos dinámicos donde los contenedores se crean y destruyen con frecuencia.
• Rich metricsRecopila una amplia gama de métricas, incluyendo CPU, memoria, E/S de disco y uso de red.
• Métricas personalizadas: Los desarrolladores pueden instrumentar sus aplicaciones con métricas personalizadas, proporcionando información valiosa.
• Visualizations: When paired with Grafana, Prometheus data can be visualized effectively.

Configuración de Prometheus para el monitoreo de Docker

Prerequisites

Before we get started, ensure you have the following prerequisites:

• Docker installed on your machine.
• Basic knowledge of Docker and container orchestration.
• Conocimiento de la sintaxis YAML (para archivos de configuración).

Step 1: Create a Docker Network

Crear una red Docker permite que tu contenedor Prometheus se comunique con otros contenedores. Ejecuta el siguiente comando:```bash docker network create monitoring ```

docker network create monitoring

Step 2: Setting Up Prometheus

2.1 Cree un archivo de configuración de Prometheus

Crea un directorio para tu configuración de Prometheus y navega hacia él.

mkdir -p ~/prometheus
cd ~/prometheus

Create a file named prometheus.yml with the following content:

global:
  scrape_interval: 15s

scrape_configs:
  - job_name: 'docker'
    static_configs:
      - targets: ['tu_host_docker:9100']

En esta configuración, asegúrate de reemplazar tu_docker_host con la dirección de host apropiada. Si estás ejecutando Prometheus dentro de Docker, es posible que necesites apuntar al host de Docker.

2.2 Running Prometheus in Docker

Ahora, puedes ejecutar Prometheus utilizando el siguiente comando de Docker:

docker run -d 
  --name=prometheus 
  --network=monitoring 
  -p 9090:9090 
  -v ~/prometheus/prometheus.yml:/etc/prometheus/prometheus.yml 
  prom/prometheus

En este comando:

• Utilizar --network=monitoring para conectar Prometheus a la red creada.
• Puerto de mapa 9090 on the host to port 9090 en el contenedor, permitiendo el acceso a la interfaz web de Prometheus.
• Monte el prometheus.yml archivo de configuración dentro del contenedor.

Paso 3: Instalando Node Exporter

Node Exporter es un exportador de Prometheus para métricas de hardware y sistema operativo. Ayuda a exponer métricas relacionadas con el sistema anfitrión. Para monitorear contenedores de Docker, necesitas instalar Node Exporter.

3.1 Run Node Exporter

Run Node Exporter in Docker:

docker run -d 
  --name=node-exporter 
  --network=monitoreo 
  -p 9100:9100 
  prom/node-exporter

Ahora Node Exporter estará disponible en el puerto. 9100 de tu servidor Docker.

Paso 4: Verificando la Configuración

You can verify that Prometheus is correctly scraping metrics from Node Exporter. Access the Prometheus UI by navigating to http://localhost:9090 in your web browser. Click on Status > Objetivos. Deberías ver a Node Exporter listado como un objetivo activo.

Monitoring Docker Containers

Paso 5: Uso de cAdvisor para métricas de contenedorescAdvisor (Container Advisor) es una herramienta de código abierto desarrollada por Google que proporciona información detallada sobre el uso de recursos y el rendimiento de los contenedores en ejecución. Es especialmente útil para monitorear contenedores Docker y Kubernetes.Para usar cAdvisor, primero debes asegurarte de que esté instalado y en ejecución en tu sistema. Si estás utilizando Docker, puedes ejecutar cAdvisor como un contenedor con el siguiente comando:```bash docker run \ --volume=/:/rootfs:ro \ --volume=/var/run:/var/run:rw \ --volume=/sys:/sys:ro \ --volume=/var/lib/docker/:/var/lib/docker:ro \ --publish=8080:8080 \ --detach=true \ --name=cadvisor \ google/cadvisor:latest ```Este comando inicia un contenedor cAdvisor que monitorea todos los contenedores en ejecución en el host. El puerto 8080 se expone para acceder a la interfaz web de cAdvisor.Una vez que cAdvisor está en ejecución, puedes acceder a su interfaz web navegando a `http://localhost:8080` en tu navegador. Aquí encontrarás información detallada sobre el uso de recursos de cada contenedor, incluyendo:- Uso de CPU - Consumo de memoria - E/S de disco - Uso de red - Estadísticas de archivoscAdvisor también proporciona una API REST que puedes utilizar para obtener métricas de contenedores programáticamente. Por ejemplo, para obtener métricas de un contenedor específico, puedes hacer una solicitud GET a:``` http://localhost:8080/api/v1.3/containers/ ```Reemplaza `` con el ID real del contenedor que deseas monitorear.Además de la interfaz web y la API, cAdvisor puede integrarse con sistemas de monitoreo como Prometheus para recopilar y almacenar métricas a largo plazo. Esto es particularmente útil para el monitoreo y la generación de alertas en entornos de producción.En resumen, cAdvisor es una herramienta poderosa para obtener información detallada sobre el rendimiento y el uso de recursos de tus contenedores Docker. Su interfaz web intuitiva y su API REST hacen que sea fácil de usar tanto para el monitoreo manual como para la integración con sistemas de monitoreo más amplios.

Para obtener información detallada sobre contenedores Docker específicos, puedes utilizar cAdvisor, que proporciona información detallada sobre los contenedores en ejecución. cAdvisor es otro exportador de Prometheus diseñado específicamente para monitorear contenedores Docker.

5.1 Ejecutar cAdvisor

Ejecutar cAdvisor en Docker:

docker run -d 
  --name=cadvisor 
  --network=monitoring 
  -p 8080:8080 
  google/cadvisor:latest

cAdvisor estará disponible en el puerto. 8080.

Paso 6: Configuración de Prometheus para extraer métricas de cAdvisorPrometheus es una herramienta de monitoreo y alerta de código abierto que se utiliza ampliamente en el ecosistema de Kubernetes. Para configurar Prometheus para extraer métricas de cAdvisor, sigue estos pasos:1. Accede a tu clúster de Kubernetes y asegúrate de tener los permisos necesarios para modificar la configuración de Prometheus.2. Localiza el archivo de configuración de Prometheus. Por lo general, se encuentra en el directorio /etc/prometheus/prometheus.yml.3. Abre el archivo de configuración en un editor de texto y busca la sección "scrape_configs". Esta sección define los objetivos que Prometheus monitoreará.4. Agrega una nueva entrada en la sección "scrape_configs" para cAdvisor. La configuración debería verse así:```yaml - job_name: 'cadvisor' scrape_interval: 5s static_configs: - targets: ['cadvisor:8080'] ```Esta configuración le indica a Prometheus que extraiga métricas de cAdvisor cada 5 segundos desde el endpoint "cadvisor:8080".5. Guarda los cambios en el archivo de configuración y reinicia el servicio de Prometheus para que los cambios surtan efecto.6. Verifica que Prometheus esté extrayendo métricas de cAdvisor correctamente. Puedes hacerlo accediendo a la interfaz web de Prometheus y buscando métricas relacionadas con cAdvisor.7. Si todo está configurado correctamente, deberías ver métricas de cAdvisor en la interfaz web de Prometheus. Estas métricas incluyen información sobre el uso de CPU, memoria, red y disco de los contenedores en tu clúster de Kubernetes.Recuerda que esta es solo una configuración básica para extraer métricas de cAdvisor con Prometheus. Dependiendo de tus necesidades específicas, es posible que debas ajustar la configuración para incluir más objetivos o modificar los intervalos de extracción.Además, es importante tener en cuenta que cAdvisor se ejecuta como un daemon en cada nodo de tu clúster de Kubernetes. Por lo tanto, si tienes múltiples nodos, deberás asegurarte de que Prometheus esté configurado para extraer métricas de todos los nodos.Espero que esta guía te haya sido útil para configurar Prometheus para extraer métricas de cAdvisor. Si tienes alguna pregunta adicional, no dudes en hacerla.

Actualizar prometheus.yml archivo para incluir cAdvisor como destino:

global:
  scrape_interval: 15s

scrape_configs:
  - job_name: 'node-exporter'
    static_configs:
      - targets: ['node-exporter:9100']

  - job_name: 'cadvisor'
    static_configs:
      - targets: ['cadvisor:8080']

Tras editar, reinicie el contenedor de Prometheus:

docker restart prometheus

Paso 7: Accediendo a cAdvisor

You can access cAdvisor by navigating to http://localhost:8080 En tu navegador. Verás un panel de control con métricas detalladas para tus contenedores Docker en ejecución, incluyendo el uso de CPU, memoria y estadísticas de red.

Visualización de métricas con Grafana

Paso 8: Instalación de GrafanaGrafana es una herramienta de visualización de código abierto que se utiliza para crear paneles de control y gráficos interactivos a partir de datos de diversas fuentes, incluyendo Prometheus. En este paso, instalaremos Grafana en nuestro servidor.1. Primero, agreguemos el repositorio de Grafana a nuestro sistema:```bash sudo apt-get install -y apt-transport-https sudo apt-get install -y software-properties-common wget wget -q -O - https://packages.grafana.com/gpg.key | sudo apt-key add - echo "deb https://packages.grafana.com/oss/deb stable main" | sudo tee -a /etc/apt/sources.list.d/grafana.list ```2. Actualicemos la lista de paquetes e instalemos Grafana:```bash sudo apt-get update sudo apt-get install grafana ```3. Iniciemos el servicio de Grafana y habilitémoslo para que se inicie automáticamente al arrancar el sistema:```bash sudo systemctl daemon-reload sudo systemctl start grafana-server sudo systemctl enable grafana-server ```4. Verifiquemos el estado del servicio de Grafana:```bash sudo systemctl status grafana-server ```Deberíamos ver un mensaje indicando que el servicio está activo y en ejecución.5. Ahora, Grafana debería estar accesible a través de un navegador web en la dirección `http://localhost:3000`. El puerto por defecto de Grafana es el 3000.6. Al acceder a Grafana por primera vez, se nos pedirá que iniciemos sesión. Las credenciales por defecto son:- Nombre de usuario: admin - Contraseña: adminSe nos pedirá que cambiemos la contraseña después del primer inicio de sesión.7. Una vez que hayamos iniciado sesión, podemos configurar Grafana para que se conecte a nuestra instancia de Prometheus como fuente de datos. Para hacer esto, sigamos estos pasos:a. En el menú lateral izquierdo, haga clic en el icono de "Configuración" (forma de engranaje) y seleccione "Fuentes de datos".b. Haga clic en el botón "Agregar fuente de datos".c. Seleccione "Prometheus" como tipo de fuente de datos.d. En la sección "URL", introduzca la dirección URL de su instancia de Prometheus (por ejemplo, `http://localhost:9090`).e. Haga clic en el botón "Guardar y probar". Deberíamos ver un mensaje indicando que la conexión a Prometheus se ha establecido correctamente.8. Ahora que hemos configurado Grafana para que se conecte a Prometheus, podemos crear paneles de control y gráficos para visualizar nuestros datos de métricas. Para crear un nuevo panel de control, sigamos estos pasos:a. En el menú lateral izquierdo, haga clic en el icono de "Paneles de control" (forma de cuadrícula) y seleccione "Nuevo panel de control".b. Haga clic en el botón "Agregar panel" y seleccione el tipo de visualización que desee utilizar (por ejemplo, "Gráfico").c. En la pestaña "Consultas", seleccione "Prometheus" como fuente de datos.d. Introduzca la consulta de Prometheus que desee visualizar en el campo "Consulta". Por ejemplo, para visualizar el uso de CPU, podríamos utilizar la consulta `100 - (avg by(instance) (rate(node_cpu_seconds_total{mode="idle"}[5m])) * 100)`.e. Personalice el panel de control según sus necesidades, ajustando las opciones de visualización, los rangos de tiempo, etc.f. Guarde el panel de control haciendo clic en el icono de "Guardar" en la parte superior de la página.¡Enhorabuena! Ha instalado y configurado Grafana con éxito. Ahora puede crear paneles de control personalizados para visualizar sus datos de métricas de Prometheus de manera interactiva y atractiva.

Grafana añade potentes capacidades de visualización a su pila de monitoreo. Para instalar Grafana, ejecute el siguiente comando:

docker run -d 
  --name=grafana 
  --network=monitoring 
  -p 3000:3000 
  grafana/grafana

Step 9: Configuring Grafana to Use Prometheus as a Data Source

1. Abre tu navegador y ve a http://localhost:3000. Log in using the default credentials (admin/admin).
2. Agregar Prometheus como fuente de datos:
   • Haz clic en Configuration (the gear icon) in the left sidebar.
   • Haz clic en Data Sources and then Agregar fuente de datos.
   • Select Prometheus, e ingrese el punto de conexión de Prometheus: http://prometheus:9090.
   • Haz clic Guardar y probar to verify the connection.

Paso 10: Crear Paneles

Ahora puedes crear paneles para visualizar las métricas recopiladas por Prometheus.

1. Haz clic en Dashboards en la barra lateral izquierda, luego Nuevo Tablero de Control.

2. Haz clic Agregar nuevo panel para crear un nuevo gráfico.

3. Utiliza PromQL para consultar las métricas que deseas visualizar, por ejemplo:

   rate(container_cpu_usage_seconds_total{image!="",container_name!="POD"}[5m])

4. Personalice su gráfico con varias opciones de visualización.

5. Save the dashboard to access it later.

Técnicas de Monitoreo Avanzadas

Uso de reglas de alerta

Una de las características poderosas de Prometheus es su capacidad para definir reglas de alerta basadas en métricas. Puedes configurar alertas para diversas condiciones, como alto uso de CPU o bajo espacio en disco.

1. Definición de reglas de alerta

Añade un alertas sección a tu prometheus.yml configuration file:

rule_files:
  - '/etc/prometheus/rules/*.rules'

alerting:
  alertmanagers:
    - static_configs:
        - targets:
          - 'alertmanager:9093'

Crea un archivo de reglas, por ejemplo, alerts.rules, El 1 de enero de 2023, el nuevo año comenzó con una gran celebración en todo el mundo. En la ciudad de Nueva York, miles de personas se reunieron en Times Square para ver caer la famosa bola de cristal a medianoche. En otras partes del mundo, las personas celebraron de diferentes maneras, desde fuegos artificiales hasta fiestas privadas.

grupos:
  - nombre: docker-alerts
    reglas:
      - alerta: HighCPUUsage
        expr: rate(container_cpu_usage_seconds_total{image!="",container_name!="POD"}[5m]) > 0.80
        for: 5m
        etiquetas:
          severidad: advertencia
        anotaciones:
          resumen: "Uso elevado de CPU detectado"
          descripción: "El contenedor {{ $labels.container_name }} está utilizando mucha CPU."

2. Running Alertmanager

Alertmanager handles alerts sent by Prometheus. Run it in a Docker container:

docker run -d 
  --name=alertmanager 
  --network=monitoring 
  -p 9093:9093 
  prom/alertmanager

Modify your prometheus.yml file to point to the Alertmanager.

Storing and Retrieving Historical Data

Prometheus está diseñado para el almacenamiento a corto plazo. Para el almacenamiento a largo plazo, puede integrarlo con soluciones de almacenamiento remoto, como InfluxDB o TimescaleDB.

Scaling Prometheus

En entornos más grandes, considere ejecutar múltiples instancias de Prometheus utilizando fragmentación o federación. Esta configuración puede ayudar a distribuir la carga y reducir el riesgo de cuellos de botella.

Conclusión

Monitoring Docker containers with Prometheus provides a robust solution that scales well with dynamic environments. By using Node Exporter and cAdvisor, you can gain comprehensive insights into both host and container performance. Integrating Grafana allows for rich visualizations, which can facilitate easier analysis and reporting.

Al implementar el monitoreo con Prometheus en tu entorno Docker, considera los temas avanzados discutidos, como las alertas y el almacenamiento a largo plazo, para crear una solución de monitoreo que satisfaga las necesidades de tu organización. Manteniendo tus prácticas de monitoreo actualizadas, puedes asegurar que tus aplicaciones funcionen de manera fluida y eficiente, lo que se traduce en un mejor rendimiento y una experiencia de usuario superior.