使用docker部署Prometheus和Grafana去监控mysql和redis
自动化性能监控系统安装部署
相关工具的安装部署
服务工具分配
服务器 | 工具 | 端口 |
---|---|---|
10.0.20.9 | grafana | 3000 |
10.0.20.9 | prometheus | 9090 |
10.0.20.10 | mysql | 3306 |
10.0.20.10 | mysql-exporter | 9104 |
10.0.20.10 | redis | 3306 |
10.0.20.10 | redis_exporter | 9121 |
使用docker-compose安装prometheus
先拉取prometheus的镜像
# 也可以使用docker pull prom/prometheus:v2.54.1(使用后下文配置信息里的镜像名也要跟着调整)
docker pull prom/prometheus:v2.54.1
在指定的目录下创建docker-compose.yml配置文件和prometheus目录
docker-compose.yml配置信息如下
services:prometheus:image: prom/prometheus:v2.54.1 # 指定镜像文件container_name: 'prometheus' # 给容器命名volumes:- ./prometheus/:/etc/prometheus/ # 映射prometheus的配置文件- /etc/localtime:/etc/localtime:ro # 让容器去使用宿主机的时间,保持和宿主机的时间一致ports:- '9090:9090' # 映射端口
然后在prometheus目录下创建prometheus.yml配置文件,设置抓取性能数据任务配置
prometheus.yml配置文件为
global:scrape_interval: 15s # 数据抓取间隔scrape_configs:- job_name: 'prometheus'static_configs:- targets: ['10.0.20.9:9090'] # 普罗米修斯的访问地址
启动
先回到docker-compose.ym配置文件所在的目录下
执行命令
docker-compose up -d
启动成功
防火墙开放端口限制之后就可以访问了
访问地址:http://10.0.20.9:9090
使用docker-compose安装grafana
拉取grafana镜像
# 也可以使用docker pull grafana/grafana:11.2.3(使用后下文配置信息里的镜像名也要跟着调整)
docker pull grafana/grafana:11.2.3
在指定的目录下配置docker-compose.yml配置文件和grafana目录
docker-compose.yml配置信息如下(在部署了prometheus的基础上调整)
services:prometheus:image: prom/prometheus:v2.54.1container_name: 'prometheus'volumes:- ./prometheus/:/etc/prometheus/- /etc/localtime:/etc/localtime:roports:- '9090:9090'grafana:image: grafana/grafana:11.2.3container_name: 'grafana'volumes:- ./grafana/config/grafana.ini:/etc/grafana/grafana.ini # 配置grafana的报警邮件发送服务- ./grafana/provisioning/:/etc/grafana/provisioning/ # 映射grafana的配置文件- /etc/localtime:/etc/localtime:ro # 让容器去使用宿主机的时间,保持和宿主机的时间一致ports:- '3000:3000' # 端口映射env_file:- ./grafana/config.monitoring # 设置grafana的登录配置信息depends_on:- prometheus # 设置grafana依赖于prometheus,需要在prometheus之后去启动
配置config.monitoring(grafana的认证配置)
# 设置grafana管理界面admin用户的登录密码
GF_SECURITY_ADMIN_PASSWORD=123456
# 控制grafana的管理界面不允许注册
GF_USERS_ALLOW_SIGN_UP=false
配置grafana的配置文件datasource.yml,用于设定其展示数据的数据来源
外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传
配置信息如下
apiVersion: 1deleDatasources:- name: PrometheusorgId: 1datasources:- name: Prometheustype: prometheusaccess: proxyorgId: 1url: http://10.0.20.9:9090basicAuth: falseisDefault: trueversion: 1editable: true
设置预警通知邮件配置文件grafana.ini
外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传
配置信息如下
[smtp]
# 是否开启邮件发送
enabled = true
# 发送服务器(固定的)
host = smtp.qq.com:465
# 发送者的邮箱账号(smtp账号)
user = 834363368@qq.com
# 授权码(smtp账号的授权码)
password = 66666666666
# 接收预警邮件的邮箱
from_address = 456789@qq.com
# 接收预警邮件的用户名称
from_name = 云泽
安装对应中间件的exporter向prometheus提供性能数据
安装redis_exporter收集redis性能数据
拉取redis_exporter镜像
docker pull oliver006/redis_exporter:v1.64.1
运行redis_exporter
docker run -d -p 9121:9121 oliver006/redis_exporter:v1.64.1 --redis.addr redis://10.0.20.10:6379 --redis.password 123456
容器启动成功之后,访问 http://10.0.20.10:9121/metrics 打印出redis相关的信息就说明redis_exporter安装成功。
安装mysql-exporter收集mysql性能数据
拉取mysql-exporter镜像
docker pull prom/mysqld-exporter:v0.15.1
在mysql上创建mysql-exporter专属的账号exporter,只需要查询权限即可。
然后配置mysql-exporter访问mysql数据库信息my.cnf
[client]
host=10.0.20.10
user=exporter
password=123456
运行mysql-exporter
ocker run -d --name mysql-master-exporter -p 9104:9104 -v /opt/my.cnf:/etc/mysql/my.cnf prom/mysqld-exporter:v0.15.1 --config.my-cnf=/etc/mysql/my.cnf
启动之后访问http://10.0.20.10:9104/metrics
请求后打印出如下mysql相关信息就是成功
外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传
接下来去配置下prometheus,在原prometheus.yml配置文件里,追加redis的性能数据抓取任务
编辑prometheus.yml (该文件按上文所述,在/opt/docker/docker-monitor/prometheus/prometheus.yml)
global:scrape_interval: 10s # 数据抓取间隔scrape_configs: - job_name: 'prometheus'static_configs: - targets: ['10.0.20.9:9090']- job_name: 'mysql-master'static_configs:- targets: ['10.0.20.10:9104']labels: instance: mysql-master- job_name: 'redis-signle'static_configs:- targets: ['10.0.20.10:9121']labels:instance: redis-signle
重新启动Prometheus + Grafana
进入到10.0.20.9服务器的/opt/docker/docker-monitor目录,也就是docker-compose.yml配置文件所在地址
执行如下命令启动grafana和prometheus
docker-compose up --force-recreate -d
–force-recreate:意思是关闭删除旧的容器,重新创建新的容器并运行
登录配置Grafana
访问地址:http://10.0.20.9:3000/login
导入的json文件如下
redis-dashboard.json
mysql-dashboard.json
下载json文件后,逐个导入到grafana的dashboards里面即可
mysql性能监控页面
mysql如果想监控到MySQL Slow Queries也就是慢查询,就需要在mysql的配置文件里开启慢查询日志记录
#开启慢查询日志
slow_query_log = 1#指定慢查询日志文件的位置
slow_query_log_file = /var/log/mysql/slow-query.log#设置慢查询的时间阈值(单位:秒)
long_query_time = 2
redis性能监控页面
redis监控要看到memory usagea数据,就需要在运行redis的时候,在redis的redis.conf里面添加如下配置:
#设置redis的最大内存
maxmemory 1024M
如果docker拉取镜像失败超时,可参考如下两篇文章,对应两种解决方案
方案一:轻松解决Docker拉取镜像失败问题
方案二:GitHub Actions + 阿里云解决Docker镜像拉取难题,实现镜像自由
相关文章:

使用docker部署Prometheus和Grafana去监控mysql和redis
自动化性能监控系统安装部署 相关工具的安装部署 服务工具分配 服务器工具端口10.0.20.9grafana300010.0.20.9prometheus909010.0.20.10mysql330610.0.20.10mysql-exporter910410.0.20.10redis330610.0.20.10redis_exporter9121 使用docker-compose安装prometheus 先拉取p…...

日志管理 | Log360 实现PCI DSS v4.0数据安全合规要求
PCI DSS 是一项网络安全标准,得到所有主要信用卡和支付处理公司的支持,旨在确保信用卡和借记卡号码的安全。最新的PCI DSS v4.0 代表支付卡行业数据安全标准。 任何依赖信用卡交易的企业都不能将数字安全视为一个偷工减料的领域,因为数据泄露…...

JAVA中的string和stringbuffer
【之前面试测试岗位的时候有被问到这个问题,面试结束后特地来学习一下】 目录 谁先被提出的String的使用StringBuffer的使用两者区别 谁先被提出的 String类先于StringBuffer被提出,作为Java语言的基础部分,而StringBuffer是为了解决实际开…...

轻型民用无人驾驶航空器安全操控------理论考试多旋翼部分笔记
官网:民用无人驾驶航空器综合管理平台 (caac.gov.cn) 说明:一是法规部分;二是多旋翼部分 本笔记全部来源于轻型民用无人驾驶航空器安全操控视频讲解平台 目录 官网:民用无人驾驶航空器综合管理平台 (caac.gov.cn) 一、轻型民用无人…...

计算用户订购率梧桐数据库和oracle数据库sql分析
一、背景说明 移动运营商平台提供多种类型的产品权益,用户可以通过订购来使用。平台需要定期统计各个产品的用户订购情况,以便了解各个产品的受欢迎程度。这些统计数据将用于优化产品、提升用户体验和制定市场推广策略。 二、表结构说明 梧桐数据库建…...

通过DNS服务器架构解释DNS请求过程
在前面的章节,这里,基于PCAP数据包和RFC文档详细介绍了DNS请求和响应的每个字段的含义。但是在现实的网络世界中,DNS请求和响应的数据包是怎么流动的,会经过哪些设备。本文将着重说明一下目前网络空间中DNS请求和响应的流动过程。 当前网络空间中比较常见DNS请求的流程如下…...

OKG Research:用户意图驱动的Web3应用变革
出品| OKG Research 作者|Samuel QIN 当前加密市场的快速演变中,用户增长成为行业可持续发展的基石。目前主流观点在推动行业前进的路上,从单纯的技术探索在向更注重应用价值的方向转变。尽管近年来Web3生态系统发展迅速…...

hbase 工具类
hbase 工具类 pom.xml <dependency><groupId>org.apache.hbase</groupId><artifactId>hbase-client</artifactId><version>2.5.10-hadoop3</version> </dependency> <dependency><groupId>com.google.guava<…...

会议直击|美格智能受邀出席第三届无锡智能网联汽车生态大会,共筑汽车产业新质生产力
11月10日,2024世界物联网博览会分论坛——第三届无锡智能网联汽车生态大会在无锡举行,美格智能CEO杜国彬受邀出席,并参与“中央域控:重塑汽车智能架构的未来”主题圆桌论坛讨论,与行业伙伴共同探讨智能网联汽车产业领域…...

在 Jupyter Notebook 中使用 Matplotlib 进行交互式可视化的教程
在 Jupyter Notebook 中使用 Matplotlib 进行交互式可视化的教程 引言 数据可视化是数据分析的重要组成部分,能够帮助我们更直观地理解数据。Matplotlib 是 Python 中最流行的绘图库之一,而 Jupyter Notebook 则是进行数据分析和可视化的理想环境。本文…...

Android13 系统/用户证书安装相关分析总结(三) 增加安装系统证书的接口遇到的问题和坑
一、前言 接上回说到,修改了程序,增加了接口,却不知道有没有什么问题,于是心怀忐忑等了几天。果然过了几天,应用那边的小伙伴报过来了问题。用户证书安装没有问题,系统证书(新增的接口)还是出现了问题。调…...

【C++ 算法进阶】算法提升十三
目录标题 抽牌概率问题 (动态规划)动态规划题目分析代码 洗衣机问题 (贪心)题目题目分析 抽牌概率问题 (动态规划) 动态规划 假设现在有1~N N张牌 每张牌的序号就代表着他的大小 (1 2 … N&am…...

【计网不挂科】计算机网络期末考试(综合)——【选择题&填空题&判断题&简述题】完整试卷
前言 大家好吖,欢迎来到 YY 滴计算机网络 系列 ,热烈欢迎! 本章主要内容面向接触过C的老铁 本博客主要内容,收纳了一部门基本的计算机网络题目,供yy应对期中考试复习。大家可以参考 本章是去答案版本。带答案的版本在下…...

2024年11月中旬记录
11.11 pigz的使用 压缩文件夹命令: tar -cvf - dir_name | pigz > xxx.tar.gz 解压分两步,pigz解压和tar解压: pigz -d xxx.tar.gz tar -xf xxx.tar...

单体架构 IM 系统之长轮询方案设计
在上一篇技术短文(单体架构 IM 系统之核心业务功能实现)中,我们讨论了 “信箱模型” 在单体架构 IM 系统中的应用,“信箱模型” 见下图。 客户端 A 将 “信件” 投入到客户端 B 的 “信箱” 中,然后客户端 B 去自己的 …...

Android Studio加载旧的安卓工程项目报错处理
文章目录 Invalid Gradle JDK configuration foundNDK not configuredCMake 3.10.2 was not found安装cmake适配cmake版本号 com.intellij.openapi.externalSystem.model.ExternalSystemExceptiongradle版本过低或下载不了下载gradle与依赖库超时替换gradle国内源替换Maven 仓库…...

阿里公告:停止 EasyExcel 更新与维护
最近,阿里发布公告通知,将停止对知名 Java Excel 工具库 EasyExcel 的更新和维护。EasyExcel 由阿里巴巴开源,作者是玉箫,在 GitHub 上拥有 30k stars、7.5k forks 的高人气。 据悉,EasyExcel 作者玉箫去年已从阿里离…...

Spring 中的 BeanWrapper
BeanWrapper 是 Spring 框架中的一个接口,它提供了一种方式来设置和获取 JavaBean 的属性。JavaBean 是一种特殊的 Java 类,遵循特定的编码约定(例如,私有属性和公共的 getter/setter 方法),通常用于封装数…...

2024鹏城杯msic部分WP
MISC 网安第一课 查找字符key,发现key1,但是没看到key2 后缀改为zip,打开以后发现不一样的地方,三张图片和一个misc文件夹 图片放到010看一眼 编号为1的图片在文件尾发现key2 misc文件夹中是一个out.pcb,放到010发现…...

DAY23|回溯算法Part02|LeetCode: 39. 组合总和 、40.组合总和II 、131.分割回文串
目录 LeetCode: 39. 组合总和 基本思路 C代码 LeetCode: 40.组合总和II 基本思路 C代码 LeetCode: 131.分割回文串 基本思路 C代码 LeetCode: 39. 组合总和 力扣代码链接 文字讲解:LeetCode: 39. 组合总和 视频讲解:带你学透回溯算法-组合总和…...

go map
1、数据结构 // A header for a Go map. type hmap struct {// Note: the format of the hmap is also encoded in cmd/compile/internal/reflectdata/reflect.go.// Make sure this stays in sync with the compilers definition.count int // # live cells size of map.…...

三十七、Python基础语法(异常)
在 Python 中,异常是在程序执行过程中发生的错误情况。当出现异常时,程序的正常执行流程会被中断,并尝试寻找相应的异常处理机制来处理这个错误。 一、异常的类型 Python 中有很多内置的异常类型,例如: ZeroDivision…...

ThreadLocal的熟悉与使用
目录 1.ThreadLocal介绍2.ThreadLocal源码解析2.1 常用方法2.2 结构设计2.3 类图2.4 源码分析2.4.1 set方法分析2.4.2 get方法分析2.4.3 remove方法分析 3.ThreadLocal内存泄漏分析3.1 相关概念3.1.1 内存溢出3.1.2 内存泄漏3.1.3 强引用3.1.4 弱引用 3.2 内存泄漏是否和key使用…...

如何使用 Puppeteer 和 Browserless 抓取亚马逊产品数据?
您可以在亚马逊上找到所有有关产品、卖家、评论、评分、特价、新闻等的相关且有价值的信息。无论是卖家进行市场调研还是个人收集数据,使用高质量、便捷且快速的工具将极大地帮助您准确地抓取亚马逊上的各种信息。 为什么抓取亚马逊产品数据很重要? 亚…...

使用Python求解经典“三门问题”,揭示概率的奇妙之处
三门问题(Monty Hall Problem)是经典的概率问题,描述了一位游戏选手在三个门中选择一扇门,其中一扇门后有奖品,其余两扇门后是空的。选手做出选择后,主持人会打开另一扇空门,然后给选手一次更改…...

数据库基础(6) . DDL
3.2.DDL 数据定义语言 DDL : Data Definition Language 用于创建新的数据库、模式(schema)、表(tables)、视图(views)以及索引(indexes)等。 常见的DDL语句包括SHOW、CREATE、DRO…...

2024 年度分布式电力推进(DEP)系统发展探究
分布式电力推进 (DEP) 的发明是为了尝试和改进现代飞机:我们如何提高飞机的效率?提高它的机动性?缩短它的起飞和着陆距离? DEP 概念有望在提高性能的同时减少燃料消耗,在我们孜孜不倦地努力使航…...

vue通过iframe方式嵌套grafana图表
文章目录 前言一、iframe方式实现xxx.xxx.com拒绝连接登录不跳转Cookie 的SameSite问题解决不显示额外区域(kiosk1) 前言 我们的前端是vue实现的,监控图表是在grafana中的,需要在项目web页面直接显示grafana图表 一、iframe方式实现 xxx.xxx.com拒绝连…...

简单介绍下 Java 中的 @Validated 和 @Valid 注解的区别?
文章目录 Valid:专注单个对象的深度验证适用场景使用示例小结 Validated:聚焦接口分组的批量验证适用场景使用示例小结 主要区别总结如何选择?总结推荐阅读文章 在 Java 开发中,为了确保输入数据符合我们的要求,少不了…...

SpringBoot配置Rabbit中的MessageConverter对象
SpringAMQP默认使用SimpleMessageConverter组件对消息内容进行转换 SimpleMessageConverter: only supports String, byte[] and Serializable payloads仅仅支持String、Byte[]和Serializable对象Jackson2JsonMessageConverter:was expecting (JSON Str…...