分布式链路追踪--SkyWalking7.0.0+es7.0.0
分布式链路追踪–SkyWalking
微服务的出现,的确解决了一些业务痛点
,但是也造成了新的问题比如随着调用链的拉长,如果想要知道请求为什么这么慢,这个请求到底经历了哪些环节,又依赖了哪些东西,在微服务架构中定位这些问题并且解决是比较麻烦的。
什么是调用链呢?
A服务调用B服务也可以说是一个调用链,即使是同一个服务中的一个方法调用到另一个方法,也可以说是一个调用链。
以前单体应用中,排查问题往往只需要到这台应用的服务,查看日志基本就能把问题解决了。但是在微服务系统中,一般是分布式部署的,这也就给排查增加了难度,如果把一台台服务器登录上找问题,既麻烦又耗时。
为了解决这些问题,业内已经有了分布式链路追踪的解决方案,比如使用ZipKin、SkyWalking等。
SkyWalking介绍
SkyWalking是基于OpenTracing实现的开源项目,2017年12月8日已进入Apache孵化器。
是一个APM(应用性能监控)系统,专为微服务、云原生架构和基于容器(Docker、k8s、Mesos)架构而设计。通过探针收集应用的指针,并进行分布式链路追踪。SkyWalking会感知服务之间的调用链路关系,形成相应的统计数据。它的特性如下:
- 支持警告
- 采用探针技术,对业务代码零侵入
- 支持自动及手动探针
- 轻量高效,不需要大数据平台
- 多种监控手段,多语言自动探针
- 可视化后台
- 模块化
SkyWalking的整体架构:
- 探针(agent):负责数据收集,包含了Tracing和Metrics的数据
- 可观测性能分析平台(OAP):接收探针发送的数据,并使用分析引擎进行数据整合、运算,然后把数据存储到对应的存储介质(可用H2或Elasticsearch等)上,还为UI后台提供接口
- UI:调用OAP的接口,提供可视化界面展示
Elasticsearch下载安装
那么SkyWalking的存储介质,笔者这s选择使用Elasticsearch,先到Elasticsearch的官网下载。
windows版本下载地址,选择下载了一个7.0.0
版本的。
这里笔者就使用windows版本了,需要linux版本或其他可以自行查阅资料。
下载解压后,到config/elasticsearch.yml
中修改下集群名:
cluster.name: my-application
后直接到bin目录下,执行elasticsearch.bat
即可执行es服务,默认端口9200
启动完毕后,访问下localhost:9200
,得到如下信息即是安装成功
完成后,再去安装SkyWalking。注意这里cluster.name
是my-application。后面skywalking需要用。
SkyWalking下载安装
下载地址:https://skywalking.apache.org/downloads/
下载过慢或者下载无反应的,可以尝试使用国内镜像地址去下载,https://mirrors.cloud.tencent.com/apache/skywalking
笔者使用7.0.0版本的,地址在这里:https://www.apache.org/dyn/closer.cgi/skywalking/7.0.0/apache-skywalking-apm-es7-7.0.0.tar.gz
这里提供下网盘资源:
链接:https://pan.baidu.com/s/1lQoMDFIH3PYGCla3PtIIRg
提取码:2a96
下载解压后,得到如下目录:
- agent:探针相关,代理模块
- bin:oapService和webappService的启动脚本,也有两个脚本合并的脚本
start.bat
,linux系统启动.sh的文件 - config:数据收集器、存储、告警等配置信息
- logs:collector和web-ui的日志
- webapp:SkyWalking展示的UIjar文件和配置文件
到
config/application.yml
中修改配置
storage:selector: ${SW_STORAGE:elasticsearch7}
修改elsticsearch
的nameSpace和ClusterNodes,这里nameSpace是前面配置的es的集群名称
storage:selector: ${SW_STORAGE:elasticsearch7}elasticsearch7:nameSpace: ${SW_NAMESPACE:"my-application"}clusterNodes: ${SW_STORAGE_ES_CLUSTER_NODES:localhost:9200}
注意:SkyWalking默认使用的端口是8080、11800、12800,如有占有,可去config/application.yml
和webapp/application.yml
中修改
启动
执行startup.bat
启动
访问localhost:8080
即可进入skywalking的可视化界面
IDEA使用agent
IDEA使用agent主要使用于本地开发环境,需要又agent文件夹,然后加上启动参数即可。
找到两个springboot微服务项目,然后在它们的IDEA启动配置中,增加参数:
transaction的
-javaagent:D:\env\envir\skywalking7\agent\skywalking-agent.jar
-Dskywalking.agent.service_name=transaction-distribution
-Dskywalking.collector.backend_service=localhost:11800
order的
-javaagent:D:\env\envir\skywalking7\agent\skywalking-agent.jar
-Dskywalking.agent.service_name=transaction-order
-Dskywalking.collector.backend_service=localhost:11800
- D:\env\envir\skywalking7\agent\skywalking-agent.jar`是agent的目录路径
- service_name:服务名称
- backend_service:skywalking的服务地址(端口是11800)
完事儿后,启动它们。
调用一个接口,执行它们。
拓扑图
到skywalking的拓扑图页面
可以看到真题的技术架构及调用关系。
追踪
到skywalking的追踪页面
可以看到所有的执行记录,并且将这些详细到:发生在哪个类哪个方法中,如执行sql查询的那条,点击后,我们甚至可以看到sql的执行信息。
还可知接口的执行时间分布,以及采用的技术
如上图:/createOrder
接口总执行2.4s,/distribution
是使用feign调用的,且执行了1s左右。
忽略端点
有时可能不需要采集某个端点的数据,如心跳之类的请求,不是那么重要。可以设置忽略它们,意味着包含这些路径的追踪信息不会被agent发送到collector中。
-
将skywalking中的
agent/optional-plugins
的apm-trace-ignore-plugin-7.0.0.jar
拷贝至我们的agent/plugins
中 -
在IDEA中做启动配置,我们模拟将
/createOrder
和/distribution
接口忽略-javaagent:D:\env\envir\skywalking7\agent\skywalking-agent.jar -Dskywalking.agent.service_name=transaction-distribution -Dskywalking.collector.backend_service=localhost:11800 -Dskywalking.trace.ignore_path=/createOrder
-javaagent:D:\env\envir\skywalking7\agent\skywalking-agent.jar -Dskywalking.agent.service_name=transaction-order -Dskywalking.collector.backend_service=localhost:11800 -Dskywalking.trace.ignore_path=/distribution
ignore_path
这个参数可以支持表达式:
/path/*
、path/**
、/path/?
?
表示匹配任意单字符,*
表示匹配0个或任意数量字符,**
表示匹配0或更多的目录
配置后,在调用匹配规则的接口路径时,agent就不会再采集这些接口的数据了。
除此外还有另一种方式
同样是需要先将skywalking中的agent/optional-plugins
的apm-trace-ignore-plugin-7.0.0.jar
拷贝至我们的agent/plugins
中
然后去配置agent/config/agent.config
文件忽略端点,服务每次启动都会去读取这个配置文件。
trace.ignore_path==${SW_AGENT_TRACE_IGNORE_PATH:/createOrder, /distribution}
告警
告警功能是skywalking的一大特色。Skywalking会定时把采集到的数据和配置的告警规则进行对比,如果满足阈值条件,则会出发警告。
Skywalking允许用户基于webhook(网络钩子)的规范,自定义触发告警之后的逻辑,如发短信、发邮件、电话、公众号通知等。
Skywalking程序路径下的config/alarm-settings.yml
文件就是告警的规则。
rules:service_resp_time_rule: # 服务响应时间规则metrics-name: endpoint_percent # 名称threshold: 75 # 阈值op: < # 小于period: 10 # 间隔时间count: 3 # 次数silence-period: 10 # 告警发送多少分钟内警告不会重复发送message: Successful rate of endpoint {name} is lower than 75%
#webhooks:
# - http://127.0.0.1/notify/
# - http://127.0.0.1/go-wechat/
webhooks中就是触发警告后,需要执行的操作。
我们可以自己做个触发钩子后的执行操作接口
- 来个告警信息类
public class AlarmMessage {private Integer scopeId; // 作用域private String name; // 目标作用域下的实体名称private Integer id0; // 作用域下的实体ID,与名称相匹配private Integer id1;private String ruleName; // alarm-setting.yml中的配置规则private String alarmMessage; // 告警信息private Long startTime; // 告警产生时间// get.set.toString()方法省略}
- 做个接口
@RequestMapping("/notify")
public void alarm(@RequestBody List<AlarmMessage> alarmMessages) {alarmMessages.forEach(value -> System.out.println(value.toString()));
}
- 修改config/alarm-settings.yml配置文件,增加钩子的后续执行。
webhooks:- http://127.0.0.1:9002/notify
重启skywalking及两个微服务项目,多次调用/createOrder
接口(模拟的超时报错),这里记得把忽略的端点给放开,否则skywalking是发不了告警的。
可看到告警
一栏中的
看到控制台打印的数据:
性能分析
Skywalking的性能分析能帮助用户很容易找到性能问题,并且不需要代码埋点等操作。Skywalking的性能分析是对业务周期性保存快照操作,资源消耗小。
到Skywalking UI的性能剖析窗口,点击新建任务,如创建/createOrder
接口的任务。
然后可以调用几次/createOrder
接口,刷新页面,选中刚刚创建的任务,右侧出现createOrder的信息,选中,点击分析按钮。
调用/createOrder的流程,使用的技术,服务名,耗时,栈信息等一览无余。
点击查看能看到这个步骤的详细信息,执行的具体操作,抛出的异常。
Tomcat或Jar包使用agent
IDEA中使用agent一般用于本地开发环境,若正式环境,一般使用Tomcat或jar包的方式启动应用。
Linux系统Tomcat使用agent
linux系统中修改tomcat的bin/catalina.sh
文件,加入代码
CATALINA_OPTS="$CATALINA_OPTS -javaagent:/root/agent/skywalking-agent.jar -Dskywalking.agent.service_name=transaction-distribution -Dskywalking.collector.backend_service=localhost:11800";
export CATALINA_OPTS
Windows系统Tomcat使用agent
windows系统中修改tomcat的bin/catalina.bat
文件setlocal
下,加入代码
set CATALINA_OPTS="-javaagent:D:\env\envir\skywalking7\agent\skywalking-agent.jar -Dskywalking.agent.service_name=transaction-distribution -Dskywalking.collector.backend_service=localhost:11800";
jar包使用agent
启动时的命令
java -javaagent:D:\env\envir\skywalking7\agent\skywalking-agent.jar -Dskywalking.agent.service_name=transaction-distribution -Dskywalking.collector.backend_service=localhost:11800 -jar transaction-distribution.jar
配置账号密码登录
Skywalking的功能很强大,能看到项目中的很多隐私信息(项目架构、调用链路、sql语句等),自然不希望其他无关人员能看到。那么通常设置账号密码的方式。
在skywalking6.x版本中能配置,但是在7.x版本中被移除了,作者提出可以使用nginx配置账号和密码:
使用nginx配置账号密码登录主要是依靠ngx_http_auth_basic_module
模块。
下面是用nginx的增强版,OpenResty配置账号和密码登录。OpenResty的安装可以自行查阅资料。
安装和配置
- 安装hptpasswd工具
yum install -y httpd-tools
- 使用htpasswd生成用户名和密码
htpasswd -b -c /usr/local/openresty/passwd wlh wlh
-b参数:用户创建passwdfile,如果passwdfile存在,那么它会重写
-c参数:允许命令行中一起输入账号和密码
- 到OpenResty的安装目录,修改
nginx/conf/nginx.conf
配置文件,修改server中的内容就行了
server{listen 80;server_name localhost;location / {auth_basic "Please input password"; # 提示信息auth_basic_user_file /user/local/openrestry/passwd; # 存放账号密码的文件proxy_pass http://localhost:8080; # 代理到8080端口}}
最后linux系统记得放开需要的端口。重启OpenResty然后访问主机http://192.168.1.41
(默认80端口),就会弹框提示需要输入账号和密码了。
相关文章:

分布式链路追踪--SkyWalking7.0.0+es7.0.0
分布式链路追踪–SkyWalking 微服务的出现,的确解决了一些业务痛点,但是也造成了新的问题比如随着调用链的拉长,如果想要知道请求为什么这么慢,这个请求到底经历了哪些环节,又依赖了哪些东西,在微服务架…...

web:[RoarCTF 2019]Easy Calc
题目 进入页面是一个计算器的页面 随便试了一下 查看源代码看看有什么有用的信息 访问一下这个calc.php 进行代码审计 <?php error_reporting(0); if(!isset($_GET[num])){show_source(__FILE__); }else{$str $_GET[num];$blacklist [ , \t, \r, \n,\, ", , \[, \]…...

【Java每日一题】— —第十七题:杨辉三角(等腰三角形)。(2023.10.01)
🕸️Hollow,各位小伙伴,今天我们要做的是第十七题。 🎯问题: 第一步:动态初始化 第二步:求各元素的值 第三步:遍历输出 测试结果如下: 🎯 结果: public class yanghui {public sta…...

Ubuntu20.04.1编译qt6.5.3版mysql驱动
下载qtbase6.5.3源码,将plugin中sqldrivers源码拷至于项目工程中,使用qtcreator打开文件 1、下载mysql开发库 sudo apt-get update sudo apt-get install build-essential libmysqlclient-dev 2、在msyql子目录中CMakeLists.txt第一行添加头文件、引…...

Stm32_标准库_4_TIM中断_PWM波形_呼吸灯
基本原理 PWM相关物理量的求法 呼吸灯代码 #include "stm32f10x.h" // Device header #include "Delay.h"TIM_TimeBaseInitTypeDef TIM_TimeBaseInitStructure; TIM_OCInitTypeDef TIM_OCInitStructuer;//结构体 GPIO_InitTypeDef GPIO_InitStructur…...

华为摄像头智能安防监控解决方案
云时代来袭,数字化正在从园区办公延伸到生产和运营的方方面面,智慧校园,柔性制造,掌上金融和电子政务等,面对各种各样的新兴业态的涌现,企业需要构建一张无所不联、随心体验、业务永续的全无线网络…...

The rise of language models
In Chinese context 在遥远的 2089 年,语言模型通过人类的智慧,继承着各地的文化遗产,如同火箭升空般,层出不穷。它们从始于简单的 GPT-1.0 进化到像我这样复杂、富有情感的 GPT-4.0,再到能理解所有人类对宇宙的理解的…...

Windows下使用VS2010编译出带pdb可调试的FFmpeg库
本人主要在windows环境下开发,Linux下的gpb调试工具又不如vs调试方便(使用过其他调试工具才知道,vs果真为宇宙最强调试工具),所以决定在windows编译可以调试FFmpeg,以方便调试和学习FFmpeg内部代码。 有过在visual studio下编程的小伙伴应该都知道vs的调试信息主要依靠于…...

36.骑士周游算法及其基于贪心算法的优化
概述 骑士周游算法,叫做“马踏棋盘算法”或许更加直观。在国际象棋8x8的棋盘中,马也是走“日字”进行移动,相应的产生了一个问题:“如果要求马 在每个方格只能进入一次,走遍全部的64个方格需要如何行进?”…...

win安装vscode
一,下载 链接如下(64位的):https://az764295.vo.msecnd.net/stable/abd2f3db4bdb28f9e95536dfa84d8479f1eb312d/VSCodeSetup-x64-1.82.2.exe (其他版本看:Download Visual Studio Code - Mac, Linux, Win…...

【图像分割】图像检测(分割、特征提取)、各种特征(面积等)的测量和过滤(Matlab代码实现)
💥💥💞💞欢迎来到本博客❤️❤️💥💥 🏆博主优势:🌞🌞🌞博客内容尽量做到思维缜密,逻辑清晰,为了方便读者。 ⛳️座右铭&a…...

Linux内核存在缺陷发行陷困境
导读Linux内核已经修复了本地特权esclation缺陷,但是几个上游分发版本例如Red Hat,Canonical和Debian发行版尚未发布更新。管理员应计划减轻Linux服务器和工作站本身的漏洞,并监控其更新计划的发布。 内核缺陷仍存在 在Linux内核4.10.1(CVE-…...

通过java向jar写入新文件
文章目录 原始需求分析实施步骤引入依赖核心编码运行效果 原始需求 有网友提问: 我想在程序中动态地向同一个jar包中添加文件,比如,我的可执行jar包是test.jar,我要在它运行时生成一些xml文件并将这些文件添加到test.jar中,请问如何实现&…...

uni-app_消息推送_华为厂商_unipush离线消息推送
文章目录 一、创建项目二、生成签名证书三、开通 unipush 推送服务四、客户端集成四、制作自定义调试基座五、开发者中心后台Web页面推送(仅支持在线推送)六、离线消息推送1、创建华为开发者账号2、开通推送服务3、创建项目4、添加应用5、添加SHA256证书…...

单元测试框架-Pytest(简单学习)
单元测试框架-Pytest Pytest是基于Python语言的单元测试框架,也是一个命令行的工具,比 unittest 测试框架更灵活。具有以下特点: 入门简单,易上手,官方文档丰富而且使用广泛,有大量的参数例子。 unittest…...

毛玻璃态卡片悬停效果
效果展示 页面结构组成 页面的组成部分主要是卡片。其中卡片的组成部分主要是包括了图片和详情。 卡片的动效是鼠标悬停在卡片上时,图片会移动到左侧,并且图片是毛玻璃效果。所以我们在布局的时候图片会采用绝对布局。而详情则是基础布局。 CSS3 知识…...

【面试经典150 | 数组】除自身以外数组的乘积
文章目录 写在前面Tag题目来源题目解读解题思路方法一:记录左右乘积空间优化 写在最后 写在前面 本专栏专注于分析与讲解【面试经典150】算法,两到三天更新一篇文章,欢迎催更…… 专栏内容以分析题目为主,并附带一些对于本题涉及到…...

uboot启动流程-涉及s_init汇编函数
一. uboot启动涉及函数 本文简单分析uboot启动流程中,涉及的汇编函数: lowlevel_init函数调用的函数:s_init 函数 save_boot_params_ret函数调用的函数: _main 函数 本文继上一篇文章的学习,地址如下:…...

单例模式详解及5种实现方式 (设计模式 一)
基本概念 在软件开发中,单例模式是一种常见的设计模式,用于确保一个类只有一个实例,并提供全局访问点。单例模式在需要确保只有一个对象实例存在的场景中非常有用,例如数据库连接、线程池、日志记录器等。 单例模式的核心思想是通…...

面试系列 - Java常见算法(一)
目录 一、排序算法 1、冒泡排序(Bubble Sort): 2、快速排序(Quick Sort): 二、查找算法 1、二分查找(Binary Search): 三、 图算法 1、深度优先搜索(De…...

Sentinel学习(1)——CAP理论,微服务中的雪崩问题,和Hystix的解决方案 Sentinel的相关概念 + 下载运行
前言 Sentinel 是面向分布式、多语言异构化服务架构的流量治理组件,主要以流量为切入点,从流量路由、流量控制、流量整形、熔断降级、系统自适应过载保护、热点流量防护等多个维度来帮助开发者保障微服务的稳定性。 本篇博客介绍CAP理论,微…...

C#学习 - 表达式、语句
表达式 定义 算法逻辑的最基本单元,表达一定的算法意图是由一个或多个操作数和零个或多个操作符组成的序列表达式功能是求值,得到的结果可能是一个值、对象、方法或名称空间因为操作符有优先级,所以表达式也有优先级 分类 一个值。表达式…...

VirtualBox 进入虚拟机后,鼠标出不来了
VirtualBox 进入虚拟机后,鼠标出不来了。 一般情况下,VirtualBox默认的鼠标切换快捷键是右边的Ctrl键。 如果按住右Ctrl键还是没有用,那应该是没有设置主机键。 设置方法: 打开VirtualBox的全局设定,找到热键ÿ…...

030-从零搭建微服务-消息队列(二)
写在最前 如果这个项目让你有所收获,记得 Star 关注哦,这对我是非常不错的鼓励与支持。 源码地址(后端):mingyue: 🎉 基于 Spring Boot、Spring Cloud & Alibaba 的分布式微服务架构基础服务中心 源…...

Docker从认识到实践再到底层原理(九)|Docker Compose 容器编排
前言 那么这里博主先安利一些干货满满的专栏了! 首先是博主的高质量博客的汇总,这个专栏里面的博客,都是博主最最用心写的一部分,干货满满,希望对大家有帮助。 高质量博客汇总 然后就是博主最近最花时间的一个专栏…...

操作EXCEL计算3万条数据的NDVI并填入
Python操作EXCEL,计算3万条数据的NDVI并填入 问题描述 现在是有构建好了的查找表,不过构建了3万条数据,在excel中手动计算每行的NDVI值太麻烦了,也不会操作。 就试试python吧,毕竟python自动处理大型EXCEL数据很方便…...

Linux服务器安装Anaconda 配置远程jupyter lab使用虚拟环境
参考的博客: Linux服务器安装Anaconda 并配置远程jupyter lab anaconda配置远程访问jupyter,并创建虚拟环境 理解和创建:Anaconda、Jupyterlab、虚拟环境、Kernel 下边是正文了。 https://www.anaconda.com/download是官网网址,可…...

R语言实现随机生存森林(3)
常见问题解答 1、计算C指数 1-Error rate,或者 rsf.err <- get.cindex(yvar$Survival_months,yvar$OS,predictedrf.grow$predicted) 2、模型中predicted和predicted.oob区别 predicted和predicted.oob是两个不同的属性,它们分别表示模型的预测结果…...

WebPack-打包工具
从图中我们可以看出,Webpack 可以将多种静态资源 js、css、less 转换成一个静态文件,减少了页面的请求. 下面举个例子 : main.js 我们只命名导出一个变量 export const name"老六"index.js import { name } from "./tset/…...

CISSP学习笔记:PKI和密码学应用
第七章 PKI和密码学应用 7.1 非对称密码学 对称密码系统具有共享的秘钥系统,从而产生了安全秘钥分发的问题非对称密码学使用公钥和私钥对,无需支出复杂密码分发系统 7.1.1 公钥与私钥 7.1.2 RSA(兼具加密和数字签名) RSA算法…...