百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 编程网 > 正文

DUBBO监控,设置接口调用数据的上报周期 值得一看

yuyutoo 2024-10-26 16:09 11 浏览 0 评论

DUBBO监控,设置接口调用数据的上报周期

dubbo是目前比较好用的,用来实现soa架构的一个工具,dubbo的用法和好处,我们这里略过,今天我们来讨论跟监控有关的话题。

大家大知道,在确保系统的稳定道路上,系统监控是必不可少的,只有实时监控系统中接口的调用情况,并定期汇总统计数据,才能知道系统是否到了瓶颈,以及是否有接口异常调用情况。

dubbo已有的监控方案

dubbo中自带了dubbo-monitor模块,其作用简单来说就是:

  • 根据配置判断是否启用MonitorFilter过滤器

当dubbo的xml配置文件中配置了<dubbo:monitor xxx/>,比如:<dubbo:monitor protocol="registry" /><dubbo:monitor protocol="dubbo" address="dubbo://127.0.0.1:30004/MonitorService" />等等

  • 根据protocol配置,判断获取MonitorService接口方式以及获取接口地址

如果是registry根据<dubbo:registry xxx />配置获取,如果是dubbo直接使用address属性配置的地址

  • 根据protocol配置,判断使用哪个MonitorFactory

    如果是registry,则根据最后获取到的具体通信协议来决定;

    如果是dubbo,使用默认工厂类:DubboMonitorFactroy。见dubbo默认配置文件:

META-INF/dubbo/internal/com.alibaba.dubbo.monitor.MonitorFactory

dubbo=com.alibaba.dubbo.monitor.dubbo.DubboMonitorFactroy

这里我们可以自定义协议,比如myDubbo,然后在项目中创建一个文件:

META-INF/dubbo/com.alibaba.dubbo.monitor.MonitorFactory

myDubbo=org.rembau.dubboTest.MyDubboMonitorFactory

这时项目启动时,如果发现协议为myDubbo,会使用MyDubboMonitorFactory执行相关操作。

问题:这里暴露了监控配置的一个问题,就是我们不能为dubbo协议重新定义一个MonitorFactory,所以连带的不能重新实现Monitor

  • 使用MonitorFilter过滤器处理每一个接口调用

如果我们用的dubbo协议来连接MonitorService服务,则是使用DubboMonitor实例来处理接口调用数据,该类实现了对调用数据的简单汇总,并每60秒调用MonitorService服务的collect方法,把数据发送出来。

  • 使用dubbo-monitor-simple接收数据

dubbo-monitor-simple是dubbo提供的简单监控中心,可以用来显示接口暴露,注册情况,也可以看接口的调用明细,调用时间等。

还有其他一些比较好的工具比如Dubbo-Monitor等

针对已有方案的改进

写到这里才是本文的重点,我们绝大部分使用者都是使用dubbo协议进行通信,所以也就是使用DubboMonitor发送数据,这已经完全够用了。但是DubboMonitor是每分钟上报一次,并且每个应用中,与之有关的所有接口都会产生一条数据,生产环境中,数据量还是挺大的。如果上报的时间间隔可以设置为10分钟或者30分钟,数据量也会相应减少10倍、30倍,如果我们自己汇聚还需要分布式服务对数据的一致性处理,会把事情变复杂。

  • 查看DubboMonitor源码:

DubboMonitor的构造方法:

this.monitorInterval = (long)monitorInvoker.getUrl().getPositiveParameter("interval", '60000');this.sendFuture = this.scheduledExecutorService.scheduleWithFixedDelay(new Runnable() { public void run() { try {
 DubboMonitor.this.send();
 } catch (Throwable var2) {
 DubboMonitor.logger.error("Unexpected error occur at send statistic, cause: " + var2.getMessage(), var2);
 }
 }
}, this.monitorInterval, this.monitorInterval, TimeUnit.MILLISECONDS);

其中.getPositiveParameter("interval", '60000')方法大概意思是,在URL对象实例中找interval参数的值。那URL的参数会从什么地方获取呢?

  • MonitorConfig的属性、MonitorConfigMap<String, String> parameters属性的key-value

最终获取的URL是根据MonitorConfig得来的,查看AbstractInterfaceConfig代码:

protected URL loadMonitor(URL registryURL) { if (monitor == null) { String monitorAddress = ConfigUtils.getProperty("dubbo.monitor.address"); String monitorProtocol = ConfigUtils.getProperty("dubbo.monitor.protocol"); if (monitorAddress != null && monitorAddress.length() > 0
 || monitorProtocol != null && monitorProtocol.length() > 0) {
 monitor = new MonitorConfig();
 } else { return null;
 }
 }
 appendProperties(monitor); Map<String, String> map = new HashMap<String, String>();
 map.put(Constants.INTERFACE_KEY, MonitorService.class.getName());
 map.put("dubbo", Version.getVersion());
 map.put(Constants.TIMESTAMP_KEY, String.valueOf(System.currentTimeMillis())); if (ConfigUtils.getPid() > 0) {
 map.put(Constants.PID_KEY, String.valueOf(ConfigUtils.getPid()));
 }
 appendParameters(map, monitor); String address = monitor.getAddress(); String sysaddress = System.getProperty("dubbo.monitor.address"); if (sysaddress != null && sysaddress.length() > 0) {
 address = sysaddress;
 } if (ConfigUtils.isNotEmpty(address)) { if (! map.containsKey(Constants.PROTOCOL_KEY)) { if (ExtensionLoader.getExtensionLoader(MonitorFactory.class).hasExtension("logstat")) {
 map.put(Constants.PROTOCOL_KEY, "logstat");
 } else {
 map.put(Constants.PROTOCOL_KEY, "dubbo");
 }
 } return UrlUtils.parseURL(address, map);
 } else if (Constants.REGISTRY_PROTOCOL.equals(monitor.getProtocol()) && registryURL != null) { return registryURL.setProtocol("dubbo").addParameter(Constants.PROTOCOL_KEY, "registry").addParameterAndEncoded(Constants.REFER_KEY, StringUtils.toQueryString(map));
 } return null;
}
  • 方案1 使用javassist动态重写MonitorConfigclass

在应用启动时,使用javassist给MonitorConfig添加interval字段,并设置默认值,DubboMonitor初始化时会获取到该字段的值,并使用这个值当作发送数据的周期。

如果应用使用了spring框架,则下面代码有关在加载spring配置文件之前执行。如果应用是web应用则处理起来更麻烦,需要重写org.springframework.web.context.ContextLoaderListener

代码如下:

 ClassPool pool = ClassPool.getDefault(); try {
 CtClass cc = pool.get("com.alibaba.dubbo.config.MonitorConfig"); // 增加属性,这里仅仅是增加属性字段
 CtField ctField = new CtField(CtClass.intType, "interval", cc);
 ctField.setModifiers(Modifier.PUBLIC);
 cc.addField(ctField, "10000");//设置10秒周期
 CtMethod ctMethod = new CtMethod(CtClass.intType, "getInterval", null, cc);
 ctMethod.setBody("return interval;");
 ctMethod.setModifiers(Modifier.PUBLIC);
 cc.addMethod(ctMethod);
 cc.toClass();
 } catch (NotFoundException | CannotCompileException e) {
 logger.error("", e);
 } 
  • 方案2 使用<dubbo:registry xxx />配置

分析源码,可以知道,如果配置<dubbo:registry interval="10000" xxx />,dubbo解析文件时,会把interval="10000"当作一个key-value存入MonitorConfigMap<String, String> parameters

DubboBeanDefinitionParser中parse方法(摘选)

 NamedNodeMap attributes = element.getAttributes(); int len = attributes.getLength(); for (int i = 0; i < len; i++) {
 Node node = attributes.item(i);
 String name = node.getLocalName(); if (! props.contains(name)) { if (parameters == null) {
 parameters = new ManagedMap();
 }
 String value = node.getNodeValue();
 parameters.put(name, new TypedStringValue(value, String.class));
 }
 } if (parameters != null) {
 beanDefinition.getPropertyValues().addPropertyValue("parameters", parameters);
 } 

但是有个问题,如果我给<dubbo:registry xxx>加上interval属性,应用启动时会报错。我们知道原因是dubbo的xsd文件没有放开这个限制,我们只要修改dubbo.xsd文件就可以了,但是dubbo.xsd是在jar包里,所以我们改不了。

我们可以自己写xsd配置,重命名为dubbo-youyue.xsd:

文件头改为:

<xsd:schema xmlns="http://code.alibabatech.com/schema/youyue/dubbo"xmlns:xsd="http://www.w3.org/2001/XMLSchema" xmlns:beans="http://www.springframework.org/schema/beans"xmlns:tool="http://www.springframework.org/schema/tool"targetNamespace="http://code.alibabatech.com/schema/youyue/dubbo">

monitorType节点添加:

<xsd:attribute name="interval" type="xsd:string" use="optional">
 <xsd:annotation>
 <xsd:documentation><![CDATA[ The monitor interval. ]]></xsd:documentation>
 </xsd:annotation></xsd:attribute>

然后把dubbo.xml中关联的dubo.xsd改成我们自己写的xsd,如:

<beans xmlns="http://www.springframework.org/schema/beans"xmlns:dubbo="http://code.alibabatech.com/schema/dubbo"xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation="
 http://code.alibabatech.com/schema/dubbo
 http://code.alibabatech.com/schema/dubbo/dubbo.xsd">

改成

<beans xmlns="http://www.springframework.org/schema/beans"xmlns:dubbo="http://code.alibabatech.com/schema/youyue/dubbo"xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation="
 http://code.alibabatech.com/schema/youyue/dubbo
 http://code.alibabatech.com/schema/youyue/dubbo/dubbo.xsd">

添加 spring.schemas 文件,用来使用本地文件取代远程文件

http://code.alibabatech.com/schema/youyue/dubbo/dubbo.xsd=META-INF/dubbo-youyue.xsd

添加 spring.handlers 文件,用来标记分析dubbo.xml中<dubbo:xx xx>节点的分析处理类

http://code.alibabatech.com/schema/youyue/dubbo=com.alibaba.dubbo.config.spring.schema.DubboNamespaceHandler

至此,配置好<dubbo:registry interval="10000" xxx />启动应用,可以看到上报周期由60秒变成了10秒。

高级架构师视频资料分享链接:

data:text/html;charset=UTF-8;base64,

5p625p6E5biI5a2m5Lmg5Lqk5rWB576k5Y+35pivNTc1NzUxODU0Cg==

复制粘贴在网站即可!

相关推荐

ETCD 故障恢复(etc常见故障)

概述Kubernetes集群外部ETCD节点故障,导致kube-apiserver无法启动。...

在Ubuntu 16.04 LTS服务器上安装FreeRADIUS和Daloradius的方法

FreeRADIUS为AAARadiusLinux下开源解决方案,DaloRadius为图形化web管理工具。...

如何排查服务器被黑客入侵的迹象(黑客 抓取服务器数据)

---排查服务器是否被黑客入侵需要系统性地检查多个关键点,以下是一份详细的排查指南,包含具体命令、工具和应对策略:---###**一、快速初步检查**####1.**检查异常登录记录**...

使用 Fail Ban 日志分析 SSH 攻击行为

通过分析`fail2ban`日志可以识别和应对SSH暴力破解等攻击行为。以下是详细的操作流程和关键分析方法:---###**一、Fail2ban日志位置**Fail2ban的日志路径因系统配置...

《5 个实用技巧,提升你的服务器安全性,避免被黑客盯上!》

服务器的安全性至关重要,特别是在如今网络攻击频繁的情况下。如果你的服务器存在漏洞,黑客可能会利用这些漏洞进行攻击,甚至窃取数据。今天我们就来聊聊5个实用技巧,帮助你提升服务器的安全性,让你的系统更...

聊聊Spring AI Alibaba的YuQueDocumentReader

序本文主要研究一下SpringAIAlibaba的YuQueDocumentReaderYuQueDocumentReader...

Mac Docker环境,利用Canal实现MySQL同步ES

Canal的使用使用docker环境安装mysql、canal、elasticsearch,基于binlog利用canal实现mysql的数据同步到elasticsearch中,并在springboo...

RustDesk:开源远程控制工具的技术架构与全场景部署实战

一、开源远程控制领域的革新者1.1行业痛点与解决方案...

长安汽车一代CS75Plus2020款安装高德地图7.5

不用破解原车机,一代CS75Plus2020款,安装车机版高德地图7.5,有红绿灯读秒!废话不多讲,安装步骤如下:一、在拨号状态输入:在电话拨号界面,输入:*#518200#*(进入安卓设置界面,...

Zookeeper使用详解之常见操作篇(zookeeper ui)

一、Zookeeper的数据结构对于ZooKeeper而言,其存储结构类似于文件系统,也是一个树形目录服务,并通过Key-Value键值对的形式进行数据存储。其中,Key由斜线间隔的路径元素构成。对...

zk源码—4.会话的实现原理一(会话层的基本功能是什么)

大纲1.创建会话...

Zookeeper 可观测性最佳实践(zookeeper能够确保)

Zookeeper介绍ZooKeeper是一个开源的分布式协调服务,用于管理和协调分布式系统中的节点。它提供了一种高效、可靠的方式来解决分布式系统中的常见问题,如数据同步、配置管理、命名服务和集群...

服务器密码错误被锁定怎么解决(服务器密码错几次锁)

#服务器密码错误被锁定解决方案当服务器因多次密码错误导致账户被锁定时,可以按照以下步骤进行排查和解决:##一、确认锁定状态###1.检查账户锁定状态(Linux)```bash#查看账户锁定...

zk基础—4.zk实现分布式功能(分布式zk的使用)

大纲1.zk实现数据发布订阅...

《死神魂魄觉醒》卡死问题终极解决方案:从原理到实战的深度解析

在《死神魂魄觉醒》的斩魄刀交锋中,游戏卡死犹如突现的虚圈屏障,阻断玩家与尸魂界的连接。本文将从技术架构、解决方案、预防策略三个维度,深度剖析卡死问题的成因与应对之策,助力玩家突破次元壁障,畅享灵魂共鸣...

取消回复欢迎 发表评论: