百度没有收录我的网站吗/免费下载百度seo

埋点日志解决方案——Golang+Gin+Sarama VS Java+SpringCloudGateway+ReactorKafka

之前我就写过几篇OpenResty+lua-kafka-client将埋点数据写入Kafka的文章，如下：

Lua将Nginx请求数据写入Kafka——埋点日志解决方案

python定时任务执行shell脚本切割Nginx日志-慎用

nginx+lua写入kafka报buffered messages send to kafka err: not found broker

关于OpenResty+doujiang24/lua-resty-kafka写入kafka故障转移模拟测试

以上一步一个坑，有些是自己能力不够踩的，有些是为了解决某个问题踩的，最后终于消停的一阵。但又出现新问题了，这次问题没那么紧急，但比较重要。
按照一般的剧本，上面的坑都踩完，基本上也就不会怎么去改这个服务，但新的问题还是出现了，就是容器化部署基础镜像要升级，从原来的debian10升级成了debian11,当然这是大版本，小版本几乎没周都会升级，升级时也不会通知项目组测试，运维直接升。在debian10升级debian11的时候，出现了一个问题细思极恐，就是zlib升级其中一个方法签名变了，导致我们lua脚本报错了，我们发现了这个问题，由此引出来一个担忧：运维升级小版本的时候会不会升级到某个我们用到的运行库导致线上出问题。评估下来发现非常有可能，因为运维升级镜像是基于一个镜像扫描软件，这个软件经常会扫描出诸如openssl这种组件的问题，要求运维在一个月内升级完成。这就很有可能影响到我们。并且，我们在升级kafka server的时候发现doujiang24出品的kafka-client很难像社区一样保持活跃更新，支持一些kafka新特性，并且有问题也难以求助（虽然上次得到他本人的回复，但一个人总比一群人回复问题滞后一些）。

解决思路

思路1

运维升级的时候通知到对操作系统组件敏感的我们，由我们评估是否需要跳过本次升级。这个比较难判断，因为我们项目组也无法精确的判断哪些组件一定会影响到我们，考虑不使用

思路2

将底层可能影响我们的组件进行后置，比如gzip和aes，放在kafka后面的flink去做，而不是在Nginx这里就处理掉。这个思路能避免底层升级带来的大部分影响，但是kafka驱动升级问题无法避免，考虑不使用

思路3

我们还有其它服务都是用Java做的，正式因为有JVM这一层的存在，我们才不怕操作系统的升级，是不是可以用Java实现，从而避免此问题。这个思路能解决上面的担忧，但是性能需要做测试，即使用NIO，想要达到目前的TPS，还是需要一定资源的，因为OpenResty和Java，达到同样的TPS，内存使用量差距还是很大的。这个思路保留，做进一步测试。

思路4

可不可以保持低资源高性能，又用一个中间层屏蔽操作系统组件升级带来的影响呢？这时我想到了golang。这个思路保留，做进一步测试。

思路5

这个项目本来的架构式OpenResty+Apache Flumed，是不是可以还原到这个架构，把OpenResty中的组件后置到Flumed中？这个也被否决的，原因有以下几点：

1. 如果把OpenResty和Flumed部署到同一个容器中，因为公司标准的监控只能监控其中一个进程，如果某个进程挂了，可能无法监测到，这个问题在之前遇到过，一个容器内起了一个OpenResty和5个Flumed进程，其中某个Flumed进程挂了好久才知道
2. 如果OpenResty和Flumed分开部署，在不同的容器中，需要挂载网络磁盘，这个网络磁盘并不可靠且会受网路带宽限制，性能较差
3. 这个思路还有个问题就是Flumed设置多少条数据进行保存读取位点，设置的大了，容器重启会丢数据，设置小了性能不够，找这个平衡点要耗费大量的时间和资源
   这个思路因为OpenResty和Flumed在一个容器和不在一个容器都有一些问题，考虑不使用

尝试

尝试golang实现

go 1.20.10
gin 1.9.1
sarama 1.41.3

我花了几天的时间将其实现，初步性能测试结果如下：
1个CPU核心，1G内存，100并发，每个请求发5个埋点，TPS是731
最终CPU使用率47%，内存使用0.93G
本思路一开始和架构师讨论的时候只是说理论上可行，尝试一下，但谁心里都没底。在收集资料的时候偶然遇到了知乎大佬又拍云的文章【实战分享】使用 Go 重构流式日志网关，有此思路的成功上线的先例，信心大增。

尝试Java实现

Spring Cloud Gateway 3.x
Reactor Kafka 2.x(主要是和kakfa-server对应)

1个CPU核心，2G内存，100并发，每个请求5个埋点，TPS是430
最终CPU使用率60%，内存使用1.2G

结论

OpenResty+lua实现的测试结果是
1个CPU核心，1G内存，100并发，每个请求5个埋点，TPS是421
最终CPU使用率60%，内存使用0.6G

根据OpenResty方案来看，Golang和Java实现差距不是特别大，Golang展现的明显的性能优势，但是公司对Golang项目的配套做的并不好，比如实时监控，基础镜像，Golang工程师等。对Java项目比较齐全。目前初步综合考量两个项目均进入UAT环境使用专用压测机进行压测。

压完我再来补充结果。

以下log一下Sarama向Kafka发消息：

var KafkaProduce sarama.AsyncProducerfunc InitKafkaConfig() error {config := sarama.NewConfig()// 配置// 等待服务器成功后的响应config.Producer.RequiredAcks = sarama.WaitForLocal// 随机向partition发送消息config.Producer.Partitioner = sarama.NewRandomPartitioner// 是否等待成功和失败后的响应，只有上面的RequireAcks设置不是NoReponse这里才有用config.Producer.Return.Successes = trueconfig.Producer.Return.Errors = true// KafkaClientIpList是[]string类型 值为kafka地址+端口号 一般是3个client, err := sarama.NewClient(KafkaClientIpList, config)if err != nil {return err}producer, err := sarama.NewAsyncProducerFromClient(client)if err != nil {return err}//这个一定要有，不然kafka消息发上一定数量直接就发不动了 //原因是你往 KafkaProduce.Input()发消息 会存在本地 不会真正发送到kafka//本地开的内存空间用完了 就卡住了go func(producer sarama.AsyncProducer) {errors := producer.Errors()success := producer.Successes()for {select {case er := <-errors:if er != nil {log.Errorf("Produced message failure: %s", er)}case msg := <-success:log.Infof("Produced message success topic: %s", msg.Topic)}}}(producer)KafkaProduce = producerreturn nil
}func DestroyKafkaProducer() {if KafkaProduce != nil {KafkaProduce.Close()}
}//消息发送
func SendKafkaAsyncMessage(msg string, topic string) {//写入kafkaKafkaProduce.Input() <- &sarama.ProducerMessage{Topic: topic, Key: nil, Value: sarama.StringEncoder(msg)}
}