当前位置:首页 > 数码 >

openjdk和sunjdk区别(openjdk和jdk的区别)

来源:原点资讯(m.360kss.com)时间:2022-12-03 08:36:54作者:YD166手机阅读>>

前言

前一段时间,公司同事的一个线上服务OOM的问题,我觉得挺有意思的,在这里跟大家一起分享一下。

我当时其实也参与了一部分问题的定位。

1 案发现场

他们有个mq消费者服务,在某一天下午,出现OOM了,导致服务直接挂掉。

当时我们收到了很多内存的报警邮件。

发现问题之后,运维第一时间,帮他们dump了当时的内存快照,以便于开发人员好定位问题。

之后,运维重启了该服务,系统暂时恢复了正常。

大家都知道,如果出现了线上OOM问题,为了不影响用户的正常使用,最快的解决办法就是重启服务。

但重启服务治标不治本,只能临时解决一下问题,如果不找到真正的原因,难免下次在某个不经意的时间点,又会出现OOM问题。

所以,有必要定位一下具体原因。

2 初步定位问题

当时运维dump下来的内存快照文件有3G多,太大了,由于公司内网限制,没办法及时给到开发这边。

没办法,只能先从日志文件下手了。

在查日志之前,我们先查看了prometheus上的服务监控。查到了当时那个mq消费者服务的内存使用情况,该服务的内存使用率一直都比较平稳,从2022-09-26 14:16:29开始,出现了一个明显的内存飙升情况。

根据以往经验总结出来的,在追查日志时,时间点是一个非常重要的过滤条件。

所以,我们当时重点排查了2022-09-26 14:16:29前后5秒钟的日志。

由于这个服务,并发量不大,在那段时间的日志量并不多。

所以,我们很快就锁定了excel文件导入导出功能。

该功能的流程图如下:

openjdk和sunjdk区别,openjdk和jdk的区别(1)

  1. 用户通过浏览器上传excel,调用文件上传接口。
  2. 该接口会上传excel到文件服务器。然后将文件url,通过mq消息,发送到mq服务器。
  3. mq消费者消费mq消息,从文件服务器中获取excel数据,做业务处理,然后把结果写入新的excel中。
  4. mq消费者将新excel文件上传到文件服务器,然后发websocket消息通知用户。
  5. 用户收到通知结果,然后可以下载新的excel。

经过日志分析,时间点刚好吻合,从excel文件导入之后,mq消费者服务的内存使用率一下子飙升。

3. 打不开dump文件

从上面分析我们得出初步的结论,线上mq消费者服务的OOM问题,是由于excel导入导出导致的。

于是,我们查看了相关excel文件导入导出代码,并没有发现明显的异常。

为了找到根本原因,我们不得不把内存快照解析出来。

此时,运维把内存快照已经想办法发给了相关的开发人员(我的同事)。

那位同事用电脑上安装的内存分析工具:MAT(Memory Analyzer Tool),准备打开那个内存快照文件。

但由于该文件太大,占了3G多的内存,直接打开失败了。

openjdk和sunjdk区别,openjdk和jdk的区别(2)

MemoryAnalyzer.ini文件默认支持打开的内存文件是1G,后来它将参数-xmx修改为4096m。

修改之后,文件可以打开了,但打开的内容却有问题。

猛然发现,原来是JDK版本不匹配导致的。

他用的MAT工具是基于SunJDK,而我们生成环境用的OpenJDK,二者有些差异。

SunJDK采用JRL协议发布,而OpenJDK则采用GPL V2协议发布。两个协议虽然都是开放源代码的,但是在使用上的不同,GPL V2允许在商业上使用,而JRL只允许个人研究使用。

所以需要下载一个基于OpenJDK版本的MAT内存分析工具。

4. 进一步分析

刚好,另一个同事的电脑上下载过OpenJDK版本的MAT内存分析工具。

把文件发给他帮忙分析了一下。

openjdk和sunjdk区别,openjdk和jdk的区别(3)

最后发现org.apache.poi.xssf.usermodel.XSSFSheet类的对象占用的内存是最多的。

openjdk和sunjdk区别,openjdk和jdk的区别(4)

目前excel的导入导出功能,大部分是基于apache的POI技术,而POI给我们提供了WorkBook接口。

常用的WorkBook接口实现有三种:

  • HSSFWorkbook:它是早期使用最多的工具,支持Excel2003以前的版本,Excel的扩展名是.xls。只能导出65535条数据,如果超过最大记录条数会报错,但不会出现内存溢出。
  • XSSFWorkbook:它可以操作Excel2003-Excel2007之间的版本,Excel的扩展名是.xlsx。最多可以导出104w条数据,会创建大量的对象存放到内存中,可能会导致内存溢出。
  • SXSSFWorkbook:它可以操作Excel2007之后的所有版本,Excel的扩展名是.xlsx。SXSSFWorkbook是streaming版本的XSSFWorkbook,它只会保存最新的rows在内存里供查看,以前的rows都会被写入到硬盘里。用磁盘空间换内存空间,不会导致内存溢出。

看到了这个类,可以验证之前我们通过日志分析问题,得出excel导入导出功能引起OOM的结论,是正确的。

那个引起OOM问题的功能,刚好使用了XSSFWorkbook处理excel,一次性创建了大量的对象。

关键代码如下:

XSSFWorkbook wb = new XSSFWorkbook(new FileInputStream(file)); XSSFSheet sheet = wb.getSheetAt(0);

我们通过MAT内存分析工具,已经确定OOM问题的原因了。接下来,最关键的一点是:如何解决这个问题呢?

5. 如何解决问题?

根据我们上面的分析,既然XSSFWorkbook在导入导出大excel文件时,会导致内存溢出。那么,我们改成SXSSFWorkbook不就行了?

关键代码改动如下:

XSSFWorkbook wb = new XSSFWorkbook(new FileInputStream(file)); SXSSFWorkbook swb = new SXSSFWorkbook(wb,100); SXSSFSheet sheet = (SXSSFSheet) swb.createSheet("sheet1");

使用SXSSFWorkbook将XSSFWorkbook封装了一层,其中100表示excel一次读入内存的最大记录条数,excel中其余的数据将会生成临时文件保存到磁盘上。这个参数,可以根据实际需要调整。

还有一点非常重要:

sheet.flushRows();

需要在程序的结尾处加上上面的这段代码,不然生成的临时文件是空的。

这样调整之后,问题被暂时解决了。

此外,顺便说一句,在使用WorkBook接口的相关实现类时,用完之后,要记得调用close方法及时关闭喔,不然也可能会出现OOM问题。

6. 后续思考

其实,当时我建议过使用阿里开源的EasyExcel解决OOM的问题。

但同事说,excel中有很多样式,在导出的新excel中要保留之前的样式,同时增加一列,返回导入的结果。

如果使用EasyExcel不太好处理,使用原始的Workbook更好处理一些。

但是使用mq异步导入excel文件这套方案,如果并发量大的话,任然可能会出现OOM问题,有安全隐患。

因此,有必要调整一下mq消费者。

后来,mq消费者的线程池,设置成4个线程消费,避免消费者同时处理过多的消息,读取大量的excel,导致内存占用过多的问题。当然线程个数参数,可以根据实际情况调整。

此外,使用阿里的arthas也可以定位线上OOM问题,后面会有专门的文章介绍,感兴趣的小伙伴可以关注一下。

原文链接:https://mp.weixin.qq.com/s/3faHlMkmSZs6gRkZ5nadQA

栏目热文

生产环境为何要使用openjdk(openjdk是什么)

生产环境为何要使用openjdk(openjdk是什么)

作者 | 杨晓峰编辑 | 何潇、小智北京时间 9 月 26 日,Oracle 官方宣布 Java 11 正式发布。这是 ...

2022-12-03 08:01:24查看全文 >>

openjdk与javaee的区别(openjdk与jdk区别)

openjdk与javaee的区别(openjdk与jdk区别)

前言让我们来看一下Java的广告词97%的企业桌面运行Java美国有89%的桌面(或计算机)运行Java全球有900万J...

2022-12-03 08:27:19查看全文 >>

openjdk与jdk是否兼容(jdk17与jdk8性能差距)

openjdk与jdk是否兼容(jdk17与jdk8性能差距)

我在此提议成立 "RISC-V Port "项目,由杨飞担任负责人,Porters Group作为发起人...

2022-12-03 08:13:08查看全文 >>

openjdk的性能(openjdk与jdk区别)

openjdk的性能(openjdk与jdk区别)

前言OpenJDK 14 已于近日 GA,其在性能方面是否有改进、以及有哪些改进引起了不少开发者的关注。本文将会介绍通过...

2022-12-03 08:20:23查看全文 >>

openjdk与jdk区别(为什么不能用openjdk)

openjdk与jdk区别(为什么不能用openjdk)

如果Oracle哪天公布完全开源Java,我相信基于Java现有的一等一的技术和应用生态圈,那可以肯定Java更能“其道...

2022-12-03 08:32:41查看全文 >>

无线路由器设置详细图解(第二个路由器设置图解)

无线路由器设置详细图解(第二个路由器设置图解)

温馨提示:请您在阅读本文之前,点击文章上方的“关注”,以后您就可以免费收到智慧网络2333每天推送的网络、宽带等内容了。...

2022-12-03 08:06:15查看全文 >>

无线路由器怎么设置最简单的(无线路由器详细设置教程)

无线路由器怎么设置最简单的(无线路由器详细设置教程)

路由器是计算机网络的设备,这一点大家都是知道的。随着国家的推广,光纤逐渐地普及,网速也比以往提升了好几倍,最重要的是费用...

2022-12-03 08:32:44查看全文 >>

无线路由器正确设置方法(怎样设置无线路由器)

无线路由器正确设置方法(怎样设置无线路由器)

路由器并不像以前那样陌生。可以说,这是每个家庭的必需品。即使是租了几个月的房屋也需要路由器。尽管经常使用wifi,但有些...

2022-12-03 08:32:08查看全文 >>

无线路由器如何设置图示(无线路由器设置最好方法)

无线路由器如何设置图示(无线路由器设置最好方法)

前言大家好,我是林总,今天我们一起来看下无线路由器上网是如何设置的,你了解有多少呢?正文连接设置方法之一 :1. 设置无...

2022-12-03 08:35:51查看全文 >>

网线连接电视步骤图片(家庭网线连接电视机教程)

网线连接电视步骤图片(家庭网线连接电视机教程)

虽说现在电视基本上很少看了,开着估计也就是听个声儿,但是即便这样,不少屋主在装修的时候还是会考虑在客厅装上电视。现在的电...

2022-12-03 08:06:27查看全文 >>

文档排行