JVM说-直接内存的使用_天天速递
作者:京东物流 刘作龙
前言:
学习底层原理有的时候不一定你是要用到他,而是学习他的设计思想和思路。再或者,当你在日常工作中遇到棘手的问题时候,可以多一条解决问题的方式
分享大纲:
本次分享主要由io与nio读取文件速度差异的情况,去了解nio为什么读取大文件的时候效率较高,查看nio是如何使用直接内存的,再深入到如何使用直接内存
(相关资料图)
1 nio与io读写文件的效率比对
首先上代码,有兴趣的同学可以将代码拿下来进行调试查看
package com.lzl.netty.study.jvm;import lombok.extern.slf4j.Slf4j;import org.springframework.util.StopWatch;import java.io.FileInputStream;import java.io.FileOutputStream;import java.io.IOException;import java.io.RandomAccessFile;import java.nio.ByteBuffer;import java.nio.channels.FileChannel;/** * java对于直接内存使用的测试类 * * @author liuzuolong * @date 2022/6/29 **/@Slf4jpublic class DirectBufferTest { private static final int SIZE_10MB = 10 * 1024 * 1024; public static void main(String[] args) throws InterruptedException { //读取和写入不同的文件,保证互不影响 String filePath1 = "/Users/liuzuolong/CODE/OWN/netty-study/src/main/resources/ioInputFile.zip"; String filePath2 = "/Users/liuzuolong/CODE/OWN/netty-study/src/main/resources/nioDirectInputFile.zip"; String filePath3 = "/Users/liuzuolong/CODE/OWN/netty-study/src/main/resources/nioHeapInputFile.zip"; String toPath1 = "/Users/liuzuolong/CODE/OWN/netty-study/src/main/resources/ioOutputFile.zip"; String toPath2 = "/Users/liuzuolong/CODE/OWN/netty-study/src/main/resources/nioDirectOutputFile.zip"; String toPath3 = "/Users/liuzuolong/CODE/OWN/netty-study/src/main/resources/nioHeapOutputFile.zip"; Integer fileByteLength = SIZE_10MB; //新建io读取文件的线程 Thread commonIo = new Thread(() -> { commonIo(filePath1, fileByteLength, toPath1); }); //新建nio使用直接内存读取文件的线程 Thread nioWithDirectBuffer = new Thread(() -> { nioWithDirectBuffer(filePath2, fileByteLength, toPath2); }); //新建nio使用堆内存读取文件的线程 Thread nioWithHeapBuffer = new Thread(() -> { nioWithHeapBuffer(filePath3, fileByteLength, toPath3); }); nioWithDirectBuffer.start(); commonIo.start(); nioWithHeapBuffer.start(); } public static void commonIo(String filePath, Integer byteLength, String toPath) { //进行时间监控 StopWatch ioTimeWatch = new StopWatch(); ioTimeWatch.start("ioTimeWatch"); try (FileInputStream fis = new FileInputStream(filePath); FileOutputStream fos = new FileOutputStream(toPath); ) { byte[] readByte = new byte[byteLength]; int readCount = 0; while ((readCount = fis.read(readByte)) != -1) { // 读取了多少个字节,转换多少个。 fos.write(readByte, 0, readCount); } } catch (Exception e) { e.printStackTrace(); } ioTimeWatch.stop(); log.info(ioTimeWatch.prettyPrint()); } public static void nioWithDirectBuffer(String filePath, Integer byteLength, String toPath) { StopWatch nioTimeWatch = new StopWatch(); nioTimeWatch.start("nioDirectTimeWatch"); try (FileChannel fci = new RandomAccessFile(filePath, "rw").getChannel(); FileChannel fco = new RandomAccessFile(toPath, "rw").getChannel(); ) { // 读写的缓冲区(分配一块儿直接内存) //要与allocate进行区分 //进入到函数中 ByteBuffer bb = ByteBuffer.allocateDirect(byteLength); while (true) { int len = fci.read(bb); if (len == -1) { break; } bb.flip(); fco.write(bb); bb.clear(); } } catch (IOException e) { e.printStackTrace(); } nioTimeWatch.stop(); log.info(nioTimeWatch.prettyPrint()); } public static void nioWithHeapBuffer(String filePath, Integer byteLength, String toPath) { StopWatch nioTimeWatch = new StopWatch(); nioTimeWatch.start("nioHeapTimeWatch"); try (FileChannel fci = new RandomAccessFile(filePath, "rw").getChannel(); FileChannel fco = new RandomAccessFile(toPath, "rw").getChannel(); ) { // 读写的缓冲区(分配一块儿直接内存) //要与allocate进行区分 ByteBuffer bb = ByteBuffer.allocate(byteLength); while (true) { int len = fci.read(bb); if (len == -1) { break; } bb.flip(); fco.write(bb); bb.clear(); } } catch (IOException e) { e.printStackTrace(); } nioTimeWatch.stop(); log.info(nioTimeWatch.prettyPrint()); }}
1.主函数调用
为排除当前环境不同导致的文件读写效率不同问题,使用多线程分别调用io方法和nio方法
2.分别进行IO调用和NIO调用
通过nio和io的读取写入文件方式进行操作
3.结果
经过多次测试后,发现nio读取文件的效率是高于io的,尤其是读取大文件的时候
11:12:26.606 [Thread-1] INFO com.lzl.netty.study.jvm.DirectBufferTest - StopWatch "": running time (millis) = 1157-----------------------------------------ms % Task name-----------------------------------------01157 100% nioDirectTimeWatch11:12:27.146 [Thread-0] INFO com.lzl.netty.study.jvm.DirectBufferTest - StopWatch "": running time (millis) = 1704-----------------------------------------ms % Task name-----------------------------------------01704 100% ioTimeWatch
4 提出疑问
那到底为什么nio的速度要快于普通的io呢,结合源码查看以及网上的资料,核心原因是:
nio读取文件的时候,使用直接内存进行读取,那么,如果在nio中也不使用直接内存的话,会是什么情况呢?
5.再次验证
新增使用堆内存读取文件
执行时间验证如下:
11:30:35.050 [Thread-1] INFO com.lzl.netty.study.jvm.DirectBufferTest - StopWatch "": running time (millis) = 2653-----------------------------------------ms % Task name-----------------------------------------02653 100% nioDirectTimeWatch11:30:35.399 [Thread-2] INFO com.lzl.netty.study.jvm.DirectBufferTest - StopWatch "": running time (millis) = 3038-----------------------------------------ms % Task name-----------------------------------------03038 100% nioHeapTimeWatch11:30:35.457 [Thread-0] INFO com.lzl.netty.study.jvm.DirectBufferTest - StopWatch "": running time (millis) = 3096-----------------------------------------ms % Task name-----------------------------------------03096 100% ioTimeWatch
根据上述的实际验证,nio读写文件比较快的主要原因还是在于使用了直接内存,那么为什么会出现这种情况呢?
2 直接内存的读写性能强的原理
直接上图说明
1.堆内存读写文件
堆内存读写文件的步骤:
当JVM想要去和磁盘进行交互的时候,因为JVM和操作系统之间存在读写屏障,所以在进行数据交互的时候需要进行频繁的复制
2.直接内存读写文件
直接内存读写文件的步骤
如果使用直接内存进行文件读取的时候,步骤如下
与使用对堆内存读写文件的步骤相比减少了数据拷贝的过程,避免了不必要的性能开销,因此NIO中使用了直接内存,对于性能提升很多
那么,直接内存的使用方式是什么样的呢?
3 nio使用直接内存的源码解读
在阅读源码之前呢,我们首先对于两个知识进行补充
1.虚引用Cleaner sun.misc.Cleaner
什么是虚引用
虚引用所引用的对象,永远不会被回收,除非指向这个对象的所有虚引用都调用了clean函数,或者所有这些虚引用都不可达
概述的说一下,他的作用就是,JVM会将其对应的Cleaner加入到pending-Reference链表中,同时通知ReferenceHandler线程处理,ReferenceHandler收到通知后,会调用Cleaner#clean方法
2.Unsafesun misc.Unsafe
位于sun.misc包下的一个类,主要提供一些用于执行低级别、不安全操作的方法,如直接访问系统内存资源、自主管理内存资源等,这些方法在提升Java运行效率、增强Java语言底层资源操作能力方面起到了很大的作用。
3.直接内存是如何进行申请的 java.nio.DirectByteBuffer
进入到DirectBuffer中进行查看
源码解读
PS:只需要读核心的划红框的位置的源码,其他内容按个人兴趣阅读
步骤1:调用Unsafe的native方法allocateMemory进行缓存空间的申请,获取到的base为内存的地址
步骤2:设置内存空间需要和步骤1联合进行使用
步骤3:使用虚引用Cleaner类型,创建一个缓存的释放的虚引用
直接缓存是如何释放的
我们前面说的了Cleaner的使用方式,那么cleaner在直接内存的释放中的流程是什么样的呢?
3.1 新建虚引用
java.nio.DirectByteBuffer
步骤如下
调用Cleaner.create()方法将当前新建的Cleaner加入到链表中3.2 声明清理缓存任务
查看java.nio.DirectByteBuffer.Deallocator的方法
实现了Runnable接口run方法中调用了unsafe的native方法freeMemory()进行内存的释放3.3 ReferenceHandler进行调用
首先进入:java.lang.ref.Reference.ReferenceHandler
当前线程优先级最高,调用方法tryHandlePending
进入方法中,会调用c.clean c—>(Cleaner)
clean方法为Cleaner中声明的Runnable,调用其run()方法
Cleaner中的声明:private final Runnable thunk;
回到《声明清理缓存任务》这一节,查看Deallocator,使用unsafe的native方法freeMemory进行缓存的释放
4 直接内存的使用方式
直接内存特性
nio中比较经常使用,用于数据缓冲区ByteBuffer因为其不受JVM的垃圾回收管理,故分配和回收的成本较高使用直接内存的读写性能非常高直接内存是否会内存溢出
直接内存是跟系统内存相关的,如果不做控制的话,走的是当前系统的内存,当然JVM中也可以对其使用的大小进行控制,设置JVM参数-XX:MaxDirectMemorySize=5M,再执行的时候就会出现内存溢出
直接内存是否会被JVM的GC影响
如果在直接内存声明的下面调用System.gc();因为会触发一次FullGC,则对象会被回收,则ReferenceHandler中的会被调用,直接内存会被释放。
我想使用直接内存,怎么办
如果你很想使用直接内存,又想让直接内存尽快的释放,是不是我直接调用System.gc();就行?
答案是不行的
如果还想调用的话,自己使用Unsafe进行操作,以下为示例代码
PS:仅为建议,如果没有对于Unsafe有很高的理解,请勿尝试
package com.lzl.netty.study.jvm;import sun.misc.Unsafe;import java.lang.reflect.Field;/** * 使用Unsafe对象操作直接内存 * * @author liuzuolong * @date 2022/7/1 **/public class UnsafeOperateDirectMemory { private static final int SIZE_100MB = 100 * 1024 * 1024; public static void main(String[] args) { Unsafe unsafe = getUnsafePersonal(); long base = unsafe.allocateMemory(SIZE_100MB); unsafe.setMemory(base, SIZE_100MB, (byte) 0); unsafe.freeMemory(base); } /** * 因为Unsafe为底层对象,所以正式是无法获取的,但是反射是万能的,可以通过反射进行获取 * Unsafe自带的方法getUnsafe 是不能使用的,会抛异常SecurityException * 获取 Unsafe对象 * * @return unsafe对象 * @see sun.misc.Unsafe#getUnsafe() */ public static Unsafe getUnsafePersonal() { Field f; Unsafe unsafe; try { f = Unsafe.class.getDeclaredField("theUnsafe"); f.setAccessible(true); unsafe = (Unsafe) f.get(null); } catch (Exception e) { throw new RuntimeException("initial the unsafe failure..."); } return unsafe; }}
5 总结
JVM相关知识是中高级研发人员必备的知识,学习他的一些运行原理,对我们的日常工作会有很大的帮助
推荐阅读
小天鹅波轮洗衣机有什么?小天鹅波轮洗衣机推荐
最近有比较多的朋友都比较关注洗衣机的一些相关问题。不过洗衣机作为家用必不可缺的一个物件,如此受人关注也是理所当然的。所以今天我们就 【详细】
坎儿井的原理吐鲁番是具备了哪些条件?
新疆吐鲁番之坎儿井的原理介绍,新疆吐鲁番的坎儿井全长约5000公里,几乎赶上黄河和长江的长度,是世界上最大的地下水利灌溉系统,被称为地 【详细】
手机钢化膜品牌排行榜 手机钢化膜品牌的十大排行榜汇总
随着手机时代的崛起,跟着手机一起的附属产品也变得越来越重要,因为手机屏幕容易碎屏、内屏被压导致触屏不灵等多种情况,所以大家开始给手 【详细】
阿尔卑斯山地质特点 阿尔卑斯山旅游怎么样?
阿尔卑斯山脉位于欧洲中南部,它覆盖了意大利北部边界,法国南部, 瑞士, 列支敦士登, 奥地利。阿尔卑斯山简介阿尔卑斯山呈弧形,长12 【详细】
探探疑似被下架 探探疑似被下架是真的吗?
2019年的时候,探探疑似被下架,网友发现探探下载不了了,对此,官方回应:探探回应:我们从app store获悉,探探APP因违规被app store整 【详细】
相关新闻
- JVM说-直接内存的使用_天天速递
- 天天热讯:多面利器尼康Z 6ll全画幅微单相机开卖 搭载双EXPEED 6影像处理器 5轴防抖
- iphone自家产品的“新旧大战” 300元iphone 5s遭疯抢 新版iPad也走廉价路线
- IT业与交通行业的完美融合|全球快看
- 今日视点:本想让ChatGPT替我干活,结果发现……目前我无法替代!
- “ChatGPT”横空出世,将倒逼“员工雇佣终身制”重登历史舞台
- 新一轮爆发来了?中国版ChatGPT正在内测,阿里手握“王牌”_全球热议
- 我们来看看chatgpt对于中美关系和战争的看法_世界视点
- 山西发改系统发力稳经济 “项目建设”成关键词 全球百事通
- 直降1400元!iPhone 14 Pro迎来跳水价,实用党看准骁龙8+真香机|全球快讯
- Bose 遮噪睡眠耳塞Ⅱ正式上市 声学遮噪科技 静享睡眠时刻_焦点播报
- 全球最资讯丨为年轻打造的5G手机vivo Y52s 搭载天玑720 还能更快
- 小米推出手环系列新品——小米手环3,公交/门卡都能刷 229元
- 网络安全周里面的相应理念影响深远
- 台电M16平板电脑:国产平板电脑的高性价比之作!-环球消息
- CMES:群智能及其在组合优化中的应用丨TSP特刊推荐
- 导致土耳其地震的「断层」是什么,中国有断层吗
- 快速查看微信绑定哪些软件!
- 历史今日 历史上的今天都发生了哪些事 QQ也在这一天正式推行 当前信息
- 当前通讯!一周舆报 - 不倒翁小姐姐回应生娃憔悴:拒绝利用容貌传播婚育焦虑