mmap和MappedByteBuffer
1、MappedByteBuffer是DirectByteBuffer的子类
2、MappedByteBuffer使用的是mmap技术。MappedByteBuffer将文件映射为内存,也可能会被存储在虚拟内存里面,访问的时候通过缺页机制调进内存。
3、mmap可以实现两个进程之间共享数据 http://kenby.iteye.com/blog/1164700
4、mmap原理 http://blog.chinaunix.net/uid-26669729-id-3077015.html
5、MappedByteBuffer有一个文件释放问题,文件是在full gc的时候才会关闭 http://langgufu.iteye.com/blog/2107023
6、MappedByteBuffer能优化随机读(因为实际上会在内存里存放大量的页/块)

metaq在文件读写操作上做了一定的优化,使用内存映射的方式完成读写,替代了传统的IO操作,从而大大的减少了文件读写系统调用的次数,提升了IO的性能。
传统的文件访问:
- 系统调用打开文件,获取文件描述符
- 使用read write 系统调用进行IO
- 系统调用关闭文件
这种方式是非常低效的, 每一次I/O操作都需要一次系统调用。 另外, 如果若干个进程访问同一个文件, 每个进程都要在自己的地址空间维护一个副本, 浪费了内存空间
内存映射的方式:
- 打开文件,得到文件描述符。
- 获取文件大小
- 把文件映射成虚拟内存(mmap)
- 通过对内存的读写来实现对文件的读写(memset或memcpy)
- 卸载映射
- 关闭文件
首先建立好虚拟内存和磁盘文件之间的映射(mmap系统调用),当进程访问页面时产生一个缺页中断,内核将页面读入内存(也就是说把磁盘上的文件拷贝到内存中),并且更新页表指向该页面。
所有进程共享同一物理内存,物理内存中可以只存储一份数据,不同的进程只需要把自己的虚拟内存映射过去就可以了,这种方式非常方便于同一副本的共享,节省内存。
经过内存映射之后,文件内的数据就可以用内存读/写指令来访问,而不是用Read和Write这样的I/O系统函数,从而提高了文件存取速度。
package com.ydd.study.hello.mmap;
import java.io.File;
import java.io.IOException;
import java.io.RandomAccessFile;
import java.nio.ByteBuffer;
import java.nio.MappedByteBuffer;
import java.nio.channels.FileChannel;
import java.nio.channels.FileChannel.MapMode;
/**
* 内存映射文件
* @author yunzhu.ydd
*
*/
public class MapedFile {
private final String FILE_NAME = "D://mapedFile.txt";
private final long fileSize = 1024 * 1024;// 1M
private FileChannel fileChannel;
private MappedByteBuffer mappedByteBuffer;
private File file;
public MapedFile() throws IOException {
this.file = new File(FILE_NAME);
this.fileChannel = new RandomAccessFile(this.FILE_NAME, "rw")
.getChannel();
//产生一定大小的文件,byte默认都为0。也就是说文件的byte都被初始化为0了
this.mappedByteBuffer = this.fileChannel.map(MapMode.READ_WRITE, 0,
fileSize);
}
/**
* 写
* @param str
*/
public void write(String str)
{
mappedByteBuffer.put(str.getBytes());
}
/**
* 读文件
*/
public void getAll()
{
System.out.println("capacity:"+mappedByteBuffer.capacity());
for(int i=0;i<mappedByteBuffer.capacity();i++)
{
char c=(char)mappedByteBuffer.get(i);
if(c!=' '&&c!=0)
System.out.print(c);
}
System.out.println();
}
/**
* 通过MappedByteBuffer操作文件
* @throws IOException
*/
public void test_写和读() throws IOException
{
System.out.println("capacity:"+mappedByteBuffer.capacity());
write("hello world");
getAll();
fileChannel.close();
}
/**
* MappedByteBuffer.slice()生成的是DirectByteBuffer,对该buffer写操作会被直接写到文件里面
* @param str
* @throws IOException
*/
public void test_slic_写和读(String str) throws IOException
{
ByteBuffer buffer=mappedByteBuffer.slice();
buffer.put(str.getBytes());
System.out.println("mappedByteBuffer.clice产生的buffer类型为:"+buffer.getClass());
getAll();
fileChannel.close(); }
public static void main(String[]a) throws IOException
{
MapedFile mappedFile=new MapedFile();
//mappedFile. test_写和读();
mappedFile.test_slic_写和读("hahahahahah");
} }
mmap和MappedByteBuffer的更多相关文章
- java中的mmap实现--转
什么是mmap mmap对于c程序员很熟悉,对于java程序员有点陌生.简而言之,将文件直接映射到用户态的内存地址,这样对文件的操作不再是write/read,而是直接对内存地址的操作. 在c中提供了 ...
- Kafka-4614问题复盘 (MappedByteBuffer未关闭导致慢磁盘访问)
很早之前就想动笔就这个kafka bug总结一番了,只是这个问题既不是本人发现,也不是自己动手修复,终归是底气不足,故而一直耽搁下来.怎奈此问题实在是含金量十足,又恰逢最近有人询问Kafka 0.10 ...
- IO的详细解释:It's all about buffers: zero-copy, mmap and Java NIO
There are use cases where data need to be read from source to a sink without modification. In code t ...
- MappedByteBuffer以及ByteBufer的底层原理
最近在用java中的ByteBuffer,一直不明所以,尤其是对MappedByteBuffer使用的内存映射这个概念云里雾里. 于是首先补了物理内存.虚拟内存.页面文件.交换区的只是:小科普——物理 ...
- Android mmap 文件映射到内存介绍
本文链接: Android mmap 文件映射到内存介绍 Android开发中,我们可能需要记录一些文件.例如记录log文件.如果使用流来写文件,频繁操作文件io可能会引起性能问题. 为了降低写文件的 ...
- 2021-2-25:对于 Java MMAP,如何查看文件映射脏页,如何统计MMAP的内存大小?
我们写一个测试程序: public static void main(String[] args) throws Exception { RandomAccessFile randomAccessFi ...
- Java IO学习笔记三:MMAP与RandomAccessFile
作者:Grey 原文地址:Java IO学习笔记三:MMAP与RandomAccessFile 关于RandomAccessFile 相较于前面提到的BufferedReader/Writer和Fil ...
- Python之mmap内存映射模块(大文本处理)说明
背景: 通常在UNIX下面处理文本文件的方法是sed.awk等shell命令,对于处理大文件受CPU,IO等因素影响,对服务器也有一定的压力.关于sed的说明可以看了解sed的工作原理,本文将介绍通过 ...
- MMAP和DIRECT IO区别
看完此文,题目不言自明.转自 http://blog.chinaunix.net/uid-27105712-id-3270102.html 在Linux 开发中,有几个关系到性能的东西,技术人员非常关 ...
随机推荐
- shell脚本,在指定目录下通过随机小写10个字母加固定字符串oldboy批量创建10个html文件。
[root@localhost wyb]# cat test10.sh #!/bin/bash #使用for循环在/test10目录下通过随机小写10个字母加固定字符串oldboy批量创建10个htm ...
- TCP/IP各种数据包结构体
下面这些TCP/IP数据包是我在进行Socket及Wipcap网络编程过程中曾经用到过的数据包结构体, 这些东西平时看起来不起眼,真正用到的时候就会觉得非常有用...... 以太帧头格式结构体,共14 ...
- tableview 删除cell
正如在以前的帖子说,但是我在转到故事版(StoryBoard)教程之前,我有另外一个问题来回答. 我如何从UITableView删除一行呢? 当人们构建简单的表视图引用程序后,这是另一个常见的问题 ...
- Codeforces Round #510 #A
http://codeforces.com/contest/1042/problem/A 题目大意就是: 现在公园里有n个长椅(要多长有多长),第i个长椅上有a[i]个人(泰山崩于前而不乱),现在又有 ...
- 【动态规划】loj#2485. 「CEOI2017」Chase
有意思的可做dp题:细节有点多,值得多想想 题目描述 在逃亡者的面前有一个迷宫,这个迷宫由 nnn 个房间和 n−1n-1n−1 条双向走廊构成,每条走廊会链接不同的两个房间,所有的房间都可以通过走廊 ...
- 【线段树 细节题】bzoj1067: [SCOI2007]降雨量
主要还是细节分析:线段树作为工具 Description 我们常常会说这样的话:“X年是自Y年以来降雨量最多的”.它的含义是X年的降雨量不超过Y年,且对于任意Y<Z<X,Z年的降雨量严格小 ...
- tiny4412 busybox制作根文件系统rootfs nfs 挂载 ubuntu 14.04
http://blog.csdn.net/liudijiang/article/details/50555429(转) 首先得要有制作好的uboot和linux内核镜像zImage,先烧录到sd卡里, ...
- Django 千锋培训的学习笔记(1)
Django 千锋培训读书笔记 https://www.bilibili.com/video/av17879644/?p=1 切换到创建项目的目录 cd C:\Users\admin\Desktop\ ...
- (原) 剑指offer--之数值的整数次方
题目描述 给定一个double类型的浮点数base和int类型的整数exponent.求base的exponent次方. 初次看题觉得这题好简单,直接用库函数power()不就行了,仔细想了想,万 ...
- HDU 2829 斜率优化DP Lawrence
题意:n个数之间放m个障碍,分隔成m+1段.对于每段两两数相乘再求和,然后把这m+1个值加起来,让这个值最小. 设: d(i, j)表示前i个数之间放j个炸弹能得到的最小值 sum(i)为前缀和,co ...