关于erlang的binary
引自:http://cryolite.iteye.com/blog/1547252
1. binary数据是可以在不同进程间共享的
当然这些进程都在同一Erlang节点上。
这与普通term不同,后者作为消息在进程间传递时是要在接收进程中做拷贝的(当然atom数据例外,它们也不会做拷贝)。摘一段原文在这里:
All data in messages between Erlang processes is copied, with the exception of refc binaries on the same Erlang node.
bintest是一个察看binary内存地址的小程序(附后),用它验证一下:
- 1> Bin = <<1,2,3,4,5,6,7,8>>.
- <<1,2,3,4,5,6,7,8>>
- 2> bintest:get_bin_address(B).
- "bin: size=8, ptr=0x7ff2e131bc03"
- 3> P = spawn(fun() -> receive BinMsg -> BinInfo = bintest:get_bin_address(BinMsg), io:format("~s~n", [BinInfo]) end end).
- 4> P ! B.
- bin: size=8, ptr=0x7ff2e131bc03
- <<1,2,3,4,5,6,7,8>>
binary在进程间共享带来的问题就是垃圾回收时的麻烦,(可以用引用计数的方式处理?),这是erlang虚拟机实现者的麻烦,有时候也给我们应用开发者带来麻烦。
2. 模式匹配得到的binary,实际上是匹配目标字节流的一个片断(sub-binary)
- 1> Bin = <<1,2,3,4,5,6,7,8>>.
- <<1,2,3,4,5,6,7,8>>
- 2> <<_:3/binary, B:3/binary, _/binary>> = Bin.
- <<1,2,3,4,5,6,7,8>>
- 3> B.
- <<4,5,6>>
- 4> binary:referenced_byte_size(Bin).
- 8
- 5> binary:referenced_byte_size(B).
- 8
我们可能有一个很大的Bin,然后对它进行匹配查找,找到其中一小段B,实际上这两个变量都指向同一个binary(的不同位置和大小)。可以通
过binary:referenced_byte_size/1函数察看变量引用背后的二进制数据的实际大小,如上面例子所示。所以除非这两个变量都释
放,它们实际引用的那个大binary就不会被垃圾回收。
binary:referenced_byte_size/1得到binary变量所引用的原始binary数据的大小。所以模式匹配出来的binary变量还是引用到了原始的数据,没有任何拷贝操作。可以进一步看看binary变量引用的字节流地址:
- 6> bintest:get_bin_address(Bin).
- "bin: size=8, ptr=0x7f9556578c00"
- 7> bintest:get_bin_address(B).
- "bin: size=3, ptr=0x7f9556578c03"
- 8> C = binary:copy(B).
- <<4,5,6>>
- 9> niftest:get_bin_address(C).
- "bin: size=3, ptr=0x7f9556239f78"
有可能出现这种情况:在查找完后原来那个大binary不再有用,有用的是那些查找到的结果,这种情况下那个大binary占着大块内存又用不
着,由于有小对象引用都指向它,所以也无法垃圾回收。浪费内存实在可耻。这种情况可以考虑使用binary模块的copy函数,我们用
binary:copy/1把那些找到的每个小binary都拷贝一份出来,这样就不再引用到原来的大binary对象了,没有引用的binary就可以
被垃圾回收了。
3. binary与字符串
在erlang中,binary也用做高效的string,但是上述内存共享办法会给nif之间binary字符串的传递带来问题。要处理的字符
串可能来自于一个大binary中的一个片段,我们是无法直接将它作为C语言的字符串处理的,因为C字符串需要一个\0作为字符串的结尾。好在我们知道这
个字符串的长度。通过复制添\0的方式可以转换成C能处理的字符串。
这本质上是两种语言内部对binary字符串的表达方式的不同造成的麻烦:一种以\0标志字符串,另一种以长度。
enif_make_string_len可用来处理非\0的C字符串给elang,只要知道长度就行。这其实是erlang的binary字符串处理方式了,这样没有\0结尾的binary字符串也能当成成字符串给erlang用了。
而enif_make_sub_binary是用来在C中模仿erlang的字符串binary操作的。
enif_get_string将erlang字符串(实际上是list,跟binary无关了)转换成\0结尾的C字符串。
而enif_inspect_iolist_as_binary,则是将一个iolist的erlang字符串转换成一个erlang的binary字符串
enif_inspect_iolist_as_binary使用的陷阱是要注意binary字符串是以长度而不是\0标识的。在C中使用使要做转换:
- ErlNifBinary tilefilenameBin;
- if (!enif_inspect_iolist_as_binary(env, argv[1], &tilefilenameBin) || (tilefilenameBin.size >= 64)) {
- return enif_make_badarg(env);
- }
- char tilefilename[64] = "";
- memcpy(tilefilename, tilefilenameBin.data, tilefilenameBin.size);
附
bintest是一个察看binary内存地址的小程序,利用了nif的ErlNifBinary结构:
- typedef struct {
- unsigned size;
- unsigned char* data;
- } ErlNifBinary;
- -module(bintest).
- -export([get_bin_address/1]).
- -on_load(init/0).
- init() ->
- erlang:load_nif("./bintest", 0).
- get_bin_address(_Bin) ->
- erlang:error({"NIF not implemented in nif_test at line", ?LINE}).
对应的nif C:
- #include "erl_nif.h"
- #include <stdio.h>
- static ERL_NIF_TERM get_bin_address(ErlNifEnv *env, int argc, const ERL_NIF_TERM argv[]) {
- ErlNifBinary bin;
- enif_inspect_binary(env, argv[0], &bin);
- char buf[256];
- sprintf(buf, "bin: size=%zu, ptr=%p", bin.size, bin.data);
- return enif_make_string(env, buf, ERL_NIF_LATIN1);
- }
- static ErlNifFunc nif_funcs[] =
- {
- {"get_bin_address", 1, get_bin_address}
- };
- ERL_NIF_INIT(bintest,nif_funcs,NULL,NULL,NULL,NULL);
linux下的编译命令:
- gcc -std=c99 -fPIC -shared -o bintest.so bintest.c -I/usr/local/lib/erlang/usr/include
关于erlang的binary的更多相关文章
- Erlang数据类型的表示和实现(5)——binary
binary 是 Erlang 中一个具有特色的数据结构,用于处理大块的“原始的”字节块.如果没有 binary 这种数据类型,在 Erlang 中处理字节流的话可能还需要像列表或元组这样的数据结构. ...
- Erlang第二课 ---- bit串
Erlang是被设计来用在电信设备中的,这意味着需要处理大量的二进制数据.也正因为如此,Erlang把binary和binary string提升到了一个相当高的位置,提供了极为丰富的操作机制.当然, ...
- Erlang库 -- 有意思的库汇总
抄自这里 首先,库存在的目的大致可分为:1.提供便利2.尽可能解决一些痛点 首先,我们先明确一下Erlang编程语言的一些痛点(伪痛点):1,单进程问题Erlang虚拟机属于抢占式调度,抢占式调度有很 ...
- Erlang/Elixir: 使用 OpenCV, Python 搭建图片缩略图服务器
这篇文章是在OSX上测试和运行的的, Ubuntu下的安装和配置请移步到这里 应用程序进程树, 默认 Poolboy 中初始化10个用于处理图片的 Python 工作进程(Worker) 首先安装Op ...
- Archive for the ‘Erlang’ Category 《Erlang编程指南》读后感
http://timyang.net/category/erlang/ 在云时代,我们需要有更好的能利用多核功能及分布式能力的编程语言,Erlang在这方面具有天生的优势,因此我们始终对它保持强烈关注 ...
- windows安装rabbitmq
官网下载windows安装版本:http://www.rabbitmq.com/install-windows.html ,安装文件rabbitmq-server-3.6.5.exe 前提:安装erl ...
- C# 消息队列
阅读目录 1. 消息队列是什么? 2. 常见的消息队列框架有哪些? 3. MSMQ介绍 4. RabbitMQ介绍 消息队列是什么 简单的理解就是将消息添加一个队列中,使用时在从这个队列中取出来.那么 ...
- windows下安装RabbitMq-Service
一.RaibbitMQ服务器配置 1. 准备工作.如果之前安装过RabbitMQ软件,若想重新安装,必须先把之前的RabbitMQ相关软件卸载. 2. 安装ERLANG语言包.首先到http://ww ...
- RabbitMQ安装和配置
RabbitMQ: MQ:message queue.MQ全称为Message Queue, 消息队列(MQ)是一种应用程序对应用程序的通信方法.应用程序通过读写出入队列的消息(针对应用程序的数据)来 ...
随机推荐
- ajax客户端请求与服务端响应浅谈
AJAX,即Asynchronous Javascript And XML,AJAX本质是在HTTP协议的基础上以异步的方式与服务器进行通信. 所谓的异步,是指某段程序执行不会阻塞其他程序执行,其表现 ...
- C# 实现客户端程序自动更新
看到一篇不错的帖子,可能以后会用到,果断收藏 文章来源 博客园jenry(云飞扬)http://www.cnblogs.com/jenry/archive/2006/08/15/477302.html ...
- 支付宝AR实景红包上线不久即遭破解,官方已提高技术门槛
临近春节,阿里巴巴和腾讯的红包大战可谓下足功夫,上周支付宝推出了AR实景红包,该玩法基于"LBS+AR+红包"的方式,类似与今年火爆全球的AR手游Pekomon Go ,只不过这次 ...
- 实战荟萃-UI篇
一. 前言 平时在处理问题的时候,经常会遇到一些奇奇怪怪的问题,今天在这里将其记录下来.这里将会列举几个常用的UI问题进行讲解 二. 导航栏 iOS导航栏绝对是个巨坑.和很多朋友聊天都是自己实现了一套 ...
- Spring MVC(二)
spring mvc工作流 1A)客户端发出http请求,只要请求形式符合web.xml 文件中配置的*.action的话,就由DispatcherServlet 来处理. 1B)Dispatcher ...
- win10锁屏壁纸路径
C:\Users\ShanYu\AppData\Local\Packages\Microsoft.Windows.ContentDeliveryManager_cw5n1h2txyewy\LocalS ...
- AngularJs应用
引用angularjs文件 AngularJS 应用组成如下:View(视图), 即 HTML.Model(模型), 当前视图中可用的数据.Controller(控制器), 即 JavaScript ...
- win10下安装Django
Django的核心(1.4+)可以运行在从2.5到2.7之间的任何Python版本. 我的电脑是操作系统是window10 ,内存是4G. 1.下载django 官网地址:https://www.dj ...
- Android 消息传递之Bundle的使用——实现object对象传输(一)
UI更新--消息处理massage 对于安卓内部消息得处理,实现对界面UI得更新操作,不能在线程中直接更新ui.至于为什么不能,在学习安卓开发的时候,在线程中操作会使程序崩溃. 为什么,可以看看诸多大 ...
- 神州数码品众_Android面试
1.进程的定义,进程的调度: 2.线程的定义,多线程出错的描述: 3.数组和链表的定义和区别: 4.对链表的反序: 5.tree高度的计算: 6.设计一个存储系统,可以从客户端进行上传文件: 7.从长 ...