Hadoop 它们的定义Writable NullpointerException
Hadoop周边环境:Hadoop2.4
定义中的Hadoop的Writable时间,有时你需要使用数组,而不是简单的单一值或串。例如,下面的代码:
package test; import java.io.DataInput;
import java.io.DataOutput;
import java.io.IOException; import org.apache.hadoop.io.WritableComparable;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory; public class MyData implements WritableComparable<MyData>,Cloneable {
private Logger log = LoggerFactory.getLogger(MyData.class); private float[] distance; public MyData(){// 空指针异常
set(new float[6]); // 凝视掉此行代码,在readFields会有空指针异常
} public MyData(float[] distance) {
set(distance);
}
public void set(float[] distance) {
this.distance=distance;
} @Override
public void readFields(DataInput arg0) throws IOException {
for(int i=0;i<distance.length;i++){
distance[i]=arg0.readFloat();
}
}
@Override
public void write(DataOutput arg0) throws IOException { for(int i=0;i<distance.length;i++){ arg0.writeFloat(distance[i]);
}
}
@Override
public int compareTo(MyData o) {// 当前值小于o则返回负数 float[] oDistance =o.distance;
int cmp=0;
for(int i=0;i<oDistance.length;i++){ if(Math.abs(this.distance[i]-oDistance[i])<0.0000000001){
continue; // 比較下一个
}
if(this.distance[i]<oDistance[i]){
return -1;
}else{
return 1;
}
} return cmp;
} @Override
public int hashCode(){
int hashCode =0;
for(int i=0;i<distance.length;i++){ hashCode=+Float.floatToIntBits(distance[i]);
}
return hashCode;
} public float[] getDistance() {
return distance;
} public void setDistance(float[] distance) {
this.distance = distance;
} }
能够看到其无參构造函数里面含有一个初始化的操作。这个初始化的操作限定了其矩阵distance的维度(代码中设置为6),可是一般这个值由外部设置才比較合适,可是在读取的时候,也就是readFields的时候是从这个无參构造函数进入的,这里没有办法设置參数,没有办法在外面初始化这个矩阵的大小,可是不设置又不行。有没有什么办法呢?在Mahout的一些代码中能够看到相似的代码。比方VectorWritable,从VectorWritable能够找到解决问题的答案。
先看看vectorWritable的一段代码:
@Override
public void readFields(DataInput in) throws IOException {
int flags = in.readByte();
int size = Varint.readUnsignedVarInt(in);
readFields(in, (byte) flags, size);
}
通过这段代码能够知道。不一定要通过外部传入。事实上能够从in中读取就可以。详细怎样做呢?定义一个数组distance的大小变量,比方为num。然后把num在write中写入,然后在readFields中先读出,然后再初始化数组distance,这样就不会有刚才的问题了。详细代码例如以下:
package test; import java.io.DataInput;
import java.io.DataOutput;
import java.io.IOException; import org.apache.hadoop.io.WritableComparable;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory; public class MyData implements WritableComparable<MyData>,Cloneable {
private Logger log = LoggerFactory.getLogger(MyData.class); private float[] distance;
private int num;
public MyData(){// 此处不再有空指针异常
// set(new float[6]); // 凝视掉此行代码,在readFields不会有空指针异常
} public MyData(float[] distance) {
this.num=distance.length;
set(distance);
}
public void set(float[] distance) {
this.distance=distance;
} @Override
public void readFields(DataInput arg0) throws IOException {
num = arg0.readInt();
distance = new float[num];
for(int i=0;i<distance.length;i++){
distance[i]=arg0.readFloat();
}
}
@Override
public void write(DataOutput arg0) throws IOException {
arg0.writeInt(num);
for(int i=0;i<distance.length;i++){ arg0.writeFloat(distance[i]);
}
}
@Override
public int compareTo(MyData o) {// 当前值小于o则返回负数 float[] oDistance =o.distance;
int cmp=0;
for(int i=0;i<oDistance.length;i++){ if(Math.abs(this.distance[i]-oDistance[i])<0.0000000001){
continue; // 比較下一个
}
if(this.distance[i]<oDistance[i]){
return -1;
}else{
return 1;
}
} return cmp;
} @Override
public int hashCode(){
int hashCode =0;
for(int i=0;i<distance.length;i++){ hashCode=+Float.floatToIntBits(distance[i]);
}
return hashCode;
} public float[] getDistance() {
return distance;
} public void setDistance(float[] distance) {
this.distance = distance;
} }
通过上面的改进,就不用操心 空指针的问题了。
分享。成长,快乐
转载请注明blog地址:http://blog.csdn.net/fansy1990
版权声明:本文博客原创文章,博客,未经同意,不得转载。
Hadoop 它们的定义Writable NullpointerException的更多相关文章
- Hadoop Serialization hadoop序列化详解(最新版) (1)【java和hadoop序列化比较和writable接口】
		初学java的人肯定对java序列化记忆犹新.最开始很多人并不会一下子理解序列化的意义所在.这样子是因为很多人还是对java最底层的特性不是特别理解,当你经验丰富,对java理解更加深刻之后,你就会发 ... 
- hadoop自带的writable类型
		Hadoop 中,并没有使用Java自带的基本类型类(Integer.Float等),而是使用自己开发的类.Hadoop 自带有很多序列化类型,大致分为以下两种: 实现了WritableCompara ... 
- 使用hadoop命令rcc生成Record  一个简单的方法来实现自己的定义writable对象
		hadoop 的bin文件夹以下一个rcc命令,网上介绍非常少.看了一下源代码.发现能够用来生成 java和c++的hadoop Record 类代码,比起自己直接实现writable 接口.简单非常 ... 
- Hadoop中序列化与Writable接口
		学习笔记,整理自<Hadoop权威指南 第3版> 一.序列化 序列化:序列化是将 内存 中的结构化数据 转化为 能在网络上传输 或 磁盘中进行永久保存的二进制流的过程:反序列化:序列化的逆 ... 
- hadoop中实现定制Writable类
		Hadoop中有一套Writable实现可以满足大部分需求,但是在有些情况下,我们需要根据自己的需要构造一个新的实现,有了定制的Writable,我们就可以完全控制二进制表示和排序顺序. 为了演示如何 ... 
- hbase报错org.apache.hadoop.ipc.RemoteException(java.lang.NullPointerException): java.lang.NullPointerException
		这个错误找了好长时间,日志看半天,找度娘没什么用,再看stackoverflow,上面有几篇相关的帖子,但是没人回答. 看半天,没有cause,只好到idea中去看sortLocalSorts源码,结 ... 
- Hadoop基础-序列化与反序列化(实现Writable接口)
		Hadoop基础-序列化与反序列化(实现Writable接口) 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.序列化简介 1>.什么是序列化 序列化也称串行化,是将结构化 ... 
- Hadoop Serialization -- hadoop序列化详解 (3)【ObjectWritable,集合Writable以及自定义的Writable】
		前瞻:本文介绍ObjectWritable,集合Writable以及自定义的Writable TextPair 回顾: 前面了解到hadoop本身支持java的基本类型的序列化,并且提供相应的包装实现 ... 
- Hadoop中Writable类之四
		1.定制Writable类型 Hadoop中有一套Writable实现,例如:IntWritable.Text等,但是,有时候可能并不能满足自己的需求,这个时候,就需要自己定制Writable类型. ... 
随机推荐
- 简述负载均衡&CDN技术(转)
			曾经见到知乎上有人问“为什么像facebook这类的网站需要上千个工程师维护?”,下面的回答多种多样,但总结起来就是:一个高性能的web系统需要从无数个角度去考虑他,大到服务器的布局,小到软件中某个文 ... 
- Matlab绘图-很详细,很全面
			强大的绘图功能是Matlab的特点之一,Matlab提供了一系列的绘图函数,用户不需要过多的考虑绘图的细节,只需要给出一些基本参数就能得到 所需图形,这类函数称为高层绘图函数.此外,Matlab还提供 ... 
- 使用dom4j创建和解析xml
			之前工作中用到了,相信写java的都会碰到xml,这里写了两个方法,创建和解析xml,废话不多说,直接上代码 package xml; import java.io.File; import java ... 
- OpenCV Haar AdaBoost源代码改进(比EMCV快6倍)
			这几天研究了OpenCV源代码 Haar AdaBoost算法,作了一下改进 1.去掉了全部动态分配内存的操作.对嵌入式系统有一定的速度提升 2.凝视覆盖了大量关键代码 3.降低了代码一半的体积,而且 ... 
- c#并行任务多种优化方案分享(异步委托)
			遇到一个多线程任务优化的问题,现在解决了,分享如下. 假设有四个任务: 任务1:登陆验证(CheckUser) 任务2:验证成功后从Web服务获取数据(GetDataFromWeb) 任务3:验证成功 ... 
- OpenStack Dashboard
			OpenStackDashboard 为管理员和普通用户提供了一个图形化管理界面.用户能够通过该界面訪问.分配或者自己主动化分配基于云的资源.可扩展的设计使得与第三方产品和服务融合变得非常easy,比 ... 
- 三白话经典算法系列 Shell排序实现
			山是包插入的精髓排序排序,这种方法,也被称为窄增量排序.因为DL.Shell至1959提出命名. 该方法的基本思想是:先将整个待排元素序列切割成若干个子序列(由相隔某个"增量"的元 ... 
- WPF 3D:简单的Point3D和Vector3D动画创造一个旋转的正方体
			原文:WPF 3D:简单的Point3D和Vector3D动画创造一个旋转的正方体 运行结果: 事实上很简单,定义好一个正方体,处理好纹理.关于MeshGeometry3D的正确定义和纹理这里就不多讲 ... 
- top 查看资源使用
			top:动态观察程序的变化 ? [root@linux ~]# top [-d] | top [-bnp] 参数: -d :后面可以接秒数,就是整个程序画面更新的秒数.预设是 5 秒: -b :以批次 ... 
- mtk硬件项目开始关闭蓝牙功能:mtk 硬件ScanCode和keycode应用演示示例
			项目要求:该项目因为没有使用android5.0,导致启动bluetooth的蓝牙audio slave功能必须使用第三方模组,该第三方模组,启动是通过android主板通过GPIO控制.UI界面是通 ... 
