Hbase建模选择
|
日期 2017年3月17日 |
HBase建模记录 |
|
OLTP 应用场景: |
|
|
OLAP 应用场景: |
|
|
语音分析系统的应用场景 |
|
|
基于HBase的建模考虑 |
|
|
1.话单为主来考虑hbase的rowkey的生成规则: |
|
|
1.1 原始语音文件的命名规则 |
|
|
dxaudio_$(ID)_$(CallNum)_$(CalledNum)_$(starttime)_$(stoptime)_$(Type)_$(rec).voc |
|
|
表示规则: |
|
|
$(ID)表示通话唯一标识; |
|
|
$(CallNum)表示主叫号码 |
|
|
$(CalledNum)表示被叫号码 |
|
|
$(starttime)为通话开始时间; |
|
|
|
|
$(stoptime)为通话结束时间,型同$(starttime) |
|
|
$(datetime)为文件生成时间,型同$(starttime),文件入库时间 |
|
|
$(Type)表示信道类型,见附录B |
|
|
$(rec)为流水号,从00000至99999循环使用 |
|
|
相同$(datetime)的各个文件的$(rec)不相同 |
|
|
1.2业务上支持的字段 |
|
|
1.3 如何支持一条记录对不同结构的查询 |
|
|
1.4 倒排索引&搜索引擎 |
|
|
关键词查找的方法已经到了极限 |
|
|
互联网上的资料生成索引,总共分为三步 |
|
|
1)把资料编号; |
|
|
2)把每篇资料内容切分成词 |
|
|
3)把词和资料编号的对应关系处理成 |
|
|
需考虑的问题: |
|
|
1)资料(网页)收集的全、快、稳、新、 |
|
|
2)建立索引时要考虑质量、效率、赋权、周期、时效性、资源消耗问题 |
|
|
3)query的时候要考虑的问题 query分析、排序、筛选、展示、性能、、广告、推荐、个性化、 |
|
|
统计 |
|
|
4)整体上要考虑地域性、容灾、国际化、当地法律、返作弊、垂直需求、移动互联网等 |
|
|
1.5开源搜索引擎技术 |
|
|
1)Lucene, |
|
|
他不是一个引擎产品而是一个类库,至今开源搜索引擎最好没有之一 |
|
|
使用java语音开发 |
|
|
基本涵盖了搜索引擎中的索引和检索两个核心部分的全部功能 |
|
|
抽象程度较好 |
|
|
2)solr |
|
|
一个完整的搜索引擎产品 |
|
|
底层是基于Lucene |
|
|
3) elasticSearch |
|
|
产品级开源项目, |
|
|
底层基于Lucene |
|
|
提供Restful API的服务 |
|
|
Restful 就是直接通过HTTP协议收发请求和响应,接口比较清晰简单,是一种架构规则 |
|
|
|
|
|
结论: |
|
|
搜索类应用程序的检索可以通过es来进行检索。 |
|
Hbase建模选择的更多相关文章
- Hbase建模
转自:http://blog.itpub.net/28912557/viewspace-1119865/ 什么情况下使用Hbase?1,成熟的数据分析主题,查询模式已经确定并且不易轻易改变.(主要还是 ...
- Hbase写入hdfs源码分析
版权声明:本文由熊训德原创文章,转载请注明出处: 文章原文链接:https://www.qcloud.com/community/article/258 来源:腾云阁 https://www.qclo ...
- Hbase的安装测试工作
Hbase的安装测试工作: 安装:http://www.cnblogs.com/neverwinter/archive/2013/03/28/2985798.html 测试:http://www.cn ...
- Hadoop集群中Hbase的介绍、安装、使用
导读 HBase – Hadoop Database,是一个高可靠性.高性能.面向列.可伸缩的分布式存储系统,利用HBase技术可在廉价PC Server上搭建起大规模结构化存储集群. 一.Hbase ...
- HBase的安装与使用
1.安装 由于还是学习阶段,所以没有在生产环境练习,就在本地建了个虚拟机进行HBase的安装. 下载地址http://www.apache.org/dyn/closer.cgi/hbase/,选择一个 ...
- HBase安装inAction
在安装Hbase之前,需要有hadoop的运行环境,关于hadoop的安装过程,请查看我之前的blog:hadoop安装笔记:或者另一个博主的超详细文章http://weixiaolu.iteye.c ...
- 阿里云HBase携X-Pack再进化,重新赋能轻量级大数据平台
一.八年双十一,造就国内最大最专业HBase技术团队 阿里巴巴集团早在2010开始研究并把HBase投入生产环境使用,从最初的淘宝历史交易记录,到蚂蚁安全风控数据存储.持续8年的投入,历经8年双十一锻 ...
- 阿里云HBase全新发布X-Pack 赋能轻量级大数据平台
一.八年双十一,造就国内最大最专业HBase技术团队 阿里巴巴集团早在2010开始研究并把HBase投入生产环境使用,从最初的淘宝历史交易记录,到蚂蚁安全风控数据存储.持续8年的投入,历经8年双十一锻 ...
- HBase案例:HBase 在人工智能场景的使用
近几年来,人工智能逐渐火热起来,特别是和大数据一起结合使用.人工智能的主要场景又包括图像能力.语音能力.自然语言处理能力和用户画像能力等等.这些场景我们都需要处理海量的数据,处理完的数据一般都需要存储 ...
随机推荐
- 第六周PSP&进度条
团队项目PSP 一.表格: C类型 C内容 S开始时间 E结束时间 I时间间隔 T净时间(mins) 预计花费时间(mins) 讨论 讨论alpha完成情况并总结 9:40 11:20 17 ...
- 最近JavaScript的一些收获
开发习惯的上的收获 1,开发过程中,要让整个逻辑展示在一个函数中,中间部分则做可以考虑公用策略优化 2,开发完成至少有三个角度进行测试,正面方面和中立 开发技巧上面的收获 1,驼峰转为‘-’以及‘-’ ...
- fidder监控请求响应时间和请求IP(摘抄至网络)
增加监控请求的详情时间 在CustomRules.js的class Handlers中增加 //添加请求的响应时间 public static BindUIColumn("Time Tak ...
- delphi开发学习四:TClientDataSet与TDataSetProvider控件使用实例
1.TClientDataSet控件 通过TClientDataSet控件可以建立瘦客户端的应用程序,且数据执行效率较高,但它不能和数据库自动连接,程序中必须制定它如何获取数据.一般情况下,TClie ...
- linux下安装jenkins
我们不用离线安装方式 第一步.必须验证java环境 第二步.我们这里使用yum命令进行在线安装,使用service命令进行启动 1.wget -O /etc/yum.repos.d/jenkins.r ...
- P4596 [COCI2011-2012#5] RAZBIBRIGA
题目描述 四个等长的单词可以放在一起构成一个正方形,两个单词水平放置,两个竖直放置.水平单词只能从左往右读,竖直的单词只能从上往下读.四个角共用一个字母. 图中是由单词HLAD,NIVA,HSIN,D ...
- mysql中LIKE和REGEXP
mysql中LIKE和REGEXP都可以用来字符匹配 正则表达式REGEXP是为复杂搜索指定模式的强大方式. like用法 LIKE一般与通配符(%)和(_)两个使用 如例 SELECT prod ...
- Discrete Square Roots UVALive - 4270(拓展欧几里得)
a≡b(mod n)的含义是“a和b除以n的余数相同”,其充要条件是“a-b是n的整数倍”: 求所有满足条件r^2=x(mod m)的r 题目已经给定了一个初始的r,x,m #include < ...
- aliyun阿里云alibabaMaven仓库地址——加速你的maven构建
在maven的settings.xml 文件里 搜索 mirrors ,把下面内容添加在其子节点内 <mirror> <id>nexus-aliyun</id> ...
- Android proguard-rules.pro 混淆模板
在../sdk/tools/proguard/目录下,其中包含了android最基本的混淆 ..\proguard-rules.pro 混淆文件配置模板: ############# 混淆模板 ## ...