转载自http://www.csdn.net/article/2010-11-29/282698 我的团队近来正在忙于一个全新的产品——即将发布的网络游戏www.FightMyMonster.com.这让我们得以奢侈地去构建一个全新的NOSQL数据库,也就是说,我们可以把恐怖的MySQL sharding和昂贵的可伸缩性抛在脑后了.最近有很多人一直在问,为什么我们要把注意力从HBase上转移到Cassandra上去.我确认,确实有这样的变化,实际上我们基本上已经把代码移植到了Cassandra上…
架构对比 HBase和Cassandra几乎是一个年份发起,又都是在2010年成为Apache的顶级项目,不过如果我们去细品其内部机制,我们会发现其实两者是完全不同的架构风格. HBASE起源于Google BigTable,几乎遵从了BigTable论文的大多数架构设计.Cassandra则是采纳了BigTable的数据模型,同时吸收了Amazon Dynamo的分布式设计. 因此从存储结构模型的微观上看,HBASE和Cassandra在单点存储数据的机理是类似的,但是从分布式架构的宏观上看,…
某客户大数据测试场景为:Solr类似画像的数据查出用户标签--通过这些标签在HBase查询详细信息.以上测试功能以及性能. 其中HBase的数据量为500G,Solr约5T.数据均需要从对方的集群人工迁移到我们自己搭建的集群.由于Solr没有在我们集群中集成,优先开始做HBase的数据迁移,以下总结了HBase使用以及数据迁移遇到的各种问题以及解决方法. 一.迁移过程遇到问题以及解决 客户HBase版本:Version 0.94.15腾讯大数据套件HBase版本:Version 1.2.1客户私…
自从SSD固态硬盘出世以来,一直都被持续关注着,SSD的性能优势让无数用户起了将操作系统迁移到SSD的心思,直接后果就是让无数机械硬盘为止黯然退场,很多软件都可以做到系统迁移,然而,被完美迁移的系统却不是多数.如何完美迁移系统到SSD中呢?参见下文. 为什么要迁移系统盘? 大家都知道我们的默认系统盘是C盘,由于长期的使用,各种下载.安装.以及一些缓存累积,可能你的系统盘里的剩余空间会越来越小,这样也就导致了电脑运行速度越来越多慢.而你又不得不长期想尽各种办法去修护.杀毒.清理垃圾等等.要从根本突…
http://ourjs.com/detail/52a914f0127c763203000008 大家都知道PayPal是另一家迁移到Node.js平台的大型公司,Jeff Harrell的这篇博文 Node.js at PayPal  解释了为什么从Java迁移出来的原因: 开发效率提高一倍(2个人用更少的时间干了5个人的活), 性能提高一倍, 代码量减少33%, 文件减少40%: (小编: 个人认为深层次原因是Java正在越来越走向封闭,而且变得越来越复杂而且oracle正在对Java收费,…
当在操作CRM时,做不论什么的写操作包含创建数据.更新数据.都会提示以下截图中的错误:"您无法登陆系统.原因可能是您的用户记录或所属的业务部门在Microoft Dynamics CRM中已被禁用",依据错误提示第一反应就是当前操作用户的业务部门被禁用了,但检查后发现并没有禁用,权限一切正常.你再往深了查就会发现,你的CRM组织的部署管理员账号在CRM系统中被禁用了,仅仅要把该账户启用,问题就会解决,这样的一般非常少见,除非是在批量禁用用户的时候不小心把部署管理员账号给禁了.…
本人微信和易信公众号: 微软动态CRM专家罗勇 ,回复265或者20170926可方便获取本文,同时可以在第一间得到我发布的最新的博文信息,follow me!我的网站是 www.luoyong.me . 在一个工作流中,包括了等待条件,比如说等待一天后再执行,执行中中包括了自定义工作流活动,一天报这个错误:您无法登陆系统.原因可能是您的用户记录或您所属的业务部门在Microsoft Dynamics 365中已被禁用. 囧,这是为什么呢?原因查一下就知道了,因为触发该工作流运行的用户被禁用了(…
本人微信和易信公众号: 微软动态CRM专家罗勇 ,回复265或者20170926可方便获取本文,同时可以在第一间得到我发布的最新的博文信息,follow me!我的网站是 www.luoyong.me . 在一个工作流中,包括了等待条件,比如说等待一天后再执行,执行的步骤包括了自定义工作流活动,发现报这个错误:您无法登陆系统.原因可能是您的用户记录或您所属的业务部门在Microsoft Dynamics 365中已被禁用. 囧,这是为什么呢?原因查一下就知道了,因为触发该工作流运行的用户被禁用了…
本文完整记录了如何从物理服务器,保持所有环境配置信息,纹丝不动的迁移到虚拟机上,俗称 P2V .采用的工具是VMware公司的 VMware vcenter vconverter standalone,它支持将windows和linux操作系统用作源,可以执行若干转换任务: 将正在运行的远程物理机和虚拟机作为虚拟机导入到vCenter Server管理的独立ESX/ESXi或ESX/ESXi主机 将由VMware Workstation或Microsoft Hyper-V Server托管的虚拟…
转载地址:https://dxer.github.io/2016/03/18/hbase/ HBase一些基本概念 1.Row key 行主键,在对HBase进行查询时候只能依靠Row key,HBase不支持条件查询等类似于一些主流数据库的查询方式,读取记录只能依赖行主键以及进行全局扫面,可以将行主键想象成主流数据库查询过程中用到的主键(例如,id). 2.Column Family 列族,可以将列族想象成日常主流数据库中的表结构的所有列的一个大管家,列族中存储了所有列的名称,整个表包括多少列…
有时我们将vmware安装的系统放在了磁盘空间比较小的盘里,后来磁盘空间不够用了,我们需要将文件移动到其它磁盘.腾出这个磁盘的空间. 我安装的系统有10个,总占空间大小170多GB.需要从D盘迁移到G磁盘, 迁移步骤: 1.将vmware中的系统先关机或者挂起,退出vmware软件.然后直接剪切系统所在的文件夹,到目的文件夹. 2.启动vmware删除左侧菜单中以前的系统列表,因为移动后这个菜单就打不开了. 3.在vmware菜单中->文件->打开, 选择系统迁移的目标文件夹的.vmx文件,点…
基于HBase实现的手机数据备份系统,实现了手机关键信息的备份,如短信.联系人等. 包括服务器端(Server)和客户端(Client) Server运行环境:Hadoop+HBase+Tomcat Client运行环境: Eclipse+Android2.3 Server端介绍: 接收客户端请求的Action: 添加短信Action----------->AddInfoAction.java 获取短信Action----------->GetInfoAction.java 同步联系人Acti…
创建临时表:execute immediate 'sql'; 通过临时表和关联查询解决循环处理效率低下,大数据操作移植时时间太长的问题. 结构相同的系统数据库表移植,案例如下: create or replace procedure jk_trade_transfer authid current_user IS create_sql ); update_sql ); insert_sql ); V_info_id NUMBER; info_count NUMBER; begin --一.迁移t…
zhuan:https://segmentfault.com/a/1190000002697929 本文完整记录了如何从物理服务器,保持所有环境配置信息,纹丝不动的迁移到虚拟机上,俗称 P2V .采用的工具是VMware公司的 VMware vcenter vconverter standalone,它支持将windows和linux操作系统用作源,可以执行若干转换任务: 将正在运行的远程物理机和虚拟机作为虚拟机导入到vCenter Server管理的独立ESX/ESXi或ESX/ESXi主机…
由于开发新的系统,需要将之前一个老的C/S应用的数据按照新的数据设计导入到新库中.此过程可能涉及到表结构不一致.大数据量(千万级,甚至上亿)等情况,包括异构数据的抽取.清洗等等工作.部分复杂的工作需要我们的DBA写代码用程序在JDBC或者Delphi中解决,而大部分稍简单的数据的迁移需要一个强大的ETL工具来解决.某日,技术经理让我找一个满足我们项目数据迁移需求的稳定.高效ETL工具.google了几把,网上大致有下列几款软件资料较多:Oracle的OWB(Oracle Warehouse Bu…
原文网址:http://www.ibm.com/developerworks/cn/linux/l-busybox/ BusyBox 是很多标准 Linux® 工具的一个单个可执行实现.BusyBox 包含了一些简单的工具,例如 cat 和 echo,还包含了一些更大.更复杂的工具,例如 grep.find.mount 以及 telnet(不过它的选项比传统的版本要少):有些人将 BusyBox 称为 Linux 工具里的瑞士军刀.本文将探索 BusyBox 的目标,它是如何工作的,以及为什么它…
目录 目录 1 1. 背景 1 2. 环境 1 3. 执行语句 1 4. 问题描述 1 5. 错误信息 2 6. 问题原因 3 7. 解决办法 4 1. 背景 机房裁撤,需将源HBase集群的数据迁移到目标HBase集群,采用快照迁移方式. 2. 环境 Hadoop-3.1.2 + HBase-2.2.1 3. 执行语句 time hbase org.apache.hadoop.hbase.snapshot.ExportSnapshot -overwrite -snapshot test.sna…
腾讯云服务器和阿里云服务器的Centos系统都是没有Linux系统的一个版本,Centos系统的操作都是在没有类似Windows图形化操作界面的黑框框命令窗口进行操作的,需要使用到很多Linux操作命令,针对不熟悉Linux系统命令的人来说,操作是比较困难的.此时如果想简便化操作,可以采用往服务器中安装宝塔操作软件的方式,宝塔操作软件集成了很多常规操作命令,可以让运维者直接通过图形化操作界面进行简易化操作. 关于宝塔面板系统,在阿里云的云市场以及腾讯云的云市场产品中都含有相应的宝塔面板系统的购买…
作者:bombless 因为不同的系统都叫 Windows ,这些系统在界面上也有一定连续性并且因此可能造成误解,所以有必要稍微梳理一下几个不同的 Windows 系统.首先是 DOS 上的一个图形界面 Windows 1.0 ,它带了画图.记事本等程序. DOS 上的这些图形界面程序当然也是16位的,并一直发展到 Windows 3.1 (不过Windows 3.1对应的中文版的版本号是3.2). 在这个时候因为 DOS 总是作为 Windows 的基础运行的,在运行Windows 的时候当然…
[序言]很多人都对驱动开发有兴趣,但往往找不到正确的学习方式.当然这跟驱动开发的本土化资料少有关系.大多学的驱动开发资料都以英文为主,这样让很多驱动初学者很头疼.本人从事驱动开发时间不长也不短,大概也就3~4年时间.大多数人都认为会驱动开发的都是牛人,高手之类的.其实高手,牛人不是这样定义的.我们在学习驱动开发之前,一定要明白一个道理:术业有专攻,不要盲目跟风. [贡献者]1> defddr   看雪学院2> StudyRush看雪学院 [本内容适用环境及工具]1> Windows系统…
一.工具 使用 LinuxLive USB Creator 下载地址:http://xz2.cr173.com//soft/LinuxLiveusb.zip 二.操作步骤 1.下载linux系统镜像,插入U盘,运行这个软件后选择U盘所在盘符.2.选择linux系统镜像文件.3.在第三部步会让你自己设定可以写入的存储区域大小.这个在图中看不到.4.去除第四步中三个选项前的勾,你也可以自己决定如何设置.5.点击闪电图标安装,整个过程只需要5分钟左右.6.重启系统,在bios中把开机启动顺序改为usb…
环境:Visual studio 2013 community Update 4 + Resharper 8.2 + Windows 7 现象: 我的C#工程编译没有问题, 但是在代码编辑器中系统关键字显示红色, 提示系统关键字提示‘can not resolve symbol XXX’.   比如Linq相关的Where.Take.Skip等关键字, 比如EF相关的AsNoTracking等等.   解决方案可以尝试下面几个: (1)打开VS/Tools/Options/Resharper/G…
转载自:http://blog.chinaunix.net/uid-28336510-id-3824903.html 1.下载GnuWin32,GnuWin32的安装文件(GetGnuWin32-0.6.3.exe)下载地 址:http://sourceforge.net/projects/getgnuwin32/,官网地址:http: //gnuwin32.sourceforge.net/ 2.运行GetGnuWin32-0.6.3.exe,并指定安装目录. 3.进入安装目录的GetGnuWi…
http://www.searchtech.pro/ Hadoop添加或调整的参数: 一.hadoop-env.sh1.hadoop的heapsize的设置,默认1000 # The maximum amount of heap to use, in MB. Default is 1000. # export HADOOP_HEAPSIZE=2000 2.改变pid的路径,pid文件默认在/tmp目录下,而/tmp是会被系统定期清理的 # The directory where pid file…
两台Linux系统之间传输文件 听语音 | 浏览:13183 | 更新:2014-07-15 15:22 | 标签:linux 1 2 3 4 5 6 分步阅读 如何在Linux系统之间传输文件及文件夹,简单介绍下Linux系统自带的命令scp,使用这个命令进行两台Linux系统服务器之间进行传输文件及文件夹的操作.   工具/原料   Linux secure CRT 方法/步骤     用CRT分别连上两台需要传输文件的linux系统服务器,并检查防火墙是否关闭. 查看防火墙状态: /etc…
一.查看和修改Linux的时区 1. 查看当前时区 命令 : "date -R" 2. 修改设置Linux服务器时区 方法 A 命令 : "tzselect" 方法 B 仅限于RedHat Linux 和 CentOS 命令 : "timeconfig" 方法 C 适用于Debian 命令 : "dpkg-reconfigure tzdata" 3. 复制相应的时区文件,替换系统时区文件:或者创建链接文件 cp /usr/sh…
行先是以一种非常独特的方式被索引,随后Bigtable利用行键对数据进行分割,将它们分布到集群中.列可以被迅速地定义在行中,让Bigtable适用于大多数的非模式环境. 数据在表面上最初是由行进行排列的,表的主要键是行键.但是与关系型数据库不同,在列式数据库中,没两个行需要相同的列.正如上面所说的那样,在表被创建后,用户能够快速在行中加入列.实际上,你能够向一行中增加许多列.…
Skip List的提出已有二十多年[Pugh, W. (1990)],却依旧应用广泛(Redis.LevelDB等).作为平衡树(AVL.红黑树.伸展树.树堆)的替代方案,虽然它性能不如平衡树稳定,但是在实现难度上却很有优势.它的查询.插入.删除等主要操作时间复杂度也都是Θ(lgn),空间复杂度是Θ(n). 一个Skip List的结构如下图,除了数据域,每个节点还包括1个或多个域用来保存后续节点的位置. 从结构上看,Skip List通过增加层数,节点上可以带有更多的信息,通过这些信息可以直…
本文介绍如何通过网络(尤指无线网络)与Android的adbd进行连接.原理:adb server: 计算机上的一个服务进程,进程名为adbadb daemon: Android 手机上的一个服务进程,进程名为adbdadb client: 你可以认为是计算机上的一个终端窗口,进程名也为adb你的指令通过adb client 交给adb server,server和daemon之间进行通讯.因此,这里建立的连接实际上是server和daemon之间的连接. 有三种方法: 1.到Market搜索W…
今天配置hbase的时候发现有几台机器的regionserver启不来.报错例如以下: at sun.reflect.NativeConstructorAccessorImpl.newInstance0(Native Method)         at sun.reflect.NativeConstructorAccessorImpl.newInstance(NativeConstructorAccessorImpl.java:39)         at sun.reflect.Delega…