HugeGraph入门
一、HugeGraph简介
最近在搞好友推荐方便的工作,选择了图数据的方法,使用并学习了HugeGraph,再次记录一下。
HugeGraph是百度在2018年中旬开源的一款图数据库(Graph Database)系统,可以存储海量的顶点(Vertex)和边(Edge)。实现了Apache ThinkerPop 3[1]框架,支持Gremlin图查询语言[2]。HugeGraph支持多用户并行操作,用户可输入Gremlin查询语句,并及时得到图查询结果。也可以再用户程序中调用hugeGraph API进行图分析或查询。
二、HugeGraph特性
HugeGraph支持在线及离线环境下的图操作,支持批量导入数据,支持高效的负责关联关系分析,并且能够与大数据平台无缝集成。
HugeGraph具备如下特点:
- 基于ThinkerPop 3框架实现,支持Gremlin查询语言;
- 支持从TXT、CSV、JSON等格式的文件中批量导入数据;
- 具备独立的Schema元数据信息,方便第三方系统集成;
- 具备可视化操作界面,降低用户使用门槛;
- 存储系统采用插件方式,支持RocksDB、Cassandra、ScyllaDB、HBase及Mysql等多种后端;
- 优化的图接口,最短路径、K步连通子图、K步到达邻接点等;
- 支持属性图,顶点和边均可添加属性,支持丰富的属性类型;
- 可以对边和顶点的属性建立索引,支持精确查询、范围查询、全文检索;
- 支持4种顶点ID策略,之间ID、自动生成ID、用户自定义字符串ID和用户自定义数据ID;
- 支持与Hadoop、Spark GraphX等大数据系统集成,支持Bulk Load操作。
三、HugeGraph框架模块
- HugeGraph-Server: HugeGraph-Server是HugeGraph项目的核心部分,包含Core、Backend、API等子模块;
- Core:图引擎实现,向下连接Backend模块,向上支持API模块;
- Backend:实现将图数据存储到后端,支持的后端包括:Memory、Cassandra、ScyllaDB、RocksDB、HBase以及Mysql,用户根据实际情况选择一种即可;
- API:内置REST Server,向用户提供RESTful API,同时兼容Gremlin查询。
- HugeGraph-Client:HugeGraph-Client提供了RESTful API的客户端,用于连接HugeGraph-Server,目前仅实现Java版,其他语言用户可自行实现;
- HugeGraph-Studio:HugeGraph-Studio是HugeGraph的Web可视化工具,可用于执行Gremlin语句及展示图;
- HugeGraph-Loader :HugeGraph-Loader是基于HugeGraph-Client的数据导入工具,将普通文本数据转化为图形的顶点和边并插入图形数据库中;
- HugeGraph-Spark:基于Spark GraphX的图分析工具 ,HugeGraph-Spark能在图上做并行计算,例如PageRank算法等;
- HugeGraph-Tools:HugeGraph-Tools是HugeGraph的部署和管理工具,包括管理图、备份/恢复、Gremlin执行等功能。
总结:部署HugeGraph需要HugeGraph-Server,在网页上操作图需要HugeGraph-Studio,在java项目中操作图需要HugeGraph-Client,其他三个视情况需要的时候再部署使用。
四、HugeGraph安装部署
4.1 安装HugeGraph-Server(必须)
依赖:
JDK1.8
使用使用的是RocksDB存储则需要GCC >= 4.3.0 ,下面的步骤假设使用RocksDB作为存储
步骤1:
# 下载tar包
wget https://github.com/hugegraph/hugegraph/releases/download/v${version}/hugegraph-${version}.tar.gz
tar -zxvf hugegraph-${version}.tar.gz
步骤2:
修改 hugegraph.properties
backend=rocksdb
serializer=binary
rocksdb.data_path=.
rocksdb.wal_path=.
步骤3:
初始化数据库(仅第一次启动时需要)
cd hugegraph-${version}
bin/init-store.sh
步骤4:
启动server
bin/start-hugegraph.sh
Starting HugeGraphServer...
Connecting to HugeGraphServer (http://127.0.0.1:8080/graphs)....OK
步骤5:
查看服务状态:
jps
6475 HugeGraphServer
# curl请求restuflAPI,结果返回200,代表server启动正常
echo `curl -o /dev/null -s -w %{http_code} "http://localhost:8080/graphs/hugegraph/graph/vertices"`
步骤6:
# 停止server
$cd hugegraph-${version}
$bin/stop-hugegraph.sh
4.2 安装HugeGraph-Studio
步骤1:
# 下载tar包并解压
wget https://github.com/hugegraph/hugegraph-studio/releases/download/v${version}/hugegraph-studio-${version}.tar.gz
tar zxvf hugegraph-studio-${version}.tar.gz
步骤2:
修改配置文件hugegraph-studio.properties
- 将配置项
studio.server.host的值localhost修改成机器名或 IP,这是 HugeGraphStudio 对外提供服务的host,如果只需要本地访问则保持不变即可; - 将配置项
studio.server.port的值8088修改成想要的端口,这是 HugeGraphStudio 对外提供服务的port; - 将配置项
graph.server.host的值localhost修改成 HugeGraphServer 的host,HugeGraphStudio 通过此项和graph.server.port与 HugeGraphServer 建立连接; - 将配置项
graph.server.port的值8080修改成 HugeGraphServer 的port,HugeGraphStudio 通过graph.server.host和此项与 HugeGraphServer 建立连接; - 将配置项
graph.name的值hugegraph修改成要连接的 HugeGraphServer 的图名,目前只允许连接一个图。
# 启动HugeGraph-Studio
$ cd hugegraph-studio-${version}
$ bin/hugegraph-studio.sh
步骤3:
浏览器打开:http://localhost:8088即可访问。
五、HugeGraph,Neo4j,Titan三种图数据库性能对比
官网给了一个性能测试的报告:https://hugegraph.github.io/hugegraph-doc/performance/hugegraph-benchmark-0.5.6.html
总结起来就是:
- 批量插入性能:HugeGraph(RocksDB) > Neo4j > Titan(thrift+Cassandra)
- 遍历性能:Neo4j > HugeGraph(RocksDB) > Titan(thrift+Cassandra)
- 图常用分析方法性能:FS场景,HugeGraph性能优于Neo4j和Titan,K-neighbor和K-out场景,HugeGraph能够实现在5度范围内秒级返回结果
- 社区聚类算法性能 Neo4j > HugeGraph > Titan
当时选择HugeGraph的原因一是需求需要导大量的数据,涉及大约十几亿的插入,所以需要找一个插入性能高的,并且好友关系变动的时候也需要异步更新图关系。而是HugeGraph虽然是新秀,但是中文官方文档很简介清楚,利于学习使用。
参考:
HugeGraph入门的更多相关文章
- 图数据库HugeGraph源码解读 (1) —— 入门介绍
HugeGraph介绍 以下引自官方文档: HugeGraph是一款易用.高效.通用的开源图数据库系统(Graph Database,GitHub项目地址), 实现了Apache TinkerPop3 ...
- Gremlin入门
Gremlin入门 一.Gremlin简介 Gremlin是Apache ThinkerPop框架下的图遍历语言,Gremlin是一种函数式数据流语言,可以使用户使用简洁的方式表述复杂的属性图的遍历或 ...
- 【Redis3.0.x】NoSql 入门
Redis3.0.x NoSql 入门 概述 NoSQL(Not Only SQL ),即不仅仅是 SQL,泛指非关系型的数据库.NoSQL 数据库的产生就是为了解决大规模数据集合多重数据种类带来的挑 ...
- Angular2入门系列教程7-HTTP(一)-使用Angular2自带的http进行网络请求
上一篇:Angular2入门系列教程6-路由(二)-使用多层级路由并在在路由中传递复杂参数 感觉这篇不是很好写,因为涉及到网络请求,如果采用真实的网络请求,这个例子大家拿到手估计还要自己写一个web ...
- ABP入门系列(1)——学习Abp框架之实操演练
作为.Net工地搬砖长工一名,一直致力于挖坑(Bug)填坑(Debug),但技术却不见长进.也曾热情于新技术的学习,憧憬过成为技术大拿.从前端到后端,从bootstrap到javascript,从py ...
- Oracle分析函数入门
一.Oracle分析函数入门 分析函数是什么?分析函数是Oracle专门用于解决复杂报表统计需求的功能强大的函数,它可以在数据中进行分组然后计算基于组的某种统计值,并且每一组的每一行都可以返回一个统计 ...
- Angular2入门系列教程6-路由(二)-使用多层级路由并在在路由中传递复杂参数
上一篇:Angular2入门系列教程5-路由(一)-使用简单的路由并在在路由中传递参数 之前介绍了简单的路由以及传参,这篇文章我们将要学习复杂一些的路由以及传递其他附加参数.一个好的路由系统可以使我们 ...
- Angular2入门系列教程5-路由(一)-使用简单的路由并在在路由中传递参数
上一篇:Angular2入门系列教程-服务 上一篇文章我们将Angular2的数据服务分离出来,学习了Angular2的依赖注入,这篇文章我们将要学习Angualr2的路由 为了编写样式方便,我们这篇 ...
- Angular2入门系列教程4-服务
上一篇文章 Angular2入门系列教程-多个组件,主从关系 在编程中,我们通常会将数据提供单独分离出来,以免在编写程序的过程中反复复制粘贴数据请求的代码 Angular2中提供了依赖注入的概念,使得 ...
随机推荐
- ORM 对表操作 详解
目录 ORM对表操作详解 表结构 ORM对表的 增 删 改 查 基于对象的跨表查询 -- 类似于子查询 基于双下划的跨表查询 -- 连表 join ORM对表的操作示例 正向查 与 反向查 relat ...
- Linux 内核/驱动开发总结
总体来看,需要一个阶段性总结了,因为现在SD卡的调试也进入了卡壳期.大概会出一系列的总结文章,主要涉及的主题在下面列出: 1.开发工具:gcc/gdb/vim/ctags 2.Makefile和KCo ...
- 卷积神经网络快速入门【基于TensorFlow】
一.概述 卷积神经网络[Convolutional neural networks]里面最重要的构建单元是卷积层.神经元在第一个卷积层不是连接输入图片的每一个像素,只是连接它们感受野1的像素,以此类推 ...
- dede 对 单个 字段 编辑
{dede:field.body runphp='yes'} $body = str_replace("src=\"/uploads","src=\" ...
- ubuntu下关于profile和bashrc中环境变量的理解(转)
ubuntu下关于profile和bashrc中环境变量的理解(转) (0) 写在前面 有些名词可能需要解释一下.(也可以先不看这一节,在后面看到有疑惑再上来看相关解释) $PS1和交互式运行(r ...
- HTML&CSS基础-属性选择器
HTML&CSS基础-属性选择器 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.html源代码 <!DOCTYPE html> <html> & ...
- 2013.4.30 - KDD第十二天
早上来实验室,本来打算向秦师兄要文献的,不过秦师兄上午不在,所以就没有联系他.于是就开始调试郑茂的代码,发现原来那个itoa函数不是标准库里面 的,所以可能只有windows上可以用.然后我就在打电脑 ...
- IDEA 使用教程(破解2019.1.1)
2019-08-02更新 最新破解方法: ZKVVPH4MIO-eyJsaWNlbnNlSWQiOiJaS1ZWUEg0TUlPIiwibGljZW5zZWVOYW1lIjoi5o6I5p2D5Luj ...
- vue-(过滤器,钩子函数,路由)
1.局部过滤器 在当前组件内部使用过滤器,修饰一些数据 //声明 filters:{ '过滤器的名字':function(val,a,b){ //a 就是alax ,val就是当前的数据 } } // ...
- Spring -13 -Spring 中常用注解总结
1.@Component 创建类对象,相当于配置<bean/> 2.@Service 与@Component 功能相同. 2.1都写在ServiceImpl 类上. 3.@Reposito ...