三分钟带你了解一站式大数据平台运维管家ChengYing产品包制作
课件获取:关注公众号 “数栈研习社”,后台私信 “ChengYing” 获得直播课件
视频回放:点击这里
ChengYing 开源项目地址:github 丨gitee 喜欢我们的项目给我们点个__ STAR!STAR!!STAR!!!(重要的事情说三遍)__
技术交流钉钉 qun:30537511
产品包的构成
01 产品包制作前置条件
在制作产品包之前,我们首先要完成以下3个步骤:
ChengYing已部署完成,ChengYing的部署内容可以参考【ChengYing安装原理】。
组件原料准备完成(组件原料主要是指已经编译完成的二进制包)。
当以上两个步骤完成之后,我们就可以开始产品包的制作。
02 产品包构成
产品包主要由schema.yml及各服务目录组成。Schema主要主要描述产品的组成,是一个编排文件,服务目录类似于工作目录,也有可能是静态组件,我们以下面两个产品包介绍为例:
● 基础服务包
上层应用所依赖的服务、例如mysql、zookeeper等服务,其目录结构如下:

● Java应用包
Java应用层产品包、包含的组件,前端,后端,sql组件、其目录结构如下:

Schema解析&产品包制作
接下来我们来重点了解下Schema相关的内容。
01 Schema解析
Schema.yml是整个产品包的核心文件,其内容主要描述了产品包里所有组件信息以及配置变量。
产品所属父级名称(parent_product_name)
产品名称(product_name)
产品版本(product_version)
服务名(service)


配置文件(application.properties)

schem语法参考:
https://dtstack.github.io/chengying-web/docs/chengyingDocs/introduction/schema
02 部署流程
部署流程在上述的Schema解析中都有体现,主要是以下流程:
● 安装(install)
从ChengYing服务端下载组件,并执行post_deploy.sh脚本,成功则进行下一步。
● 启动(running)
执行Schema文件中所定义的启动脚本,执行失败,脚本返回“1”则表示run failed ,反之则表示启动成功。
● 健康检查(healthy-check)
定时执行健康检查脚本(health.sh)。
案例分享
接下来为大家分享两个ChengYing产品包制作的案例
01 Base包制作
以Base产品包为例,其中主要包含zookeeper,mysql,mysql_slaves等组件。
1.官网下载二进制安装包
2.脚本编写(启动脚本,监控脚本,部署脚本)
3.提取参数,编写Schema
4.使用Mero工具制作产品包
产品包地址:
curl http://172.0.0.1:8864/api/v2/product/upload -F 'package=@DTBase_2.1.19.tar'
注意:IP为ChengYying所在服务的节点ip,产品包则是执行mero命令后所生成的文件
02 Taier产品包制作
Taier属于Java应用,前后端分离部署的架构模式。
1.下载前端代码,进行编译获取编译后的js文件
2.下载后端代码,进行编译后获取编译后jar包
3.按模块划分目录
4.提取参数,编写schema
5.使用mero工具制作产品包
产品包地址:
curl http://172.0.0.1:8864/api/v2/product/upload -F 'package=@Taier_4.2.1_rel.tar'
注意:IP为ChengYying所在服务的节点ip,产品包则是执行mero命令后所生成的文件
03 附录
● 关于Base产品包
Mysql二进制包:
https://downloads.mysql.com/archives/community/
Zookeeper二进制包下载:
https://dlcdn.apache.org/zookeeper/zookeeper-3.8.0/
● 关于Taier产品包
Taier源码下载:https://github.com/DTStack/Taier
前端编译命令:npm run build
后端编译命令:mvn clean package -DskipTests -T 1C -pl taier-data-develop,taier-common,taier-worker/taier plugins -am –amd
● Mero下载地址
https://dtstack-opensource.oss-cn-hangzhou.aliyuncs.com/chengying/mero
袋鼠云开源框架钉钉技术交流qun(30537511),欢迎对大数据开源项目有兴趣的同学加入交流最新技术信息,开源项目库地址:https://github.com/DTStack/Taier
三分钟带你了解一站式大数据平台运维管家ChengYing产品包制作的更多相关文章
- GreenPlum 大数据平台--运维(三)
一,操作命令 01,启动gpstart 参数说明 COMMAND NAME: gpstart Starts a Greenplum Database system. ***************** ...
- GreenPlum 大数据平台--运维(二)
.如何获取查询运行时和已用时间. 例子: Select tstart, tfinish, (tfinish-tstart) as total_time, trim(query_text) from q ...
- GreenPlum 大数据平台--运维(一)
.最后分析或真空或创建表或等... Select * from pg_stat_operations where schemaname='SCHEMA NAME ' and actionname in ...
- IT职业技能图谱:架构师、H5、DBA、移动、大数据、运维...
转载 作者:StuQ 文章收藏自微信:InfoQ 时隔近5个月,StuQ的小伙伴们再次出品了IT职业技能图谱更新版.这回除更新之前版本外,还添加了架构师.HTML 5.DBA等新的职业技能图谱.正 ...
- Hadoop大数据学习视频教程 大数据hadoop运维之hadoop快速入门视频课程
Hadoop是一个能够对大量数据进行分布式处理的软件框架. Hadoop 以一种可靠.高效.可伸缩的方式进行数据处理适用人群有一定Java基础的学生或工作者课程简介 Hadoop是一个能够对大量数据进 ...
- Train-Alypay-Cloud:蚂蚁大数据平台培训开课通知(第三次)
ylbtech-Train-Alypay-Cloud:蚂蚁大数据平台培训开课通知(第三次) 1.返回顶部 1. 您好! 很高兴通知您,您已经成功报名将于蚂蚁金服计划在2018年2月28日- 2018年 ...
- Train-Alypay-Cloud:蚂蚁大数据平台培训开课通知(第三次)- 培训笔记3(机器学习平台)
ylbtech-Train-Alypay-Cloud:蚂蚁大数据平台培训开课通知(第三次)- 培训笔记3(机器学习平台) 机器学习平台 一站式可视化机器学习 https://pai.cloud.ali ...
- 三:基于Storm的实时处理大数据的平台架构设计
一:元数据管理器==>元数据管理器是系统平台的“大脑”,在任务调度中有着重要的作用[1]什么是元数据?--->中介数据,用于描述数据属性的数据.--->具体类型:描述数据结构,数据的 ...
- 奇点云数据中台技术汇(一) | DataSimba——企业级一站式大数据智能服务平台
在这个“数据即资产”的时代,大数据技术和体量都有了前所未有的进步,若企业能有效使用数据,让数据赚钱,这必将成为企业数字化转型升级的有力武器. 奇点云自研的一站式大数据智能服务平台——DataSimba ...
- 时间序列大数据平台建设(Time Series Data,简称TSD)
来源:https://blog.csdn.net/bluishglc/article/details/79277455 引言在大数据的生态系统里,时间序列数据(Time Series Data,简称T ...
随机推荐
- 如何让tcxGrid左边显示序号
第一步: 设置cxgrid的属性, OptionsView.Indicator = True 第二步: 写OnCustomDrawIndicatorCell方法 procedure TForm1.cx ...
- BUUCTF---basic RSA
题目 给出一个RSA加密的密文,阐述了RSA,主要就是代码实现解密 代码 点击查看代码 import gmpy2 from Crypto.Util.number import * from binas ...
- MySQL-脏页的刷新机制
MySQL内存结构-缓冲区 MySQL的缓冲区中有数据页,索引页,插入缓冲等等,这个角度是从页的功能来分类的.本小节从另一个视角关注这些页,如果从 是否被修改过(和磁盘不一致) 这个角度来区分这些页, ...
- Bandit Python代码审计漏洞检测工具实战
系统概述 Bandit是一个用于分析Python代码审计安全漏洞的工具,旨在识别常见的安全问题,如硬编码密码.不安全的函数调用.SQL注入等.它通过构建抽象语法树(AST)并对节点运行适当的插件来检测 ...
- CoreOS 重启策略
对于已经启动了的 CoreOS 集群,可以通过编辑/etc/coreos/update.conf文件来修改重启策略. 重启策略有以下4种: best-effort(默认):如果 etcd 运行正常则相 ...
- study Rust-9【组织管理】
Rust中三个组织管理的概念:箱(Crate).包(Package).模块(module) Crate: "箱"是二进制程序文件或者库文件,存在于"包"中. & ...
- unigui的部署【9】
1.UniGUIServerModule的事件: procedure TUniServerModule.UniGUIServerModuleBeforeInit(Sender: TObject);be ...
- devops 2024
What is DevOps? DevOps is a mindset, a culture, and a set of technical practices. It provides commun ...
- Model Context Protocol(MCP)在claude使用
定义 MCP通过统一的协议,使AI模型(如Claude.GPT等)能够动态调用外部工具(如数据库.API.本地文件等),并实现跨模型的上下文共享与协作 架构 客户端-服务器模型: MCP主机(Host ...
- java 限流
题记 在高并发的分布式系统中,我们都需要考虑接口并发量突增时造成的严重后果,后端服务的高压力严重甚至会导致系统宕机.为避免这种问题,我们都会为接口添加限流.降级.熔断等能力,从而使接口更为健壮. 限流 ...