近期,Apache DolphinScheduler进行了版本更新,发布了3.3.0 alpha版本。Apache DolphinScheduler 3.3.0 alpha版本在任务管理、容错能力、扩展性等方面实现跨越式升级,为大规模工作流调度提供更稳定、灵活的解决方案。但需要提醒的是,此版本为alpha版本,请谨慎更新使用。

立即体验:

此次更新涵盖了大量DSIP(优化提案)、Feature(功能更新)和Improvement(优化),下面是对本次发版重点的简要梳理。

DSIP(优化提案)

以下为DolphinScheduler 3.3.0 alpha版本的结构性优化提案,对DolphinScheduler核心功能、架构、性能做出的系统性变更:

连接中心(Connection Center)支持增强

  • DSIP-19 系列:支持 Zeppelin、SageMaker、K8s 等连接(@xdu-chenrj)
  • DSIP-27:Java 任务插件改进(@ailiujiarui)

审计日志与远程日志优化

  • DSIP-24 / 25 / 26 / 57:远程日志与审计日志架构升级与回滚(@pegasas, @qingwli, @SbloodyS)

Master/Task 执行逻辑优化

  • DSIP-44 / 54 / 56 / 61 / 67 / 65 / 73 / 87:从线程池调度、任务执行抽象、调度命令机制等多角度优化(@ruanwenjun)

用户体验优化

  • DSIP-50 / 51 / 59 / 60 / 62 / 68 / 72 / 78:清理冗余插件、模块、UI 结构统一化(@SbloodyS)

其他

  • DSIP-75:自动添加 license header(@ruanwenjun)
  • DSIP-70:移除 1.x/2.x 升级代码(@SbloodyS)
  • DSIP-38:插件上传/下载 + 依赖优化(@SbloodyS)

Feature(新增功能)

监听与告警

  • 增加Listener 机制(#14981)
  • 支持 Prometheus AlertManager、Aliyun Voice、HTTP 测试发送(#15079, #15248, #15163)

新插件与集成

  • 支持 OceanBase DataX 任务(#16281)
  • 支持 EMR Serverless Spark(#16126)
  • 支持 Dinky 任务 Prepare Params 传参(#15947)

资源与权限管理

  • UI 显示资源路径、Worker Group 权限管理(#16590, #15600)

存储扩展

  • 增加腾讯云 COS 存储插件(#16565)

文档增强

  • 安全模型文档、安全命名统一(#16609, #16587)

Improvement(改进优化)

⚙ 核心模块与性能

  • Master/Worker 线程池、注册中心 zk 超时优化、RPC 重试机制、依赖任务处理优化等(多个 @ruanwenjun PR)

测试覆盖率提升

  • 提升 UT、E2E 覆盖率,填补空白测试用例(大量 @abzymeinsjtu PR)

清理与重构

  • 移除冗余代码、日志优化、变量命名统一等(多个 @SbloodyS、@caicancai、@Gallardot PR)

部署/文档优化

  • 文档 typo 修复、Helm 配置补充、Docker Hub 优化、安装流程优化(多个 @SbloodyS、@Gallardot PR)

Bug Fix(缺陷修复)

本周期修复的问题主要集中在以下几个模块:

  • 调度核心模块

    修复了子工作流在状态为 PAUSE 时仍能继续运行的问题(#16564)、依赖任务状态解析异常(#16599)、全局参数未正确传递(#16376)、条件依赖任务状态为 WAITING_DEPEND 时调度异常(#16232)等问题,增强了调度的稳定性与正确性。

  • 插件相关问题

    修复了 Elasticsearch 插件在使用过程中出现空指针异常的问题(#16107),以及文件插件在多线程下载文件过程中可能出现失败的情况(#16063),提升了插件的健壮性和兼容性。

  • 数据源配置问题

    解决了数据源参数未正确识别与解析的问题(#15874),并修复了 MySQL 数据源在部分 JDBC 驱动版本中连接失败的问题(#16376),增强了数据源连接的适配能力。

  • 前端展示问题

    修复了权限模块 DATASOURCE_CATALOG 的命名错误导致 UI 显示异常(#16590),以及任务状态展示与后端不一致的问题(#16594),提升了前端使用体验。

  • 测试用例修复

    修复了因依赖插件异常引发的 E2E 测试失败(#15892),并解决了部分单元测试在特定环境下不稳定的问题(#16120),提升了测试系统的稳定性。

Document(文档改进)

本周期文档更新覆盖了部署指南、贡献者说明和配置文档等多个方面:

  • 安装与部署文档

    更新了 Helm 安装说明,明确了部署步骤、Chart 参数配置,方便用户快速部署(#16604)。

  • 贡献者文档

    完善了贡献流程说明,新增了 PR 标题规范、提交流程图,帮助新贡献者更清晰地参与项目开发(#16294、#16125)。

  • 配置与使用文档

    补充了任务依赖、数据源配置、告警策略等模块的文档细节(#15972、#16097、#16407),提升了文档的可读性和准确性。

Chore(杂项优化)

Chore 类别的优化集中在 CI 流程、无效模块清理与部分重构方面:

  • CI/CD 流程优化

    引入 Mock Server 模拟调度执行过程,加快了 E2E 测试速度并提升稳定性(#16030);为多任务并发场景下的调度失败添加了兼容处理(#16139);优化了 CI 执行逻辑并简化了 E2E 执行命令(#16643)。

  • 模块清理与结构重构

    移除了部分未使用的旧模块、插件和无效测试代码,简化了代码结构,提升了整体代码清晰度和维护效率(#15973、#16588)。

贡献者名单

本次版本由社区开发者共同推动完成,特别感谢以下核心贡献者(部分名单):

  • 阮文俊(PMC成员):主导架构设计与核心功能开发。
  • 感谢Gallardot, weideguo等共计71位贡献者对本次版本发布的支持(GitHub ID):

@Blue-Fox、@ZarakiKenpachi、@zhangyongqin、@ironnight、@liuchuo、@yehfan、@CaIShunfeng、@yuxiaoyang-cn、@kongchongming、@MasahiroZhang、@wuxuqiang、@gaoqiang173、@ckeeper97、@twocolds、@hvhye、@liujx0429、@lingkong-jiankong、@jiangm2019、@izukayy、@derryyy、@serpywa、@2rinn、@ilyaszq、@weidaokun、@codenavie、@peijie-liu、@mario27547、@yassirlr、@mingxiaojun、@lixunxd、@wmm2019、@Shawn1997、@nobida、@Chen-lina、@hzytong、@jiangang-huawei、@zhangchaofan、@dongchunlin、@HXT-DAO、@zhaozhichao、@YucongZhu、@onakobayashi、@sdh2110、@laitinglin、@wumomo-npm、@tang-xi、@Maxwell-nz、@bigfrog828、@flarv、@buqiong、@peicongl、@xiayuheng、@kokaokami、@ztust-hsy、@ChengYu-Cloud、@sxt5699、@0d7000、@suxianglong、@one-man-team、@zhouyi0410、@tianxuyuan、@heguanghu、@LotharHuber、@chongxiao-qw、@mcz1988、@windzhe、@linhong-ua、@sunkiming、@nothedream、@kenbliu、@klovejun、@ywq1024、@jianghaitao

参与社区,共建开源生态

欢迎通过以下方式加入社区:

  • 邮件讨论

    • 用户组:users@dolphinscheduler.apache.org
    • 开发者组:dev@dolphinscheduler.apache.org
  • GitHub贡献:提交Issue、修复Bug、参与DSIP提案(仓库列表)。
  • 新手任务:社区提供适合初学者的Issue列表,助力快速上手。

Apache DolphinScheduler 3.3.0 Alpha发布,功能增强与性能优化大升级!的更多相关文章

  1. 重构、插件化、性能提升 20 倍,Apache DolphinScheduler 2.0 alpha 发布亮点太多!

    点击上方 蓝字关注我们 社区的小伙伴们,好消息!经过 100 多位社区贡献者近 10 个月的共同努力,我们很高兴地宣布 Apache DolphinScheduler 2.0 alpha 发布.这是 ...

  2. Apache DolphinScheduler 1.2.0 使用文档(1/8):架构及名词解释

    本文章经授权转载,原文链接: https://blog.csdn.net/MiaoSO/article/details/104770720 目录 1. 架构及名词解释 1.1 DolphinSched ...

  3. Apache Flink 1.9.0版本新功能介绍

    摘要:Apache Flink是一个面向分布式数据流处理和批量数据处理的开源计算平台,它能够基于同一个Flink运行时,提供支持流处理和批处理两种类型应用的功能.目前,Apache Flink 1.9 ...

  4. Apache Dolphin Scheduler 3.0.1 发布,对核心及UI相关进行优化

    点亮 ️ Star · 照亮开源之路 GitHub:https://github.com/apache/dolphinscheduler ​ 版本发布 感谢本次的 Release Manager -- ...

  5. 金融任务实例实时、离线跑批Apache DolphinScheduler在新网银行的三大场景与五大优化

    在新网银行,每天都有大量的任务实例产生,其中实时任务占据多数.为了更好地处理任务实例,新网银行在综合考虑之后,选择使用 Apache DolphinScheduler 来完成这项挑战.如今,新网银行多 ...

  6. php8.0正式版新特性和性能优化学习

    前言 PHP团队宣布PHP8正式GA(链接).php的发展又开启了新的篇章,PHP8.0.0版本引入了一些重大变更及许多新特性和性能优化机制.火速学习下~ JIT(Just in Time Compi ...

  7. Apache DolphinScheduler 1.2.0 task 任务存储结构说明

    本文章经授权转载 Table of Contents 任务总体存储 Shell节点 SQL节点 存储过程节点 SPARK节点 MapReduce(MR)节点 Python节点 Flink节点 HTTP ...

  8. Apache DolphinScheduler 3.0.0 正式版发布!

    ​  点亮 ️ Star · 照亮开源之路 GitHub:https://github.com/apache/dolphinscheduler   ​ 版本发布 2022/8/10 2022 年 8 ...

  9. 3.0.0 alpha 重磅发布!九大新功能、全新 UI 解锁调度系统新能力

    2022 年 4 月 22 日,Apache DolphinScheduler 正式宣布 3.0.0 alpha 版本发布!此次版本升级迎来了自发版以来的最大变化,众多全新功能和特性为用户带来新的体验 ...

  10. Apache Kylin v3.1.0 重点功能推介

    Apache Kylin v3.1.0 已于上周正式发布,其中包含了许多值得一试的新功能,本文选择了 Presto 查询下压引擎.Flink 构建引擎.Kylin on Kubernetes 解决方案 ...

随机推荐

  1. Elasticsearch(3)--- Docker容器中运行ES、Kibana、Cerebro

    想加强ES有关的知识,看了阮一鸣老师讲的<Elasticsearch核心技术与实战>收获很大,所以接下来会跟着他来更加深入的学习ES. 这篇博客的目的就是部署好ES和跟ES相关的辅助工具, ...

  2. 防止SQL注入的五种方法

    1.首先看一下下面两个sql语句的区别: <select id="selectByNameAndPassword" parameterType="java.util ...

  3. Brainfly: 用 C# 类型系统构建 Brainfuck 编译器

    Brainfuck 简介 Brainfuck 是由 Urban Müller 在 1993 年创造的一门非常精简的图灵完备的编程语言. 正所谓大道至简,这门编程语言简单到语法只有 8 个字符,每一个字 ...

  4. 在SOUI中使用GetAttribute获取XML中配置的属性

    SOUI的界面布局使用XML来布局,在XML配置的属性值会通过SObject::SetAttribute(name, value)的方式交给SObject处理. SWindow是SOUI的界面元素对象 ...

  5. Q:查看锁表进程,及杀死所有锁表进程sql

     查看锁表进程 SELECT DISTINCT decode(s.inst_id, 1, 'DB1', 2, 'DB2') 数据库服务器, decode(s.BLOCKING_SESSION, '', ...

  6. Qt数据库驱动编译(MySQL)

    Qt数据库驱动编译(MySQL) 哈喽!我是 Pro_er,一名热爱编程的小伙伴.在这里我会分享一些实用的开发技巧和经验心得.如果你也对编程充满热情,欢迎关注并一起交流学习! 第一步:安装所需文件 / ...

  7. datawhale-大模型攻防比赛实践-第一次行动

    最近刚好是在写智能信息安全的教程,最后一章准备讲内容安全,里面有一节探讨大模型安全的内容,刚好可以拿比赛的内容当案例. 首先,可以通过modelscope平台获得GPU使用权限.然后你就可以跑base ...

  8. 并发编程 - 线程同步(九)之信号量Semaphore

    前面对自旋锁SpinLock进行了详细学习,今天我们将学习另一个种同步机制--信号量Semaphore. 01.信号量是什么? 在 C# 中,信号量(Semaphore)是一种用于线程同步的机制,能够 ...

  9. 自适应 Simpson 积分法学习笔记

    自适应 Simpson 积分法,是一种计算一段区间内,形态奇怪的函数和的算法,例如面积并和难以直接用通项公式计算的函数. Simpson 积分 我们都知道,求解微积分需要求解一个导数的原函数,但这显然 ...

  10. 库卡机器人KR500维修保养

    随着现代工业自动化,KUKA库卡机器人以其卓越的性能.灵活的操作和高效的产出而备受赞誉.然而,为了确保机器人的持续稳定运行和延长使用寿命,应联系子锐机器人维修对库卡机器人保养至关重要. 一.库卡机器人 ...