-
名词解释
名词解释 模块介绍 在对 Apache DolphinScheduler 了解之前，我们先来认识一下调度系统常用的名词 名词解释 DAG： 全称 Directed Acyclic Graph，简称 DAG。工作流中的 Task 任务以有向无环图的形式组装起来，从入度为零的节点进行拓扑遍历，直到无后继节点为止。举例如下图： 流程定义 ：通过拖... -
元数据文档
表概览 用户 队列 数据源 项目 资源 告警 命令 流程 任务 核心表Schema t_ds_process_definition t_ds_process_instance t_ds_task_instance t_ds_schedules t_ds_command 表概览 表名 表信息 t_ds_access_t... -
简介
Apache DolphinScheduler 是一个分布式易扩展的可视化DAG工作流任务调度开源系统。适用于企业级场景，提供了一个可视化操作任务、工作流和全生命周期数据处理过程的解决方案。 Apache DolphinScheduler 旨在解决复杂的大数据任务依赖关系，并为应用程序提供数据和各种 OPS 编排中的关系。 解决数据研发ETL依赖错综复杂... -
元数据文档
表概览 用户 队列 数据源 项目 资源 告警 命令 流程 任务 核心表Schema t_ds_process_definition t_ds_process_instance t_ds_task_instance t_ds_schedules t_ds_command 表概览 表名 表信息 t_ds_access_t... -
元数据文档
表概览 用户 队列 数据源 项目 资源 告警 命令 流程 任务 核心表Schema t_ds_process_definition t_ds_process_instance t_ds_task_instance t_ds_schedules t_ds_command 表概览 表名 表信息 t_ds_access_t... -
文件管理
文件管理 基础操作 创建文件 上传文件 文件查看 下载文件 文件重命名 删除文件 任务样例 创建 shell 文件 创建工作流执行文件 查看结果 文件管理 当在调度过程中需要使用到第三方的 jar 或者用户需要自定义脚本的情况，可以通过在该页面完成相关操作。可创建的文件类型包括：txt/log/sh/conf/py/java 等... -
负载均衡
负载均衡 DolphinScheduler-Worker 负载均衡算法 Worker 负载均衡配置 权重 预热 负载均衡算法细述 随机（加权） 平滑轮询（加权） 线性加权(默认算法) 负载均衡 负载均衡即通过路由算法（通常是集群环境），合理的分摊服务器压力，达到服务器性能的最大优化。 DolphinScheduler-Worker ... -
Hive CLI
Hive CLI 综述 Hive CLI任务 VS 连接Hive数据源的SQL任务 创建任务 任务参数 任务样例 Hive CLI任务样例 Hive CLI 综述 使用Hive Cli任务插件 创建Hive Cli 类型的任务执行SQL脚本语句或者SQL任务文件。 执行任务的worker会通过hive -e 命令执行hive SQL脚本语... -
Conditions
Conditions 节点 创建任务 任务参数 相关任务 任务样例 1、创建工作流 2、查看执行结果 注意事项 Conditions 节点 Conditions 是一个条件节点，根据上游任务运行状态，判断应该运行哪个下游任务。截止目前 Conditions 支持多个上游任务，但只支持两个下游任务。当上游任务数超过一个时，可以通过且 以及或... -
Apache Zeppelin
Apache Zeppelin 综述 创建任务 任务参数 生产（克隆）模式 任务样例 Zeppelin Paragraph 任务样例 Apache Zeppelin 综述 Zeppelin 任务类型，用于创建并执行Zeppelin 类型任务。worker 执行该任务的时候，会通过Zeppelin Cient API 触发Zeppelin ...