-
集群部署(Cluster)
1.1 : 基础软件安装(必装项请自行安装) 1.2 : 下载后端tar.gz包 1.3：创建部署用户和hosts映射 1.4 : 配置hosts映射和ssh打通及修改目录权限 1.5 : 数据库初始化 1.6 : 修改运行参数 1.7 : 执行install.sh部署脚本 1.8 ： 登录系统 1.2.1之前DolphinSchedule... -
工作流定义
创建工作流定义 工作流定义操作功能 单个工作流支持的操作 工作流批量操作 运行工作流 单独运行任务 工作流定时 导入工作流 创建工作流定义 点击项目管理->工作流->工作流定义，进入工作流定义页面，点击“创建工作流”按钮，进入工作流DAG编辑 页面，如下图所示： 工具栏中拖拽 到画板中，新增一个Shell任务,如下图所示： ... -
认证方式
认证方式 修改认证方式 开发者LDAP测试 通过 Casdoor 实现 SSO 登录 步骤1. 部署 Casdoor 步骤2. 配置 Casdoor 步骤3. 配置 Dolphinscheduler 通过OAuth2授权认证登录 步骤1. 获取OAuth2客户端凭据 步骤2. 在api的配置文件中开启oauth2登录 步骤3.使用oauth2... -
1. Terminologies
Terminologies Kyuubi JDBC Apache Hive Apache Thrift Server ServerSpace Engine EngineSpace Apache Spark Multi Tenancy High Availability / Load Balance Apache Zookeeper Apa... -
Apache Kafka Connector
依赖 Kafka Source (Consumer) 基础消费示例 高级配置参数 消费多个Kafka实例 消费多个Topic Topic 发现 配置开始消费的位置 指定分区Offset 指定deserializer 返回记录KafkaRecord 指定strategy Kafka Sink (Producer) 容错和语义 多实例k... -
Use Cases
A Streaming Data Lake Near Real-Time Ingestion Incremental Processing Pipelines Unified Batch and Streaming Cloud-Native Tables Schema Management ACID Transactions Efficient ... -
ClickHouse Connector
JDBC synchronous write Write in the normal way Write with Apache StreamPark™ configuration list Write to ClickHouse HTTP async write Write in the normal way Write to ClickHou... -
DataX
DATAX 节点 综述 创建任务 任务参数 任务样例 在 DolphinScheduler 中配置 DataX 环境 配置 DataX 任务节点 查看运行结果 注意事项： DATAX 节点 综述 DataX 任务类型，用于执行 DataX 程序。对于 DataX 节点，worker 会通过执行 ${DATAX_LAUNCHER} 来... -
任务结构
任务总体存储结构 各任务类型存储结构详解 Shell节点 SQL节点 PROCEDURE[存储过程]节点 SPARK节点 MapReduce(MR)节点 Python节点 Flink节点 HTTP节点 DataX节点 Sqoop节点 条件分支节点 子流程节点 依赖(DEPENDENT)节点 任务总体存储结构 在dolphin... -
Apache HBase Connector
HBase写入依赖 常规方式写入读取HBase 1.创建库表 2.写入读取demo Apache StreamPark™ 读写 HBase 1. 配置策略和连接信息 2. 读写入HBase 其他配置 Apache HBase 是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统，利用 HBase 技术可在廉价服务器上搭建起大规模结构化存...