-
Switch
Switch 创建任务 任务参数 任务样例 创建工作流 设置条件 执行 Switch Switch 是一个条件判断节点，依据全局变量 的值和用户所编写的表达式判断结果执行对应分支。 注意 使用 javax.script.ScriptEngine.eval 执行表达式。 创建任务 点击项目管理 -> 项目名称 -> 工作流定义，点击”创建... -
AWS Datasync
DataSync 节点 综述 创建任务 任务样例 独有参数 环境配置 DataSync 节点 综述 AWS DataSync 是一种在线数据传输服务，可简化、自动化和加速本地存储系统和 AWS Storage 服务之间，以及不同 AWS Storage 服务之间的数据移动。 DataSync 支持的组件: Network File ... -
Kubernetes
Kubernetes 综述 创建任务 任务参数 任务样例 在 DolphinScheduler 中配置 kubernetes 集群环境 配置 kubernetes 任务节点 注意事项 Kubernetes 综述 kubernetes任务类型，用于在kubernetes上执行一个短时和批处理的任务。worker最终会通过使用kuberne... -
升级
1. 备份上一版本文件和数据库 2. 停止dolphinscheduler所有服务 3. 下载新版本的安装包 4. 数据库升级 5. 服务升级 5.1 修改conf/config/install_config.conf 配置内容 注意事项 升级时如何设置worker分组与之前一致 5.2 执行部署脚本 1. 备份上一版本文件和数据库 ... -
负载均衡
负载均衡 DolphinScheduler-Worker 负载均衡算法 Worker 负载均衡配置 权重 预热 负载均衡算法细述 随机（加权） 平滑轮询（加权） 线性加权(默认算法) 负载均衡 负载均衡即通过路由算法（通常是集群环境），合理的分摊服务器压力，达到服务器性能的最大优化。 DolphinScheduler-Worker ... -
Pytorch
Pytorch 节点（试验版） 综述 创建任务 任务样例 Pytorch参数 运行参数 python环境参数 Demo 环境配置 指定python路径 使用Conda创建新环境 使用virtualenv创建新环境 其他 Pytorch 节点（试验版） 综述 Pytorch 是一个的主流Python机器学习库。 为了用户能够... -
6. 安装、配置和部署集群
使用浏览器中运行的 Ambari 集群安装向导来安装、配置和部署集群，如下所示： 启动 Ambari 服务器 登录 Apache Ambari 启动 Ambari 群集安装向导 为集群命名 选择版本 安装选项 确认主机 选择服务 分配主节点 分配子节点和客户端 定制服务 回顾 安装、启动和测试 完成 -
SageMaker
SageMaker 节点 综述 创建任务 任务样例 环境配置 SageMaker 节点 综述 Amazon SageMaker 是一个云机器学习平台。 提供了完整的基础设施，工具和工作流来帮助用户可以创建、训练和发布机器学习模型。 Amazon SageMaker Model Building Pipelines 是一个可以直接使用Sa... -
Hive CLI
Hive CLI 综述 Hive CLI任务 VS 连接Hive数据源的SQL任务 创建任务 任务参数 任务样例 Hive CLI任务样例 Hive CLI 综述 使用Hive Cli任务插件 创建Hive Cli 类型的任务执行SQL脚本语句或者SQL任务文件。 执行任务的worker会通过hive -e 命令执行hive SQL脚本语... -
Demo
DolphinScheduler 初始化工作流 demo 准备工作 备份上一版本文件和数据库 下载新版本的安装包 服务启动步骤 开启 dolphinscheduler 服务 数据库配置 租户配置 修改 dolphinscheduler-tools/resources/application.yaml 配置内容 DolphinSched...