-
Jupyter
Jupyter 综述 Conda虚拟环境配置 Python依赖管理 使用预装好的Conda环境 使用打包的Conda环境 由依赖需求文本文件临时构建 创建任务 任务参数 任务样例 简单的Jupyter任务样例 Jupyter 综述 Jupyter 任务类型，用于创建并执行Jupyter 类型任务。worker 执行该任务的时候，会... -
How To Use Spark Dynamic Resource Allocation (DRA) in Kyuubi
The Basics of Dynamic Resource Allocation How to Enable Dynamic Resource Allocation Dynamic Resource Allocation w/ External Shuffle Service Dynamic Allocation w/o External Shuffl... -
16. Observability
16.1. Metrics 1. AppOptics 2. Atlas 3. Azure 4. Amazon CloudWatch 5. Datadog 6. Dropwizard 7. Dynatrace 8. Elastic 9. Ganglia 10. Graphite 11. Humio 12. Influx 13. JMX ... -
简介
Apache DolphinScheduler 是一个分布式易扩展的可视化DAG工作流任务调度开源系统。适用于企业级场景，提供了一个可视化操作任务、工作流和全生命周期数据处理过程的解决方案。 Apache DolphinScheduler 旨在解决复杂的大数据任务依赖关系，并为应用程序提供数据和各种 OPS 编排中的关系。 解决数据研发ETL依赖错综复杂... -
元数据文档
表概览 用户 队列 数据源 项目 资源 告警 命令 流程 任务 核心表Schema t_ds_process_definition t_ds_process_instance t_ds_task_instance t_ds_schedules t_ds_command 表概览 表名 表信息 t_ds_access_t... -
文件参数传递
文件参数 使用方式 配置文件参数 输出文件给下游任务 获取上游任务的文件 其他 备注 样例 文件参数 通过配置文件参数，在同一工作流实例中，可以将上游任务工作目录下的文件(或文件夹，下统一以文件 代替)传递给下游任务。 如以下场景可能使用到 在ETL任务中，将多个上游任务处理好的数据文件一起传递给特定的下游任务。 在机器学习场景中，将... -
3. Trouble Shooting
Common Issues java.lang.UnsupportedClassVersionError .. Unsupported major.minor version 52.0 org.apache.spark.SparkException: When running with master ‘yarn’ either HADOOP_CONF_DI... -
文件管理
文件管理 基础操作 创建文件 上传文件 文件查看 下载文件 文件重命名 删除文件 任务样例 创建 shell 文件 创建工作流执行文件 查看结果 文件管理 当在调度过程中需要使用到第三方的 jar 或者用户需要自定义脚本的情况，可以通过在该页面完成相关操作。可创建的文件类型包括：txt/log/sh/conf/py/java 等... -
AWS Datasync
DataSync 节点 综述 创建任务 任务样例 独有参数 环境配置 DataSync 节点 综述 AWS DataSync 是一种在线数据传输服务，可简化、自动化和加速本地存储系统和 AWS Storage 服务之间，以及不同 AWS Storage 服务之间的数据移动。 DataSync 支持的组件: Network File ... -
元数据文档
表概览 用户 队列 数据源 项目 资源 告警 命令 流程 任务 核心表Schema t_ds_process_definition t_ds_process_instance t_ds_task_instance t_ds_schedules t_ds_command 表概览 表名 表信息 t_ds_access_t...
