大数据大数据开发平台大数据开发治理平台 DataWorks 的相关内容

阿里云文档 2025-03-17

实时同步

DataWorks提供的实时数据同步功能支持您通过单表或整库方式，将源数据库的数据实时同步到目标数据库。您可以创建实时同步任务，灵活搭配多种输入和输出数据源，实现单表或整库数据的实时增量同步。本文为您介绍如何创建单表或整库增量数据实时同步任务，并在创建完成后查看任务运行情况。

阿里云文档 2025-03-14

用户画像分析案例同步数据-基于新版数据开发和Spark计算资源

本文将介绍如何创建HttpFile和MySQL数据源以访问用户信息和网站日志数据，配置数据同步链路将这些数据同步到在环境准备阶段创建的OSS存储中，并通过创建Spark外表解析OSS中存储的数据。通过查询验证数据同步结果，确认是否完成整个数据同步操作。

阿里云文档 2025-03-14

对产出的用户画像数据进行数据质量监控

本文将以ods_user_info_d_spark表为例，演示如何通过数据质量模块的强/弱规则配置（表行数非0强校验和业务主键唯一性弱校验），在每日调度任务中实时拦截源数据缺失或主键重复异常，从而保障用户信息同步作业的下游计算可靠性。您可以参考以下内容，在数据质量模块中完成对表数据质量的监控操作。

阿里云文档 2025-03-14

用户画像分析案例加工数据-基于新版数据开发和Spark计算资源

本文为您介绍如何用Spark SQL创建外部用户信息表ods_user_info_d_spark以及日志信息表ods_raw_log_d_spark访问存储在私有OSS中的用户与日志数据，通过DataWorks的EMR Spark SQL节点进行加工得到目标用户画像数据，阅读本文后，您可以了解如何通过Spark SQL来计算和分析已同步的数据，完成数仓简单数据加工场景。

文章 2022-06-12 来自：开发者社区

阿里云大数据ACP（一）大数据开发平台 DataWorks 2

六、DataWorks 数据开发6.1 数据开发总览四种运行方式：数据开发模块中除了组织管理员权限外，其余角色包括：项目管理员、开发、运维、部署和访客。6.2 任务开发6.3 任务类型6.4 脚本开发6.5 函数管理6.6 发布管理6.7 导入本地文件七、DataWorks 调度配置7.1 调度周期配置7.2 调度参数配置7.3 DataWorks 中的参数功能调度参数获取7.4 调度依赖关系7....

文章 2022-06-12 来自：开发者社区

阿里云大数据ACP（一）大数据开发平台 DataWorks 1

文章目录一、DataWorks 简介1.1 DataWorks 的功能概述1.2 DataWorks 产品特点1.3 DataWorks 产品优势1.4 应用场景（助力企业搭建大数据信息平台）二、DataWorks 基本概念2.1 组织与项目空间2.2 任务（Task）2.3 工作流、节点、依赖关系2.4 任务（Task）类别2.5 实例（Instance）2.6 资源与函数三、DataWor....