AI 助理
备案 控制台
文档
有奖调研

集成组件库开发说明

更新时间:
产品详情
相关技术圈
我的收藏

Dataphin数据集成的离线管道功能为您提供可视化组件的开发方式。创建离线管道脚本后,您可以通过多样性的组件库拖拽所需组件进行开发。可视化组件开发方式不仅能降低开发难度和提高开发效率,还方便您快速梳理来源与去向数据源。本文为您介绍如何通过组件库开发离线单条管道任务。

前提条件

已完成离线管道脚本的创建。在进行离线管道开发前,您需要创建对应的管道开发脚本。更多信息,请参见 通过单条管道创建集成任务

离线管道组件开发入口

  1. 在Dataphin首页,单击顶部菜单栏研发->数据集成

  2. 按照以下操作指引,进入离线管道组件开发页面。

    选择项目(Dev-Prod模式需要选择环境)->单击离线集成->选择并单击需要开发的离线管道->单击组件库

    image

离线组件库开发说明

一般的,一个完整的离线管道由输入(>=1个)、转换(>=0个)、流程(>=0个)及输出(>=1个)组件组成。

在离线单条管道脚本的开发页面,单击页面右上角的组件库,将展示收藏输入转换流程输出自定义组件。

image

收藏组件

当前登录账号在其他组件库中,通过单击image进行收藏的组件将在此处展示。您可以将您经常使用的组件进行收藏,并在收藏组件库中进行快捷的选取与使用。

输入组件

原数据的来源,您可根据您的业务数据类型选择对应的组件拖动到左侧的管道画布用于数据输入。各输入组件功能详情,请参见 各组件配置详情

  • 输入组件不支持有上游节点。

  • 输入下游节点可以是转换输出流程

  • 如果输入组件有多个下游节点(输出转换),则组件连接时需选择输入组件的数据发送方式image

    • 复制:上游节点的数据根据下游节点数量进行等份复制,且每个下游节点的数据都是上游节点的全部数据。

    • 轮流分发:上游节点的数据根据下游节点数量进行轮流分发,且所有下游节点的数据之和等于上游节点的数据。

输出组件

数据来源集成的目标数据。您可根据您的业务需求,选择对应的输出组件并拖动到左侧的管道画布用于数据的输出。各输出组件功能详情,请参见 各组件配置详情

输出组件不支持有下游节点。

流程组件

用于数据集成时的流程控制,Dataphin支持限速、条件分发2种流程组件。各流程组件功能详情,请参见 各组件配置详情

  • 流程组件不支持作为离线管道的第一个或最后一个节点,但支持放置于管道脚本中间的任意位置。

  • 如果流程组件有多个下游节点(转换输出流程),则组件连接时需选择输入组件的数据发送方式

  • 如果流程选择条件分发组件,则组件连接时需选择分发的条件:

    image

    • 如果您选择条件结果为true,当上游节点的结果为true时,数据向下游发送。

    • 如果您选择条件结果为false,当上游节点的结果为false时,数据向下游发送。

转换组件

可用于将输入组件的来源数据进行转换,如对数据字段进行计算、过滤、加密等。各转换组件功能详情,请参见 各组件配置详情

转换组件支持有多个下游组件(转换输出流程),所以在组件连接时需要选择输入组件的数据发送方式

有向连接

选取所需要的组件后,您可以通过有向连接的方式,将上游输入组件指向下游转化、流程、输出组件,形成有向连线。集成任务运行时将根据有向连接依次执行各组件。组件连接时的上下游关系,请参见下图。

image

画布操作

一个管道画布支持有多个管道脚本同时构建,同时您也可以在管道画布中右键单击执行如下操作。

操作

描述

复制

复制管道画布中已有的组件。

粘贴

将选复制的管道组件粘贴在管道画布中。

删除

删除选中的组件。

全选

选中管道画布中的所有组件。

圈选

通过鼠标圈定选择多个组件。

切换为脚本模式组件

逻辑表LogicalTable组件脚本模式组件本地文件组件的输入与输出组件在组件配置对话框中,支持单击切换为脚本模式组件。切换成脚本模式后,将无法切回。下图以MySQL输入组件为例。

切换前

切换后

image

image

组件配置说明

Dataphin支持的组件及配置说明请参见下表:

输入组件

组件名称

组件配置

MYSQL

配置MySQL输入组件

Oracle

配置Oracle输入组件

Vertica

配置Vertica输入组件

FTP

配置FTP输入组件

逻辑表LogicalTable

配置LogicalTable输入组件

AnalyticDB for PostgreSQL

配置AnalyticDB for PostgreSQL输入组件

PolarDB

配置PolarDB输入组件

本地文件

配置本地文件输入组件

Teradata

配置Teradata输入组件

OceanBase

配置OceanBase输入组件

Hologres

配置Hologres输入组件

DataHub

配置DataHub输入组件

DM

配置DM(达梦)输入组件

TiDB

配置TiDB输入组件

GBase 8a

配置GBase 8a输入组件

SAP Table

配置SAP Table输入组件

StarRocks

配置StarRocks输入组件

Elasticsearch

配置Elasticsearch输入组件

Salesforce

配置StarRocks输入组件

SelectDB

配置SelectDB输入组件

Microsoft SQL Server

配置Microsoft SQL Server输入组件

PostgreSQL

配置PostgreSQL输入组件

PolarDB-X(原DRDS)

配置PolarDB-X(原DRDS)输入组件

MaxCompute

配置MaxCompute输入组件

MongoDB

配置MongoDB输入组件

AnalyticDB for MySQL 3.0

配置AnalyticDB for MySQL 3.0输入组件

Log Service

配置Log Service输入组件

OSS

配置OSS输入组件

SAP HANA

配置SAP HANA输入组件

IBM DB2

配置IBM DB2输入组件

脚本模式输入

配置脚本模式输入组件

ClickHouse

配置ClickHouse输入组件

Kafka

配置Kafka输入组件

API

配置API输入组件

KingbaseES

配置KingbaseES输入组件

GoldenDB

配置GoldenDB输入组件

Impala

配置Impala输入组件

OpenGauss

配置OpenGauss输入组件

Greenplum

配置Greenplum输入组件

输出组件

组件名称

组件配置

MYSQL

配置MySQL输出组件

Oracle

配置Oracle输出组件

Vertica

配置Vertica输出组件

FTP

配置FTP输出组件

AnalyticDB for MySQL2.0

配置AnalyticDB for MySQL 2.0输出组件

AnalyticDB for MySQL 3.0

配置AnalyticDB for MySQL 3.0输出组件

PolarDB

配置PolarDB输出组件

SAP HANA

配置SAP HANA输出组件

IBM DB2

配置IBM DB2输出组件

脚本模式输出

配置脚本模式组件

ClickHouse

配置ClickHouse输出组件

Kafka

配置Kafka输出组件

KingbaseES

配置KingbaseES输出组件

GoldenDB

配置GoldenDB输出组件

Impala

配置Impala输出组件

StarRocks

配置StarRocks输出组件

Greenplum

配置Greenplum输出组件

Microsoft SQL Server

配置Microsoft SQL Server输出组件

PostgreSQL

配置PostgreSQL输出组件

PolarDB-X(原DRDS)

配置PolarDB-X输出组件

MaxCompute

配置MaxCompute输出组件

MongoDB

配置MongoDB输出组件

Elasticsearch

配置ElasticSearch输出组件

AnalyticDB for PostgreSQL

配置AnalyticDB for PostgreSQL输出组件

OSS

配置OSS输出组件

Teradata

配置Teradata输出组件

OceanBase

配置OceanBase输出组件

Hologres

配置Hologres输出组件

DataHub

配置DataHub输出组件

DM

配置DM(达梦)输出组件

TiDB

配置TiDB输出组件

GBase 8a

配置GBase 8a输出组件

OpenGauss

配置OpenGauss输出组件

API

配置API输出组件

SelectDB

配置SelectDB输出组件

转换组件

组件名称

组件配置

字段选择

配置字段选择转换组件

字段计算

配置字段计算转换组件

过滤转换

配置过滤转换组件

加密转换

配置加密转换组件

解密转换

配置解密转换组件

流程组件

组件名称

组件配置

限速

配置限速流程组件

条件分发

配置条件分发流程组件

自定义组件

如需使用自定义组件,请先在Dataphin自定义组件后,再进行自定义组件的选取使用。具体操作,请参见 新建离线自定义源类型

上一篇:组件库开发 下一篇:输入组件

    深圳坪山网站建设公司业网站排名优化露云速捷拔萃济南网站优化排名公司关于网站优化的分析白云网站seo优化排名达州手机网站优化公司金华网站优化关键词优化前山镇网站seo优化自己怎么优化网站厦门做网站优化哪家好汕尾sem网站优化怎么样保山如何优化网站网站优化成功案例sitemap网站优化有什么用网站优化与推广训练网站搜索优化询问火30星河源网站优化托管效果昆明网站排名优化代办机构网站的优化新知云速捷实力富通天下网站布局优化如何进行岚山网站优化电话网站优化应该怎么做潜江工厂网站优化怀化网站优化价格多少网站优化哪些方面难点网站快照优化首推金苹果威海响应式网站优化罗湖网站seo优化东莞常平网站优化网站建设优化方法盐城市优化办网站香港通过《维护国家安全条例》两大学生合买彩票中奖一人不认账让美丽中国“从细节出发”19岁小伙救下5人后溺亡 多方发声卫健委通报少年有偿捐血浆16次猝死汪小菲曝离婚始末何赛飞追着代拍打雅江山火三名扑火人员牺牲系谣言男子被猫抓伤后确诊“猫抓病”周杰伦一审败诉网易中国拥有亿元资产的家庭达13.3万户315晚会后胖东来又人满为患了高校汽车撞人致3死16伤 司机系学生张家界的山上“长”满了韩国人?张立群任西安交通大学校长手机成瘾是影响睡眠质量重要因素网友洛杉矶偶遇贾玲“重生之我在北大当嫡校长”单亲妈妈陷入热恋 14岁儿子报警倪萍分享减重40斤方法杨倩无缘巴黎奥运考生莫言也上北大硕士复试名单了许家印被限制高消费奥巴马现身唐宁街 黑色着装引猜测专访95后高颜值猪保姆男孩8年未见母亲被告知被遗忘七年后宇文玥被薅头发捞上岸郑州一火锅店爆改成麻辣烫店西双版纳热带植物园回应蜉蝣大爆发沉迷短剧的人就像掉进了杀猪盘当地回应沈阳致3死车祸车主疑毒驾开除党籍5年后 原水城县长再被查凯特王妃现身!外出购物视频曝光初中生遭15人围殴自卫刺伤3人判无罪事业单位女子向同事水杯投不明物质男子被流浪猫绊倒 投喂者赔24万外国人感慨凌晨的中国很安全路边卖淀粉肠阿姨主动出示声明书胖东来员工每周单休无小长假王树国卸任西安交大校长 师生送别小米汽车超级工厂正式揭幕黑马情侣提车了妈妈回应孩子在校撞护栏坠楼校方回应护栏损坏小学生课间坠楼房客欠租失踪 房东直发愁专家建议不必谈骨泥色变老人退休金被冒领16年 金额超20万西藏招商引资投资者子女可当地高考特朗普无法缴纳4.54亿美元罚金浙江一高校内汽车冲撞行人 多人受伤

    深圳坪山网站建设公司 XML地图 TXT地图 虚拟主机 SEO 网站制作 网站优化