StreamSets 部署 Pipelines 到 SDC Edge
可以使用如下方法:
- 下载edge 运行包并包含pipeline定义文件.
- 直接发布到edge 设备.
在data colelctor 机器配置并配置了edge server 地址(主要需要网络可访问) - 导出edge pipeline 配置,并移动到edge 设备
直接发布pipeline
可以通过ui 部署
发布单个pipeline
- Open the edge pipeline in the pipeline canvas.
- On the General tab, set the Data Collector Edge URL property to the URL of the SDC Edge instance that you want to deploy the pipeline to.
- The default URL is http://localhost:18633.
- In the top toolbar, click the Publish Pipeline to Data Collector Edge icon:
Data Collector publishes the pipeline to the <sdcedge_home>/data/pipelines directory on the edge device where SDC Edge is installed.
发布多个pipeline
- On the General tab of each pipeline that you want to publish, set the Data Collector Edge URL property to the URL of the SDC Edgeinstance that you want to deploy the pipeline to.
- The default URL is http://localhost:18633.
- From the Data Collector Home page, select multiple pipelines from the list, click the More icon, and then click Publish Pipelines to Data Collector Edge.
Data Collector publishes the pipelines to the <sdcedge_home>/data/pipelines directory on the edge device where SDC Edge is installed.
导出pipeline
- Open the edge pipeline in the pipeline canvas.
- From the Properties panel, click the More icon (
) to view the pipeline configuration REST response data:

- The browser displays the pipeline configuration in JSON format.
- In the browser, copy the complete contents of the pipeline configuration and save it to a text file named pipeline.json.
In the address bar of the browser, type ?get=info after the pipeline ID.
For example:https://localhost:18630/rest/v1/pipeline/EdgeSending76d9d551-217d-4b44-8b03-8fbe444962c5?get=infoThe browser displays the pipeline information in JSON format.
- In the browser, copy the complete contents of the pipeline information and save it to a text file named info.json.
On the edge device where SDC Edge is installed, create a folder named with the pipeline ID in the following directory:
<SDCEdge_home>/data/pipelinesFor example:
<SDCEdge_home>/data/pipelines/EdgeSending76d9d551-217d-4b44-8b03-8fbe444962c5- Copy the pipeline.json and info.json files that you created for the pipeline into this folder.
- Now you can start and manage the pipeline on SDC Edge as described in Sending Commands to SDC Edge.
If you modify the same pipeline in Data Collector, view the pipeline configuration REST response data and then copy the updated data into the existing pipeline.json in the SDC Edge installation. You do not need to update the info.json file after you originally create it in the pipeline folder.
参考资料
StreamSets 部署 Pipelines 到 SDC Edge的更多相关文章
- StreamSets 管理 SDC Edge上的pipeline
可选的方式: ui (data colelctor) 发送命令 UI 主要是创建edge pipeline 的时候进行edge server 的配置 默认是 http://localhost:1863 ...
- StreamSets 多线程 Pipelines
以下为官方文档: Multithreaded Pipeline Overview A multithreaded pipeline is a pipeline with an origin that ...
- StreamSets 相关文章
相关streamsets 文章(不按顺序) 学习视频-百度网盘 StreamSets 设计Edge pipeline StreamSets Data Collector Edge 说明 streams ...
- 为 Azure IoT Edge 设备部署 Azure Stream Analytics 服务
在前面的两篇文章<Azure IoT Edge on Windows 10 IoT Core>和<Azure IoT Edge on Raspberry Pi 3 with Rasp ...
- streamsets k8s 部署试用
使用k8s 进行 streamsets的部署(没有使用持久化存储) k8s deploy yaml 文件 deploy.yaml apiVersion: extensions/v1beta1 kind ...
- streamsets origin 说明
origin 是streamsets pipeline的soure 入口,只能应用一个origin 在pipeline中, 对于运行在不同执行模式的pipeline 可以应用不同的origin 独立模 ...
- streamsets 3.5 的一些新功能
streamsets 3.5 有了一些新的特性以及增强,总之是越来越方便了,详细的可以 查看官方说明,以下简单例举一些比较有意义的. origins 新的pulsar 消费origin jdbc 多表 ...
- Azure IoT Edge on Windows 10 IoT Core
在今年的Build大会上,微软推出了Azure IoT Edge的第一个版本(https://github.com/Azure/iot-edge ).该版本的主要特点就是将计算能力由Azure端推送至 ...
- 读懂SAP Leonardo物联网平台
读懂SAP Leonardo物联网平台 https://blog.csdn.net/weixin_42137700/article/details/81903290 本文比较系统.全面地介绍了SAP ...
随机推荐
- uva10537 dijkstra + 逆推
21:49:45 2015-03-09 传送 http://uva.onlinejudge.org/index.php?option=com_onlinejudge&Itemid=8& ...
- python按行读取文件,如何去掉换行符"\n"
for line in file.readlines(): line=line.strip('\n')
- ArrayBuffer:类型化数组
类型化数组是JavaScript操作二进制数据的一个接口. 这要从WebGL项目的诞生说起,所谓WebGL,就是指浏览器与显卡之间的通信接口,为了满足JavaScript与显卡之间大量的.实时的数据交 ...
- 高级Bash脚本编程(一)
高级Bash脚本编程 Bash 它是能力很强的计算机语言,被称为解释性语言或脚本语言,它可以调用所有的UNIX命令和工具再加上公共程序. Bash中的特殊字符 注释(#) (除#!外,#!是用于指定当 ...
- linux kernel 提示VFS: Cannot open root device "mmcblk0p1" or unknown-block(179,1): error -19等信息后发生panic
一.背景 文件系统安装在sd卡的第一个分区中,使用的是ext4文件系统,linux内核版本为4.14 二.思考 在内核启动之前,uboot给内核传递了参数root=/dev/mmcblk0p1,但是为 ...
- Redis之持久化
Redis 持久化 提供了多种不同级别的持久化方式:一种是RDB,另一种是AOF. RDB方式的持久化是通过快照(snapshotting)完成的,当符合一定条件时Redis会自动将内存中的所有数据进 ...
- Python学习札记(三十二) 面向对象编程 Object Oriented Program 3
参考:访问限制 NOTE 1.eg. #!/usr/bin/env python3 class Student(object): """docstring for Stu ...
- 解决 vim 乱码
打开vim安装目录下的_vimrc,在头部加上几句配置语句就能搞定: //设置默认编码 set encoding=utf-8 set fileencodings=utf-8,chinese,latin ...
- Spark读取结构化数据
读取结构化数据 Spark可以从本地CSV,HDFS以及Hive读取结构化数据,直接解析为DataFrame,进行后续分析. 读取本地CSV 需要指定一些选项,比如留header,比如指定delimi ...
- MVP框架模式
一.基本概念 MVP是Model-View-Presenter的简称,即模型-视图-表现层的缩写.MVP是由MVC模式进化而来的,MVP改进了MVC中的控制器过于臃肿的问题.与MVC一样,MVP将应用 ...