在8月24日举办的【墨天轮数据库沙龙第九期—工业实时数据库专场】中,麦杰科技创始人 卢学东分享了《麦杰openPlant实时数据库系统及应用》主题演讲,本文为整理内容。

导读

工业互联网推动海量工业数据的爆炸式增长,IDC预计,到2025年,设备实时数据量将是2017年的200倍,达到惊人的49ZB。作为企业的核心数据资产,每时每刻产生的工业数据为存储管理和分析应用带来了巨大挑战。工业实时数据库的诞生,不仅能将分散的海量过程数据采集存储下来,还为企业将“数据转化为信息及决策支持”提供稳定可靠的技术支撑。

【墨天轮数据库沙龙-实时数据库专场】邀请到麦杰科技创始人卢学东,为大家带来《麦杰openPlant实时数据库系统及应用》主题分享,以下为演讲实录。

卢学东 上海麦杰科技股份有限公司创始人

专注于实时数据库系统的研发和应用。先后主持和承担工业和信息化部、国家发改委、环保部、科技部、上海市科委等信息化领域重大课题研究与示范。

麦杰科技:记录历史,揭示未来

1、麦杰科技的发展

在本世纪初, CPU、硬盘和内存都比较昂贵,工业生产领域对实时数据的处理能力有很高的要求,控制系统专注于生产过程的控制,数据分析和过程优化需要依赖于外部系统。麦杰科技从2000年成立就将实时数据库系统作为切入点,在20多年的发展历程中一直专注于实时数据库系统,麦杰科技不仅为超过1000家客户提供工业实时数据库产品和解决方案,还提供高效的云边一体化整体工业数据解决方案。

工业实时数据库厂商一般从某一个行业中成长起来,行业能够提供足够丰富的应用场景,为产品不断迭代和快速成熟提供保障。麦杰科技成长于电力体制改革期的发电市场,逐渐积累了大量的电力客户,如华能集团、大唐集团、国电投集团、粤电集团、中广核集团等。

2、工业实时数据库 vs 时序数据库

在介绍麦杰科技的产品之前,想和大家一起来探讨下实时数据库与时序数据库的区别,这也是很多的客户比较关注的问题。

首先是两者的定义与特点不同。工业实时数据库是采用实时计算模型建立起来的数据库系统,具有:时间约束、事务调度、资源分配、数据在线压缩和存储、并发控制和处理、丰富数据接口、完善数据分析套件的特点。而时序数据库的特点为:高吞吐量写入能力、数据分析存储/TTL、高压缩率、高效时间窗口查询能力、多维度查询能力、高效聚合能力、批量删除能力等。



图1 实时数据库 vs 时序数据库

其次两者的诞生背景与应用方向不同。实时数据库伴随着工业互联网的发展,对该系统的研究始于1988年,目前国内外工业领域已有多个成熟的实时数据库产品。而时序数据库则是近年来随着物联网的发展应运而生,借助云计算和大数据等技术,时序数据可用来处理物联网产生的大量数据。

参考“工业互联网”是“工业”+“互联网”,实时数据库是“实时系统”+“数据库管理”,属于实时系统,对数据处理有着时间性的要求,与工业密切相关。时序数据库是“数据库”+“时序数据”,是数据库管理系统,用来处理时间序列的数据。

2019年,工信部对工业互联网做了明确的定义,即“工业互联网是满足工业智能化发展需求,具有低时延、高可靠、广覆盖特点的关键网络基础设施,是新一代信息通信技术与先进制造业深度融合所形成的新兴业态与应用模式,由此确认了工业是该领域中必要的基因,也是做好工业实时数据库的基础。

下面介绍麦杰科技的openPlant实时数据库系统。

OPENPLANT实时数据库

1、系统及架构介绍

openPlant实时数据库系统是麦杰科技在二十多年工业互联网领域的研发和工程结果,作为工业数据管理的核心平台,该系统集成了从数据采集、存储到分析、展示等一系列成熟可靠的软件,支持各主流服务器,并可单机、双机、镜像和分布式部署



图2 openPlant的系统架构

对于时序数据库而言,90%的工作是进行数据存储,余下的才是数据处理。但在实时数据库中,数据存储只是它的基本功能,最重要是对数据分析并将结果进行反馈,通过数据结果对工业生产过程带来如故障诊断、优化运行等一系列的指导作用

下图展示了openPlant的系统构成,分别为RTDB 麦杰实时数据库(针对随时间快速变化的海量数据进行采集和存储)、Analysis 麦杰智能分析平台(通过界面配置实现建模、分析和展示应用功能的动态数据智能分析平台)、Studio 麦杰可视化应用平台(帮助用户用图表、曲线等直观手段展示和洞察有效信息的可视化应用平台)。



图3 openPlant的系统构成

openPlant系统采用先进的技术和架构,安全稳定地采集各类系统和设备的实时数据,并对数据进行高效压缩和长期存储,同时提供方便易用的客户端工具和开放的数据访问接口。

2、openPlant的特征优势

总结下来,openPlant系统具有三个核心优点:极速性能、超强稳定、安全可控。下面我就简单为大家介绍openPlant系统的特征与优势。

  • 丰富的数据访问接口

实时数据库系统的接口协议是第一道门槛。麦杰科技通过20多年的工程实践已经积累了450多种接口,能够解决大部分设备接口问题。

实时数据库系统支持的数据调用接口包含:SQL、OPC(标准OPCServer对外数据接口), WebAPI(标准的HTTPAPI和websocket对外数据访问方式), MQTT协议(物联网标准), OPAPI(包括C/C++/.NET/JAVA/Golang/python/Nodejs),这些开放的数据访问接口让应用十分方便。



图4 openPlant五类常用的接口

  • 智能数据压缩技术

openPlant的压缩技术能够保障数据精度的情况下,实现数据存储空间优化。压缩技术分为无损压缩、有损压缩、智能压缩三种,存储压缩比>100:1。

  • 存储结构

openPlant的存储结构分为动态、静态以及归档数据结构。在工业实时系统中,数据会直接参与到工业过程的计算中,其反映的质量好坏也会对工业过程产生指导意义,openPlant的动态数据结构便以TVQ(T:时,V:值,Q:质量)形式进行数据存储。



图5 openPlant的存储结构

  • 完备的数据安全策略

openPlant的数据安全策略包含了多层安全隔离支持、数据传输安全、储存安全存放、硬件授信设计、用户权限系统、访问安全设计等六大方面。在核电站的案例中,我们通过数据文件加密来保护核电数据资产安全。

  • 冗余策略

如今数据已经成为第五个生产要素,开始往资产的方向发展演变。麦杰科技通过完备的数据安全策略、数据交叉网络设计等多个角度对系统进行管理提升,从而保证数据资产的安全。



图6 openPlant的冗余策略

3、完全自主的工业实时数据库系统 - OPENPLANT

openPlant是一款完全自主的工业实时数据库系统,采用标准C++语言编写,具有良好的可移植性和优异的跨平台性能,支持在龙芯、飞腾、华为、兆芯硬件上部署的传统及虚拟化架构下的Unix、Linux、Windows、中标麒麟、凝思、统信等主流国内外操作系统。基于完全自主软硬件平台的千万点实时数据库系统应用实例已经稳定运行超过一年。

行业应用及未来发展

麦杰科技为各类企业信息化发展提供强有力支撑,如全球最大的火力发电厂内蒙古托克托电厂、专注于民用核电的中国广核集团。接下来我将从熟悉的火电领域,为大家总结行业应用经验,同时也分享麦杰科技的未来技术探索。

1、支撑火电行业向智慧化迈进

电力是国家的基础设施,麦杰科技针对火电行业推出了从数据采集到应用的整体解决方案,厂级监控信息系统(SIS)以全厂生产信息网络为依托,通过对全厂实时数据的采集、计算、分析,形成火力发电厂生产运营基础信息库,并面向各类管理应用提供有效的知识和决策应用工具,支持不同层次管理者在生产中的数据分析和决策工作。



图7 麦杰科技厂级监控信息系统- SIS

随着工业互联网平台技术创新持续深化,技术体系也从支撑“建平台”走向支持“用平台”。2019年《工业互联网白皮书》中定义了工业互联网关键技术:工业PaaS与应用开发、工业数据建模、工业数据管理与分析、工业边缘,这些关键技术与麦杰科技推出的厂级监控信息系统的业务模型高度契合,系统在进入不同的行业时有良好的移植性。。



图8 麦杰科技厂级监控信息系统业务模型

2、帮助企业实现数据资产的流动

工业互联网正在向价值互联网迈进,对应的工业数据也在向工业数据资产的方向迁移。

2019年发布的《工业区块链应用白皮书》对中工业区块链架构进行了描述,其中把工业数据资产分成了四大类:第一类是工业数据,第二类是数据分析模型,第三类是以设备为中心的应用,第四类是面向管理的应用。我们给企业提供SIS系统的所有应用都可以被拆分为上述四类工业数据资产,打包成资产后实现可信流通和价值发现。



图9 工业区块链架构

流动产生价值,但作为典型的信息系统,数据的可信流动是亟需解决的一大难题。在过去的20年,麦杰科技已经帮助上千家企业完成了工业互联网的建设,下一步便会帮助它们实现数据资产的加工。我们为企业提供了从数据的边缘接入、到数据中台再到区块链技术的一个完整的可信流动的框架体系,从而实现工业数据资产的可信流动,以服务于更多的领域、更广的范围,推动行业的发展。



图10 麦杰科技致力于企业实现数据资产流动

我今天的分享就到这里,谢谢大家!

更多精彩内容,欢迎大家观看现场视频回放与会议资料

视频回放:https://www.modb.pro/video/7199

会议资料:https://www.modb.pro/doc/75406


墨天轮技术社区正在举办【聊聊故障处理那些事儿】DBA专题征文活动,目前已经收到数十篇针对Oracle、MySQL、PG以及国产数据库相关的故障处理实操文章,主题涵盖告警日志处理、ORA报错分析、启动异常分析、数据库宕机恢复、慢SQL优化等内容,欢迎大家点击此处查阅文章。

也欢迎大家积极投稿,将你工作中遇到的数据库故障处理过程记录下来,不仅用于自我复盘与分析,同时也能帮助其他的同仁们避坑。

墨天轮沙龙 | 麦杰科技卢学东:openPlant 实时数据库系统及应用的更多相关文章

  1. 工业标准接口OPC Server

    工业标准接口OPC  Server OPC Server服务器软件,简称OPCServer,是针对企业生产过程中所涉及到的各种DCS.PLC.组态软件.电力综合自动化等控制系统.测量系统.其它辅助生产 ...

  2. 突发!美商务部宣布封禁微信,TikTok——面对科技封锁,如何应对

    刚刚美国商务部忽然发布了这则新闻,为了回应特朗普2020年8月6号的行政令,称这些应用程序存在安全威胁. 禁令中称,自2020年9月20日起,美国政府将: 1 禁止通过美国在线移动应用程序商店分发或维 ...

  3. 专利事务所信息Python爬取

    数据来源:http://www.acpaa.cn/ 目前事务所的信息没有做反爬限制,还是很容易拿到数据的 没有用html解析工具,直接上正则,结果就是需要处理很多乱七八糟的空格...为了能将日期顺利的 ...

  4. 股票的历史市盈率查询PE

    浦发银行的历史市盈率PE查询:https://androidinvest.com/Stock/History/SH600000/ 白云机场的历史市盈率PE查询:https://androidinves ...

  5. 全国城市三级联动 html+js

    全国城市三级联动,没有css,所以屏幕的自适应必须自己想办法,手机端慎用(最好不要用,因为有些我也说不出的展示问题). html页面 <!DOCTYPE html> <html> ...

  6. QQ JS省市区三级联动

    如下图: 首先写一个静态的页面: <!DOCTYPE html> <html> <head> <title>QQ JS省市区三级联动</title ...

  7. discuz分类信息地区联动菜单字段

    1 = 河南省 1.1 = 郑州市 1.1.1 = 中原区 1.1.2 = 二七区 1.1.3 = 管城区 1.1.4 = 金水区 1.1.5 = 上街区 1.1.6 = 惠济区 1.1.7 = 巩义 ...

  8. js 全国城市3级联动

    js /* * 全国三级城市联动 js版 */ function Dsy(){ this.Items = {}; } Dsy.prototype.add = function(id,iArray){ ...

  9. 三级联动数据表db_nove.sql

    -- phpMyAdmin SQL Dump -- version 2.11.2 -- http://www.phpmyadmin.net -- -- 主机: localhost -- 生成日期: 2 ...

  10. jQuery读取json文件,实现省市区/县(国标)三级联动

    最近做一个微信项目,需要用户填写所在的省市区/县,决定使用jQuery读取json文件来实现省市区/县的联动. 其实很简单,jQuery文档也有详细解释: 代码如下: html <table w ...

随机推荐

  1. jmeter测试udp广播(jmeter发送udp)

    jmeter测试udp广播(jmeter发送udp) jmeter测试udp广播(jmeter接收udp) 先下载安装第三方插件 下载链接:https://jmeter-plugins.org/ins ...

  2. windows环境xampp搭建php电商项目/搭建禅道

    windows环境xampp搭建php论坛/电商项目 一,首先下载xampp https://www.apachefriends.org/zh_cn/index.html 下载之后解压到E盘或者F盘的 ...

  3. 【Scala】01 基础了解

    Features 特性 1.基于JVM,完全兼容Java 2.同样具有跨平台,可移植,垃圾回收 3.比Java更加的面向对象[完全面向对象] 4.函数式编程 5.面向大数据处理,对集合容器框架有一定的 ...

  4. 【SpringMVC】10 对Ajax的应用

    编写一个AjaxController package cn.dai.controller; import org.springframework.web.bind.annotation.GetMapp ...

  5. python报错:ImportError: cannot import name 'Literal' from 'typing'

    原因: Literal 只支持python3.8版本以上的环境,需要把python3.7升级到3.8版本以上. 参考: https://blog.csdn.net/yuhaix/article/det ...

  6. 清华镜像源、阿里镜像源全部失效后怎么办 —— conda 服务器代理配置 —— Jax框架的安装

    相关: conda 服务器代理配置 最近在用anaconda安装Jax框架,发现直接使用官方源下载的速度十分的慢,估计要需20个小时才能下载完成,对于这种情况第一个感觉就是使用镜像源来进行下载. 但是 ...

  7. 【转载】 使用t-SNE可视化图像embedding

    原文地址: https://zhuanlan.zhihu.com/p/81400277 ================================================ t-SNE(t ...

  8. baselines算法库common/wrapper.py模块分析

    common/wrapper.py模块: import gym class TimeLimit(gym.Wrapper): def __init__(self, env, max_episode_st ...

  9. python绘图库matplotlib:刻度线的方向调整, in, out, inout

    前文相关: python绘图库matplotlib:画线的标志marker的设置--类型/size/空心/边线颜色及大小/显示marker超出边界部分 由于工作需要经常用matplotlib来绘图,但 ...

  10. odoo openErp 随笔

    环境: win7 x64 Python 2.7.18 nodejs pip: C:\> python --version C:\> pip --version C:\> cd \Co ...