数据云平台技术研究

前言:寻找写作灵感?中文期刊网用心挑选的数据云平台技术研究,希望能为您的阅读和创作带来灵感,欢迎大家阅读并分享。

数据云平台技术研究

随着经济增长和航空产业的快速发展,航班数量快速增加,航线网络越来越复杂。但同时,乘客对航班正点率的要求也在不断提升,这些因素叠加在一起,使得空中交通管理的难度指数级增加。此外,空管业务对信息化、智能化、大数据分析技术的需求也在与日俱增。空管行业的信息化基础设施在资源供给、运维管理、可靠性保障、快速应用开发支撑、安全防护等方面面临着巨大的挑战。空管行业是大量生产、使用、处理数据的行业,不会“使用数据”“治理数据”,就无法突破组织发展的瓶颈。以信息技术为引领,以“智慧”为重要特征的新一轮科技革命和产业变革方兴未艾,数字化、大数据、云计算、人工智能等新科技在各行各业得到快速应用,正在全方位重塑各行业的形态、模式和格局。

一、数据云平台建设背景及意义

1.信息化系统现状分析

目前,大部分空管信息化系统建设只是具有云平台的雏形,采用虚拟化技术,独立建设软硬件设备的系统,并不利于数据交互与挖掘分析,很容易形成数据孤岛;同时,这类信息化系统没有设置外网隔离区(DemilitarizedZone,DMZ),不能满足空管业务系统门户网站、移动办公等对外部互联网访问的网络安全需求。上述不足之处不符合信息技术进步发展趋势和当前实际业务应用需求,因此,有必要加快空管信息化系统建设的数字化转型与升级,并积极探索数据云平台等相关技术的研究与应用。

2.数据云平台建设的意义

(1)满足数字化转型的要求

空管行业是大量生产、使用、处理数据的行业,不会“使用数据”“治理数据”,就无法突破组织发展的瓶颈。整个行业亟待以管理体系为依托,用数据驱动来激活组织的动能,实现组织的高质量发展。数据是数字化转型的核心,数据治理作为数字化转型的基础性工程,是数字化转型的核心任务之一。目前,空管单位尚未建立完整的数据管控体系和数据资产目录,数据架构、数据标准、数据质量机制及数据安全管理等都需要规范和完善。空管单位需要建立一整套现代化的数据治理体系,构建规范化的数据治理管理制度和流程,梳理企业级数据资产目录,建立数据全生命周期管理体系,从而支撑生产运行与综合管理。为实现上述功能,笔者认为需要构建一个集约化、高可靠的数据云平台,以现代化数据治理体系为核心,作为空管信息化系统数据存储、计算、管理和交互的平台。该平台亦是数据治理体系的基础,能够提升数据共享水平及应用集成效益,让数据资产发挥更大的应用价值,从而满足数字化转型工作的必然要求。

(2)满足提高运行效率的要求

建设数据云平台可以打破空管各业务系统间的信息壁垒,着力提升数据分析和运用能力,发挥数据潜在价值,为生产运行提供决策依据。同时,基础设施运维工作可以集中在数据云平台的运维团队,大幅降低运维工作复杂度,提高设备运维保障工作的效率和质量。相比于传统的依靠经验进行生产运行、运维管理的组织与实施,应用统一集成的云平台,依靠数据驱动决策,可以满足实现生产运行、运维管理更加高效,监管更加精准、安全更加可靠、服务更加优质目标的需要。

(3)满足提升智慧化水平的要求

数据云平台可以固化数据治理体系和已有成果,并支撑后续数字化建设工作,进一步综合应用云计算、大数据、物联网、人工智能等成熟技术与空管现有技术的深度融合,实现空管从数字化、智能化到全面智慧化的战略转型。

二、数据云平台总体概念

为满足未来业务发展需要,笔者单位拟开展云平台建设,构建一个用以支撑未来数据管理和应用服务的数据云平台,一期建设内容主要包括基础云平台、数据平台、相关功能组件等方面。其中,基础云平台提供云技术组件能力,同时满足安全性合规性要求,为数据平台(包括数据治理组件及数据交互组件)和其他新建应用系统提供足够的物理资源。数据平台实现了数据集中接入、存储、计算、分析、共享交互以及数据开发的综合平台功能。在数据平台的基础上,扩展开发数据治理功能组件,作为规范化数据管理的核心,确保业务数据如实得到记录的工具;扩展开发数据交互功能组件,各类信息系统在交互功能组件上,实现集中的数据交互和业务集成、服务接口统一管理、重用和运行监控。

三、数据云平台组成及具体功能

1.基础云平台

笔者单位拟建立一套基础云平台,能够提供云技术组件能力,同时满足安全性合规性要求,为数据平台(包括数据治理组件及数据交互组件)和其他新建应用系统提供足够的物理资源,并且后期平台可进行扩容。基础云平台需具备六大基础功能模块,基础设施即服务(InfrastructureasaService,IaaS)层弹性资源平台、平台即服务(PlatformasaService,PaaS)层技术组件、集成平台/大数据/人工智能、系统可靠性、分层安全框架和统一管理与运维,其架构如图1所示。

(1)IaaS层弹性资源平台

硬件和网络资源集中管理平台通过虚拟化技术、软件定义存储技术和软件定义网络技术将各类资源纳入统一的资源池,可根据需要为应用程序动态增加或缩减所占用的资源,从而实现资源的集约化利用。IaaS层弹性资源包括计算、存储、网络三大资源池。计算资源池中又包含虚拟机、裸金属服务器、GPU、弹性伸缩、容器等计算产品与服务;存储资源池中包含块存储、对象存储及文件存储等存储产品与服务;网络资源池中包含VPC、域名服务、负载均衡等网络产品与服务。

(2)PaaS层技术组件

各类通用技术组件的集成平台,为应用程序技术组件的标准化创造了条件,包括关系型数据库服务(RelationalDatabaseService,RDS)、非关系型数据库(Non-relational Sql,NoSql)、分布式数据库、消息中间件、容器编排、微服务、开发运维(DevelopmentOperations,DevOps)工具链等。其中,DevOps工具链组件为应用程序的开发、测试和运维的敏捷化提供基础性支持,服务监控组件为服务水平管理、服务监控管理等方面的集中化管理提供了依据。

(3)SaaS层应用

新建多套业务管理与辅助系统作为应用系统运行在软件即服务(SoftwareasaService,SaaS)层,并利用云平台计算、存储、网络安全资源,实现新建业务系统软硬件资源的集约化建设与高效运行。

(4)统一管理与运维

云平台提供的资源管理、服务部署、服务水平管理、数据审计服务、管理监控、访问控制等,为云平台的高效运行和运维管理的规范化、集中化、智能化创造了条件。

2.数据平台

建立一个数据平台,实现数据集中接入、存储、计算、分析、共享交互以及数据开发的综合平台功能,同时扩展开发数据治理组件和数据交互组件,实现数据综合治理和交互功能。

(1)数据平台的基础功能

数据平台需具备数据接入、数据存储、数据计算、数据分析与挖掘、数据可视化、数据服务、数据共享和数据开发等功能。①数据接入。多源异构数据源通过作业和调度任务,抽取、汇聚、处理、转换数据后,装载入目标端数据库,支持实时的和批量的数据同步和数据集成。②数据存储。支持结构化数据存储和非结构化数据存储,提供分布式数据库、缓存数据库、文档数据库、全文检索数据库、对象存储等多种数据存储服务。③数据计算。提供批处理、流处理、内存计算和图计算能力。④数据分析与挖掘。支持数据分析、数据挖掘和知识图谱分析等能力。⑤数据可视化。通过视觉组件和简单易操作的配置方式,能让数据分析人员从海量数据中迅速配置可视化报表,支持多种客户端展示。⑥数据服务。将数据表生成数据API,或将已有API快速注册至平台进行统一管理与发布。⑦数据共享。通过目录管理、版本管理、用户权限、安全认证、限流策略等方式,全方位管理数据共享的渠道。⑧数据开发。面向多种计算引擎的统一开发,提供可视化集成开发环境、任务测试与发布、任务编排与调度、以及任务运维与监控能力服务。

(2)数据治理组件功能

数据治理组件的核心功能包括数据资产目录管理、数据模型管理、元数据管理、数据标准管理、数据质量管理、数据安全管理、指标数据管理、主数据管理、数据全生命周期管理和数据治理流程制度管理共10个核心功能模块及24个子模块。

(3)数据交互组件功能

数据交互组件的核心功能系统集成包括数据集成、消息集成、服务集成。系统间的集成需要支持同步或异步的集成方式,兼容不同系统的集成协议,支撑分局的现有系统间数据交互方式,如应用程序接口(ApplicationProgrammingInterface,API)、FTP文件解析、数据库同步、消息队列及串口/并口等,以及未来新建微服系统主要使用的协议。从系统的稳定性和安全性出发,生产类系统间的交互基本保持原状,不使用数据交互组件。管理类系统间的集成以及和外部单位(如机场、航司等)系统间的集成使用交互组件。

3.算力与存储能力

数据云平台建设的主要需求来源,包括现有生产运行、行政管理系统的原始数据引接和数字化转型规划新建信息系统,其算力需求和存储容量是由规划拟新建信息系统及未来的空管应用数据量所决定。考虑到分局业务规模的增长、数据分析的深入,以及数据应用场景的拓展等,预计数据增量每年都会保持一定比例的增幅,且数据云平台根据业务特点需要长期保存历史数据,故而算力和存储容量也相应地进行增长。基础云平台需能够提供可随时自助获取、可弹性伸缩的云服务器,为用户打造高效、安全、可靠、灵活、稳定的应用环境。预计第一年数据存储量35TB,未来五年内数据云平台从外部系统中引接数据的存储需求总容量约为175TB,以此作为硬件选型的基本依据。

4.网络安全设置

云平台硬件的选型将满足云平台本身系统运行及上述应用的算力和存储需求,软件需满足云平台功能需求,防护措施满足《信息安全技术网络安全等级保护安全设计技术要求》(GB/T25070—2019)中对第三级系统的安全保护设计要求和《信息安全技术网络安全等级保护基本要求》(GB/T22239—2019)中第三级云计算安全保护能力要求。结语本文结合空管信息化系统的发展现状,剖析了建设数据云平台的意义,有助于提高运行效率、满足数字化和智慧化的运行要求。并且,结合空管分局(站)的业务规模,探讨了云平台的总体概念,具体介绍了基础云平台、数据平台、数据治理组件及数据交互组件的组成与功能。在保证网络信息安全的前提下,笔者单位将深入地开展空管数据资源的挖掘分析、数据治理和创新应用等,努力促进空管信息化系统建设的技术进步与高质量发展。

【注】本论文是民航浙江空管分局数字化转型项目——数据云平台项目研究成果之一。

作者:段昌淼