CIMISS支撑气象核心业务系统的数据生态
CIMISS支撑气象核心业务系统的数据生态
编者按:2016年12月20日,由国家气象信息中心牵头建设的全国综合气象信息共享平台(上海一个月天气预报)正式业务化运行,标志着以CIMISS为核心的国省统一数据环境正式建立,标准、统一支撑气象核心业务系统的数据生态已初步形成。本版推出特别策划,为广大读者介绍CIMISS这个“新朋友”。
【CIMISS:支撑气象核心业务系统的数据生态】CIMISS暨“全国综合气象信息共享平台”China Integrated Meteorological Information Service System,是依托国家发改委批复的“新一代天气雷达信息共享平台”项目,在、个省中心建成的,集数据收集与分发、质量控制与产品生成、存储管理、共享服务、业务监控于一体的气象信息共享业务系统。本着“统一数据来源、统一数据标准、统一数据高青县天气、统一数据服务”的原则,从气象数据全业务流程角度,CIMISS初步建立了气象数据标准化框架,规范了各类数据命名、格式和算法,定义了国、省一致的气象数据存储CIMISS:支撑气象核心业务系统的数据生态和数据服务接口,实现了国省数据同步和实时历史数据一体化管理。
【结构】CIMISS由数据收集与分发、数据加工处理、数据存储管理、数据共享服务、业务监控共5个业务应用系统及计算宁波市天气络与安全等基础设施平台组成。CIMISS实现约2种基础数据资源、CIPAS数据资源、灾害数据等管理,形成国省一致的实时、历史长序列数据在线服务能力。CIMISS通过标准统一、功能丰富、调用的气象数据统一服务接口平舆天气:Meteorological Unified Service Interface Community,及信息丰富、技术支持便捷的CIMISS:支撑气象核心业务系统的数据生态站为各级业务应用系统提供数据服务。
【中央天气】CIMISS由1个国家中心和个镇雄县天气中心组成,所有中心通过全国CIMISS:支撑气象核心业务系统的数据生态联结成一个物理分布、逻辑统一的信息共享平台。CIMISS实现了气象数据的国省两级大集中,初步形成两级布局、四级应用数据业务技术体制,省级CIMISS直接支撑省、市、县三级的业务应用。
【流程】CIMISS对国内外及行业交换气象观测数据和业务产品进行收集并按需分发,对气象数据进行解码、质量控制和产品加工处理,随后使用数据库技术对实时和历史数据进行一体化入库管理,并通过数据统一服务接口为个人用户和业务系统用户提供数据调取服务。业务应用、气象数据及系统资源的监控信息统一发送至业务监控系统进行实时监控。
【沧州南皮天气】在气象信息化进程中,CIMISS建立了国省统一数据环境,是气象业务、服务、管理的核心基础数据支撑平台,是气象信息化数据统一标准的基础,直接支撑天气、气候、公共服务和综合观测业务应用。气象信息化行动方案(天气会变)提出的数据资源整合集约、业务体系扁平化目标将以CIMISS为核心实现,气象应用生态将以CIMISS作为统一信息源。同时,CIMISS为实现气象大数据在国省、省际流动并创造价值奠定基础。
自2014年8月以来,国家气象中心和国家气象信息中心成立联合工作组开展MICAPS4与CIMISS的应用对接。建立了基于分布式数据存储技术的CIMISS-MICAPS4数据环境,解决了数据读取效率和资料服务时效等关键技术问题,为MICAPS4客户端提供毫秒级的数据访问。实现了核心资料的接入,包括地面、高空、闪电、雷达基数据、雷达PUP产品、FY2E/2G卫星数据、以及EC、日本、NCEP、T6、GRAPES、德国等模式数据。并且,整个数据环境已纳入CIMISS的统一监控和运维。
对接后的MICAPS4,在已业务化运行。此外,在湖北、湖南、安徽、云南等地进行了推广部署和运行,实现了数据环境省级部署,支撑MICAPS4在省市县三级应用,数据访问达秒级。
2016年6月,CIMISS实现对精细化气象格点预报产品的存储,采用分布式存储技术,构建了统一的精细化气象格点预报数据环境,为国省两级气象格点预报业务提供数据支撑,实现气象格点预报产品的存储、管理与共享。CIMISS对格点产品进行规范管理,实现了定时拼接、滚动更新数据上云同步流程,提供云上共享服务;遵循MUSIC接口标准规范,开发了数据服务接口提CIMISS:支撑气象核心业务系统的数据生态等应用访问;实现了业务流程的集中监控和服务情况的实时展示。
自2015年2月以来,国家气候中心和国家气象信息中心成立联合工作组开展CIPAS2与CIMISS的应用对接:在CIMISS中建立NetCDF气候数据资源文件库,通过梳理与加工,补充和丰富了大量的国内外站点、再分析、模式和气候产品数据,为CIPAS2提供直接的数据支撑。补充了NCEP再分析数据、NOAA卫星的OLR/海温/降水/海冰数据、风云3B的OLR数据、130项环流指数、BCC-k23C、DERF2.0、NCEP GFS、气候预测检验产品、塔希提和达尔文站海平面气压SLP、中国气溶胶质量浓度日值等1类数据。此外,根据CIPAS2的应用需求,补充开发了地面、高空、大气环境、辐射和土壤湿度等数据的日、候、月、季、年等不同尺度的统计流程,并整理补充历史序列数据,支撑了CIPAS2业务验证版的内部发布运行。
对于扩建的数据加工流程和数据环境,基于CIMISS的MCP研发了监控系统,已纳入CIMISS的统一监控和运维。并根据MUSIC接口规范,开发了服务接口,提供其他业务系统访问。
按照气象信息化行动方案(2015-2016年)的工作要求,对内建立统一的国家气留坝天气预报,构建气象部门内部业务产品服务和业务管理的统一门户,基于CIMISS汇聚包括探测业务、气候业务、天气业务等各类产品,种类超过2300种,专栏超过1个,累计在线%,访问量0万次,比前年增长0%,数据服务量TB,有效提升了业务应用效果和支撑质量。对外,以建立面向民生的统一公共气象数据服务平台为目标,加快推进中国CIMISS:支撑气象核心业务系统的数据生态建设。2015年,中国气象局令(重庆南川天气)公布《南和县天气》,发布《CIMISS:支撑气象核心业务系统的数据生态》,基于中国玉龙雪山的天气向全社会提供5大类17小类1100种气象数据产品服务,上线一年以来,累计注册用户数超过16万,新增注册用户数近5万,同比增长1%。据对用户的反馈回访,上线个主要江阴天气预报节省开支近百万元,产生经济效益超过1亿元,占全部新增效益17%。中国CIMISS:支撑气象核心业务系统的数据生态建设成果入选“十二五”全国科技创新成果展,有效促进各行业共同挖掘气象数据的应用价值。
CIMISS数据环境已实现与省约114个主要业务应用系统直接对接支撑。县级综合观测业务集成平台(榆树天气)所需地面、高空、辐射、大气成分等气象数据通过MUSIC从CIMISS中获取,并基于CIMISS统一数据环境和访问接口在全国进行无障碍推广应用。在G20峰会保障中,人工影响天气指挥系统数小时内实现和浙江CIMISS应用对接,发挥重要支撑作用。湖北省长江流域气象服务综合业务平台实现与CIMISS对接,获取长江流域国家站、区域站地面观测数据及长江流域雷卢沽天气产品及卫星数据。重庆气象信息共享平台通过改版,从CIMISS获取观测资料、统计数据和气象产品,实现在共享平台的检索、展示、统计和产品浏览、动画,在重庆市局和个区县得到了应用。贵州、广西依照CIMISS统一数据标准,实现山洪地质灾害风险预警产品、三维闪电定位产品等本地特色自有数据实时写入CIMISS,并开发相应接口基于MUSIC提供服务。此外,陕西省决策支撑系统、内蒙古气象旗县级综合业务平台、湖南县级综合气象业务平台等多个省级核心业务应用实现和CIMISS对接。
CIMISS实现了省际共享、异地应急备份功能。CIMISS数据环境在管理数据的全集,每个省级中心存储本省及周边的数据,在基础观测资料种类上基本相同。当一个省级中心的CIMISS出现故障时,可通过在MUSIC上配置策略,将本地数据请求切换到备份的省份或进行数据应急服务。应急备份根据故障范围,提供整体切换和按资料精细化切换两种方式。
首次统一国省数据环境,数据整合集约。CIMISS实现了气象数据的整合集约,国省首次建立了统一的数据环境,从根本上解决了困扰业务系统多年的数据支撑环境分散建设、数据重复存储、国省及业务系统间数据不一致、数据权威性无法保证的问题。
初步形成两级布局、四级应用数据业务技术体制。CIMISS实现了气象数据的国省两级大集中,省级CIMISS平台具备支撑市、县级业务系统的能力,同时可实现数据的单点(省级)更新,全省受益,实现台站业务系统“零”维护,促进业务系统扁平化、业务数据流程简约化。
实现数据资源标准的统一,确保数据权威一致。CIMISS研制了6大类项标准规范,其中11项是气象数据资源标准,统一了基础数据标准、数据加工处理算法和数据服务接口标准,解决现有业务系统中因数据标准自成体系、不兼容导致的业务应用推广困难等问题。实现了实时资料与历史资料的统一标准、管理和服务,解决了以往实时、历史资料业务流程分离,数据标准不一致问题。
建立数据统一服务接口,实现数据系统与业务应用松耦合。CIMISS建立了标准稳定的数据服务接口MUSIC,通过接口屏蔽数据系统,实现应用与数据系统松耦合,未来技术系统升级、数据格式变化等对业务应用系统“零”影响,大大提高天气、气候、科研等业务系统的稳定性和可持续性。
CIMISS业务化标志着支撑气象核心业务系统的数据生态初步形成。以此为基础,应用云计算、大数CIMISS:支撑气象核心业务系统的数据生态、移动互联等技术,依托“专有+公共”的混合云架构实施技术升级,构建具备数据融合汇集、一体化加工处理、分布式存储管理、标准化接口服务和统一运维监控能力的开放互联的气象大数据平台,为观测智能、预报精准、服务开放、管理科学的智慧气象发展提供有力支撑,是CIMISS下一步发展的方向和目标。
数据融合汇集。湘阴天气技术和标准CIMISS:支撑气象核心业务系统的数据生态和公共云安全通道相结合的方式,改造气象通信系统和信息流程,构建敏捷响应气象数据、社会数据、行业数据汇集和共享需求,支撑业务系统协同及“云上部署、终端应用”的气重庆南川天气络”。
一体化加工处理。采用分布式计算架构和开放式插件化设计,升级CIMISS数据处理系统,建立数据处理、质控、评估和融合分析算法库,建立一体化数据产品加工流水线,提供统一的数据供给、模块调度及流程装配和控制服务,逐渐将观测数据处理、业务应用系统数据加工、气象产品生成以及数据分析挖掘等业务融入统一流程。
分布式存储管理。完善气象数据存储结构标准,综合应用分布式关系型数据库、分布式表格系统、分布式对象存储和分布式文件系统等存储技术,升级CIMISS数据管理系统,针对应用按需设计多副本存储,建立混合云的数据同步机制,构建多级存储、在线备份和离线归档的自动化流程,实现交互应用的毫秒级访问和数据服务的秒级响应。
标准化接口服务。优化CIMISS服务接口(MUSIC)框架,实现对分布式数据存储技术的兼容,智能化调配计算资源响应接口访问的峰值。完善和发展气象数据服务接口标准,建设MUSIC开放平台,支撑服务接口众创发展,实现对数据访问服务、计算分析服务、可视化服务、GIS服务、监控信息服务、消息服务等微服务的汇聚和统一发布,支撑气象应用的按需访问。
统一运维监控。构建全流程、一体化、可视化的综合业务监控平台,支持气象业务系统监视指标接入,实现国省基础设施资源池、数据支撑、核心业务系统集中监视,实现故障及时发现、定位、解决,提高业务运行质量与效率。发展运营管理门户,支撑统一运维逐步转型为运营服务。