来源:中国数据分析行业网 | 时间:2017-09-06 | 作者:数据委
气象大数据蕴含丰富的应用和研究价值,可以提供各类气象服务,包括气象部门内部业务服务、科研服务和公众服务等。气象部门内部业务服务主要指针对气象部门工作人员提供的各种服务,如气象数据查询、预报产品制作、气象数据入库等功能;而气象科研服务主要指利用气象大数据进行数值分析、气象灾害风险评估等升值服务功能;公共气象服务主要指对气象观测大数据进行处理和分析,进而惠及人们日常生产、生活以及其他行业,包括海洋、农业、交通等。目前对大数据管理、高可靠存储、分析、处理以及检索等面临着着巨大的技术挑战。
如何看待大数据
2015年9月5日,《国务院关于印发促进大数据发展行动纲要的通知》正式发布,在全社会引起广泛影响。在此前后,社会上的大数据浪潮汹涌澎湃,推动和裹挟着每一个行业、部门和企业。一些单位和部门急于“抢占大数据制高点”,纷纷出台了一系列政策、措施、机构和项目;气象部门也未能例外,以气象大数据为名上项目、搞工程的苗头已经出现。如何认识大数据,大数据是否适用于气象部门,以及适用于哪些领域,是气象部门决策机构需要思考、分析和综合归纳的问题,因为这些问题的厘清有助于尽可能避免工作中的盲目性并减少失误。
气象大数据服务框架
(1)基础设施层。基础设施层主要用于存放和处理气象大数据的物理设施,包括主机、存储、网络设备、照明系统、制冷系统以及数据中心场地等。在云计算环境下,需要对原有的基础设施层硬件进行云化处理,形成基础设施资源池,并且基础设施池的计算资源和存储资源可以动态伸缩地提供给气象内部业务人员和科研人员使用,以实现资源的整合,大大提高资源利用率。
(2)平台层。平台层主要是利用云计算中的主要技术在基础设施层的基础上实现平台的搭建。可以使用hadoop分布式文件系统实现分布式文件冗余存储;使用分布式数据库HBase实现动态气象大数据分布式数据索引;使用分布式计算模型MapReduce实现数据并行计算;使用数据仓库Hive实现静态气象数据的存储与便捷索引。平台层搭建完成后,能够为应用层提供技术支撑。
(3)应用层。应用层主要利用平台层提供的软件工具进行应用的开发(存储与数据处理相关),主要包括站点监控等功能、云平台监控与管理、气象服务。
站点监控主要是对气象监测点以及监测设备进行管理和监控,包括站点信息管理、设备信息管理、数据源状态监控等;云平台监控与管理主要对区域气象数据中心的服务器节点进行动态监控与管理,包括节点管理、能耗监控、节点信息管理等;按照不同的应用需求提供气象服务,包括部门业务功能(数据查询、数据审核、数据入库等)、预报产品制作、公共气象服务(产品发布、灾害预警等)、科研服务(数值预报等)。
(4)大数据服务层。大数据服务层主要根据应用层开发的不同种类应用提供气象大数据服务。如站点监控与云平台监控这2个功能,主要利用基于HBase的实时数据检索为气象部门提供气象业务服务;而数值预报与预报产品的制作可以利用分布式数据处理模型MapReduce进行气象数据分布式处理,进而提供气象科研服务以及公共气象服务等。
(5)用户层。气象大数据服务的用户主要包括气象行业内部人员(业务部门)、气象科研人员(科研部门)、相关行业人员(其他行业)。气象行业内部人员可以通过气象行业内部网络访问气象大数据服务;气象科研人员通过互联网获取部分权限数据;而相关行业人员可以通过互联网获取相关预报产品。
计算剖析是气候部门常用的方法
探求科学机理是非常艰难的。在没有把握科学机理的情况下,计算剖析是常用的预告方法,如气候范畴里的气候计算猜测。这种经过对长期序列气候观测材料进行计算剖析,以历史上类似气候现象所发作的气候(或气候)改变的概率为根据,进行气候猜测的方法,自气候学科发端之日起,便一直在选用,已达数十年之久。因而“大数据”所推崇的计算剖析方法,气候部门早在数十年前便已全部运用,并不生疏。
但这并不意味着气候部门在该范畴的科学研究停步于此。事实上,现在根据动力框架的气候数值预告形式(尤其是调集预告形式等)等方法一直在积极地实验和测验运用当中,意图就在于探究可以有用发现气候改变规则(即所谓因果关系)的路径和方法——虽然气候计算猜测方法仍在运用当中。现在数值气候预告和数值气候猜测中所很多选用的调集预告方法,即是“因果”与“有关”、机理与计算之间有机联系的一种测验。
建议
所有的工作,都是以人的思维成果而指导的。大数据技术只是众多工具中的一类,工具没有自行主动解决问题的能力,工具不可能解决连人都没有想清楚的问题,解决问题的办法必须靠人的思维,人想清楚了,则相应的处理流程可由信息系统重复运作,以提高工作效率。如果一项工作,连人自己都还没有想清楚,则此时的大数据非但不能帮忙,反而可能会把事情搞得一团糟。因此,气象大数据应用的开展,人才条件是决定其成败的要素之一。
具体地说,实施气象大数据应用,除上述几项基础工作外,在人才队伍方面还需具备以下2个基础条件:
(1)建立起对应于大数据管理运营的数据管理中心的组织架构。没有一个相对完整和专业的数据管理团队,是难以发挥出大数据分析的功效的。
(2)建立起一支精干的数据分析团队,并拥有一个灵活适用的数据分析技术平台。
气象大数据服务为气象行业工作者提供了气象服务的方向和目标,也是国家信息化进程中的一个重要分支。利用气象大数据制作气象服务产品可以惠及人们日常生活的方方面面。MapReduce分布式处理技术可以有效地适用于气象大数据的处理与分析。该研究设计的云环境下的气象大数据服务框架为气象行业大数据服务奠定了基础。云环境下气象大数据的服务与应用可以加速气象行业信息化进程,加速气象部门信息共享,提高气象部门气象服务能力,有效提升公众对于气象服务的满意度,因此应是今后气象服务的重中之重。
来源:中国大数据