大数据环境下卫星对地观测数据集成系统的关键技术(2)
2. 2 基于大数据技术的系统总体技术框架
数据集成系统总体技术框架。卫星观测数据集成系统包括标准化卫星数据集成元数据管理、几何精度纠正和卫星数据质量评价、海量卫星遥感图像数据分析与知识发现、分布式高性能卫星图像数据管理与归档云平台这些基本功能。在系统建立过程中贯穿运用大数据技术体系( 包括大数据存储与管理、大数据计算模式、大数据分析与挖掘) ,其中关键实现技术包括大容量异构对地观测数据集成的语义技术、基于网格的遥感图像快速处理技术、卫星遥感大数据深度分析与地学知识发现技术、基于共享知识库的多数据中心协同处理及云平台技术。充分利用国际标准组织ISO/TC211,OGC 等一系列卫星数据国际标准计划以及国内标准,对它们进行扩展与集成,使得通过建立共同的标准和协议联接全球分布式网络化卫星遥感数据库,确保卫星数据与服务的兼容性和互用性,使所有的卫星遥感数据都可以通过网络实现规范化共享与应用。
3 大容量异构对地观测数据集成的语义技术
对卫星图像、地面观测数据、模型模拟结果等异构数据源数据以及不同数据归档系统之间数据进行有效集成,可建立如图2所示的标准化卫星数据集图1 卫星观测数据集成系统及其大数据技术应用的总体技术框架Fig. 1 Overall technical framework of satellite data integration system based on big data technologies第8 期谢榕等: 大数据环境下卫星对地观测数据集成系统的关键技术857图2 基于语义技术的大容量异构对地观测数据集成Fig. 2 Massive heterogeneous Earth observation data integration based on semantic technologies成元数据模型。基于时空间信息认知模式,通过语义技术,将卫星数据、地面观测数据及仿真模型相集成的通用元数据模型与图像元数据模型进行语义集成,实现对卫星元数据的高效管理。
3. 1 时空间信息认知模式
从时空间信息的认知机理出发,建立一种形式化数据结构方式来表达概念的内涵和外延以及概念与概念之间的不同层次的抽象关系,同时描述时空数据时间、空间概念的形成、时空概念的结构关系。
利用形式化的理论和方法,表达与描述卫星遥感时空数据分析过程中时间、空间概念的形成、时空概念的结构关系,反映遥感数据的时空特点,形成统一框架下“概念—关系”为中心[25] 的认知模式与语义模型。
3. 2 卫星遥感语义模型
地理定位信息是定义图像数据地理定位的重要信息,但这些信息在ISO 19115, 19115-2 中没有得到定义,而ISO 19130 仅支持地理定位和传感器特性。
因此,为了把图像数据运用于地理信息,并能有效地描述图像元数据,需要对ISO 元数据标准( ISO19115,19115-2 ) 进行扩展,并结合ISO 图像标准( ISO 19130) 中的地理定位信息和传感器特性。在ISO 19115, 19115-2 和19130 的基础上,开发卫星数据集成通用元数据模型以及图像元数据模型。通过定义元数据元素公共集、元数据的定义和内在的关联以及元数据的扩展,运用Protégé 工具对卫星数据的抽象结构和内容进行描述,并将不同来源的异构数据映射成一种规范化形式的本体数据类型,构建卫星遥感语义模型。
3. 3 高效卫星元数据管理
大容量异构卫星数据的集成,需要解决卫星数据目录功能复杂性问题,因此建立标准化卫星数据集成元数据模型,对卫星遥感、地面观测、仿真模型等异构数据源以及不同数据归档系统之间数据进行有效集成。一个完整的元数据模型可包含多个元数据包[26],包括主类定义、支撑类定义和描述图像的扩展类定义和特殊类定义。每个元数据包包含一个或多个元数据实体。元数据实体由一系列元数据元素组成。元数据元素可包括3 类成分,即核心元素、特殊类元素和扩展类元素。其中,核心元素定义每个数据集应该包含的元数据最小集; 扩展类元素则定义描述图像的扩展元数据; 特殊类元素包括专业元素和组织机构专用元素。图像元数据类包括元数据集信息、识别信息、数据质量信息、空间信息表示、参考系统信息、内容信息。
在此基础上,采用分布式数据管理架构[27],将元数据分散在多个节点上,以目录为粒度对元数据进行划分,并根据集群负载状况建立目录子树,实现元数据在集群中的合理分布与存储,解决元数据服务器性能瓶颈问题,提高可扩展性。
4 基于网格的遥感图像快速处理技术
快速生产标准遥感产品需要开发系统具有大吞吐量的、高精度的以及自动化的数据处理能力。海量遥感数据的高效处理及其标准产品的快速生成属于数据密集型的计算工作,而传统计算模式无法满858 地球科学进展无法满足这种遥感图像实时快速处理的应用需求,因此,需要充分利用庞大的网络计算资源,通过集群计算、分布式处理等技术来实现网络化大容量数据处理及多机分布式并行处理。基于网格计算模式,开发基于网格计算的图像处理中间件,以及影像处理算法和数据质量评价,可集中实现对海量遥感图像的快速处理及应用。
4. 1 网格计算模式
利用网格技术[28]可以把分散于不同地理位置的计算机集中起来组织成一个虚拟超级计算机,为完成数据密集型的计算任务提供高吞吐量、高性能的计算环境; 同时充分利用网络上一些闲置资源设备及其处理能力,完成传统计算模式下难以完成的各种大数据量的计算任务,保证卫星数据快速处理以及标准产品生成。
4. 2 图像处理中间件
根据用户具体任务以及网格计算资源实际情况,对图像处理任务进行分割管理[29],并将分割任务及其执行任务所需程序和参数提交给中央管理服务器,通过中央管理器分发给网格计算资源中各个节点。完成图像处理后,再将各个计算节点上作业的计算执行结果返回到中央管理节点服务器进行数据合成。在处理过程中,还需要监控网格平台中计算资源的状况,包括工作状态、闲置状态以及各节点上作业执行情况等。
期刊库(http://www.zgqkk.com),是一个专门从事期刊推广、投稿辅导的网站。
本站提供如何投稿辅导,寻求投稿辅导合作,快速投稿辅导,投稿辅导格式指导等解决方案:省级投稿辅导/国家级投稿辅导/核心期刊投稿辅导//职称投稿辅导。
【免责声明】本文仅代表作者本人观点,与投稿辅导_期刊发表_中国期刊库专业期刊网站无关。投稿辅导_期刊发表_中国期刊库专业期刊网站站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。
投稿辅导服务咨询与期刊合作加盟
陆老师联系QQ:
蒋老师联系QQ:
刘老师联系QQ:
联系电话:18015016272
17327192284
投稿辅导投稿邮箱:zgqkk365@126.com
期刊推荐
- 《校园英语》旬刊 省级 教育类学术期刊
- 《吉林教育》旬刊 省级 教育类学术期刊
- 《文教资料》 旬刊 省级
- 《科技风》半月刊 省级 科技类优秀期刊
- 《价值工程》旬刊 国家级 科技统计源期刊
- 《中国实验方剂学杂志》 半月刊 北大核心
- 《电影评介》半月刊 14版北大核心
- 《社科纵横》季刊 社科类优秀期刊
- 《求索》月刊 14版北大核心期刊
- 《中华建设》月刊 国家级 建设类优秀期刊
- 《继续教育研究》月刊 北大核心期刊
- 《网络空间安全》(信息安全与技术)月刊 国
- 《新闻传播》月刊 省级 新闻类优秀期刊
- 《财会月刊》旬刊 14版北大核心
- 《体育文化导刊》月刊 体育类双核心期刊
- 《机械研究与应用》双月刊 省级 机械应用类
- 《公路交通科技》 月刊 北大核心
- 《教学与管理》旬刊 北大核心
- 《新课程研究》旬刊 省级 教育类优秀学术期
- 《中国医药指南》 旬刊 国家级
- 《高教论坛》 月刊 省级
- 《课程教育研究》 旬刊 国家级
- 《语文建设》 旬刊 14版北大核心
- 《教育发展研究》 半月刊 双核心
- 《学术界》 月刊 双核心


