欢迎来到潇湘科技要素大市场怀化分市场
 您当前位置:技术交易 > 

海量高频实时数据流存储管理技术


行业类别:计算机及网络产品
所处阶段:研究阶段
持有单位:华北计算技术研究所
转让方式:
转让价格:面议

成果信息

由此提出海量高频数据存储管理技术,采用了多并发、多缓冲的数据入库机制和大数据集分区的数据查询手段,设计了体系化的数据存储管理方案,突破了传统数据存储管理系统的技术瓶颈,完成了主控站管控系统数据存储软件的实现,解决了上述难题,取得了良好的应用效果。由于结构化数据类型非常多(500~1000类),数据字段更多,考虑到数据包结构异常复杂,嵌套层级较多,设计了数据实体的冗余结构,在保证存储效率同时兼顾使用效率。针对各类数据应用服务需求,提供了快速访问能力和多种访问手段,包括服务、API(C++、Java)、Web Service、Web查询界面、数据提取界面,为满足各种需求提供最大的灵活度。)

背景介绍

与一般海量数据管理系统不同的是,大多数海量数据都是非结构化的文件类数据,如测绘图像、视频资料、文档资料等,而对本系统,所有的数据均为结构化数据,并且所有数据均为二进制编码打包,经由UDP协议传输到主控站存储软件形成高频海量数据流,除了要实时收取这些高频数据流,还需及时对他们进行解码处理,形成结构化数据进行入库保存,并提供快速检索、全文检索、数据服务、数据转储、数据输出、长期归档备份等能力。)

应用前景

待添加)