内存数据库是什么

小白 QA 2020-04-10 23:48:40 阅读(...)

内存数据库,顾名思义就是将数据放在内存中直接操作的数据库。相对于磁盘,内存的数据读写速度要高出几个数量级,将数据保存在内存中相比从磁盘上访问能够极大地提高应用的性能。

内存数据库,顾名思义就是将数据放在内存中直接操作的数据库。相对于磁盘,内存的数据读写速度要高出几个数量级,将数据保存在内存中相比从磁盘上访问能够极大地提高应用的性能。

内存数据库是什么

数据库简介

内存数据库抛弃了磁盘数据管理的传统方式,基于全部数据都在内存中重新设计了体系结构,并且在数据缓存、快速算法、并行操作方面也进行了相应的改进,所以数据处理速度比传统数据库的数据处理速度要快很多,一般都在 10 倍以上。内存数据库的最大特点是其“主拷贝”或“工作版本”常驻内存,即活动事务只与实时内存数据库的内存拷贝打交道。

定义:设有数据库系统 DBS,DB 为 DBS 中的数据库,DBM(t)为在时刻 t,DB 在内存的数据集,DBM(t)属于 DB。TS 为 DBS 中所有可能的事务构成的集合。AT(t)为在时刻 t 处于活动状态的事务集,AT(t)属于 TS。Dt(T)为事务 T 在时刻 t 所操作的数据集,

Dt(T)属于 DB。若在任意时刻 t,均有:

任意 T 属于 AT(t) Dt(T)属于 DBM(t)

成立,则称 DBS 为一个内存数据库系统,简称为 MMDBS;DB 为一个内存数据库,简称为 MMDB。

常见的例子有 MySQL 的 MEMORY 存储引擎、eXtremeDB、TT、FastDB、SQLite、Microsoft SQL Server Compact 等

关键技术

MMDB 除了具有一般数据库的特征外,又具有自己的特殊性质,其关键技术的实现具有特殊性。

MMDB 关键技术有:⑴数据结构;⑵MMDB 索引技术;⑶查询处理与优化;⑷事务管理;⑸并发控制;⑹数据恢复。

MMDB 不同于 DRDB,DRDB 技术在内存数据库中不再适用,要对这些关键技术进行新的研究。

存储性能要求

在许多的数据库应用系统中,尤其在电话程控交换领域,对数据的访问性能有很高的要求。这类应用一般都有很高的事务量,又要求有很低的事务响应延迟,而且对数据库的可靠性有很高的要求,例如一个电话交换的应用,每秒钟会对数据库有数千个查询或者更新请求,每个请求要求有低于 50 毫秒的响应延迟,并且在一年中数据库只能有数分钟的停机时间。MMDB 系统能够满足这些数据库应用的要求,但是这需要 MMDB 系统的各个部件在实现方式和策略上,为应用做最大的优化。

存储方案

MMDB 中的存储模型比 DRDB 更加灵活。在传统的 MMDB 中,为了考虑对内存空间的利用,在系统中专门开辟一块空间来存放记录中各个属性的值,同时,将记录中属性值用指针来替换,指针实际指向存储在堆中的属性值。这种存储方案,在使用初期确实节省了大量的内存空间。尤其在记录中有大量重复值的情况下。并且由于记录中各个字段只存放 4 个字节长(32 位环境下)的指针,因此记录可以很好的支持变长记录的存储,不需要再像 DRDB 系统中那样,在记录头部存放偏移量来支持变长字段的存储。但是这种存储方案没有很好的考虑到对处理器缓存的利用。通过指针间接访问数据,几乎相当于在内存空间中的随机访问,严重影响了缓存的利用率。尤其在 64 位的计算环境不断普及,内存的容量理论上可以达到无限,同时内存的价格在不断下降,但是内存的访问速度仍然没有达到处理器的速度的情况下。因此。在传统 MMDB 系统中,这种利用指针来节省内存空间,却忽视缓存作用的存储模式,在现在的应用环境下,反而有点得不偿失。

可以说,先进的数据库应用程序越来越注重对内存的访问效率,高性能的数据库系统因而必须最大限度的利用处理器缓存,将可能被用到的数据缓存在多层次的缓存中。数据放置的位置对于缓存的利用优化尤其重要。选择好的数据存放方案,改进数据分布的空间局部性,能够提高对缓存的利用率,提升性能。目前新的数据存储方案的设计思路集中于对记录内部各个属性值的存储布局做调整,能够按照需求访问记录中的部分属性,从而消除不必要的内存访问所带来的内存延迟。因此,在本文中,提出一种在 MMDB 系统中使用的数据存储方法。它仍然在记录中存放实际的值,但是为缓存的利用做了优化。

数据加载

电信的二次批价和实时累账是计费系统中的两个必备功能。所谓二次批价是相对于一次批价来说的。一次批价是按照国家标准资费来进行价格计算,比如: 全球通每分钟本地通话为 0.4 元,在一次批价完成后,会根据这个用户的套餐进行再一次的计算。以北京全球通用户接听 4 分钟的电话为例,一次批价完成后,这条话单的价格是 1.6 元,如果这个用户参加了 10 元包月接听套餐,那么在二次批价后,这次通话的费用就为 0 元。一次批价是用于各大运营商之间结算的,而二次批价是针对用户个人的。

实时累账是将用户从每月 1 号到目前为止的所有费用累加起来,也就是用户目前可以通过 10086 查到截止到前一天的实时话费。累账值可以帮助用户控制高额话费或是供用户即时查询消费信息。

二次批价和实时累账过程涉及用户资料、用户套餐等与用户相关的信息,电信支撑系统在开始批价时必须加载这些数据。稍大一点的省级运营商的这些数据就会超过 1000 万条,计费处理模型也由于套餐的组合、产品的组合以及不同的优惠规则变得相当复杂,加载这部分数据对系统而言是一笔不小的开销,这就使得现在的计费处理速度比较慢,而且很难做到对数据的实时更新。内存数据库的引入在一定程度上解决了这个问题。

在计费二次批价过程中数据量最大的是详单数据,这部分数据不用放在内存数据库中,每处理完一个话单文件或达到设定的提交记录数时直接操作磁盘数据库,不会影响系统性能。最急切的是将用户资料、套餐、营业套餐和计费套餐对应关系数据、计费套餐模型数据及用户累计数据放到内存数据库中,这部分数据查询操作远比数据新增和更新操作要频繁。除了这些数据外,当然还有应用需要的其他数据也都可以加载到内存数据库。

在采用内存数据库后,用户通过营业部或客户查询实时话费的时候完全可以做到实时,比目前只能提供查询到前一天的实时话费在业务上有了质的飞跃。因为系统在处理这部分数据时查询流程和以前的完全一样,但系统省去了以往内存中的数据和磁盘数据库数据同步的环节,所以就能做到了实时查询。对于信控来说也同样,以往系统在累完账后要按照一定周期刷新信控数据,这就存在一个时间差,不能够完全做到实时。

而采用内存数据库后,信控可以直接取得内存数据库中的实时话费累计表中的数据,完全实现实时预警、停机。二次批价和累账中采用内存数据库后,对防欺诈、收入保障系统也有相当大的好处,这样能够充分保证运营商的切身利益。

另外,在采用内存数据库后,整体提高了系统批价、累账的处理速度,大大缓解访问磁盘数据库的压力,提高数据查询、修改、删除的效率,也为后付费和预付费的融合提供了可能。

数据同步

电信营业数据和计费系统中的数据总是在不断的变化中,这就涉及内存数据库中的数据和磁盘数据库数据的同步问题(为了描述清楚,这里的磁盘数据库以 Oracle DB 为例来说明)。数据同步包括两部分: 从内存数据库到 Oracle DB 数据同步和从 Oracle DB 到内存数据库的同步。

Oracle DB 到内存数据库同步

这部分数据同步采用增量表的方式,营业系统或 CRM 新增或更新的数据将生成到 Oracle 的增量表中,计费后台程序先到这些增量表中查询数据。如果能在这些增量表中查到数据就把这些数据更新到内存数据库对应表中,如果查不到,就直接从内存数据库中直接查询,从而保证了数据的完整性和实时性。由于增量表的数据量一般会很小,所以这部分操作不会影响系统的性能。

内存数据库到 Oracle DB 同步

由于 Oracle 的计费后台批价、累账数据几乎都加载到了内存数据库中,所以 Oracle 数据库对应的数据表将主要用于对内存数据库的数据备份。

用户最新的实时话费等信息都保存在内存数据库中,实时话费查询将直接连接到内存数据库中查询,保证用户得到最新的费用信息。信控也直接从内存数据库查询数据,因此对 Oracle 中的这部分数据已经没有实时性的要求。这时内存数据库到 Oracle 的同步可以由应用程序生成文件,定时地往 Oracle 数据库中同步备份,或者采用 Oracle 存储过程在系统相对空闲时间段进行数据导入就可以了。

内存数据库与传统数据库的异同

传统的数据库系统是关系型数据库,开发这种数据库的目的,是处理永久、稳定的数据。关系数据库强调维护数据的完整性、一致性,但很难顾及有关数据及其处理的定时限制,不能满足工业生产管理实时应用的需要,因为实时事务要求系统能较准确地预报事务的运行时间。

对磁盘数据库而言,由于磁盘存取、内外存的数据传递、缓冲区管理、排队等待及锁的延迟等使得事务实际平均执行时间与估算的最坏情况执行时间相差很大,如果将整个数据库或其主要的“工作”部分放入内存,使每个事务在执行过程中没有 I/O,则为系统较准确估算和安排事务的运行时间,使之具有较好的动态可预报性提供了有力的支持,同时也为实现事务的定时限制打下了基础。这就是内存数据库出现的主要原因。

内存数据库所处理的数据通常是“短暂”的,即有一定的有效时间,过时则有新的数据产生,而当前的决策推导变成无效。所以,实际应用中采用内存数据库来处理实时性强的业务逻辑处理数据。而传统数据库旨在处理永久、稳定的数据,其性能目标是高的系统吞吐量和低的代价,处理数据的实时性就要考虑的相对少一些。实际应用中利用传统数据库这一特性存放相对实时性要求不高的数据。

在实际应用中这两种数据库常常结合使用,而不是以内存数据库替代传统数据库。

而内存数据库也分全内存计算和热内存计算。全内存计算,即数据需要全部装载到内存中进行计算,对硬件要求高,譬如 QlikView 等产品。热内存计算,部分数据加载到内存中即可以进行计算,硬盘和内存会有数据交换来计算未加载的数据,譬如 Yonghong Z-Suite。

技术特点

(1)采用复杂的数据模型表示数据结构,数据冗余小,易扩充,实现了数据共享。

(2)具有较高的数据和程序独立性,数据库的独立性有物理独立性和逻辑独立性。

(3)内存数据库为用户提供了方便的用户接口。

(4)内存数据库提供 4 个方面的数据控制功能,分别是并发控制、恢复、完整性和安全性。数据库中各个应用程序所使用的数据由数据库统一规定,按照一定的数据模型组织和建立,由系统统一管理和集中控制。

(5)增加了系统的灵活性。

存储问题

要解决持久性问题,内存数据库也有相应的解决方案。这其中包括在集群里保存额外的数据副本,然后对数据库进行横向扩展,让系统能够在运行中不断将更新数据复制到一个或多个备用系统当中。

一些数据库系统还会定期将数据复制到磁盘系统,就是为了应对上述突然断电或系统宕机的情况。当然这时候就要在额外的负载和数据可恢复性方面做出权衡。

由于内存数据库的风险比传统 OLTP 数据库要大,所以要对它所支撑的应用系统有一个更清楚的认识。目前从整体来看,传统的 OLTP 应用系统往往会避免使用内存数据库技术,它更多地应用在特定的数据类型或者分析应用(包括批处理报表系统)当中,这些系统的数据远没有 OLTP 系统重要。

另一方面也是出于成本预算的考虑,DRAM 相比于传统磁盘甚至闪存来说都是更昂贵的。

收藏 0个人收藏
走进科技生活方式

评论交流

泪雪默认头像 请「登录」后参与评论
  1. 加载中..

相关推荐

  • e5-2620lv3

    e5洋垃圾能用多少年

    洋垃圾可以用特别久,CPU一般不会坏。坏的案例里大部分只是主板坏了。国内支持洋垃圾CPU的主板品牌厂商有:华南金牌。
  • file system 文件系统

    文件系统是什么

    计算机的文件系统是一种存储和组织计算机数据的方法,它使得对其访问和查找变得容易,文件系统使用文件和树形目录的抽象逻辑概念,用户使用文件系统来保存数据不必关心数据实际保存在硬盘的地址为多少的数据块上,只需要记住这个文件的所属目录和文件名。
  • 大型计算机 Rackmount Led Console In Server Room Data Center. Server. Room S

    大型计算机是什么

    大型计算机(mainframe),又称大型机、大型主机、主机等,是从IBM System/360开始的一系列计算机及与其兼容或同等级的计算机,主要用于大量数据和关键项目的计算,例如银行金融交易及数据处理、人口普查、企业资源规划等。
  • PC 个人电脑 Personal Computer

    个人电脑是什么

    个人电脑(PC,普遍称为电脑)是在大小、性能以及价位等多个方面适合于个人使用,并由最终用户直接操控的计算机的统称。它与批处理计算机或分时系统等一般同时由多人操控的大型计算机相对。
  • 数据库 Database

    什么是数据库恢复

    数据库恢复是指通过技术手段,将保存在数据库中丢失的电子数据进行抢救和恢复的技术。数据库恢复是非常尖端的计算机技术,因为各个数据库厂商对自己的数据库产品内部的东西都是属于商业机密,所以没有相关的技术资料,掌握和精通恢复技术的人员极少。
  • 5g industrial gateway 5G 工业网关

    5G工业网关是什么

    5G 工业网关是物联网和工控系统的核心组件起的是承上启下的作用,就是将不同的协议进行转换,然后通过无线网络将下位机采集到的数据进行传输,协议转换这个特点也成为它与工业路由器之间存在的最大的区别。