以内存为中心的计算和内存系统架构
2023-03-16 来源:陕西机械信息网
以内存为中心的计算和内存系统架构
这个分为三部分的常见问题解答系列首先考虑了“ 内存基础-易失性,非易失性和持久性”。第二部分介绍了“ 内存技术和封装选项”。最近开发的持久性内存技术,内存的三维包装,先进的多核处理器,处理越来越大的数据集和数据库的需求以及人工智能正在推动一类新型的数据中心架构的出现,这种架构被称为以内存为中心的计算中国机械网okmao.com。以内存为中心的计算是一个广泛的概念。本常见问题解答考虑了多个由不同供应商开发的以内存为中心的新兴架构的示例。
内存计算
内存计算已在大型数据库应用程序中使用了几年。内存计算的早期形式基于常规的von Neumann计算机体系结构。尽管它们是对早期系统的改进,但它们并未从内存计算中获得最大收益。最近,已经引入了新的“计算计算”体系结构和所谓的“大内存计算”软件。
(左)传统冯·诺依曼计算机体系结构的示意图,其中内存和计算单元在物理上是分开的。为了执行计算操作并将结果存储在相同的存储位置中,数据在存储器和处理单元之间来回穿梭。(右)IBM Research开发了另一种体系结构,其中计算操作在相同的内存位置中执行。图片:库兹韦尔)
IBM Research的研究团队开发了一种计算内存架构(如上图所示),有望将处理速度提高200倍,并具有更高的能源效率。IBM的计算内存体系结构消除了内存和CPU之间的大多数数据传输。它针对人工智能应用,可实现超密集的大规模并行操作。
今年早些时候,MemVerge宣布了其Memory Machine?软件,以支持大内存计算。大内存计算是DRAM,持久性内存和MemVerge的Memory Machine软件技术的结合,其中内存丰富,持久且高度可用。
Memory Machine是在单个服务器或群集中部署的基于Linux的软件订阅。虚拟化DRAM和永久性存储器后,Memory Machine可以将DRAM设置为永久性存储器的“快速”层,并提供企业级数据服务,包括快照,复制,克隆和恢复。
异构内存存储引擎
美光科技公司已经开发出一种开源异构内存存储引擎(HSE),该引擎旨在通过智能,无缝地管理多个存储类别之间的数据来最大化新存储技术的功能。与替代解决方案相比,HSE旨在克服基于HDD的体系结构限制,并将吞吐量提高6倍,将延迟提高11倍,并将SSD耐久性提高7倍。大多数存储引擎以及大多数存储应用程序都是针对硬盘驱动器编写的,从未针对SSD,基于闪存的技术或存储类内存进行过优化。HSE提供了一种最大化这些旧应用程序性能的方法。
HSE在设计时就考虑到了大规模数据库,例如数十亿的键计数,数TB的数据和数千个并发操作。HSE透明地利用了多种类型的媒体-从NAND闪存到Micron的3D XPoint持久存储技术。
内存数据库
内存数据库(IMDB)是一种计算机系统,用于存储和检索驻留在计算机主内存(例如随机存取内存(RAM))中的数据记录。借助RAM中的数据,IMDB相对于传统的基于磁盘的数据库具有速度上的优势,传统的基于磁盘的数据库会导致访问延迟,因为诸如硬盘驱动器和固态驱动器(SSD)之类的存储介质的访问时间比RAM慢得多。这意味着IMDB对于快速读写数据至关重要的情况非常有用。
IMDB术语也被宽松地用来指代任何将数据存储在内存中的通用技术。例如,内存数据网格是一种分布式系统,可以在内存中存储和处理数据以构建高速应用程序,它具有IMDB功能。
内存中缓存系统用于加快对慢速数据库(尤其是基于磁盘的数据库)的访问,这是IMDB的另一个示例,它实质上是在模仿IMDB的性能。尽管这些高速缓存不是真正的IMDB,因为它们不能长期存储数据,但它们与基于磁盘的数据库结合使用(在功能上与IMDB等效)。IMDB临时存储位于基础数据库中的经常访问的数据,以将数据更快地传递给应用程序。
近内存计算
在内存附近,计算是旨在减少延迟和提高计算系统吞吐量的最早架构之一。今天它仍然被广泛使用。在内存接近的情况下,计算基于异构系统级封装(SiP)产品,这些产品是高度集成的半导体,将FPGA或处理器与各种高级组件结合在一起,全部封装在一个封装中。基于FPGA的SiP产品可满足下一代平台的需求,这些平台越来越需要更高的带宽,更大的灵活性和更多的功能,同时还要降低功耗曲线和占用空间。
与传统的集成方案相比,基于FPGA的SiP方法具有许多系统级的优势。英特尔SiP产品的核心是单片FPGA,它使用户能够自定义和区分最终系统以满足他们的系统要求。系统级的其他好处包括:
更高的带宽:采用EMIB的SiP集成可实现FPGA与配套芯片之间的最高互连密度。这种安排导致SiP组件之间的高带宽连接。
较低功耗:配套芯片(例如存储器)放置在尽可能靠近FPGA的位置。因此,FPGA和配套芯片之间的互连走线非常短,不需要太多的功率来驱动它们,从而降低了总功耗,并获得了最佳性能/瓦特。
占用空间更小:将组件异构集成到单个封装中的能力导致更小的外形尺寸和更少的电路板层数。
功能增强:SiP有助于降低PCB级别的布线复杂性,因为组件已经集成在封装内。
混合工艺节点:SiP增强了整合不同芯片几何和硅技术的能力。
更快的上市时间:SiP通过集成业已证明的技术并在各种产品变型中复用通用设备或磁贴来缩短上市时间。
总结了有关内存技术和应用程序的这个分为三部分的FAQ系列。您可能还喜欢阅读第一部分“ 内存基础-易失性,非易失性和持久性 ”和第二部分“ 内存技术和封装选项”。