SK海力士、三星争相研发应用,PIM具体是什么?它如何工作?

2022-03-21
阅读量 5452

不久前,存储大厂SK海力士宣布,已开发具备计算功能的下一代内存半导体技术「PIM(Processing-In-Memory内存中处理)」,并计划在2022年ISSCC大会上发布PIM芯片技术的开发成果。

虽然PIM并不算是一个很新潮的技术,但对于不少人来说,仍不清楚PIM到底是什么,又是如何工作的。所以这期科普,我们就来讲讲它。

PIM是什么

PIM(内存中处理)是指将处理器与随机存储器(RAM)集成在单个芯片上,被称作PIM芯片。

图片

PIM允许在计算机、服务器或类似设备的内存中执行计算和处理,该架构通过在内存模块内执行任务来加速任务的整体处理。

PIM是如何工作的

标准计算机体系结构存在延迟问题,这种延迟也称为冯诺依曼瓶颈,是所有处理都由处理器单独完成的结果。计算机的内存不参与处理,因为它仅用于存储程序和数据。PIM则是克服这种固有延迟问题的一种方法。

图片

在计算系统或应用程序中,当数据量很大时,在内存和处理器之间移动数据会减慢处理速度。将处理直接添加到内存中可以帮助缓解这个问题,PIM可以完全在计算机内存中操作数据,在一台或多台计算机上运行应用软件管理内存中的处理和数据。

如果涉及多台计算机,软件会将处理划分为更小的任务,然后将这些任务分配给每台计算机并并行运行,以减少延迟并加快处理速度。

PIM与数据库处理的区别

数据库处理是指关系数据库管理系统(RDBMS),其结构允许使用SQL等查询语言。使用RDBMS处理,首先从磁盘加载数据,以便对其进行处理。

图片

如果数据量很大,则处理速度可能会减慢,因为必须将数据换入和换出内存,这也可能会影响整体计算性能。通过将数据直接加载到同样具有计算能力的RAM或闪存中,内存中处理可以提高RDBMS的处理速度。

这两种方案的另一个区别在于数据库的使用。数据库处理针对基于行的数据库进行了优化,而PIM依赖于以列为中心的数据库。基于行的存储适用于事务处理,但不适用于商业智能(BI)等应用程序,在这些应用程序中,基于列的数据库更适合。这就是PIM对此类应用程序如此有用的原因。

PIM优点

内存中处理的一些最重要的优点包括:

  • 更快的数据处理。与标准的基于驱动器的处理相比,处理直接存储在RAM或闪存中的数据可以消除瓶颈并提高整体处理速度。它还提高了PIM芯片和存储之间的数据传输速度。
  • PIM应用程序。由于提供高速处理,因此PIM通常被描述为实时,这使得它对实时或接近实时的应用程序和用例特别有益,例如:计算机视觉、流媒体视频、人工智能以及机器学习和深度学习。
  • 其他需要高速处理的应用也是PIM的合适候选者,例如:预测性维护、交付过程、欺诈识别、算法交易。

内存中实现高速处理的挑战

尽管有其优点,但PIM也存在一些缺点,尤其是与设计和制造相关的缺点。

  • 设计挑战。PIM需要采用新的芯片方法,也需要复杂的并行设计以适应近内存队列,以及更深入地了解如何使用各种类型的内存来设计PIM系统。
  • 制造挑战。从制造的角度来看,减少信号必须在存储器和逻辑之间传播的物理距离至关重要,这可能会增加成本或产生热问题。
  • 依赖存储。另一个缺点与PIM的特性有关,它对内存的依赖。如果计算系统,特别是其RAM或闪存损坏,可能会导致数据泄露。
  • 成本。基于内存的系统比传统的计算架构更昂贵,对于小公司和意义不大的应用程序来说,成本可能令人望而却步,但对于拥有大量数据仓库或大量应用程序预算的大型组织来说,这应该不是问题。

PIM技术在存储产品的应用

SK海力士不仅宣布已开发出PIM技术,还开发出了基于PIM技术的产品——GDDR6-AiM(Accelerator-in-Memory内存加速器3)的样本。GDDR6-AiM是将计算功能添加到数据传输速度为16Gbps的GDDR6内存的产品。
图片
与传统DRAM相比,将GDDR5-AiM与CPU、GPU相结合的系统可在特定计算环境中将演算速度提高至最高16倍。
此外,GDDR6-AiM的工作电压为1.25V,低于GDDR6内存的标准工作电压(1.35V)。不仅如此,PIM的应用还减少了与CPU、GPU的数据传输往来,从而降低了CPU及GPU的能源消耗,借此GDDR6-AiM成功使功耗降低80%。GDDR6-AiM有望在机器学习、高性能计算、大数据计算和存储等领域有广泛应用。
图片
而SK海力士还不是最早将PIM技术应用在产品中的,早在去年2月份,三星推出了业界首款HBM-PIM,将AI处理效能注入三星HBM2 Aquabolt,以强化超级电脑与AI应用的高速数据处理。经过测试,HBM-PIM可推升2.5倍系统效能,且降低逾60%的能耗。
三星表示,HBM-PIM测试结果展现庞大的商业潜力,随着技术发展标准化,技术应用将进一步扩大范围,并延伸至新世代电脑,AI应用HBM3、智能终端移动存储及数据中心存储模组。
存算一体仍旧是解决存储墙和功耗墙问题的重要技术,一些处于行业领先地位的半导体公司正在积极进行自研。除了三星、SK海力士,IBM在2016年就透露了其关于存内计算的研发计划,阿里达摩院在2021年12月推出了使用混合键合3D堆叠技术实现存算一体的芯片。
随着AI的发展数据量暴增,存储墙、功耗墙成为越来越不容忽视的问题,存内计算已然成为新趋势。

点击此处关注获取最新资讯!

f328f6db93164f84bb23c090c28e7db.png88c1a0acd98aa6023fcbfa1f2ebf421.png

1.本文整理自网络,如有侵权,请联系删除。

2.所刊内容仅代表作者观点,非闪德资讯立场。

我的评论

登录后评论

最新评论

渠道报价
查看更多

D4/32G-DDR 4

  • 一年
  • 半年
  • 三个月
  • 一个月

微信订阅

APP下载

存储未来,赢得先机

18126200184

Copyright©2008-2024 闪德资讯 版权所有 粤ICP备18080549号-1

粤公网安备 44030402002744号