UPMEM 选择 Semidynamics RISC－V AI IP 用于大型语言模型应用

高性能人工智能 RISC-V 处理器的领先 IP 公司 Semidynamics 很高兴地宣布，UPMEM 已选择 Semidynamics 作为其下一代 LPDDR5X Processing In Memory 器件的核心供应商。


标准 RISC-V 架构集成了张量单元和名为 Gazillion 的长延迟数据访问优化器，可以无缝高效地集成任何人工智能或 LLM 模型。巨大的内部带宽（102.4GB/s）、低能耗数据访问（1pJ/bit）和强大的处理能力（8 TFLOPs FP16/BF16、16 TOPs int8）将使单芯片的模型推理达到行业最佳性能和能耗水平。

UPMEM首席执行官Gilles Hamou表示："SemiDynamics GenAI计算IP结合了我们颠覆性的移动内存处理DRAM芯片所需的功率和效率。我们也非常欣赏他们使用RISC-V架构以及参与RISC-V生态系统。我们的组合技术提供了唯一的解决方案，其功能足够强大，能耗和成本效益足够高，可以在智能手机上计算大多数生成式人工智能计算。”

Semidynamics 首席执行官 Roger Espasa 补充说："我们很高兴能与 UPMEM 合作，并支持他们的内存处理方法。这是实现大型语言人工智能模型部署的一种极具创新性的方法，我们期待与UPMEM建立长期的合作伙伴关系。

UPMEN www.upmem.com

UPMEM是一家开创性的无晶圆厂半导体公司，是内存处理（PIM）解决方案的领导者。通过将协处理器集成到主 DRAM 内存中，UPMEM 加快了生成式人工智能等数据密集型操作的速度。UPMEM为大型语言模型（LLM）推理开发了新一代PIM芯片，使小型到大型模型（如LLama和Mistral）都能在智能手机上本地运行，每秒处理的查询次数比领先的SoC多15倍，能耗却低10倍。UPMEM的PIM芯片是唯一能够在满足智能手机电池寿命和成本限制的同时进行密集型GenAI计算的解决方案。UPMEM 总部位于法国格勒诺布尔，这里是领先的微电子和技术创新中心，UPMEM 与全球行业领先企业建立了合作伙伴关系。

Semidynamics www.semidynamics.com

Semidynamics® 成立于 2016 年，总部位于西班牙巴塞罗那，是唯一一家可完全定制的 RISC-V 处理器 IP 提供商，专注于针对机器学习和人工智能应用的高带宽、高性能内核，包括矢量单元和张量单元。该公司为私营企业，是 RISC-V 联盟的战略成员。