前言
本文学习自:存算一体芯片深度产业报告——作者:量子位
报告链接:存算一体是啥新趋势?值得教授学者纷纷下海造芯 | 附报告下载 - 知乎 (zhihu.com),侵删!
存算一体技术概述
“存算一体”技术的起因在于传统冯诺依曼架构芯片无法满足不断提升的算力与低功耗需求。
随着半导体工艺接近物理极限,传统的摩尔定律(即晶体管密度每两年翻倍)的增长速度放缓,同时随着计算需求的增长,尤其是在云计算和人工智能(AI)领域,数据在处理器和存储器之间的频繁搬运成为了性能瓶颈。这种搬运不仅耗时,而且能耗巨大,导致所谓的“存储墙”问题。这促使研究人员寻找新的计算架构来继续提升性能。
为了解决这个问题,我们需要新的芯片架构。主要有三种解决方式:
-
近存计算:缩短处理器芯片与存储器芯片的距离,减少数据搬运损耗。
-
内存储计算:处理器和存储器位于同一芯片的不同电路单元中。
-
内存执行计算:通过在存储器颗粒上嵌入算法,由存储器芯片内部的存储单元完成计算操作。
产业分析
存算一体芯片落地的优势在于在算力提高的同时,芯片体积的减小和数据传输功耗的减少,使得芯片良率、成本、功耗等都有所改善。然而,实际应用的挑战主要在于评估市场需求和客户转换成本。重要的考量是,大规模采用新型芯片是否能够在成本和能耗方面带来足够的改进,以证明其经济效益;新架构芯片的先进生产工艺制造能力;客户对低功耗和高算力的需求;以及封装、测试、工具链、EDA 等相辅相成的产业链生态仍缺乏相应的研发公司。
当下大多数初创公司的思路是先聚焦特定场景,在垂直领域内站稳脚跟后技术外溢到更丰富的应用场景。主要的应用场景包括小算力低功耗场景(知存科技、九天睿芯和闪易半导体等)和大算力场景(千芯科技,后摩智能等)。
目前已知的商业模式主要分为三种:IP授权,定制/联合开发以及自主SoC芯片。
当前国内外存算一体技术发展特征如下:
- 成立时间不同会影响技术路线选择,国内外实现产品化的公司数量不多,离规模化还有一定距离,目前已知知存科技是实现存内芯片量产并且唯一落地商业化的公司。
- 技术路线:大公司选择最容易落地的技术,初创公司在确保技术先进性基础上选择最容易落地的技术;
- 国外已形成完整的自研技术链,极大规模量产上国内外均未实现突破; 不同的业务场景均已呈现出各自的优势,在商业模式上国内外都处在探索阶段;
- 虽然业内尚未形成完整的生态,产业链部分环节已经出现针对存算一体进行技术研发的公司。
同时补充以下一些关键的商业发展进度:
国内进展:
中国的存算一体技术发展迅速,多家企业如后摩智能、知存科技、千芯科技等已经推出了基于存算一体技术的AI芯片。这些芯片在智能驾驶、泛机器人、边缘计算等领域有广泛应用。
知存科技的存算一体芯片已经实现量产,并在智能可穿戴设备市场取得了显著的能效提升。
后摩智能发布了首款存算一体智驾芯片,最高物理算力达到256TOPS,典型功耗35W,标志着国内在大算力AI芯片领域的突破。
国际进展:
国际上,英特尔、IBM、特斯拉、三星、阿里等大型科技企业也在积极布局存算一体技术,推动其在数据中心、云计算和AI领域的应用。
新型存储器如MRAM、RRAM等的发展为存算一体技术提供了新的物理实现基础,这些存储器在读写速度、密度和耐久性方面具有优势。
技术路线和应用场景:
存算一体技术的技术路线分为近存计算(PNM)、存内处理(PIM)和存内计算(CIM)。不同的技术路线适用于不同的应用场景,如近存计算适用于数据量大的场景,而存内计算则更适用于AI和深度学习领域。
挑战与机遇:
尽管存算一体技术在能效和性能方面展现出巨大潜力,但仍面临新器件成熟度、电路设计、芯片架构、EDA工具链和软件生态等方面的挑战。
为了推动存算一体技术的产业化,中国移动等企业提出了多路径探索、协同先进封装技术、优化电路与芯片架构、加速EDA工具孵化、构建开发生态与编程框架等发展建议。
产业生态建设:
产学研各界正在加强合作,共同攻关存算一体核心技术,推动产业成熟和生态繁荣。《存算一体白皮书》的发布,旨在引导产学研各界规范认知存算一体及其发展,促进技术成熟和产业化进程。
同时CSDN首个存内计算社区建立,是整合产学研各界资源优势,搭建的学习与实践平台,提供存内架构学习,平台算法部署实践,存内计算线下训练以及AI时代大模型追踪,从理论到实践,供开发者体验最新第三级算力架构。存内计算开发者社区-CSDN社区云
综上所述,存算一体技术正处于从学术研究向商业应用转变时期,国内外企业正通过不断的技术创新和产业合作,推动这一技术在多个领域的广泛应用。随着技术的成熟和市场的扩大,存算一体有望成为未来计算架构的重要发展方向。
未来展望
为了推动存算一体技术的未来发展,重点应放在解决关键技术难题上,并且寻找适合快速应用推广的场景。随着新型存储器技术,尤其是RRAM和MRAM的不断进步,预计将大幅推进存算一体架构的发展。这些技术的应用,尤其是在终端推理和物联网领域,预示着存算一体技术将在这些领域发挥重要作用。为了实现从初步商业化到大规模商业化的转变,技术创新与产业发展必须紧密协同,共同推动这一技术的成熟和应用普及。
2023年9月14日,清华大学吴华强及高滨共同通讯在Science在线发表题为《Edge learning using a fully integrated neuro-inspired memristor chip》的研究论文。作者使用该芯片运行CNN网络实现目标追踪任务,该CNN网络由6个卷积层和2个全连接层组成,其网络结构如下图所示。其中6个卷积层在片外上运行,2个全连接层在片上运行,并且仅有最后的全连接层可通过片上学习更新参数。
国内知存科技推出WTM-8系列产品芯片,这是针对视频增强处理的一款高性能低功耗的移动设备计算AI视觉芯片,采用第二代3D存内计算架构,为全球首款存内计算视觉芯片,已完成投片即将量产,具备高算力、低功耗、高能效、低成本的核心优势,应用于高性能成像和空间计算。
个人感悟
作为一名物联网工程专业的大学生,深入了解存算一体技术让我领略了科技创新的魅力及其在未来应用的广阔前景。虽然我尚缺乏商业模式和产品上市的实践经验,但这次学习经历让我认识到理论与实践结合的重要性,以及跨学科知识对于技术创新的贡献。
通过研究这一技术,我明白了在物联网设备设计中,如何有效融合硬件和软件来提高性能同时降低能耗的重要性。这一认识不仅提升了我的专业技能,也激发了我对如何将技术创新转化为实际应用的深入思考。
此外,我也看到了自己在商业知识和市场分析方面的不足,这提示我在未来的学习中需更多关注这些领域。我期待将这次学习的感悟转化为动力,在未来的学习和工作中不断探索、学习和创新,为智能化世界贡献我的力量。