AI大模型需要新型存储器!北京大学唐克超老师谈FeRAM铁电存储器挑战及解决之道leyu手机版登录入口官网,

 

  leyucom乐鱼官网,2022年11月,ChatGPT的横空出世,加速了大模型时代的变革。大型模型通过吸收海量数据,进行训练、推理,建模,当前已经在诸如文本创作、多语种翻译、情绪识别、复杂问题解构与执行等众多领域取得了不错的应用成就。尤其2024年年初Sora诞生后,通过人工智能文生视频大模型,人类在理解真实世界场景并与之互动方面又取得了质的飞跃。

  如何有效地整合规模化、高质量的数据以用于大型模型的训练,是推进大模型发展的关键动力。算力技术以AI芯片、AI服务器、AI集群为载体。随着AI应用复杂性的增加和对实时性、能效比需求的提升,高带宽内存更成为芯片发展的关键技术。

  存储器通常占集成电路总价值的1/3,同时,内存芯片也是整个芯片市场最大单品。而传统的存储技术无法实现数据高速访问与数据非易失存储的结合,造成现有计算存储架构分级体系复杂,能效较低;运算单元与存储器之间速度失配,严重制约计算机性能及能效比的进一步提升。并且,目前SRAM面积微缩越发困难,AI对存储和算力的几乎无限需求和工艺微缩的极限矛盾正在加剧。

  MRAM是一种非易失性的磁性随机存储器,它利用磁电阻效应来存储数据,核心原理是利用材料的磁阻效应,即材料的电阻会随着外部磁场的变化而变化,从而通过改变电流方向和大小,可以改变其中一个磁性层的磁化方向,由此实现数据的写入和读取。

  其实这也不是什么新兴技术。早在上世纪五十年代就已经被提出,并在军用方面得到广泛应用。近年来随着专利过期,才得以在民用市场不断突破创新。MRAM是当前主流非易失性存储器中能与DRAM 和SRAM读写速度相提并论的存储器,能满足从缓存到内存的非易失存储需求。MRAM有望根据不同的带宽需求逐步替代现有的不同类型的存储器,如SRAM、DRAM以及Flash 等。

  MRAM的优势在于它在具有非易失性的同时在速度、功耗、成本上较为折中,因而得以具有广泛的应用前景。面对巨大的市场空间,全球掀起了以MRAM为代表的自旋芯片研发热潮。据了解,三星、IBM等已经实现商用。其中,三星自2019年,就开始量产28nm 嵌入式MRAM。据媒体报道,三星看好未来车用领域对 eMRAM 的需求。目前三星已完成 14nm eMRAM 的开发,8nm eMRAM 开发也基本完成,并计划2027 年推出 5nm eMRAM。

  RRAM阻变存储器是一种新型的非易失性存储器,它通过向金属氧化物薄膜施加脉冲电压,产生大的电阻差值来存储“0”和“1”。其结构简单,从而简化了制造工艺,同时还可实现低功耗和高速重写等卓越性能。

  RRAM阻变存储器其实也就是大家熟知的忆阻器,最早是在1971年由华裔科学家,时任教于加州大学伯克利分校的蔡少棠教授提出的。RRAM在独立式难以应用,但在嵌入式有广阔的应用前景,尤其在类脑计算领域,优势明显。

  传统冯·诺依曼结构下,数据的存储和计算相互分离,即数据存储在储存器中,需要计算时再把它搬运到运算器里。然而,AI类应用(例如大模型)需要对大量数据进行矩阵运算,其核心是乘法和加法,在此情形下算力是比较吃紧的,面临着很大挑战。(EETOP此前有专门推送过忆阻器的文章,感兴趣的朋友,可点击链接,阅读原文:)

  RRAM的应用领域包括物联网、汽车电子、工业控制等。虽然过去业内认为RRAM还不够成熟,且主要面向的是小算力市场。不过,随着人工智能、大数据、大模型等技术的不断迭代更新及迅速落地应用后,自2023年开始,市场对RRAM的热度已经居高不下,很多国际大厂纷纷宣布要量产,如Intel、TSMC、三星、格罗方德、UMC、中芯国际、华力等。

  PCM相变存储器是一种非易失存储设备,它利用硫族化合物在晶态和非晶态巨大的导电性差异来存储数据,具有存取速度快和可靠性高等优点。特别地,PCM因其具备非易失性、可字节寻址等特性而同时具备作为主存和外存的潜力,在其影响下,主存和外存之间的界限也正在逐渐变得模糊leyu手机版登录入口官网,,有望部分替代目前被公众所熟知的传统存储技术如DRAM、Flash。据了解,目前成熟产品已经应用于数据中心。

  FeRAM铁电存储器是一种随机存取存储器技术,是一种在断电时不会丢失内容的非易失存储器,具有高速、高密度、低功耗和抗辐射等优点。随着人工智能和大数据技术的飞速发展,对算力和存储的需求日益增长。传统的计算架构逐渐显露出局限性,这促使学术界和产业界开始探索新的计算架构和信息器件。

  与传统的钙钛矿铁电材料相比,铪基铁电具有更好的可微缩性,集成架构上兼容于DRAM和NAND,使其具有广阔的发展前景。最近,泰克科技中国区技术总监张欣与北京大学集成电路学院的唐克超老师就“铁电材料和器件研究的难点痛点以及未来可能的解决之道”展开了前沿对话交流。

  唐克超博士于2017年9月获得美国斯坦福大学博士学位,2020年入选海外高层次人才引进计划青年项目,任北京大学集成电路学院研究员、博士生导师。

  针对铁电材料在集成电路领域的应用前景,唐克超老师介绍,目前有三种主流的铁电存储器技术:FeRAM、FeFET和FTJ,它们各自具有独特的特性和应用前景。

  FeRAM,即基于电容型的铁电存储器,因其与现有DRAM结构的相似性而最接近产业化应用。它旨在提供非易失性存储解决方案,以结合DRAM的快速访问和低功耗特性,特别适合需要频繁刷新的场景。

  FeFET,即基于晶体管型的铁电存储器,也是唐克超老师团队的研究重点。这种存储器以其高集成密度、快速操作和低功耗而受到关注。FeFET的优势在于其三端器件的设计,这使得它非常适合用于存算一体、神经形态计算和安全应用等先进领域。此外,FeFET支持非破坏性读取,允许在不重写的情况下进行数据读取,这在提高存储效率方面是一个显著优势。

  FTJ即基于隧穿结的铁电存储器,目前主要处于前沿研究阶段。FTJ面临的主要挑战是其较小的读电流,这限制了其速度潜力。尽管如此,FTJ在神经形态计算等低功耗应用中显示出巨大潜力。

  对于FeFET的科研创新,唐克超老师分享说:“面临的最大挑战是耐久性问题,即在反复编程和擦写后性能衰减。”唐克超老师表示,铁电材料的极化状态通常需要电场的作用才能翻转,而在铁电场效应晶体管(FeFET)中,这一现象尤为显著。要解决这一问题,需要从多个角度进行全面的考量,包括铁电材料本身对电场的响应,以及界面结构和界面缺陷对电场分布的影响。对于器件的测试,有很多不同的角度的测试,包括转移曲线Id-Vg的测试、读写速度的测试、耐久性测试、保持性测试,以及还需要在阵列方面读写、串扰方面的一些测试。

  不过,铁电材料因其独特的物理特性,在集成电路、传感器、驱动器、热学器件以及光电探测器等多个领域展现出巨大的应用潜力。尤其是在大数据和人工智能技术迅速发展的今天,铁电材料的高性能特性,以及在存储和计算领域的潜在应用,使其成为推动技术进步的关键因素。

  随着人工智能技术的快速发展,到了人工智能大模型,AI PC的时代,AI堆栈正逐渐成为开发和部署AI应用程序的核心技术。随着多系统集成带来的新挑战,集成电路往更小尺度、更高集成度和更多功能方向发展,设计越来越复杂,信号越来越小,半导体检测精度和可靠性愈发严格和重要。

  唐克超老师最后也表示:“随着技术的发展和阵列规模的增大,测试过程的自动化将变得越来越重要。”本文最后,为大家附上泰克张欣和北京大学唐克超老师老师此次的专家对话视频,同时为大家附上以下由泰克提供的”新一代高速存储单元及类脑计算、神经元网络测试方案”,助力大家在这个领域的学习和创新应用。

搜索