日前,炬芯科技(688049)董事长兼CEO周正宇博士受邀出席Aspencore2024全球CEO峰会时表示,端侧AI市场正在快速增长,炬芯科技创新性采用MMSCIM技术,在低功耗端侧AI音频打造了一系列重磅产品。
炬芯科技是国内领先的低功耗AIoT芯片设计厂商,专注于为无线音频、智能穿戴及智能交互等基于人工智能的物联网(AIoT)领域提供专业集成芯片。公司目前主要产品广泛应用于蓝牙音箱、智能手表、无线家庭影院、无线电竞耳机、无线收发dongle、无线麦克风、蓝牙耳机、蓝牙语音遥控器及低功耗端侧AI处理器等领域。
要让AI真正触手可及,深入日常生活中的各种场景,离不开端侧AI的落地。根据ABI Research预测,端侧AI市场正在快速增长,预计到2028年,基于中小型模型的端侧AI设备将达到40亿台,年复合增长率为32%;到2030年,预计75%的这类AIoT设备将采用高能效比的专用硬件。
周正宇博士表示:“在从端侧AI到生成式AI的广泛应用中,不同的AI应用对算力资源需求差异显著,而许多端侧AI应用是专项应用, 并不需要大模型和大算力,尤其是以语音交互,音频处理,预测性维护,健康监测等为代表的AIoT领域。”
为电池驱动的低功耗IoT装置赋能AI又是让端侧AI变为现实的关键。周正宇认为,弱化或消除“存储墙”及“功耗墙”问题的方法是采用存内计算Computing-in-Memory(CIM)结构。其核心思想是将部分或全部的计算移到存储中,让存储单元具有计算能力,数据不需要单独的运算部件来完成计算。
周正宇介绍,炬芯科技创新性采用模数混合设计实现基于SRAM的存内计算(CIM),在SRAM介质内用客制化的模拟设计实现数字计算电路,既实现了真正的CIM,又保证了计算精度和量产一致性。这种技术路径,具有几个显著的优势:比纯数字实现的能效比更高;无需ADC/DAC;易于工艺升级和不同FAB间的设计转换;容易提升速度且提升能效比。
“对于要在追求极致能效比电池供电IoT设备上赋能AI,在每毫瓦下打造尽可能多的AI算力,炬芯科技采用的MMSCIM技术是真正实现端侧AI落地的最佳解决方案。”
周正宇博士还首次公布了炬芯科技MMSCIM路线规划。炬芯第一代(GEN1)MMSCIM已经在2024年落地,GEN1 MMSCIM采用22纳米制程,每一个核可以提供100 GOPS的算力,能效比高达6.4 TOPS/W @INT8;到2025年,炬芯科技将推出第二代(GEN2)MMSCIM,性能将相较第一代提高三倍。
周正宇还代表炬芯科技正式发布全新一代基于MMSCIM端侧AI音频芯片,共三个芯片系列:第一个系列是ATS323X,面向低延迟私有无线音频领域;第二个系列是ATS286X,面向蓝牙AI音频领域;第三个系列是ATS362X,面向AI DSP领域。三个系列芯片均采用了CPU(ARM)+ DSP(HiFi5)+ NPU(MMSCIM)三核异构的设计架构。
最后,周正宇称:“未来炬芯科技将继续加大端侧设备的边缘算力研发投入,实现算力和能效比进一步跃迁,提供高能效比、高集成度、高性能和高安全性的端侧AIoT芯片产品,推动AI技术在端侧设备上的融合应用。”(文穗)
校对:彭其华