Kaiyun(凯云)中国·官方网站

行业动态
NEWS
行业动态
NEWS
联系我们
Contact us

联系人: 张生

手机: 13845690023

电话: 0512-50135789

邮箱: 520233699@qq.com

地址: 江苏省苏州市姑苏区白洋湾街道朱家湾街8号2幢B座406区01室

公司动态

本地跑100B大模型!Acrab发布边缘AI芯片GΞLIX1:5nm制程加持

作者:小编 点击: 发布时间:2026-07-29 17:27:46

  

本地跑100B大模型!Acrab发布边缘AI芯片GΞLIX1:5nm制程加持(图1)

  初创企业Acrab正式发布其首款边缘AI终端SoC GΞLIX 1,该芯片基于5nm制程工艺,支持100B参数规模大模型本地运行。

  缓存与内存子系统围绕大模型推理的高吞吐需求设计,芯片配备8MB L1缓存,共享L2缓存带宽768GB/s,外挂256-bit位宽LPDDR5X内存,传输速率8533MT/s。大模型推理过程中权重读取和KV Cache存取对内存带宽高度敏感,这套配置为100B模型的端侧部署提供了基础保障。

  此次Acrab重点展示的是预填充阶段性能。预填充是大语言模型接收用户输入后、开始逐Token生成输出前的凯云官网全量编码过程,其速率直接决定长文本输入场景下的首ToKen延迟。Acrab通过矢量硬件单元加速Transformer注意力机制计算,并对预填充路径做了针对性优化。

  软件生态方面,Acrab同步推出完整软件栈及智能体参考设计,覆盖底层驱动到上层应用框架的开发链路。第一方终端设备Agent Box也一同亮相,作为GΞLIX 1的参考实现供开发者评估和原型验证。

  努比亚NaviX Ultra配置曝光:骁龙8 Elite Gen5加持,内置7100mAh大电池

  芝奇Trident Z5 NeoX RGB 焰锋戟X DDR5内存图赏:灯效与质感双双在线M三模无线鼠标图赏:旗舰键鼠一步到位

  智造领军者寄语高考生|陈勇:选专业,要找自己真正喜欢的,更要是国家需要的

  智造领军者寄语高考生|朱西产:车辆工程是机械工程和能源工程综合的体现,在智能汽车时代,它又是最先进的计算平台的大载体。


相关标签:
热门产品