瀚博半导体发布低价AI大模型一体机方案

2023-07-07 20:50:33 来源:上海证券报·中国证券网 作者:刘怡鹤

  上证报中国证券网讯 7月6日下午,瀚博半导体在2023世界人工智能大会上正式发布第二代GPU SG 100,并推出南禺系列GPU加速卡 VG1600、VG1800、VG14,以及LLM大模型AI加速卡VA1L、AIGC大模型一体机、VA12高性能生成式AI加速卡等6款新品,为AI大模型、图形渲染和高质量内容生产提供完整解决方案。

  本次发布会以“智渲同芯,共生未来”为主题,瀚博半导体创始人兼CTO张磊在发布会上发表了《从像素到杰作:国产芯片加速AI大模型和元宇宙》主题演讲,

  GPU芯片作为AI大模型计算的“大脑”,为AI大模型生成学习提供源源不断的算力支撑。针对大模型时代算力需求,瀚博半导体本次首发了LLM大模型AI加速卡VA1L,具备200 TOPS INT8/72 TFLOPS FP16算力,并支持ChatGPT、LLaMA、Stable Diffusion等主流AIGC模型。

  瀚博半导体此次推出的AIGC大模型一体机,共使用8张LLM大模型AI加速卡VA1L,支持512GB显存,进而支持1750亿参数的大模型。该大模型一体机解决方案提供了较低应用门槛,也是目前针对AI大语言模型最低价格的大模型一体机方案。

  瀚博半导体是一家自研高端GPU芯片及解决方案提供商,成立于2018年,目前拥有两代GPU芯片系列,并衍生AI、渲染、视频三大产品线。(刘怡鹤)