• 首页
  • 关于我们
  • 产品技术
  • 应用场景
  • 新闻中心
  • 加入我们

墨芯完成智谱大模型适配黄金认证,助推国产算力商业化进程

2023-11-27

在推动大模型算力量级提升的道路上,稀疏计算引领者墨芯人工智能(以下简称“墨芯”)再次迈出重要的一步。近日,墨芯旗下产品S30计算卡经过智谱AI内部专家的严格测评,荣获黄金级别认证,充分显示了其与智谱AI(以下简称“智谱”)的ChatGLM2-6B大模型在推理与微调方面的高度兼容性和卓越适配能力。
墨芯获得智谱ChatGLM2-6B模型黄金认证证书

除了上述已经成功适配的开源大模型ChatGLM2-6B外,墨芯正通过基于S30计算卡的定制化算力为智谱提供一体化解决方案,同时也积极参与到智谱其他闭源商业大模型的兼容性适配中。这一过程也加速了智谱AI大模型的商业化步伐。

墨芯的助力,不仅是对智谱现有AI产品矩阵的算力技术加持,更是对其未来AI技术应用领域落地的一次积极探索。通过这种合作,墨芯和智谱AI共同推动了其大模型技术的商业化进程,加快了其在多个行业中的实际应用和普及。墨芯的S30计算卡作为这一合作的关键组成部分,其强大的算力和高效的适配能力不仅加速了智谱AI大模型的开发和部署,也为之后在更多领域的合作提供了坚实的基础,进一步推动了国产大模型的广泛应用和行业渗透。

墨芯S30计算卡


此外,S30计算卡在技术创新上的突破,特别是在稀疏计算和AI算法优化方面的先进性,为智谱AI的大模型提供了强大的后端支撑。这不仅加强了智谱AI大模型的性能和适用性,而且在促进国产AI技术的商业化和产业化方面发挥了重要作用。通过这种强强联手模式,墨芯和智谱AI共同展现了国内AI技术在未来无限的竞争力和创新潜力。

通过本次认证的S30计算卡搭载墨芯首颗Antoum®️芯片,以其高达32倍稀疏率的强劲AI算力,专注服务与数据中心AI推理的多元需求。其应用领域覆盖了互联网、通信、智慧城市建设、生命科学、自动驾驶等关键行业,体现了其广泛的适用性和灵活性。

墨芯的双稀疏算法和Antoum®架构的创新,使S30在同行业产品中处于领先地位,更显著优化了客户的总拥有成本(TCO)。

S30计算卡在行业内以其卓越的推理加速性能始终保持领先。此前,在9月举办的最新一届的全球权威测评MLPerf Inference 3.1推理评测中,墨芯S30计算卡,以其无与伦比的性能,在处理GPT-J(60亿参数)大模型推理任务时,无论是单卡还是多卡配置,均力压群雄,荣登榜首。这是墨芯连续第三次在MLPerf推理评测中取得领先成绩,进一步夯实其在AI算力领域的领导地位。
 
墨芯S30计算卡在GPT-J-99模型中的性能表现

ChatGLM2-6B模型由智谱AI与清华大学KEG实验室共同研发,是一款功能强大的开源中英双语对话模型。其在沿袭了初代模型的流畅对话和低部署难度的基础上,进一步提升了推理速度和降低显存占用,整体性能更加出色。

S30计算卡的黄金认证,不仅是其技术实力的显著证明,更是墨芯赋能智谱大模型商业化进程的关键一环,不仅证实了S30计算卡在运行智谱ChatGLM2-6B大模型时的稳定性和高吞吐能力,也标志着墨芯与智谱在共同推进大模型技术发展和生态建设方面的成功合作。未来,墨芯人工智能将与智谱AI在更多领域展开广阔合作,共同致力于推动国产AI大模型生态圈的协同进步与创新。

返回列表页

历史新闻

  • 再次上榜China Fabless 100榜单,墨芯荣获Top 10 AI芯片公司

    2025-03-28MORE

  • 墨芯S40计算卡完成DeepSeek大模型部署, 支持单卡推理大模型

    2025-02-07MORE

  • 墨芯斩获「2024创业邦100未来独角兽」

    2024-12-23MORE

  • 践行品牌雇主之责|墨芯荣膺2024年第七届「中国人力资源天狼星奖」

    2024-11-28MORE

  • 专访墨芯严恩勖:独创“双稀疏化算法”定义AI芯片架构,通过软硬协同解决算力瓶颈

    2024-09-18MORE

  • 墨芯人工智能入选「2024年度AIGC创新企业榜」

    2024-08-23MORE

  • 2024年Silicon 100榜单出炉!墨芯人工智能荣耀登榜

    2024-07-15MORE

  • 墨芯@WAIC 2024:遇见智能客服的“超级大脑”,体验“硬核四芯”的算力震撼

    2024-07-05MORE

  • 全新征程,焕“芯”启航——墨芯上海公司喜迎乔迁!

    2024-06-17MORE

  • 墨芯人工智能上榜【星辰100】2024AI算力层创新企业奖

    2024-05-17MORE

网站地图
首页 关于我们 产品技术 应用场景 新闻中心 加入我们
联系我们

深圳 (总部) 地址: 深圳市南山区前海金融街1号弘毅大厦9楼 电话: 0755-86700125 上海 | 地址:上海市徐汇区漕宝路650号
桂林高智科技大楼1号楼10层
北京 | 地址:北京市朝阳区融科望京中心
B座2202A
商务合作: sales@moffett.ai 媒体合作: marketing@moffett.ai

关于墨芯

墨芯提供云端和终端AI芯片加速方案,相较于现有产品算力,墨芯产品将带来数量级提升。

Copyright © 2024
墨芯人工智能科技 (深圳) 有限公司
All rights reserved.
粤ICP备2021128059号

微信公众号