• 首页
  • 关于我们
  • 产品技术
  • 应用场景
  • 新闻中心
  • 加入我们

高交会焦点:墨芯人工智能软硬件协同解决方案,赋能未来大模型算力

2023-11-17

近日,在国家级科技盛宴——中国国际高新技术成果交易会(简称“高交会”)上,墨芯人工智能(简称“墨芯”)再次成为焦点。作为深圳天使母基金的明星被投企业,墨芯在高交会“新一代信息技术展”中,集中展示了其最新AI算力成果,成为AI领域创新的缩影。

 墨芯人工智能展台


墨芯的前沿技术,也吸引了各界领导、嘉宾的关注和重视。11月17日,深圳市投资控股有限公司(简称“深投控”)副总经理杜秀峰亲临参观了墨芯展台,并对稀疏计算以及相关产品做了深入了解。

 深投控副总经理杜秀峰莅临参观墨芯展台


在当下AI异军突起的大潮中,墨芯人工智能在不断推进技术边界。墨芯旗下的AI计算平台已全面支持高达千亿参数的大语言模型,如1760亿参数的大模型有:BLOOM-176B、ChatGLM2-6B、LLAMA2-7B、OPT13B、BLOOM-7B、GPT-J-6B、GPT2-52B。这一里程碑式的成就不仅在吞吐量、推理和微调等关键性能指标上表现卓越,更是在AIGC领域实现了重大的技术突破。墨芯的平台能够快速、流畅地处理复杂的语言生成任务,如回答问题、内容创作及文案撰写,展现了其产品强大的技术优势。

墨芯本次展出的是其成熟核心产品——Antoum®️芯片以及高稀疏倍率AI计算卡S4、S10、S30。Antoum®️芯片作为业界领先的AI芯片产品,支持高达32倍的稀疏率,专为数据中心AI推理应用设计。在去年的高交会上,Antoum®️芯片就已获评为优秀创新产品奖。而今年,三款搭载Antoum®️芯片的计算卡S4, S10、S30,全面展示了墨芯稀疏计算完整的产品体系。这些产品不仅在算力、能效比与成本等方面实现了数量级的优化,更是针对互联网、运营商、生命科学等多个行业提供了高算力、低功耗、高精度、高性价比的AI算力服务。


值得一提的是,墨芯的产品也在持续刷新业界算力记录。在今年9月举行的最新一届MLPerf Inference 3.1评测中,MLPerf首都引入GPT大模型推理测试,吸引了前所未有的关注。这次评测收到了来自全球知名企业如英伟达、英特尔、谷歌、高通等的13500多项性能提交,竞争激烈程度空前。在这样高标准的竞赛中,墨芯人工智能再次证明了其卓越的技术实力。其S30计算卡在处理拥有60亿参数的大模型GPT-J任务上,无论是单卡、4卡还是8卡配置,均以卓越的性能荣获算力第一,这不仅是墨芯在MLPerf评测中的连续第三次卫冕,更是对其在AI算力领域领导地位的进一步巩固。

墨芯S30计算卡在GPT-J-99模型中的性能表现

此前,在MLPerf Inference 3.0,2.0与2.1的评测中,墨芯已经连续两届获得了第一的成绩。这一连串的成就不仅展示了墨芯在AI算力领域的持续领先,更是其在软硬协同创新方面的实力的体现。通过结合AI模型与计算平台,墨芯成功挖掘出更大的算力潜能,为处理复杂的AI任务提供了强大的支持。

这些成绩再次印证了一个重要的趋势:在大模型时代,以稀疏计算为代表的创新技术,将成为推动算力发展的关键因素。墨芯将继续以其稀疏计算技术为基础,推动AI计算平台和服务的发展,以满足日益增长的大模型应用算力需求。墨芯的技术和产品不仅能够降低基础设施成本,还能显著减少AI计算的能耗,优化AI计算解决方案的总拥有成本(TCO),推动AI在各行业的广泛应用,助力科技改革和创新驱动发展。
 
墨芯软硬件协同AI加速平台

随着高交会的持续进行,墨芯期待与更多合作伙伴共同探索AI领域的新前沿。通过不断地技术革新,墨芯致力于推动AIGC等大模型在多行业的应用,为企业和科研机构提供强大的算力支持,加速科技成果的社会化进程,共同迎接智能科技的美好未来。

墨芯人工智能在2023年深圳高交会上的亮相,展示了其技术实力和对未来人工智能领域发展的承诺。随着步入大模型算力时代,墨芯将继续引领行业,为全球AI发展贡献中国智慧和力量。
返回列表页

历史新闻

  • 再次上榜China Fabless 100榜单,墨芯荣获Top 10 AI芯片公司

    2025-03-28MORE

  • 墨芯S40计算卡完成DeepSeek大模型部署, 支持单卡推理大模型

    2025-02-07MORE

  • 墨芯斩获「2024创业邦100未来独角兽」

    2024-12-23MORE

  • 践行品牌雇主之责|墨芯荣膺2024年第七届「中国人力资源天狼星奖」

    2024-11-28MORE

  • 专访墨芯严恩勖:独创“双稀疏化算法”定义AI芯片架构,通过软硬协同解决算力瓶颈

    2024-09-18MORE

  • 墨芯人工智能入选「2024年度AIGC创新企业榜」

    2024-08-23MORE

  • 2024年Silicon 100榜单出炉!墨芯人工智能荣耀登榜

    2024-07-15MORE

  • 墨芯@WAIC 2024:遇见智能客服的“超级大脑”,体验“硬核四芯”的算力震撼

    2024-07-05MORE

  • 全新征程,焕“芯”启航——墨芯上海公司喜迎乔迁!

    2024-06-17MORE

  • 墨芯人工智能上榜【星辰100】2024AI算力层创新企业奖

    2024-05-17MORE

网站地图
首页 关于我们 产品技术 应用场景 新闻中心 加入我们
联系我们

深圳 (总部) 地址: 深圳市南山区前海金融街1号弘毅大厦9楼 电话: 0755-86700125 上海 | 地址:上海市徐汇区漕宝路650号
桂林高智科技大楼1号楼10层
北京 | 地址:北京市朝阳区融科望京中心
B座2202A
商务合作: sales@moffett.ai 媒体合作: marketing@moffett.ai

关于墨芯

墨芯提供云端和终端AI芯片加速方案,相较于现有产品算力,墨芯产品将带来数量级提升。

Copyright © 2024
墨芯人工智能科技 (深圳) 有限公司
All rights reserved.
粤ICP备2021128059号

微信公众号