E X P
  • 编辑
  • 评论
  • 标题
  • 链接
  • 查错
  • 图文
  • 拼 命 加 载 中 ...

    摩尔线程宣布与智谱AI合作,在2024年5月开展了新的GPU大模型适配及性能测试,包括大模型推理以及基于夸娥(KUAE)千卡智算集群的大模型预训练,相关大模型来自于智谱AI基座大模型及其开源版本。

    测试结果表明,在推理方面,摩尔线程自研全功能GPU显著优于基准对比产品RTX 3090和RTX 4090,在全部测试用例中优于RTX 3090,在多batch下优于RTX 4090;在训练方面,摩尔线程夸娥千卡智算集群训练精度与A100集群误差在1%以内,夸娥千卡智算集群性能扩展系数超过90%,模型算力利用率(MFU)与A100集群相当。

    摩尔线程表示,这次的测试结果对更好地建设中国大模型产品技术生态具有重要意义:

    • 首先,是技术自主新突破,标志着摩尔线程全功能GPU算力底座有能力支撑行业领先的大模型全链条研发,在满足信息安全的前提下服务于千行百业;

    • 其次,是助力打破算力瓶颈,表明国产GPU算力底座有能力助力中国人工智能技术发展;再次是开拓创新空间,算法、算力、数据是AGI技术的核心要素,双方的合作有利于推动实现软硬件的深度融合与协同创新;

    • 再次,是开拓创新空间,算法、算力、数据是AGI技术的核心要素,摩尔线程与智谱AI卓有成效的适配与测试合作,有利于推动实现软硬件的深度融合与协同创新;

    • 最后,是降低运营成本,摩尔线程自研国产全功能GPU不仅能够兼容适配全球主流AI软件生态,节约软件迁移成本,而且在单位算力总体拥有成本上拥有较为明显优势,能够有效降低大模型产品研发成本。

    以大模型为代表的新一代人工智能技术是引领新一轮科技革命和产业变革的战略性技术和重要驱动力量,随着对算力需求的日益高涨,人工智能算力底座公司日益成为新一波人工智能技术浪潮重要组成部分。未来摩尔线程会与智谱AI在内的合作伙伴携手,共同推动大模型产业生态的建设和发展。

    ×
    热门文章
    已有 6 条评论,共 52 人参与。
    登录快速注册 后发表评论
    • Suffer教授 06-17 11:33    |  加入黑名单

      只做AI好优化 臭打游戏的谁在乎呢

      支持(1)  |   反对(0)  |   举报  |   回复

      6#

    • 我匿名了  06-15 14:52

      開始賣AI廣告....那應該是下一代沒戲, 要轉移目標了??

      支持(5)  |   反对(0)  |   举报  |   回复

      5#

    • 我匿名了  06-14 23:11

      总结:和臭打游戏的没啥关系

      已有1次举报

      支持(5)  |   反对(1)  |   举报  |   回复

      4#

    • 旅途终极杀人王 06-14 22:11    |  加入黑名单

      创建摩尔线程的是以前NV的副总张建中,骨干核心技术人员大多来自NV

      已有3次举报

      支持(16)  |   反对(5)  |   举报  |   回复

      3#

    • 开塞露博士 06-14 21:38    |  加入黑名单

      超过N卡了?

      支持(1)  |   反对(0)  |   举报  |   回复

      2#

    • zhaoyun980终极杀人王 06-14 21:28    |  加入黑名单

      硬件性能跟上来了,软件驱动也要跟上才行啊

      支持(8)  |   反对(0)  |   举报  |   回复

      1#

    提示:本页有 6 个评论因未通过审核而被隐藏

    登录 后发表评论,若无帐号可 快速注册 ,请留意 评论奖罚说明