E X P
  • 编辑
  • 评论
  • 标题
  • 链接
  • 查错
  • 图文
  • 拼 命 加 载 中 ...

    其实对于AI PC来说,AMD其实是要比Intel更早入场的,去年推出采用Phoenix核心的锐龙7040系列处理器就配备了Ryzen AI单元,而今年推出采用Hawk Point核心的锐龙8040系列处理器把AI单元正式改名为NPU,同样采用XDNA架构,但算了从10 TOPS提升到16 TOPS,而在应用方面,AMD这段时间在客户端和本地AI工作的软件优化方面投入了大量工作,在最新发布的官方测试表明配备Ryzen AI的AMD处理器在新的AI测试中超越了Intel的Core Ultra。

    AMD对比了15W的Ryzen 7 7840U和28W的Core Ultra 7 155H,两款对比用的笔记本均搭配了16GB LPDDR5-6400内存,并更新到了最新的驱动。

    测试在本地运行LLM,包括LLama 2、Mistral AI_、code llama和RAG等一系列模型,本地运行人工智能模型在私密性方面会比在云端更有保障,而且可以节省订阅费用。AMD正在进一步进入这一领域,并发布了本地运行大语言模型的指南,详细介绍了如何在本地部署属于自己的AI聊天机器人。

    首先是Mistral Instruct 7B LLM,与Core Ultra 7 155H相比,Ryzen 7 7840U仅用了61%的时间就完成了AI处理。

    而在Llama 2 7B聊天速度仅用时54秒Ryzen 7 7840U就完成了任务。

    Ryzen 7 7840U在LLama v2 Chat 7B (Q4 KM)中性能比对手高了14%,在Mistral Instruct 7b (Q4 KM)中性能则高出17%。LLama v2 Chat的首次令牌速度快了79%,在Mistral Instruct 7B LLM中的First token速度快了41%。

    需要注意的是,Ryzen 7 7840U的功耗限制是要比Core Ultra 7 155H要低的,而且NPU速度也稍慢一些,Ryzen 7 7840U的NPU是10 TOP,而Core Ultra 7 155H则是11 TOP。如此采用同样28W功耗而且NPU提速到16 TOP的锐龙8040处理器的话优势会更明显。

    由于AMD的Ryzen AI上市更早,这能让AMD收到更多的市场反馈,能让他们对下一代CPU的AI性能进行优化,下一代采用Zen 5内核的Strix Point系列会把NPU升级到XDNA 2架构,算力会进一步提升,以适应日渐成熟的AI应用。

    ×
    热门文章
    欢迎参与评论,每一条合规评论都是对我们的褒奖。
    登录快速注册 后发表评论
    登录 后发表评论,若无帐号可 快速注册 ,请留意 评论奖罚说明