根据8月13日的消息,NVIDIA的显卡在AI加速方面遥遥领先,不仅科技巨头们都在争相购买A100和H100等显卡,GeForce游戏显卡也成为一般用户进行AI计算的选择,相比之下,AMD显卡在这一领域稍显落后。
但是好消息是,AMD现在也在迎头赶上。华人大神、OctoML CTO陈天奇带领的团队在AMD显卡上推出了大型模型推理的解决方案,这意味着除了NVIDIA之外,行业内又有了其他选择,不再局限于争抢和加价NVIDIA显卡的情况。
根据他们的优化算法,在Llama2的7B和13B大型模型中,使用RX 7900 XTX显卡也能够达到令人满意的性能水平,其性能已经达到了RTX 4090显卡的82%或者RTX 3090 Ti显卡的94%。
不仅仅是性能上的追赶,AMD显卡在性价比方面也要更高。RX 7900 XTX与其他两款显卡一样都拥有24GB显存,但售价只需999美元,而RTX 4090和RTX 3090 Ti的售价分别是1599美元和1999美元,价格高出了60-100%。
当然,RX 7900 XTX的实际售价已经比999美元便宜很多,而NVIDIA显卡的价格一直保持稳定。
A卡在AI计算能力上的提升主要要归功于AMD最近在ROCm软件生态方面的改进。以前,ROCm对游戏卡和Windows平台的支持很差,但从今年4月份开始,ROCm不仅开始支持Windows系统,还增加了对RX 7900和工作站显卡的支持。
同时,AMD还发布了ROCm HIP SDK,使开发者可以轻松将为CUDA平台开发的代码迁移到AMD平台,这为陈天奇等大神在AMD显卡上推动AI能力提升奠定了基础。
登录可免费下载软件
VIP可高速下载,支持百度、123网盘、蓝奏网盘等全站资源。
永久VIP可加入专属群,享受群内福利,享受1对1服务。
非VIP会员类型
分普通会员、黄金会员、钻石会员,不同会员的下载次数各不相同。
可通过积分兑换及签到获取积分。
联系客服
如链接失效或有其他问题,请联系客服微信:
diannaodiyquan 或 diannao10zv
(备注:“电脑DIY圈”以防封号)
免责声明
1. 软件全部来源于网络,如有侵权请联系客服。
2. 本站一切资源不代表本站立场,并不代表本站赞同其观点和对其真实性负责。
3. 本站一律禁止以任何方式发布或转载任何违法的相关信息,访客发现请向站长举报。
4. 本站资源大多存储在云盘,如发现链接失效,直接跟帖催更我们会第一时间回复。
暂无评论内容