除了玩游戏,NVIDIA的显卡还在AI加速上遥遥领先,不仅科技巨头都在抢A100/H100等显卡,GeForce游戏卡也是普通人搞AI炼丹的选择,AMD显卡在这方面落后不少。
好消息是AMD现在也能追上来了,深度学习领域的华人大神、OctoML CTO陈天奇带领团队在AMD显卡上做出了大模型推理的方案,这意味着业界又有NVIDI之外的选择,不用为N卡抢破头、加价而困扰了。
究其根底,A卡在AI炼丹能力上的提升,尤其是RX 7900 XTX这样的游戏卡能有质变,还是AMD最近在ROCm软件生态上的改进,以前后者对游戏卡及Win平台的支持很差,4月份开始不仅支持Windows系统,也加入了对RX 7900及工作站显卡的支持。
同时AMD还发布了ROCm HIP SDK,允许开发者将针对CUDA平台开发的代码轻松迁移到AMD平台,这有是陈天奇等大神可以在AMD显卡上推动AI能力提升的基础