在 RISC-V 上成功部署 ROCm 6.2.4 并运行 Deepseek-R1 模型

RT,操作系统是 RevyOS,ROCm 版本 6.2.4,显卡为 RX 7900 XTX,使用 llama-bench 基于 Deepseek-R1 8B 模型进行性能测试,结果如下:

11 个赞

各位知道这个消息的含金量嘛?三四层楼那么高

1 个赞

堪比智人走出非洲

3 个赞

你是不是发现了……嘉楠堪智的名字的由来?

3 个赞


来自 106th 东亚时区RISC-V双周会20250710

2 个赞


还有这张

2 个赞

太牛啦,强的过分 :clap:

3 个赞

好耶,期待能跑起来vLLM!这卡跑DeepSeek-R1-Distill-Qwen-7B应该能到2200 token/s以上

2 个赞

CPU是SG2042?

1 个赞

看着是SG2044。SG2042的PCI-E可能还有些bugs没fix(?)

1 个赞

请问现在支持的是单卡还是多卡Radeon RX 7900XTX?

我记得的是单卡,因为买不起第二张卡了(