中国科学院软件研究所智能软件研究中心工程师张飞和实习生夏卓昭成功解决了AI框架PyTorch在RISC-V CPU上运行效率低下的核心难题。他们通过“三步走”策略:首先确保PyTorch能基础运行;其次利用RISC-V向量指令(RVV)进行原生加速;最关键的是,成功将RISC-V支持贡献给了国际主流的Intel oneDNN高性能计算库,并被PyTorch官方采纳。实验证明,该方案让AI模型在RISC-V上的推理速度最高提升超6倍,极大地缩小了与成熟ARM架构的性能差距。
中国科学院软件研究所智能软件研究中心工程师张飞和实习生夏卓昭成功解决了AI框架PyTorch在RISC-V CPU上运行效率低下的核心难题。他们通过“三步走”策略:首先确保PyTorch能基础运行;其次利用RISC-V向量指令(RVV)进行原生加速;最关键的是,成功将RISC-V支持贡献给了国际主流的Intel oneDNN高性能计算库,并被PyTorch官方采纳。实验证明,该方案让AI模型在RISC-V上的推理速度最高提升超6倍,极大地缩小了与成熟ARM架构的性能差距。