作为全球最火的本地大模型推理引擎 llama.cpp ,进迭时空(SpacemiT)基于 K3 芯片的 AI 扩展指令集(IME2)成功合入全球主流开源项目 llama.cpp 主线,为端侧大模型推理提供了重要的技术支撑。这意味着进迭时空的 AI 软件接口开始全面对外开放,为 RISC-V AI 生态提供了原生、可持续维护的加速基础。
https://mp.weixin.qq.com/s/xEoBIpN5H6DkUitzxVfjAw
RuyiSDK生态总站:ruyisdk.org
作为全球最火的本地大模型推理引擎 llama.cpp ,进迭时空(SpacemiT)基于 K3 芯片的 AI 扩展指令集(IME2)成功合入全球主流开源项目 llama.cpp 主线,为端侧大模型推理提供了重要的技术支撑。这意味着进迭时空的 AI 软件接口开始全面对外开放,为 RISC-V AI 生态提供了原生、可持续维护的加速基础。
https://mp.weixin.qq.com/s/xEoBIpN5H6DkUitzxVfjAw
RuyiSDK生态总站:ruyisdk.org