跳至主要內容

【华为鲲鹏920+银河麒麟】大模型部署方案

程序员李某某小于 1 分钟

【华为鲲鹏920+银河麒麟】大模型部署方案

Ollama(失败)

运行时报错

执行ollama run 时报错

Error: llama runner process has terminated: exit status 127

llamaFile(失败)

直接报错,大可能是架构问题

LocalAI(成功)

docker下载对应ARM版本镜像

上次编辑于:
贡献者: 李元昊