news 2026/4/23 14:23:57

MindSpore 模型部署的2 种轻量落地方案

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
MindSpore 模型部署的2 种轻量落地方案

很多同学训练好 MindSpore 模型后,不知道怎么快速落地用起来,分享 2 个我常用的轻量部署方案,零基础也能搞定~

方案 1:端侧本地部署(用 MindSpore Lite)

适合把模型装到手机 / 嵌入式设备,步骤超简单:

先把训练好的模型转成 MindIR 格式(MindSpore 统一模型格式):

from mindspore import save_checkpoint, load_checkpoint, load_param_into_net, export from mindspore import Tensor, dtype as mstype # 加载训练好的模型 net = YourTrainedModel() param_dict = load_checkpoint("your_model.ckpt") load_param_into_net(net, param_dict) # 导出为MindIR input_tensor = Tensor([1,2,3], mstype.float32) # 模拟输入形状 export(net, input_tensor, file_name="model.mindir", file_format="MINDIR")

用 MindSpore Lite 转换为端侧模型:

去 MindSpore 官网下载 Lite 工具包,执行命令转格式:

mindspore-lite-converter --fmk=MINDIR --modelFile=model.mindir --outputFile=lite_model

3.端侧推理

from mindspore_lite import Model, Context # 初始化上下文 context = Context() context.target = ["cpu"] # 加载Lite模型 model = Model() model.build_from_file("lite_model.ms", context=context) # 推理 input_data = [Tensor([1,2,3], mstype.float32)] outputs = model.predict(input_data) print("推理结果:", outputs[0].asnumpy())

方案 2:Web 接口部署(用 Flask 封装)

适合把模型做成 HTTP 接口,供前端 / 其他服务调用:

安装依赖:

pip install flask mindspore

写接口代码(app.py):

from flask import Flask, request, jsonify from mindspore import load_checkpoint, load_param_into_net, Tensor, dtype as mstype import numpy as np app = Flask(__name__) # 加载模型(启动时只加载一次) net = YourTrainedModel() param_dict = load_checkpoint("your_model.ckpt") load_param_into_net(net, param_dict) @app.route("/predict", methods=["POST"]) def predict(): # 接收请求数据 data = request.json.get("input") input_tensor = Tensor(np.array(data), mstype.float32) # 模型推理 result = net(input_tensor).asnumpy().tolist() return jsonify({"result": result}) if __name__ == "__main__": app.run(host="0.0.0.0", port=5000)

测试接口:

用 Postman 或 curl 发 POST 请求:

curl -X POST http://127.0.0.1:5000/predict -H "Content-Type: application/json" -d '{"input": [1,2,3]}'

这两个方案我日常用得最多,不用复杂框架就能快速让模型 “跑起来”~

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/23 11:50:58

深度定制vscode-neovim状态栏:打造专属编辑工作台

想要在VSCode中体验真正的Vim编辑乐趣?vscode-neovim插件的状态栏定制功能让你能够完全掌控编辑环境的每一个细节!🎯 作为业界领先的Vim模式集成方案,vscode-neovim通过嵌入式Neovim引擎为开发者提供无缝的Vim编辑体验&#xff0c…

作者头像 李华
网站建设 2026/4/23 11:46:18

Whisper语音识别终极指南:从零开始掌握智能语音转录技术

Whisper语音识别终极指南:从零开始掌握智能语音转录技术 【免费下载链接】whisper-tiny.en 项目地址: https://ai.gitcode.com/hf_mirrors/openai/whisper-tiny.en Whisper是由OpenAI开发的开源语音识别模型,这款强大的AI工具能够将语音内容准确…

作者头像 李华
网站建设 2026/4/23 11:50:02

LangChain大模型应用开发框架:从RAG到Agent的完整指南

在AI大模型时代,Python以23.08%的市场份额连续五年稳居编程语言榜首,在AI、数据科学、深度学习等前沿技术中的应用尤为广泛。而LangChain作为一个基于大语言模型(LLM)的应用程序开发框架,提供了一整套工具、组件和接口…

作者头像 李华
网站建设 2026/4/18 3:47:13

演员杨薇主演影片《顺流而下》连获殊荣 演技实力获三大青年影展认可

近日,演员杨薇凭借其在影片《顺流而下》中的精湛表演,接连在2025年第五届搜狐青幕计划、2025 MUST国际青年电影节暨金鸡澳门影展以及第八届金鹄青年电影周暨原创影像大赛中斩获重要表演奖项,成为近期青年影像领域备受瞩目的焦点。在12月10日于…

作者头像 李华
网站建设 2026/4/23 11:32:21

Rocky Linux 10.1 使用和配置

版本信息 [rootRocky-Linux-10 ~]# cat /etc/os-release NAME"Rocky Linux" VERSION"10.1 (Red Quartz)" ID"rocky" ID_LIKE"rhel centos fedora" VERSION_ID"10.1" PLATFORM_ID"platform:el10" PRETTY_NAME&quo…

作者头像 李华