DeepSeek-OCR-2部署教程：Nginx反向代理+HTTPS配置实现生产环境发布

DeepSeek-OCR-2部署教程：Nginx反向代理+HTTPS配置实现生产环境发布

1. 环境准备与快速部署

在开始部署DeepSeek-OCR-2之前，我们需要确保服务器满足以下基本要求：

• 操作系统：Ubuntu 20.04/22.04 LTS（推荐）
• 硬件配置：
  • CPU：至少4核
  • 内存：16GB以上
  • GPU：NVIDIA显卡（建议RTX 3060及以上）
  • 存储：50GB可用空间

安装基础依赖：

# 更新系统包 sudo apt update && sudo apt upgrade -y # 安装基础工具 sudo apt install -y git curl wget unzip python3-pip nginx # 安装CUDA驱动（如使用GPU） sudo apt install -y nvidia-cuda-toolkit

2. DeepSeek-OCR-2安装与配置

2.1 获取模型代码

git clone https://github.com/deepseek-ai/DeepSeek-OCR-2.git cd DeepSeek-OCR-2

2.2 安装Python依赖

pip install -r requirements.txt

2.3 下载预训练模型

wget https://deepseek-model.oss-cn-hangzhou.aliyuncs.com/ocr/v2/DeepSeek-OCR-2-model.zip unzip DeepSeek-OCR-2-model.zip

3. 使用vLLM进行推理加速

vLLM是一个高效的推理引擎，可以显著提升OCR模型的推理速度：

pip install vllm

修改启动脚本以启用vLLM加速：

# 在app.py中添加以下配置 from vllm import LLM, SamplingParams llm = LLM(model="DeepSeek-OCR-2-model") sampling_params = SamplingParams(temperature=0.7, top_p=0.9)

4. Gradio前端界面配置

DeepSeek-OCR-2默认使用Gradio作为前端界面：

# 修改gradio_app.py中的配置 import gradio as gr def process_image(image): # OCR处理逻辑 result = ocr_model.process(image) return result iface = gr.Interface( fn=process_image, inputs=gr.Image(type="pil"), outputs="text", title="DeepSeek-OCR-2" ) iface.launch(server_name="0.0.0.0", server_port=7860)

启动Gradio服务：

python gradio_app.py

5. Nginx反向代理配置

5.1 安装Nginx

如果尚未安装Nginx：

sudo apt install -y nginx

5.2 配置反向代理

创建Nginx配置文件：

sudo nano /etc/nginx/sites-available/deepseek-ocr

添加以下内容：

server { listen 80; server_name your-domain.com; location / { proxy_pass http://localhost:7860; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; } }

启用配置并重启Nginx：

sudo ln -s /etc/nginx/sites-available/deepseek-ocr /etc/nginx/sites-enabled sudo nginx -t sudo systemctl restart nginx

6. HTTPS配置（使用Let's Encrypt）

6.1 安装Certbot

sudo apt install -y certbot python3-certbot-nginx

6.2 获取SSL证书

sudo certbot --nginx -d your-domain.com

按照提示完成证书申请和安装。

6.3 自动续期配置

Certbot会自动配置cron任务，但可以手动验证：

sudo certbot renew --dry-run

7. 生产环境优化建议

7.1 使用Supervisor管理进程

安装Supervisor：

sudo apt install -y supervisor

创建配置文件：

sudo nano /etc/supervisor/conf.d/deepseek-ocr.conf

添加以下内容：

[program:deepseek-ocr] command=python /path/to/DeepSeek-OCR-2/gradio_app.py directory=/path/to/DeepSeek-OCR-2 user=www-data autostart=true autorestart=true stderr_logfile=/var/log/deepseek-ocr.err.log stdout_logfile=/var/log/deepseek-ocr.out.log

启动服务：

sudo supervisorctl reread sudo supervisorctl update sudo supervisorctl start deepseek-ocr

7.2 性能调优

# 在app.py中添加以下配置 import os os.environ["GRADIO_SERVER_PORT"] = "7860" os.environ["GRADIO_SERVER_NAME"] = "0.0.0.0" os.environ["GRADIO_QUEUE"] = "True"

8. 常见问题解决

1. 端口冲突：

   • 检查7860端口是否被占用：sudo lsof -i :7860
   • 修改Gradio端口：iface.launch(server_port=7861)

2. GPU内存不足：

   • 减小batch size：llm = LLM(model="DeepSeek-OCR-2-model", max_batch_size=4)
   • 使用CPU模式（不推荐）：llm = LLM(model="DeepSeek-OCR-2-model", device="cpu")

3. Nginx 502错误：

   • 检查Gradio服务是否运行：ps aux | grep gradio
   • 检查Nginx错误日志：sudo tail -f /var/log/nginx/error.log

4. SSL证书问题：

   • 强制HTTPS重定向：在Nginx配置中添加return 301 https://$host$request_uri;
   • 更新证书：sudo certbot renew

9. 总结

通过本教程，我们完成了DeepSeek-OCR-2在生产环境的完整部署流程，包括：

1. 基础环境准备与模型安装
2. vLLM推理加速配置
3. Gradio前端界面部署
4. Nginx反向代理设置
5. HTTPS安全加密配置
6. 生产环境优化建议

这套配置方案能够确保OCR服务稳定、安全地运行，同时提供良好的用户体验。对于高并发场景，建议考虑使用Kubernetes进行容器化部署和水平扩展。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。