背景：毕设里“调个模型”怎么就成了泥潭？
每年三四月，实验室里总会响起此起彼伏的叹气声——“我只是想给毕设加个问答功能，怎么越写越乱？”
大多数同学拿到 OpenAI 接口后，直接在 Flask 路由里裸调openai.ChatCompletion.create，一条main.py从头写到尾：
- 业务逻辑、提示模板、密钥、甚至测试问答，全挤在 200 行里
- 调试时打印满天飞，Token 超限却找不到哪句 prompt 超长
- 想换个模型，要全文搜索字符串；想加个历史记录，又担心把上下文拼错
结果“人工智能”没惊艳到导师，反而被问到：“你这代码，复现不了怎么办？”
归根结底，缺的不是算法，而是工程化思维。下面把我在毕设中踩过的坑，以及如何用“AI 辅助开发”范式翻身的过程，拆成可复制的步骤，供还在熬夜的你参考。
技术选型：裸调 API vs. 上框架
| 维度 | 直接调 API | LangChain 等框架 |
|---|---|---|
| 上手速度 | 5 分钟跑通 | 需理解链式抽象，前期曲线略陡 |
| 提示模板维护 | 字符串拼接，易出错 | Template 对象，参数化渲染 |
| 多轮上下文 | 自己拼 messages 数组 | Memory 组件一键托管 |
| 外部知识 | 自己写检索、分段 | 文档加载器、向量库一键接 |
| 可单测性 | 网络 IO 与业务耦合，难 mock | 链路与模型解耦，易测 |
| 切换模型 | 全局搜索替换 | 改一行model_name |
结论：
- 只想做一次性 demo，裸调 API 最快；
- 毕设要过“可维护、可扩展、可复现”三关，LangChain 这类框架省下的不是代码量，而是心智负担。
核心实现：FastAPI + LangChain 搭建“多轮问答”微服务
1. 项目骨架
grad_bot/ ├─ app/ │ ├─ main.py │ ├─ api/ │ │ └─ chat.py │ ├─ core/ │ │ ├─ config.py │ │ ├─ security.py │ │ └─ chain.py │ └─ models/ │ └─ schema.py ├─ tests/ └─ requirements.txt全部类型注解，单文件不超 120 行，方便导师 code review。
2. 依赖版本
- python = "^3.10"
- fastapi = "^0.110"
- langchain = "^0.1"
- uvicorn = "^0.29"
- pydantic = "^2.5"
3. 关键代码
3.1 全局配置（core/config.py）
from pydantic_settings import BaseSettings class Settings(BaseSettings): openai_api_key: str openai_base_url: str = "https://api.openai.com/v1" model_name: str = "gpt-3.5-turbo" max_tokens: int = 512 temperature: float = 0.3 timeout: int = 30 class Config: env_file = ".env" settings = Settings()3.2 链式封装（core/chain.py）
from langchain.chat_models import ChatChatOpenAI from langchain.memory import ConversationBufferWindowMemory from langchain.chains import ConversationChain from core.config import settings def build_chain() -> ConversationChain: llm = ChatChatOpenAI( openai_api_key=settings.openai_api_key, openai_base_url=settings.openai_base_url, model_name=settings.model_name, max_tokens=settings.max_tokens, temperature=settings.temperature, request_timeout=settings.timeout, ) memory = ConversationBufferWindowMemory(k=4) # 仅保留最近 4 轮 return ConversationChain(llm=llm, memory=memory, verbose=False)3.3 请求/响应模型（models/schema.py）
from pydantic import BaseModel, Field class ChatReq(BaseModel): user_id: str = Field(..., description="用于会话隔离") question: str = Field(..., min_length=1, max_length=500) class ChatResp(BaseModel): answer: str tokens_used: int3.4 路由层（api/chat.py）
from fastapi import APIRouter, Depends, HTTPException from core.chain import build_chain from models.schema import ChatReq, ChatResp import asyncio router = APIRouter(prefix="/chat", tags=["chat"]) # 全局链池，减少冷启动重复加载 chain_pool: dict[str, ConversationChain] = {} def get_chain(user_id: str) -> ConversationChain: if user_id not in chain_pool: chain_pool[user_id] = build_chain() return chain_pool[user_id] @router.post("/question", response_model=ChatResp) async def ask(req: ChatReq, chain: ConversationChain = Depends(lambda: get_chain(req.user_id))): try: # 异步包装，防止阻塞主线程 loop = asyncio.get_event_loop() answer = await loop.run_in_executor(None, chain.run, req.question) tokens = chain.llm.get_num_tokens(answer) return ChatResp(answer=answer, tokens_used=tokens) except Exception as e: raise HTTPException(status_code=500, detail=str(e))3.5 启动文件（main.py）
from fastapi import FastAPI from api.chat import router as chat_router app = FastAPI(title="GradBot", version="0.1.0") app.include_router(chat_router) if __name__ == "__main__": import uvicorn uvicorn.run("main:app", host="0.0.0.0", port=8000, reload=True)至此，一个带会话记忆、可并发、可单测的问答服务就成型了。导师再要看代码，只需打开chain.py，就能一眼看清“模型在哪、提示在哪、记忆策略是啥”。
性能与安全：让“demo”像“产品”
冷启动延迟
- 首次启动拉取分词器、模型配置，可达 2-3 s。
- 解决：在 Dockerfile 里加
RUN python -c "from core.chain import build_chain; build_chain()"，提前编译缓存。
Token 消耗控制
- 设置
max_tokens与temperature双阈值； - 在链外层再包一层
TokenBudget类，累计用户当日用量，超限直接返回 429。
- 设置
输入过滤
- 用
langchain sanitizing模板，先过一遍正则，屏蔽手机号、身份证等 8 位以上数字串； - 对英文 prompt 再做
profanity-check，防止违反内容政策。
- 用
密钥管理
- 禁止
.py文件出现sk-字样； - 使用
python-dotenv+ docker secret，CI 自动扫 Repo，一旦命中硬编码即中断构建。
- 禁止
日志脱敏
- 统一使用
structlog打印； - 自定义
RedactFilter，凡 value 匹配sk-规则，全部替换成***。
- 统一使用
生产上线：避坑清单
幂等性
毕设答辩现场网络抖动，同学狂点按钮，同一条问题被重复计费 5 次。
解决：在ask接口加Redis lock = f"chat:{user_id}"，过期时间 3 秒，提交即加锁。API 版本锁定
官方模型升级，输出格式变，导致前端解析崩溃。
解决：在请求头加'OpenAI-Version: 2023-10-01'，锁定行为。日志分级
生产环境开启INFO级别即可，勿把DEBUG提示抛给前端，防止暴露内部提示词。容器资源限制
1 vCPU / 2 G 内存的云主机，并发一上来就被 OOM。
解决：- 设置
gunicorn workers = 2*CPU+1 - 开启
--preload，复用主进程内存 - 对
/chat路由加async，I/O 等待阶段释放 GIL
- 设置
动手重构：把“AI 辅助”变成“AI 加速”
做完上面这套，你会发现真正耗时的不再是“调通模型”，而是：
- 需求澄清：到底要解决什么场景？
- 数据准备：知识库切片、清洗、向量化；
- 体验打磨：回答格式、异常提示、重试策略。
把脏活累活交给框架，自己专注业务，这才是“AI 辅助开发”的核心。
不妨今晚就新建分支，把旧代码里所有openai.xxx字符串替换成链式调用；再写三个单元测试，跑通 CI。明天导师问“工作量在哪”，你就能把git diff甩出来——每一行改动都看得见，复现路径一条指令。
最后留一道思考题：
当模型能写代码、调 Bug、甚至帮你写毕设论文，“AI 辅助”与“AI 主导”的边界到底在哪？
把答案写进答辩 PPT 的致谢页，也许比任何花哨指标都更能打动评委。
祝各位一次通过，顺利毕业。
