news 2026/6/25 18:01:03

VS Code 支持 BYOK 本地模型开发,内联建议仍需第三方工具补足

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
VS Code 支持 BYOK 本地模型开发,内联建议仍需第三方工具补足

VS Code 支持 BYOK 本地模型开发,但内联建议仍受限,需第三方工具补足

微软大力推动将 Visual Studio Code 打造成使用其 AI 服务的主要途径,大多以 GitHub Copilot 形式呈现。GitHub Copilot 与 VS Code 深度集成带来内联自动补全功能等便利,但对于想用其他模型或本地部署大语言模型(LLM)的用户来说,有些令人沮丧。

Visual Studio Code 1.122 引入“无需 GitHub 登录即可使用 BYOK(自带密钥)”新功能,允许在气隙或受限环境中使用聊天、工具和 MCP 服务器,还支持用像 Ollama 这样的本地模型实现完全离线工作流程。不过,目前无法用本地 LLM 提供内联和下一次编辑建议,至少在无额外工具时做不到。

为 BYOK 模式选择模型

若想在 VS Code 自带模型系统用本地 LLM,需先部署模型。VS Code 自身无模型部署机制,未来可能有 VS Code 扩展提供类似功能。部署模型复杂,需专门应用程序。

一种简单部署方式是通过像 LM Studio 这样的产品,它是方便的图形用户界面(GUI),可在自己硬件上启动、服务和管理 LLM。模型部署系统不一定和运行 VS Code 的系统相同,也可以是自己控制的服务器或云实例。

选择模型也很重要。很多模型功能强大,但体积大,在普通硬件上运行效果不佳。实用经验法则是选能适配现有显存,又能满足较大令牌上下文(越大越好)所需内存的模型,且该模型要适合编码和开发工作。以下是能轻松适配 8GB 显存的此类模型:

  • Gemma4(有效 20 亿参数版本)
  • Qwen3.5 9B
  • Codestral 22B v.0.1(专有许可证)

在 VS Code 中设置 BYOK 模式

模型部署并运行后,可将其与 Visual Studio Code 集成。若之前禁用了 VS Code 的 AI 功能,需重新启用,确保“chat.disableAIFeatures”设置为关闭状态,可在“设置 | 聊天 | 其他”中找到该设置。

第三方语言模型通过 Visual Studio Code 的语言模型列表管理。按下 Ctrl + Shift + P 并输入“Manage Language Models”,可打开现有语言模型列表。默认情况下可用的模型仅为作为外部 API 提供的模型,而非本地运行的模型。

添加新模型

首先会看到内置模型列表,这些模型均为外部部署。要添加新模型,点击右上角“Add Models”并选择“Custom Endpoint”,随后会有一系列提示:

  • 组名:默认是“Custom Endpoint”,可选择任何想要的名称,该名称仅用于组织模型列表,不影响模型识别或连接等功能。
  • API 密钥:若已将 LM Studio 配置为使用 API 密钥来提供模型服务,需在此处提供该密钥;若在本地部署模型且未明确设置 API 密钥,则可留空。
  • API 类型:选项包括“Chat Completions”“Responses”和“Messages”,大多数情况下希望使用“Responses”,因为它是最通用的。

完成上述信息填写后,会进入用于编辑 JSON 文件的模态编辑器,该文件包含正在配置的端点的详细信息。

还需在标记字段中输入一些详细信息:

  • id:用于唯一标识此条目的文本字段,ID 选择基本任意;若只使用一个模型,ID 可以是模型名称。
  • name:模型在模型服务器上的标识名称,在 LM Studio 中,可通过点击主界面中的“My Models”,然后选择相关模型的三点图标并点击“Copy Default Identifier”来获取该名称。例如,对于 Qwen 2.5,名称可能类似于“qwen2.5-coder-7b-instruct”。
  • url:服务器端点的 URL,在 LM Studio 中,默认类似“http://127.0.0.1:1234/v1”,末尾的“/v1”很重要,因为该端点用于自动发现模型及其功能。

其他字段通常无需编辑。大多数模型都具备工具调用功能。若确定所使用的模型不支持视觉功能,可将“vision”设置为“false”。

填写完这些字段后,关闭模态编辑器以保存更改。重新加载“Manage Language Models”页面,将看到新的端点。

现在应该能够启动聊天窗口,并使用已定义的模型进行对话和使用相关工具。

目前,Visual Studio Code 的 BYOK 功能存在重大限制,仅适用于聊天和工具任务,不允许用本地模型进行内联建议或代码补全。要在 VS Code 中利用本地模型实现更多功能,唯一办法是使用像 Continue 这样的第三方工具。目前尚不清楚微软最终是否会解除这一限制。GitHub Copilot 与 VS Code 的集成是 Copilot 服务触达目标用户的重要方式。就目前而言,肯定可以在 VS Code 的 AI 辅助开发工作中大量使用第三方和本地模型,并通过额外工具来缩小功能差距。

相关领域:开发工具、软件开发、人工智能、生成式 AI

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/25 17:57:53

MoEngage收购Aampe,押注AI智能体是营销未来

印度客户互动软件公司MoEngage已完成对旧金山初创公司Aampe的全现金收购,这一举措背后是其对AI智能体将成为营销未来的坚定押注——这类智能体能够针对每位客户做出个性化决策。MoEngage未披露本次交易的具体金额,但一位知情人士向TechCrunch透露&#x…

作者头像 李华
网站建设 2026/6/25 17:56:45

期末复习开挂!B站视频秒变文字,AI再喂我吃重点

所需工具:1、吴泡泡-B站字幕文案提取2、deepseek3、有道云笔记或 obsidian大学生复习大法!B站视频→逐字稿→大纲笔记📚✨期末复习想看的网课内容太多、时间不够这个方法能帮你从“看视频”切换到“读笔记”模式,效率upup✨Step 1…

作者头像 李华
网站建设 2026/6/25 17:55:46

H800+DeepSeek-R1:开源大模型训练的工程真相与实操指南

1. 这不是新闻稿,是技术从业者拆解AI地缘博弈的第一手笔记上周五下午三点,我正调试一个本地部署的RAG流水线,手机弹出推送:“DeepSeek-R1开源,支持H800训练,数学推理超GPT-4o”。我下意识点开链接&#xff…

作者头像 李华