快速搭建本地AI编程助手:使用Yi-Coder模型与Cursor编辑器

Yi-Coder 是一款开源的高性能代码语言大模型,专为高效编程而设计。它支持多达52种编程语言,特别擅长处理需要长上下文理解的任务,例如项目级代码的生成和理解。Yi-Coder提供两种模型大小(15亿和90亿参数),并有基础版和聊天版两种版本。

在本教程中,您将学习如何:

  • 使用与OpenAI兼容的API在本地运行Yi-Coder模型
  • 将Yi-Coder与Cursor编辑器集成,实现高效编程辅助

Cursor编辑器简介

Cursor 是目前最受欢迎的AI代码编辑器之一。它能够利用专门为编码任务训练的大语言模型(如Yi-Coder)来完成编码辅助任务。通过将Yi-Coder-9B配置为Cursor的私有LLM后端,您可以实现更高效的本地编程体验。

在本地运行Yi-Coder模型

为了在本地运行Yi-Coder-9B模型,您需要按照以下步骤操作:

  1. 安装开源Gaia节点——这是一组轻量且可移植的LLM推理工具。

bash
curl -sSfL ‘https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh’ | bash

  1. 下载并初始化模型。

bash
gaianet init –config https://raw.githubusercontent.com/GaiaNet-AI/node-configs/main/yi-coder-9b-chat/config.json

  1. 启动Gaia节点。

bash
gaianet start

启动后,您将获得一个HTTPS URL,例如 https://NODE-ID.us.gaianet.network。同时,您可以通过访问 http://localhost:8080 在浏览器中提问与编程相关的问题。

Yi-Coder运行界面

提示:我们默认以8k上下文窗口启动Yi-Coder-9B模型。如果您的机器拥有较大的GPU内存(例如24GB),则可以将上下文窗口大小增加到128k。更大的上下文窗口在编码任务中尤为重要,因为它允许我们将更多源代码文件注入LLM提示中以完成复杂任务。

将Yi-Coder-9B集成到Cursor编辑器

接下来,我们将使用本地运行的Yi-Coder-9B模型配置Cursor编辑器:

  1. 使用您的Gaia节点URL覆盖Cursor的默认OpenAI URL。
  2. 设置模型名称和“API密钥”。
  3. 完成配置后,您即可开始使用Yi-Coder进行编码辅助。

Cursor配置示例

测试Yi-Coder-9B

让我们通过生成一个简单的搜索页面来测试Yi-Coder-9B的功能:

  1. 提示模型生成一个搜索页面。

搜索页面生成

  1. 要求Yi-Coder-9B修改按钮上的文字标签,并解释搜索按钮的工作原理。

按钮修改

  1. 最终生成的网页如预期运行!

网页运行结果

关于WasmEdge

WasmEdge 是一款轻量级、安全、高性能、可扩展且兼容OCI的软件容器与运行环境。它目前是CNCF沙箱项目,广泛应用于SaaS、云原生、边缘计算、微服务、流数据处理以及LLM推理等领域。

👉 野卡 | 一分钟注册,轻松订阅海外线上服务


关键词:Yi-Coder, Cursor, 本地AI编程助手, Gaia节点, WasmEdge, LLM推理, 编程辅助

上一篇 8小时前
下一篇 5小时前

热门推荐