AI 编码工具的底层架构:Cursor 是怎么给你补全代码的

  // 项目规则
  if (context.rules) {
    parts.push(`Project rules:\n${context.rules}\n`);
  }

  // 相关文件类型定义
  for (const file of context.relatedFiles) {
    parts.push(`// File: ${file.path}\n${file.content}\n`);
  }

  // FIM 格式
  parts.push(`<PRE>${context.prefix}<SUF>${context.suffix}<MID>`);

  return parts.join(“\n”);
}

function onTextChange(event: TextChangeEvent) {
  // 取消上一次请求
  abortController?.abort();

  clearTimeout(debounceTimer);
  debounceTimer = setTimeout(async () => {
    // 快速判断是否值得请求
    if (!shouldTrigger(event)) return;

    abortController = new AbortController();

    try {
      const completion = await requestCompletion({
        context: collectContext(),
        signal: abortController.signal,
      });

      if (completion) {
        showGhostText(completion);
      }
    } catch (e) {
      if (e.name !== “AbortError“) throw e;
    }
  }, 150); // 150ms 防抖
}

function shouldTrigger(event: TextChangeEvent): boolean {
  // 删除操作不触发
  if (event.isDelete) return false;
  // 在注释中不触发（可选）
  if (isInsideComment(event.position)) return false;
  // 在字符串中可能不触发
  if (isInsideString(event.position)) return false;
  return true;
}

## 当前文件
{activeFile}

## 选中的代码
{selection}

## 相关代码片段
{codeSnippets}

## 错误信息
{diagnostics}

User: {userQuery}

  // 代码搜索
  { name: “grep_search”, description: “全局搜索代码” },
  { name: “semantic_search”, description: “语义搜索代码” },

  // 执行
  { name: “run_command”, description: “在终端运行命令” },

  // IDE
  { name: “get_diagnostics”, description: “获取 LSP 诊断信息” },
  { name: “go_to_definition”, description: “跳转到定义” },
];

Agent: [思考] 先看看 UserService 的代码
  → read_file(“src/services/user.service.ts”)

Agent: [思考] 看到了 createUser 方法，需要加 zod 校验
  → read_file(“package.json”)  // 检查是否有 zod

Agent: [思考] 没有 zod，先安装
  → run_command(“npm install zod”)

Agent: [思考] 现在写校验代码
  → write_file(“src/services/user.service.ts”, updatedCode)

Agent: [思考] 检查有没有类型错误
  → get_diagnostics(“src/services/user.service.ts”)

Agent: [思考] 有一个类型错误，修复
  → write_file(“src/services/user.service.ts”, fixedCode)

Agent: [思考] 再检查一次
  → get_diagnostics(“src/services/user.service.ts”)

Agent: 完成！给 createUser 和 updateUser 方法添加了 zod 参数校验…

2. Prompt Builder（Prompt 构建器）
   – 把上下文组装成模型可用的 Prompt
   – 不同模式用不同模板

3. LLM Provider（模型提供器）
   – 支持 OpenAI / Anthropic / Ollama / 本地模型
   – 统一接口，一键切换

4. Response Handler（响应处理器）
   – 解析模型输出
   – 代码 diff 应用到编辑器

5. Editor Integration（编辑器集成）
   – VS Code / JetBrains 插件
   – 处理 ghost text、inline diff 等 UI

  async getCompletion(prefix: string, suffix: string): Promise<string | null> {
    const key = hashKey(prefix, suffix);

    // L1：精确匹配
    if (this.prefixCache.has(key)) {
      return this.prefixCache.get(key)!;
    }

    // L2：前缀匹配（用户刚接受了一部分补全，剩下的还能用）
    for (const [cachedKey, cachedCompletion] of this.prefixCache) {
      if (prefix.startsWith(getCachedPrefix(cachedKey))) {
        const remaining = trimAcceptedPart(cachedCompletion, prefix);
        if (remaining) return remaining;
      }
    }

    // L3：调模型
    const completion = await requestFromModel(prefix, suffix);
    this.prefixCache.set(key, completion);
    return completion;
  }
}

class AICompletionProvider implements vscode.InlineCompletionItemProvider {
  async provideInlineCompletionItems(
    document: vscode.TextDocument,
    position: vscode.Position,
    context: vscode.InlineCompletionContext
  ): Promise<vscode.InlineCompletionItem[]> {
    const prefix = document.getText(
      new vscode.Range(new vscode.Position(0, 0), position)
    );
    const suffix = document.getText(
      new vscode.Range(position, document.lineAt(document.lineCount – 1).range.end)
    );

    const completion = await this.getCompletion(prefix, suffix);
    if (!completion) return [];

    return [
      new vscode.InlineCompletionItem(
        completion,
        new vscode.Range(position, position)
      ),
    ];
  }
}

vscode.languages.registerInlineCompletionItemProvider(
  { pattern: “**” },
  new AICompletionProvider()
);