乐于分享
好东西不私藏

GitHub热点 | rtk-ai/rtk:5.6万星的LLM Token杀手,用Rust把AI编程成本砍掉80%

GitHub热点 | rtk-ai/rtk:5.6万星的LLM Token杀手,用Rust把AI编程成本砍掉80%
⭐55,766 | Rust | Apache-2.0

📌 一句话速览

rtk是一个用Rust编写的高性能CLI代理工具,通过过滤和压缩命令输出将LLM的Token消耗降低60-90%,单个二进制文件、支持100+常用命令、开销不到10毫秒。在Claude Code、Cursor等AI编程工具日益普及的今天,rtk直接解决了Token成本这一核心痛点。

🔍 这是什么

如果你用过Claude Code或Cursor,你可能会注意到一个令人肉疼的现象:一次30分钟的编程会话,LLM可能消耗超过10万个Token。而其中大部分Token被浪费在了冗余的命令输出上——ls列出了几百个文件、grep返回了几千行匹配、pytest输出了完整的测试报告。

rtk(Rust Token Killer)就是为解决这个问题而生的。它作为一个轻量级的CLI代理,拦截你的命令输出,在传递给LLM之前进行智能压缩和过滤。

项目从2026年1月开源至今已获得55,766颗星标和3,408个Fork。它用纯Rust编写,编译为单个二进制文件,安装后几乎零配置即可使用。

根据项目提供的实测数据,一个典型的30分钟Claude Code会话中:

  • 标准模式下Token消耗约118,000个
  • 使用rtk后降至约23,900个
  • 节约幅度高达80%

这个数字意味着什么?按照Claude 3.5的定价($3/百万输入Token),一个开发者每天使用4小时AI编程,一个月(22个工作日)大约能节省$100以上的API费用。对于团队和企业来说,这个数字会呈几何级增长。

🏗️ 架构设计

rtk的架构设计遵循「零侵入、零延迟」原则:

命令拦截层: rtk通过Shell的alias或PATH劫持机制拦截CLI命令。当你在Claude Code中执行lsgrep时,实际上是rtk先接收到了命令和输出。

智能压缩引擎: 这是rtk的核心模块。它不是简单地截断输出,而是根据命令类型应用不同的压缩策略:

命令输出 → 命令类型识别 → 策略选择 → 压缩执行 → 压缩后输出
              ↓                ↓
         ls/tree → 保留关键文件,折叠目录结构
         cat/read → 保留关键行,去除空行和注释
         grep/rg → 保留匹配行及上下文,去除重复
         git diff → 保留变更摘要,折叠上下文
         pytest → 只保留失败用例,折叠通过用例

Rust性能保障: 整个压缩过程在Rust中实现,单次处理开销不到10毫秒。这意味着你几乎感觉不到rtk的存在——命令输出会瞬间完成,但LLM收到的已经是精简后的版本。

⚡ 核心功能

1. 100+命令的智能压缩

rtk针对开发者最常用的100多个命令预置了压缩策略:

命令类别示例压缩策略节约率
文件列表ls, tree保留关键文件,折叠深层目录80%
文件读取cat, read保留关键行,去除注释空行70%
搜索grep, rg保留匹配+上下文,去重80%
Git操作status, diff, log摘要替代全文75-92%
测试运行pytest, cargo test只保留失败用例90%
代码检查ruff check, eslint折叠重复警告80%

2. 一键安装与配置

# Homebrew安装(推荐)
brew install rtk

# 或快速安装
curl -fsSL https://raw.githubusercontent.com/rtk-ai/rtk/master/install.sh | sh

# 配置Claude Code使用rtk
# 在.claude/settings.json中添加:
{
  "shell_command_prefix": "rtk exec"
}

3. 自定义压缩规则

# 为特定命令自定义压缩策略
rtk config add --command "docker logs" --max-lines 50 --filter "error|warn"

# 查看当前所有压缩规则
rtk config list

# 实时查看Token节省统计
rtk stats

4. 多LLM客户端支持

rtk不仅支持Claude Code,还兼容Cursor、Windsurf、Aider、Continue等主流AI编程工具。只要工具通过Shell执行命令,rtk就能拦截并压缩输出。

⚔️ 竞品对比

维度rtkClaude Code原生Aiderllm-ls
压缩方式智能策略过滤上下文裁剪Token计数
语言Rust-PythonRust
性能开销<10ms0ms~50ms<5ms
命令覆盖100+N/AN/AN/A
节约率60-90%0%~30%计数不压缩
兼容性所有Shell工具Claude专用Aider专用LSP协议
安装复杂度一行命令内置pip install手动配置

🔧 快速上手

# 1. 安装rtk
brew install rtk

# 2. 启用rtk代理(自动配置Shell)
rtk init

# 3. 正常使用Claude Code/Cursor等工具
# rtk会在后台自动压缩命令输出

# 4. 查看实时节省统计
rtk stats --live

# 输出示例:
# Session: 45min | Tokens saved: 89,234 (78%) | Cost saved: $0.27

💡 编辑点评

rtk解决的是一个被AI编程热潮掩盖的隐形成本问题。所有人都在关注模型的智商有多高、功能有多强,但很少有人讨论:当你每天用AI写8小时代码时,Token费用可能比你的咖啡预算还高。rtk用Rust的性能和精巧的策略设计,在不牺牲功能的前提下把成本砍掉80%。这不仅是一个工具,更是一种新的思路——AI时代的「性能优化」,不只是优化模型,还要优化人与模型之间的信息传输。


维度评分
创新性★★★★★
实用性★★★★★
文档质量★★★★☆
社区活跃度★★★★★
推荐指数★★★★★

— END —

免责声明:本文由AI辅助生成,仅供参考。