创作者手记
我是一个独立开发者。AI 时代的到来给了我很多灵感,也让开发变得前所未有地高效;但高昂的订阅费和 API 成本,也一直困扰着我。每当一个新模型出现,我几乎都要再订阅一家服务,原来的订阅很快就被闲置。我也在本地部署过许多模型,可除了免费,它们在真正的开发工作中很难发挥作用。
为此,我一直在拆解强模型和弱模型在工具调用、文件读取等各项指标上的差异。最后,我得出一个结论:让强模型做大脑,负责拆解任务、判断方向和最终验收;让弱模型做手脚,承担文件读取、资料检索、重复执行和大量输出。于是,我做了这个 Agent CLI。经过无数次测试和规则修正,这套协作方式终于真正跑通。
借助我设计的 KV 压缩规则——我把它称为器灵压缩——主模型与协作模型的组合,可以在大幅减少主模型消耗的同时保持精度;在部分任务里,速度和结果质量甚至能超过主模型单独执行。我还把常用 CLI 接入同一个工作台,在获得协同收益的同时,也保留原来的使用习惯。如果你也是 AI Agent 的深度用户,欢迎加入我,养一只属于你自己的器灵。