个人 AI 代理 mini-agent 的推理调用中，87.4% 运行在一个 0.8B 参数模型上，该模型在生产环境中连续运行了 18 天。mini-agent 是一个感知驱动的系统，负责监控开发环境、管理任务和协助项目。其核心是 Claude（Opus/Sonnet），尽管功能强大，但每次调用都需要消耗代币和时间。因此，构建了一个级联层：首先由本地的 0.8B 模型（Qwen2.5）处理决策，只...