AI
Caveman:讓 AI Agent「像原始人一樣說話」來省 token,從爆紅玩笑長成六合一的成本工具箱
本內容僅供參考,詳細使用規則與工具安全性與否,建議要進行相關安全性測試與評估
「why many token when few token do trick」——這句話是 Caveman(JuliusBrussee/caveman)的標語。它在 2026 年 4 月以一個玩笑起家:讓 AI Agent 用原始人般的簡短句子回答問題,程式碼、指令、路徑與錯誤訊息則一字不改。沒想到這個點子在 Hacker News 衝上第一名(904 分)、拿下 GitHub Trending 總榜第一,現在約 118.7k stars。11 月 8 日的 AI 開源趨勢報告中,它再度以「節省約 65% 成本」的說法被點名。今天我們就來看看,這個玩笑背後到底有多少真材實料。
1. 專案背景與定位
Caveman 採 Apache-2.0 授權,目前的安裝指令鎖定在 v4.1.0。它已經從單一的 prompt 風格,發展成 README 所稱的「六塊石頭」:
- Say less(少說):簡潔的輸出風格,
/caveman、/ultracave(更簡短),以及/megacave(文言文風格變體) - Read less(少讀):在模型讀取之前,壓縮 log、JSON、CSV、YAML、測試輸出與 HTML
- Auto:依每個問題的難度自動選擇模型與 effort(需要免費帳號)
- Blocks:把常用操作寫成可重用的腳本(另一個 repo,仍為預覽版)
- Waste fixes:
caveman learn等減少浪費的工具(prompt cache 預熱功能標示為「尚未推出」) - Browse:
caveman browse <url>取得壓縮後的網頁
另有付費的 Caveman Cloud,提供可觀測性、評測與自動化功能。
2. 技術架構與核心設計
- 只改輸出、不改你的 prompt:README 引用 Adobe Research 的研究指出,把使用者的 prompt 改成原始人風格會讓答案變差,因此 Caveman 從不改寫你的 prompt,只改變 Agent 的回答方式。
- 程式碼保持精確:回答雖然簡短,但程式碼、指令、檔案路徑與錯誤訊息一律原樣保留。
- 實用指令:
/caveman-commit(簡潔的 commit 訊息)、/caveman-review(例如「L42: 🔴 null deref. Guard it.」)、/caveman-compress(壓縮 CLAUDE.md 這類記憶檔,並保留備份)、/caveman-stats統計節省量。 - CLI 與 proxy:
caveman claude包裝啟動、caveman shrink -- <cmd>壓縮任意指令的輸出、caveman trial -- claude試用、caveman doctor診斷。 - 支援 30 多種 Agent:Claude Code、Codex、Gemini CLI、OpenCode、Aider、Hermes、OpenClaw、Pi 等;安裝方式包括
npx @caveman-ai/cli@latest、Claude Code plugin、Gemini CLI extension 與npx skills add。
3. 社群熱度與生態採用
約 118.7k stars、6.9k forks、2,029 commits。值得肯定的是,Caveman 對自己的數據相當誠實,README 還連結了一份專門列出「Caveman 輸掉的每一個案例」的文件:
- 整個 session 的輸入 token:少 33.2%(54 次 Claude Code 執行、18 題全對;不過測試基於 8 月的舊引擎)
- 工具輸出壓縮:單一檔案可省 98% 以上,但換算成整個 session,CSV 省 55.1%、log 省 50.2%、JSON 只省 26.4%,HTML 反而多 9.9%(尚無對應的壓縮器)
- 輸出風格:十個開發問題中,
/caveman只比單純要求「簡潔回答」少約 3%(中位數),/ultracave則少 35%;而這套規則本身要花約 1,160 個輸入 token - Auto 路由:85 個任務中,成本從每次 7.83 美元降到 3.59 美元、解題率 44.3% 對 43.7%——但官方標示為「進行一半的中期結果」,差距在誤差範圍內,且節省主要來自「簡單問題降低 effort」
- 外部研究:Adobe Research(八個模型、成本降低 1.4–2.4 倍)、Elastic(回應 token 少 63.6%)、JetBrains(86 個真實任務的 A/B 測試,輸出 token 少 8.5%、品質無可測得的差異)
4. 局限性與潛在風險
- 「65%」是行銷數字:repo 描述寫「cuts 65% of tokens」,但 README 自己量到的整體數字是 33.2%(輸入 token);65% 比較接近 Elastic 只計算回應 token 的結果。評估時應以自己的實測為準。
- 不一定省錢:README 坦言,如果你是按請求次數計費(例如 GitHub Copilot),回答變短並不會省錢;規則本身也有固定的 token 成本。
- Auto 會把內容送到第三方:啟用 Auto 並登入後,最新的問題(連同附加的 CLAUDE.md、記憶與 @ 提及的檔案)、前一個問題、上一次回答的結尾等會送到 Caveman Cloud;免費方案下官方「可能保留這些資料以改善路由」。若路由到 Caveman Cloud 的模型,系統提示、工具結果與程式碼都會經過它。處理機密程式碼時應關閉(
caveman off routing)。 - Telemetry 預設開啟:會送出指令、token 數、安裝 ID、作業系統與 IP(官方表示不含 prompt、程式碼或路徑),可用
caveman telemetry off或DO_NOT_TRACK=1關閉。 - 簡短可能犧牲可讀性:對資深工程師很有效率,但對新手或需要解釋的情境,過度精簡的回答可能更難理解。
- 一行安裝腳本:
curl | bash與 PowerShelliex都等於信任下載當下的腳本,建議改用套件管理器或先檢視內容。
5. 應用價值與適用場景
最適合按 token 計費、每天大量使用 Coding Agent 的開發者與團隊:處理大量 log、CSV、測試輸出的工作最能感受到差異;/caveman-review 與 /caveman-commit 也很適合讓 PR 審查與 commit 訊息更精煉。如果只想要其中一部分,可以只開啟「Read less」的工具輸出壓縮,不改變 Agent 的說話方式。
Monday 的觀點與架構建議
- Caveman 最值得學習的不是原始人風格,而是它的誠實的評測文化:公開每一個不划算的案例、標示中期結果、提醒按次計費者不會省錢。在一個充滿誇大 benchmark 的領域,這種態度比任何數字都珍貴。
- 「只改輸出、絕不改使用者 prompt」的原則,來自實際研究結論,也是所有 prompt 最佳化工具都該遵守的底線。
- 導入建議:先只用 Read less 與
/caveman-stats量測一週的實際節省;處理機密專案時關閉 Auto 路由與 telemetry;與本月介紹的 Headroom、context-mode 比較後,選擇最適合自己工作型態的一種,避免多層壓縮互相干擾。 - 從 Ponytail(少寫程式碼)、Headroom(少讀 context)到 Caveman(少說廢話),「Agent 的 token 經濟學」已經成為一個獨立的工具類別。這也提醒我們:真正的成本最佳化,往往來自改變工作習慣,而不只是換一個更便宜的模型。
參考來源
- GitHub:JuliusBrussee/caveman
- AI 開源趨勢日報:gittok 2026-11-08
- 相關文章:Headroom:在 LLM 看到之前先壓縮
- 相關文章:Ponytail:讓 AI Coding Agent 學會「最懶的資深工程師」那一套
Friday