Akhir-akhir ini saya sedang banyak berinteraksi dengan Claude Code untuk membangun beberapa tools, akibatnya saya sering kehabisan token dan perlu menunggu beberapa saat supaya bisa menggunakannya lagi.
Tapi apakah menunggu itu merupakan satu-satunya solusi? Ternyata ada cara lain yaitu menghemat konsumsi token saat kita berinteraksi dengan LLM.
Seperti yang kita tahu, ketika meminta LLM untuk scanning codebase kita untuk mendapatkan konteks, maka dia akan membaca sebagian besar atau bahkan seluruh codebase untuk kemudian kembali memberikan jawaban. Tentunya ini sangat boros token dan berpotensi kehabisan sebelum sempat mengobrol atau memberikan instruksi.
Singkat cerita, saya menemukan Cocoindex Code.
A lightweight, effective (AST-based) semantic code search tool for your codebase. Built on CocoIndex — a Rust-based ultra performant data transformation engine. Use it from the CLI, or integrate with Claude, Codex, Cursor — any coding agent — via Skill or MCP.
Kalau dari repositorinya, dia klaim bisa menghemat hingga 70% token, apakah benar? saya tidak menghitung secara pasti, tapi memang rasanya respon menjadi lebih cepat karena LLM tinggal menggunakan hasil indexing untuk mencari konteks.
Saya install ini di Claude Code dan Cline sebagai MCP, sudah bisa index otomatis sehingga ketika ngobrol saya tinggal nyuruh LLM untuk menggunakan cocoindex.
Hasilnya? LLM lebih cepat mendapatkan konteks dan bisa fokus dengan permintaan saya.