Tag: token management

  • Hemat Token LLM Dengan Caveman

    Sepertinya sekarang ini salah satu nilai tukar di Internet yang sedang hype adalah token LLM. Claude masih tercatat sebagai pemegang nilai tukar tertinggi bersama Claude Opus.

    Meminta Claude untuk mengurangi harganya sungguh tidak mungkin, sebab biaya research dan resource untuk menjalankan Opus pasti tidak murah, saya tidak tega untuk meminta penurunan harga ataupun diskon.

    Tapi apakah tidak ada yang bisa kita lakukan? Ternyata ada.

    Claude dan LLM lain memiliki 2 jenis token, yaitu input dan output yang memiliki harga berbeda. Namun ada lagi satu bentuk output yang suka membakar uang kita, yaitu respon LLM yang dibuat manusiawi.

    “Kamu benar, pemikiran yang tepat, pertanyaan bagus”, pasti sering dapat repson seperti itu kan? Rasanya seneng ya dipuji oleh AI?

    Padahal itu sebuah pemborosan token.

    Gimana kalau semua itu kita hapus, jadi kita hanya dapat respon yang dingin atau dry text seperti gebetanmu yang bertepuk sebelah tangan itu.

    Mari kita berterima kasih kepada Caveman.

    A Claude Code skill/plugin and Codex plugin that makes agent talk like caveman — cutting ~75% of output tokenswhile keeping full technical accuracy.

    Apakah benar akan bisa mengurangi 75%? saya yakin sih itu gimmick, tapi apapun yang bisa mengurangi kebocoran token dan membuat saya bisa berinteraksi lebih lama di satu sesi, maka itu sudah cukup.

  • MCP Cocoindex Code Untuk Menghemat Token

    Akhir-akhir ini saya sedang banyak berinteraksi dengan Claude Code untuk membangun beberapa tools, akibatnya saya sering kehabisan token dan perlu menunggu beberapa saat supaya bisa menggunakannya lagi.

    Tapi apakah menunggu itu merupakan satu-satunya solusi? Ternyata ada cara lain yaitu menghemat konsumsi token saat kita berinteraksi dengan LLM.

    Seperti yang kita tahu, ketika meminta LLM untuk scanning codebase kita untuk mendapatkan konteks, maka dia akan membaca sebagian besar atau bahkan seluruh codebase untuk kemudian kembali memberikan jawaban. Tentunya ini sangat boros token dan berpotensi kehabisan sebelum sempat mengobrol atau memberikan instruksi.

    Singkat cerita, saya menemukan Cocoindex Code.

    A lightweight, effective (AST-based) semantic code search tool for your codebase. Built on CocoIndex — a Rust-based ultra performant data transformation engine. Use it from the CLI, or integrate with Claude, Codex, Cursor — any coding agent — via Skill or MCP.

    MCP Cocoindex Code Untuk Menghemat Token

    Kalau dari repositorinya, dia klaim bisa menghemat hingga 70% token, apakah benar? saya tidak menghitung secara pasti, tapi memang rasanya respon menjadi lebih cepat karena LLM tinggal menggunakan hasil indexing untuk mencari konteks.

    Saya install ini di Claude Code dan Cline sebagai MCP, sudah bisa index otomatis sehingga ketika ngobrol saya tinggal nyuruh LLM untuk menggunakan cocoindex.

    Hasilnya? LLM lebih cepat mendapatkan konteks dan bisa fokus dengan permintaan saya.