Hemat Token LLM Dengan Caveman

Sepertinya sekarang ini salah satu nilai tukar di Internet yang sedang hype adalah token LLM. Claude masih tercatat sebagai pemegang nilai tukar tertinggi bersama Claude Opus.

Meminta Claude untuk mengurangi harganya sungguh tidak mungkin, sebab biaya research dan resource untuk menjalankan Opus pasti tidak murah, saya tidak tega untuk meminta penurunan harga ataupun diskon.

Tapi apakah tidak ada yang bisa kita lakukan? Ternyata ada.

Claude dan LLM lain memiliki 2 jenis token, yaitu input dan output yang memiliki harga berbeda. Namun ada lagi satu bentuk output yang suka membakar uang kita, yaitu respon LLM yang dibuat manusiawi.

“Kamu benar, pemikiran yang tepat, pertanyaan bagus”, pasti sering dapat repson seperti itu kan? Rasanya seneng ya dipuji oleh AI?

Padahal itu sebuah pemborosan token.

Gimana kalau semua itu kita hapus, jadi kita hanya dapat respon yang dingin atau dry text seperti gebetanmu yang bertepuk sebelah tangan itu.

Mari kita berterima kasih kepada Caveman.

A Claude Code skill/plugin and Codex plugin that makes agent talk like caveman — cutting ~75% of output tokenswhile keeping full technical accuracy.

Apakah benar akan bisa mengurangi 75%? saya yakin sih itu gimmick, tapi apapun yang bisa mengurangi kebocoran token dan membuat saya bisa berinteraksi lebih lama di satu sesi, maka itu sudah cukup.

Comments

One response to “Hemat Token LLM Dengan Caveman”

  1. WHS Avatar
    WHS

    Caveman sangat menarik untuk di aplikasikan,
    Sebelumnya menggunakan RTK (https://github.com/rtk-ai/rtk) yang menghabiskan Token karena seluruh isi terminal dikirim ke LLM, namun karena berjalan di layer yang berbeda sepertinya bisa di kombinasikan.

    Awalnya ragu karena jika pekerjaan yang memang memerlukan LLM untuk membantu “menulis” caveman mungkin tidak cocok. namun setelah dipelajari lebih lanjut ternyata caveman ini sebuah SKILL set, jadi bisa di adopsi dalam workflow tertentu saja.

Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.