Sepertinya sekarang ini salah satu nilai tukar di Internet yang sedang hype adalah token LLM. Claude masih tercatat sebagai pemegang nilai tukar tertinggi bersama Claude Opus.
Meminta Claude untuk mengurangi harganya sungguh tidak mungkin, sebab biaya research dan resource untuk menjalankan Opus pasti tidak murah, saya tidak tega untuk meminta penurunan harga ataupun diskon.
Tapi apakah tidak ada yang bisa kita lakukan? Ternyata ada.
Claude dan LLM lain memiliki 2 jenis token, yaitu input dan output yang memiliki harga berbeda. Namun ada lagi satu bentuk output yang suka membakar uang kita, yaitu respon LLM yang dibuat manusiawi.
“Kamu benar, pemikiran yang tepat, pertanyaan bagus”, pasti sering dapat repson seperti itu kan? Rasanya seneng ya dipuji oleh AI?
Padahal itu sebuah pemborosan token.
Gimana kalau semua itu kita hapus, jadi kita hanya dapat respon yang dingin atau dry text seperti gebetanmu yang bertepuk sebelah tangan itu.
Mari kita berterima kasih kepada Caveman.
A Claude Code skill/plugin and Codex plugin that makes agent talk like caveman — cutting ~75% of output tokenswhile keeping full technical accuracy.
Apakah benar akan bisa mengurangi 75%? saya yakin sih itu gimmick, tapi apapun yang bisa mengurangi kebocoran token dan membuat saya bisa berinteraksi lebih lama di satu sesi, maka itu sudah cukup.