Mulai dari token yang benar-benar dipakai request
Satu request API dapat memiliki token input, output, dan cache yang memenuhi syarat. Input adalah instruksi dan konteks yang dikirim. Output adalah respons yang diterima. Cache hanya berlaku bila request memenuhi syarat untuk cache respons.
Jangan memperkirakan satu proyek dari satu prompt. Bot dukungan, ekstraksi dokumen, dan coding assistant dapat memiliki rasio input-output yang sangat berbeda.
Tulis satu skenario realistis sebelum menghitung
Pilih model yang tersedia, lalu catat jumlah request, rata-rata token input, rata-rata token output, dan konteks berulang yang mungkin masuk cache. Buat skenario cukup kecil agar dapat dibandingkan dengan usage nyata setelah test pertama.
Gunakan kerangka ini: jumlah request × ((token input × tarif input) + (token output × tarif output) + (token cache × tarif cache)) ÷ 1.000.000. Hasilnya hanya estimasi sampai request dimetering.
Gunakan katalog live sebagai sumber harga
Katalog EidosStack menampilkan harga IDR saat ini per satu juta token input, output, dan cache untuk model yang tersedia. Periksa katalog sebelum request, bukan angka tetap yang disalin ke artikel.
Supply model dapat berubah. Bila model tidak tersedia, pilih model lain secara sengaja lalu ulangi skenario dengan kartu harga saat itu. Tetapkan budget per key sebelum mengirim traffic produksi.