Penggunaan dan log
Baca tren penggunaan untuk melihat beban, dan log per permintaan untuk waktu, kunci, model, token, biaya, latensi, serta status.
Dasbor memberi Anda dua sudut pandang atas konsumsi: tren penggunaan pada ringkasan akun (makro — bagaimana beban bergerak) dan log per permintaan (mikro — catatan yang tepat).
Tren penggunaan (ringkasan akun)
- Bagan deret waktu untuk volume panggilan, diukur dalam token;
- Gunakan untuk menilai beban keseluruhan dan mengenali lonjakan abnormal (misalnya hari ketika penggunaan tiba-tiba berlipat dua);
- Keadaan kosong berarti tidak ada panggilan pada periode tersebut.
Log (catatan per permintaan)
Halaman logs mencatat setiap permintaan API dengan kolom yang dapat Anda audit:
| Kolom | Deskripsi |
|---|---|
| Waktu permintaan | Kapan panggilan terjadi — jangkar untuk rekonsiliasi |
| Kunci API | Kunci mana yang melakukan panggilan (dibedakan berdasarkan nama) |
| Model | ID model yang benar-benar dipanggil |
| Token | Token yang dikonsumsi panggilan tersebut (masukan + keluaran) |
| Biaya | Jumlah yang dipotong |
| Latensi | Durasi permintaan — untuk memburu panggilan yang lambat |
| Status | Berhasil / gagal beserta kode status yang sesuai |
Penggunaan yang umum
- Rekonsiliasi: agregasikan log pada rentang waktu tertentu lalu bandingkan jumlah dan nilainya dengan catatan permintaan aplikasi Anda;
- Melacak pengeluaran abnormal: filter berdasarkan kunci untuk menemukan pembelanja terbesar — biang keroknya sering kali kunci pengujian yang tanpa sengaja dipakai di produksi;
- Menelusuri kegagalan: padukan dengan Kode kesalahan dan perhatikan kode status sepanjang waktu (kegagalan yang mengelompok pada satu momen biasanya berarti gangguan di sisi platform);
- Pemantauan performa: kolom latensi mengungkap model yang lambat atau permintaan berkonteks panjang, yang menjadi masukan bagi pemilihan model dan pengaturan timeout.
Log dan penggunaan berasal dari panggilan nyata — catatan dapat dikueri segera setelah permintaan, tidak ada yang perlu ditunggu.