Mức sử dụng và nhật ký
Xem xu hướng sử dụng để nắm tải, và nhật ký từng yêu cầu để tra thời gian, khóa, mô hình, token, chi phí, độ trễ và trạng thái.
Bảng điều khiển cho bạn hai góc nhìn về mức tiêu thụ: xu hướng sử dụng ở phần tổng quan tài khoản (vĩ mô — tải di chuyển ra sao) và nhật ký từng yêu cầu (vi mô — bản ghi chính xác).
Xu hướng sử dụng (tổng quan tài khoản)
- Biểu đồ chuỗi thời gian của khối lượng lệnh gọi, đo bằng token;
- Dùng để nắm tải tổng thể và phát hiện các đỉnh bất thường (ví dụ một ngày mức sử dụng đột nhiên tăng gấp đôi);
- Trạng thái trống đơn giản chỉ có nghĩa là không có lệnh gọi nào trong khoảng thời gian đó.
Nhật ký (bản ghi từng yêu cầu)
Trang nhật ký ghi lại mọi yêu cầu API với các trường bạn có thể đối soát:
| Trường | Mô tả |
|---|---|
| Thời gian yêu cầu | Thời điểm lệnh gọi diễn ra — mốc neo để đối chiếu |
| Khóa API | Khóa nào đã thực hiện lệnh gọi (phân biệt theo tên) |
| Mô hình | Model ID thực sự được gọi |
| Token | Số token lệnh gọi tiêu thụ (đầu vào + đầu ra) |
| Chi phí | Số tiền bị trừ |
| Độ trễ | Thời lượng yêu cầu — để truy tìm các lệnh gọi chậm |
| Trạng thái | Thành công / thất bại kèm mã trạng thái tương ứng |
Công dụng điển hình
- Đối chiếu: tổng hợp nhật ký theo một khoảng thời gian rồi so số lượng và số tiền với bản ghi yêu cầu của ứng dụng;
- Tìm khoản chi bất thường: lọc theo khóa để tìm ra khóa tiêu nhiều nhất — thủ phạm thường là một khóa kiểm thử bị dùng nhầm trong production;
- Gỡ lỗi thất bại: kết hợp với Mã lỗi và xem mã trạng thái theo thời gian (các lỗi dồn vào một thời điểm thường là sự cố tạm thời phía nền tảng);
- Theo dõi hiệu năng: cột độ trễ cho thấy những mô hình chậm hoặc yêu cầu có ngữ cảnh dài, giúp định hình việc chọn mô hình và đặt thời gian chờ.
Nhật ký và mức sử dụng đến từ các lệnh gọi thật — bản ghi tra được ngay sau khi có yêu cầu, không phải chờ gì cả.