Kembali ke blog

Harga

Pemrosesan Latar Belakang GPT-6.2: Cara Menghemat Biaya Token AI API

OleToken Blog · 8 menit baca · 20 November 2026

Beberapa tugas AI memerlukan jawaban segera. Yang lain bisa menyelesaikannya sebelum rapat sore atau keesokan paginya. Pemrosesan latar belakang GPT-6.2 memberi pengembang cara untuk memisahkan beban kerja tersebut, menggunakan eksekusi asinkron dan, jika memenuhi syarat, mengurangi jangka waktu penyelesaian.

Kualifikasi utamanya sederhana: eksekusi latar belakang saja tidak menjamin inferensi yang lebih murah. Dokumentasi resmi OpenAI, diperiksa pada tanggal 20 November 2026, membedakan jendela default tercepat dari jendela dua jam dan delapan jam yang didiskon. Memahami bahwa perbedaan itu penting untuk penetapan harga token AI yang akurat dan perkiraan biaya yang andal.

Apa yang dimaksud dengan pemrosesan latar belakang

Mode latar belakang menjalankan permintaan Responses API secara asinkron. Aplikasi Anda mengirimkan pekerjaan, menyimpan ID respons, dan mengambil hasilnya setelah selesai. Ini dapat menerima webhook atau jajak pendapat untuk status alih-alih membiarkan permintaan sinkron biasa terbuka hingga jawaban akhir.

Hal ini berguna untuk analisis dokumen panjang, pembuatan laporan, dan alur kerja yang langkah selanjutnya bergantung pada respons model. Aplikasi Anda masih mengatur alat dan panggilan tindak lanjut; menerima permintaan latar belakang tidak berarti penyedia secara otomatis menjalankan seluruh proses bisnis Anda.

Eksekusi dan diskon asinkron bersifat terpisah

Jendela penyelesaian

Waktu yang dimaksudkan

Diskon token model versus Standar

Paling cepat

Pekerjaan berdasarkan permintaan

Tidak ada

Dua jam

Pekerjaan yang bisa menunggu

30%

Delapan jam

Pekerjaan semalam atau tertunda

40%

OpenAI menjelaskan jendela yang lebih panjang sebagai target penyelesaian setelah permintaan awal diterima. Hal tersebut bukan merupakan bukti jaminan bahwa setiap alur kerja aplikasi multi-langkah selesai dalam satu jendela. Waktu alat dan permintaan selanjutnya harus direncanakan secara terpisah.

Permintaan GPT-6.2 manakah yang memenuhi syarat?

Jendela diskon yang didokumentasikan berada dalam versi beta publik di GPT-6.2 Astra dan GPT-6.2 Sol, bersama GPT-6.1 Terra dan GPT-6 Luna. Mereka memerlukan pemrosesan Standar. Menyetel tingkat layanan ke default secara eksplisit memilih Standar; otomatis memenuhi syarat hanya ketika Standar benar-benar dipilih.

Atur mode latar belakang ke true dan pilih jendela penyelesaian dua jam atau delapan jam. Untuk jendela yang didiskon, streaming harus dihilangkan atau dinonaktifkan. Jendela default tercepat mendukung perilaku streaming yang berbeda tetapi tidak memiliki diskon jendela penyelesaian.

Hindari membingungkan fitur ini dengan Flex

OpenAI menyatakan bahwa model baru yang dimulai dengan GPT-6.2 Astra dan GPT-6.2 Sol diluncurkan tanpa pemrosesan Flex. Jendela latar belakang yang didiskon adalah alternatif terdokumentasi untuk permintaan Respons jangka panjang yang memenuhi syarat. Jangan menyalin konfigurasi Flex lama dan menganggapnya menyediakan pengoptimalan biaya GPT-6.2.

Periksa model, titik akhir, akses proyek, dan kondisi beta saat ini sebelum penerapan. Gateway yang mendukung panggilan Respons biasa mungkin tidak menerapkan opsi latar belakang, pengambilan, pembatalan, atau webhook dengan cara yang sama.

Hitung tabungan dengan benar

GPT-6.2 Sol mencantumkan tarif Standar konteks pendek sebesar $2 per juta token masukan yang tidak di-cache dan $10 per juta token keluaran. GPT-6.2 Astra mencantumkan $8 masukan dan $40 keluaran. Baca dan tulis dalam cache memiliki tarif terpisah, dan penetapan harga konteks panjang dapat mengubah penghitungan dasar.

Untuk ilustrasi permintaan Sol GPT-6.2 dengan 20.000 token masukan yang tidak di-cache dan 2.000 token keluaran yang dapat ditagih, biaya token standar adalah $0,04 ditambah $0,02, atau $0,06. Jendela dua jam yang memenuhi syarat menguranginya menjadi $0,042; jendela delapan jam menguranginya menjadi $0,036.

Dari 10.000 permintaan tersebut, totalnya masing-masing adalah $600, $420, dan $360. Perhitungan ini mengasumsikan penggunaan yang identik dan pemrosesan Standar konteks pendek yang memenuhi syarat. Kutipan tersebut tidak termasuk alat, pajak, percobaan ulang, dan infrastruktur, dan bukan merupakan kutipan produksi yang lengkap.

Terapkan diskon untuk biaya yang berlaku

Dokumentasi ini menjelaskan diskon pada tarif token model, bukan persentase keseluruhan dari setiap layanan pada faktur. Alat berbayar atau peningkatan regional dapat memengaruhi tagihan akhir. Sertakan semua alasan yang dapat ditagih dalam asumsi keluaran daripada hanya menghitung jawaban yang ditampilkan.

Untuk permintaan GPT-6.2 di atas 272.000 token masukan, laju masukan dan cache berlipat ganda, dan laju keluaran meningkat sebesar 1,5 kali lipat untuk permintaan penuh. Hitung terlebih dahulu tarif dasar yang berlaku. Jangan hargai permintaan berukuran besar sebagai konteks pendek hanya karena permintaan tersebut berjalan secara asinkron.

Rancang alur kerja AI API asinkron yang andal

Segera simpan ID respons

Pertahankan ID respons bersama ID pekerjaan aplikasi Anda, model yang dipilih, jangka waktu penyelesaian, proyek, dan waktu pengiriman. Batas waktu jaringan tidak membuktikan penyedia menolak pekerjaan tersebut. Rekonsiliasi pekerjaan yang ada sebelum membuat permintaan duplikat.

Mewakili hasil yang diantri, berjalan, berhasil, gagal, tidak lengkap, dan dibatalkan dalam aplikasi Anda. Pengiriman yang berhasil bukanlah laporan yang berhasil. Validasi konten yang dikembalikan sebelum menandai tugas bisnis selesai.

Lebih memilih webhook terverifikasi atau jajak pendapat terbatas

OpenAI merekomendasikan penerimaan peristiwa penyelesaian melalui webhook dan mengambil respons menggunakan ID peristiwa. Verifikasi tanda tangan webhook, hapus duplikat pengiriman, dan periksa apakah respons sesuai dengan pekerjaan yang diharapkan sebelum mengambil tindakan.

Jika webhook tidak tersedia, lakukan polling ID respons yang sama saat sedang dalam antrean atau sedang berlangsung. Gunakan jadwal terbatas dan berhenti di keadaan terminal. Jangan mengirimkan ulang perintah setiap kali Anda ingin memeriksa apakah permintaan awal telah selesai.

Pertahankan efek samping idempoten

Webhook duplikat tidak boleh membuat email duplikat, instruksi pembayaran, atau pembaruan basis data. Simpan status pemrosesan dan gunakan mekanisme idempotensi jika didukung. Validasi dan otorisasi tindakan hilir secara independen dari teks model.

Setelah permintaan diskon yang memenuhi syarat diterima, OpenAI secara otomatis mencoba kembali kesalahan kapasitas tertentu. Selagi respons tetap aktif, terus lacak respons tersebut daripada membuat salinan pekerjaan yang bersaing.

Lanjutkan alur kerja di beberapa permintaan

Respons latar belakang mungkin meminta panggilan alat. Aplikasi Anda mengambil respons, menjalankan alat resmi, dan mengirimkan hasil alat dalam permintaan tindak lanjut. Target penyelesaian awal berlaku untuk respons tersebut, tidak semua penalaran dan alat kerja di masa depan.

Untuk prioritas antrean yang lebih tinggi pada tindak lanjut yang memenuhi syarat, panduan ini menjelaskan penggunaan kembali ID kelanjutan, model, jangka waktu penyelesaian, dan proyek API yang sama, bersama dengan latar belakang dan pengaturan Standar yang diperlukan. ID kelanjutan mengelompokkan proses; ini tidak dapat dipertukarkan dengan ID respons yang membawa riwayat percakapan.

Jika respons sebelumnya kedaluwarsa, panduan ini menjelaskan pemutaran ulang item percakapan yang disimpan, termasuk item penalaran dan panggilan fungsi yang diperlukan. Rencanakan retensi dan pemulihan hasil sebelum meluncurkan pekerjaan panjang, dan ikuti dokumentasi titik akhir saat ini daripada merekonstruksi status hanya dari teks yang terlihat.

Bandingkan pemrosesan latar belakang dengan Batch

Gunakan Batch untuk permintaan independen yang dapat diajukan bersama-sama terlebih dahulu. Gunakan Respons latar belakang ketika aplikasi Anda memerlukan hasil dari satu respons sebelum memutuskan langkah berikutnya. Ini adalah bentuk beban kerja yang berbeda, meskipun keduanya mentoleransi penundaan.

Halaman model GPT-6.2 mencantumkan Batch sebesar 50% dari tarif token Standar. Jangan berasumsi tumpukan diskon Batch dengan diskon jendela latar belakang. Pilih rute yang didukung yang sesuai dengan dependensi, tenggat waktu, dan persyaratan saat ini.

Pertimbangkan batas cache

OpenAI menyatakan bahwa Permintaan standar di luar jendela yang didiskon tidak dapat menggunakan kembali entri cache cepat yang dibuat oleh permintaan latar belakang dua jam atau delapan jam. Prompt yang identik tidak mengabaikan batasan tersebut. Pisahkan perkiraan cache berdasarkan rute pemrosesan dan periksa penggunaan sebenarnya.

Hal ini penting untuk aplikasi yang menggabungkan obrolan siang hari dengan analisis semalam. Pekerjaan terjadwal mungkin menerima tingkat token yang lebih rendah namun tidak memberikan manfaat cache pada beban kerja interaktif berikutnya.

Penanganan data dan batasan operasional

Mode latar belakang menyimpan data respons untuk sementara bahkan ketika penyimpanan dinonaktifkan atau Retensi Data Nol digunakan, seperti yang dijelaskan dalam kontrol data OpenAI. Panduan ini menyatakan bahwa konten permintaan yang disimpan sementara dienkripsi saat tidak digunakan. Tinjau detail retensi yang berlaku untuk kebutuhan Anda.

Jendela berdiskon berbagi batas tingkat Batch/Latar Belakang dengan pekerjaan Batch, dengan token masukan dihitung pada saat penyerahan. Oleh karena itu, batas antrian dan tenggat waktu pengajuan memerlukan pemantauan bersamaan dengan pembelanjaan. Permintaan tercepat default menggunakan permintaan reguler dan batas token.

Pertanyaan Umum

Apakah pengaturan mode latar belakang selalu menghemat uang?

Tidak. Pemrosesan latar belakang paling cepat tidak memiliki diskon jendela penyelesaian. Penghematan memerlukan model yang didukung, pemrosesan Standar yang memenuhi syarat, dan jangka waktu dua jam atau delapan jam yang didiskon.

Dapatkah saya melakukan streaming permintaan latar belakang yang didiskon?

Jendela dua jam dan delapan jam yang didokumentasikan mengharuskan streaming dihilangkan atau salah. Gunakan perilaku tercepat yang terdokumentasikan saat streaming diperlukan, dan berikan harga yang sesuai.

Bisakah platform terpadu menyediakan fitur yang sama?

Hanya jika mendukung opsi dan titik akhir siklus hidup yang diperlukan. Verifikasi harga, pengambilan, pembatalan, dukungan webhook, dan perilaku cache melalui integrasi sebenarnya.

Langkah selanjutnya

Pindahkan satu beban kerja yang tahan penundaan ke dalam uji coba terukur dan bandingkan total biaya per hasil yang diterima. Jika Anda menggunakan OLEToken sebagai platform AI API terpadu, konfirmasikan dukungan jendela latar belakang dan persyaratan penagihan sebelum mengandalkan diskon penyedia langsung ini.

Sumber