Daftar Periksa Produksi API OpenRouter

Verifikasi Kompatibilitas API dan Titik Akhir

Gunakan endpoint standar yang kompatibel dengan OpenAI untuk integrasi yang andal.

Endpoint utamanya adalah POST /v1/chat/completions. Ini menangani generasi teks untuk riwayat obrolan. Endpoint sekunder, GET /v1/models, daftar model yang tersedia. Anda tidak memerlukan endpoint embeddings atau generasi gambar untuk tugas hanya teks. Banyak pengembang mengira mereka memerlukan lapisan routing yang kompleks. OpenRouter menyederhanakan ini dengan mengekspos satu titik masuk. Anda mengirim payload JSON dengan ID model dan prompt sistem Anda. Layanan mengembalikan JSON terstruktur dengan konten dan data penggunaan. Desain ini sesuai dengan harapan SDK OpenAI resmi. Anda dapat mengganti model tanpa mengubah kode klien Anda. Cukup perbarui ID model dalam konfigurasi Anda. Pastikan klien Anda mendukung skema JSON terbaru. Versi lama mungkin menolak parameter baru. Uji koneksi Anda sebelum menerapkan ke produksi. Verifikasi bahwa format respons sesuai dengan parser Anda.

Konfigurasikan Autentikasi dan Kunci

Amankan kunci API Anda dalam variabel lingkungan segera setelah pembuatan.

Buat kunci melalui dasbor penyedia. Simpan di lokasi yang aman. Jangan hardcode di repositori sumber Anda. Lintaskan melalui Authorization: Bearer <key> header. Setiap kunci terkait dengan akun tertentu. Anda dapat memutar kunci jika Anda mencurigakan adanya kebocoran. Beberapa penyedia memungkinkan beberapa kunci per akun. Ini memungkinkan Anda memisahkan lalu lintas pengembangan dan produksi. Pantau penggunaan per kunci untuk mendeteksi anomali. Cabut kunci yang tidak digunakan secara teratur. Gunakan kunci berumur pendek untuk skrip sementara. Ini mengurangi dampak radius jika terjadi kompromi. Pastikan versi SDK Anda mendukung autentikasi token bearer. Perpustakaan lama mungkin memerlukan format header yang berbeda. Periksa dokumentasi untuk SDK spesifik Anda. Verifikasi bahwa kunci memiliki saldo yang cukup. Kunci yang kedaluwarsa mengembalikan error 401. Kunci dengan saldo nol mengembalikan error 402. Bedakan antara dua keadaan ini dalam logika Anda.

Tangani Streaming dan Penggunaan Token

Aktifkan streaming untuk latensi lebih rendah dan umpan balik pengguna real-time.

Atur stream: true dalam payload permintaan Anda. Server mengirimkan serangkaian Server-Sent Events (SSE). Setiap peristiwa berisi chunk teks parsial. Anda harus merakit chunk-chunk ini untuk membentuk respons penuh. Chunk terakhir sering kali mencakup statistik penggunaan token. Ini memungkinkan Anda melacak biaya secara real-time. Tanpa streaming, Anda menunggu seluruh respons. Ini meningkatkan latensi yang dirasakan secara signifikan. Streaming sangat penting untuk antarmuka obrolan. Ini menciptakan efek mengetik yang terasa responsif. Hati-hati dengan penanganan kesalahan selama streaming. Jika koneksi terputus, Anda kehilangan chunk saat ini. Logika sambung ulang harus mempertahankan keadaan percakapan. Beberapa SDK menangani streaming secara otomatis. Yang lain memerlukan pendengar peristiwa manual. Pilih pendekatan yang sesuai dengan arsitektur Anda. Pastikan parser Anda menangani chunk JSON yang tidak lengkap. Jangan mengasumsikan setiap peristiwa adalah objek lengkap. Buffer data hingga Anda memiliki struktur yang valid.

Monitor Batas Laju dan Konkurensi

Lacak permintaan Anda per menit untuk menghindari gangguan layanan.

OpenRouter memberlakukan batas laju yang ketat per kunci API. Melebihi batas ini memicu kesalahan 429 Too Many Requests. Anda harus menerapkan backoff eksponensial dalam logika percobaan ulang Anda. Permintaan konstan juga dihitung terhadap batas Anda. Periksa header respons untuk kuota yang tersisa. Beberapa penyedia mengekspos header ini secara langsung. Yang lain mengharuskan Anda menyimpulkan batas dari kesalahan. Konvergensi tinggi dapat menghabiskan kumpulan koneksi Anda. Pastikan klien Anda mengelola koneksi secara efisien. Gunakan pengelompokan koneksi untuk mengurangi overhead. Pantau kedalaman antrian Anda selama beban puncak. Jika Anda mencapai batas, tunggu sebelum mencoba lagi. Randomisasi waktu tunggu Anda untuk menghindari masalah kawanan guntur. Catat semua peristiwa batas laju untuk debugging. Ini membantu mengidentifikasi pola dalam penggunaan Anda. Sesuaikan pengaturan konvergensi Anda berdasarkan log ini. Jangan berasumsi bahwa satu kunci dapat menangani lalu lintas tanpa batas. Sebarkan beban di seluruh beberapa kunci jika perlu. Ini memerlukan manajemen keadaan yang hati-hati. Pastikan setiap kunci mempertahankan konteksnya sendiri jika diperlukan.

Kelola Penagihan Kripto dan Pengisian Ulang

Gunakan kredit prabayar untuk menutupi penggunaan token tanpa biaya bulanan.

Isi ulang akun Anda dengan mata uang kripto. Jaringan yang didukung termasuk USDT di TRC20 dan USDC di Base. Deposit minimum dimulai dari $20. Bonus berlaku untuk jumlah yang lebih besar. Anda menerima tambahan 5% untuk $50, 10% untuk $100, dan 15% untuk $200. Kredit tidak pernah kedaluwarsa. Ini ideal untuk proyek jangka panjang. Anda hanya membayar untuk token yang sebenarnya digunakan. Kesalahan dan penolakan gratis. Ini melindungi anggaran Anda dari biaya tak terduga. Akun baru mendapatkan $0.50 untuk pengujian. Pengembalian dana tidak diterbitkan untuk pembelian standar. Pengisian ganda dikoreksi melalui dukungan. Pastikan dompet Anda mendukung jaringan yang diperlukan. Verifikasi alamat kontrak sebelum mengirim. Jaringan yang salah dapat mengakibatkan kehilangan dana. Periksa saldo Anda secara teratur. Saldo rendah dapat mengganggu layanan secara tak terduga. Otomatisasi isi ulang jika memungkinkan. Ini memastikan ketersediaan terus-menerus untuk tugas kritis.

Uji Filter Konten dan Penolakan

Verifikasi bahwa model berperilaku seperti yang diharapkan dengan prompt tanpa sensor.

Model tanpa sensor mungkin masih menerapkan batas keras. Periksa pembatasan pada jenis konten tertentu. Uji dengan frasa pemicu yang diketahui. Pastikan model merespons dengan tepat. Beberapa penyedia mempertahankan filter karena alasan hukum. Verifikasi ini sebelum mengandalkan model untuk data sensitif. Uji kasus tepi di domain Anda. Kirim prompt yang biasanya memicu penolakan. Amati format respons. Apakah itu mengembalikan alasan penolakan? Atau apakah itu menghasilkan konten secara diam-diam? Dokumentasikan perilaku ini dalam tes integrasi Anda. Ini mencegah kejutan di produksi. Jika model mengubah perilakunya, perbarui tes Anda. Beri tahu tim Anda tentang setiap pergeseran signifikan. Konsistensi adalah kunci untuk kepercayaan pengguna. Pastikan aplikasi Anda menangani penolakan dengan lancar. Jangan mengasumsikan setiap respons valid. Validasi struktur output. Periksa adanya halusinasi atau kesalahan format. Ini memastikan pengalaman pengguna yang andal.

Terapkan Penanganan Kesalahan untuk Permintaan Gratis

Tangani kesalahan dengan baik untuk mempertahankan pengalaman pengguna yang lancar.

Kesalahan jaringan, waktu tunggu, dan kesalahan server dapat terjadi. Terapkan logika percobaan ulang dengan backoff eksponensial. Bedakan antara kesalahan sementara dan permanen. Kesalahan 429 bersifat sementara. Tunggu dan coba lagi. Kesalahan 400 bersifat permanen. Periksa data masukan Anda. Kesalahan 500 bersifat sisi server. Coba lagi dengan hati-hati. Catat semua kesalahan untuk debugging. Sertakan payload permintaan dan tubuh respons. Ini membantu mereproduksi masalah dengan cepat. Jangan paparkan kesalahan mentah kepada pengguna. Format menjadi pesan ramah pengguna. Tangani kesalahan streaming dengan hati-hati. Putuskan sambungan dari aliran acara. Bersihkan sumber daya. Pastikan aplikasi Anda tidak bocor memori. Uji skenario kesalahan secara menyeluruh. Simulasikan pemutusan jaringan. Simulasikan waktu tunggu server. Verifikasi bahwa logika pemulihan Anda berfungsi. Ini memastikan keandalan di bawah kondisi buruk.

Skalakan dengan Mode JSON dan Pemanggilan Alat

Gunakan output terstruktur untuk ekstraksi data dan eksekusi fungsi yang andal.

Aktifkan mode JSON dengan mengatur response_format: {type: "json_object"}. Ini memaksa model untuk menghasilkan JSON yang valid. Gunakan ini untuk memproses data atau menghasilkan konfigurasi. Pemanggilan alat memungkinkan model mengeksekusi fungsi. Tentukan alat Anda dalam payload permintaan. Model memutuskan kapan harus memanggilnya. Kirimkan hasilnya kembali ke model. Model dapat menghasilkan respons akhir berdasarkan output tersebut. Ini menciptakan loop untuk tugas-tugas kompleks. Pastikan definisi alat Anda jelas. Alat yang ambigu menyebabkan pemanggilan yang salah. Validasi output JSON sebelum melakukan parsing. Ini mencegah kesalahan runtime dalam kode Anda. Gunakan pemanggilan alat untuk tugas ekstraksi data. Ini meningkatkan akurasi secara signifikan. Uji dengan berbagai format input. Pastikan model menangani kasus tepi. Dokumentasikan alat yang tersedia untuk tim Anda. Ini memastikan penggunaan yang konsisten di seluruh proyek.

Tinjau Kebijakan Privasi dan Penggunaan Data

Memahami bagaimana data Anda disimpan dan digunakan oleh penyedia.

Periksa kebijakan privasi untuk detail retensi data. Beberapa penyedia menggunakan data Anda untuk pelatihan. Yang lain menjaganya tetap privat. Pastikan data Anda tidak digunakan untuk perbaikan model jika hal itu penting bagi Anda. Verifikasi standar enkripsi. Data harus dienkripsi saat transit dan saat diam. Periksa apakah log disimpan. Log mungkin berisi prompt Anda. Pastikan log ini aman. Tinjau syarat dan ketentuan untuk klausliabilitas. Pahami siapa yang memiliki konten yang dihasilkan. Beberapa penyedia mengklaim hak atas output Anda. Pastikan ini selaras dengan kebutuhan Anda. Hapus akun Anda jika Anda tidak lagi menggunakan layanan. Verifikasi bahwa data Anda telah dihapus. Hubungi dukungan jika Anda memiliki kekhawatiran. Dokumentasikan pengaturan privasi Anda untuk tujuan audit. Ini memastikan kepatuhan terhadap kebijakan internal.