OpenRouter API Production Checklist

Verifiera API-kompatibilitet och slutpunkter

Använd de standardiserade OpenAI-kompatibla slutpunkterna för pålitlig integration.

Den primära slutpunkten är POST /v1/chat/completions. Detta hanterar textgenerering för chatthistorik. En sekundär slutpunkt, GET /v1/models, listar tillgängliga modeller. Du behöver inte embedding- eller bildgenereringsändpunkter för textuppgifter. Många utvecklare antar att de behöver ett komplext routningslager. OpenRouter förenklar detta genom att exponera en enda ingångspunkt. Du skickar en JSON-payload med ditt modell-ID och systemprompt. Tjänsten returnerar strukturerad JSON med innehåll och användningsdata. Denna design matchar de officiella OpenAI SDK-förväntningarna. Du kan byta modeller utan att ändra din klientkod. Uppdatera bara modell-ID:t i din konfiguration. Se till att din klient stödjer den senaste JSON-schema. Äldre versioner kan avvisa nya parametrar. Testa din anslutning innan du distribuerar till produktion. Verifiera att svarsformatet matchar din parser.

Konfigurera autentisering och nycklar

Säkra din API-nyckel i miljövariabler omedelbart efter generering.

Generera en nyckel via leverantörens kontrollpanel. Förvara den på en säker plats. Kodfesta den aldrig i ditt källkodsförråd. Skicka den via Authorization: Bearer <key> header. Varje nyckel är kopplad till ett specifikt konto. Du kan rotera nycklar om du misstänker ett läckage. Vissa leverantörer tillåller flera nycklar per konto. Detta gör att du kan separera utvecklings- och produktions trafik. Övervaka användningen per nyckel för att upptäcka anomalier. Återkalla oanvända nycklar regelbundet. Använd kortlivade nycklar för tillfälliga skript. Detta minskar skadeomfånget vid ett intrång. Se till att din SDK-version stöder Bearer-tokenautentisering. Äldre bibliotek kan kräva ett annat header-format. Kontrollera dokumentationen för din specifika SDK. Kontrollera att nyckeln har tillräcklig balans. En utgången nyckel returnerar ett 401-fel. En nyckel med noll balans returnerar ett 402-fel. Skilj på dessa två tillstånd i din logik.

Hantera Streaming och Tokenanvändning

Aktivera strömning för lägre latens och realtidsfeedback till användaren.

Ställ in stream: true i din begäranspayload. Servern skickar en serie Server-Sent Events (SSE). Varje händelse innehåller en delvis textbit. Du måste sammanfoga dessa delar för att bilda hela svaret. Den sista delen innehåller ofta statistik över tokenanvändning. Detta gör att du kan spåra kostnader i realtid. Utan strömning väntar du på hela svaret. Detta ökar upplevd latens avsevärt. Strömning är avgörande för chattgränssnitt. Det skapar en skrivkänsla som känns responsiv. Var försiktig med felhantering under strömning. Om anslutningen bryts förlorar du den aktuella delen. Återanslutningslogik bör bevara konversationstillståndet. Vissa SDK:er hanterar strömning automatiskt. Andra kräver manuella händislyssnare. Välj den metod som passar din arkitektur. Se till att din parser hanterar ofullständiga JSON-delar. Anta inte att varje händelse är ett komplett objekt. Buffra data tills du har en giltig struktur.

Övervaka hastighetsbegränsningar och samtidighet

Spåra dina begäranden per minut för att undvika tjänsteförseningar.

OpenRouter tillämpar strikta räntegränser per API-nyckel. Att överskrida dessa gränser utlöser ett 429-fel för för många begäran. Du måste implementera exponentiell backoff i din återförsökingslogik. Samtidiga begäran räknas också mot dina gränser. Kontrollera svarshuvudena för återstående kvot. Vissa leverantörer exponerar dessa huvuden direkt. Andra kräver att du slår fast gränser från fel. Hög koncurrent kan tömma din anslutningspool. Se till att din klient hanterar anslutningar effektivt. Använd anslutningspoolning för att minska överhead. Övervaka din ködjup under belastningstopp. Om du träffar gränsen, vänta innan du försöker igen. Slumpmässigt ditt väntetid för att undvika problem med tjundhjordar. Logga alla räntegränshändelser för felsökning. Detta hjälper till att identifiera mönster i din användning. Justera dina koncurrentinställningar baserat på dessa loggar. Anta inte att en enda nyckel kan hantera obegränsad trafik. Fördela lasten över flera nycklar om det behövs. Detta kräver noggrann tillståndshantering. Se till att varje nyckel upprätthåller sitt eget sammanhang om det behövs.

Hantera kryptobetalningar och påfyllnader

Använd förbetald kredit för att täcka tokenanvändning utan månadskostnader.

Ladda upp ditt konto med krypto. Stödda nätverk inkluderar USDT på TRC20 och USDC på Base. Minsta insättningar börjar på $20. Bonusar gäller för större belopp. Du får 5% extra för $50, 10% för $100 och 15% för $200. Krediten går aldrig ut. Detta är idealiskt för långsiktiga projekt. Du betalar bara för faktiskt använda tokens. Fel och avslag är kostnadsfria. Detta skyddar din budget från oväntade kostnader. Nya konton får $0.50 för testning. Återbetalningar utfärdas inte för standardköp. Dubbelavgifter korrigeras via support. Säkerställ att din plånbok stödjer de nödvändiga nätverken. Verifiera kontraktsadressen innan du skickar. Felaktiga nätverk kan leda till förlorade medel. Kontrollera ditt saldo regelbundet. Låga saldon kan avbryta tjänsten oväntat. Automatisera påfyllningar om möjligt. Detta säkerställer kontinuerlig tillgänglighet för kritiska uppgifter.

Testa innehållsfilter och avslag

Verifiera att modellen beter sig som förväntat med obegränsade prompts.

Modeller utan censur kan fortfarande tillämpa hårda gränser. Kontrollera begränsningar för specifika innehållstyper. Testa med kända triggerfraser. Säkerställ att modellen svarar lämpligt. Vissa leverantörer behåller filter av juridiska skäl. Kontrollera dessa innan du förlitar dig på modellen för känslig data. Testa gränsfall inom ditt domän. Skicka prompter som vanligtvis utlöser avvisningar. Observera svarformatet. Returnerar den en anledning till avvisning? Eller genererar den innehåll tyst? Dokumentera dessa beteenden i dina integreringstester. Detta förhindrar överraskningar i produktion. Om modellen ändrar sitt beteende, uppdatera dina tester. Underrätta ditt team om betydande förändringar. Konsistens är nyckeln för användartillit. Säkerställ att din applikation hanterar avvisningar elegant. Anta inte att varje svar är giltigt. Validera utdatastrukturen. Kontrollera för hallucinationer eller formateringsfel. Detta säkerställer en tillförlitlig användarupplevelse.

Implementera felhantering för gratisförfrågningar

Hantera fel på ett elegant sätt för att upprätthålla en smidig användarupplevelse.

Nätverksfel, tidsöverstegningar och serverfel kan förekomma. Implementera omförsökslogik med exponentiell backoff. Skilj på tillfälliga och permanenta fel. Ett 429-fel är tillfälligt. Vänta och försök igen. Ett 400-fel är permanent. Kontrollera dina indata. Ett 500-fel är serverbaserat. Försök igen med försiktighet. Logga alla fel för felsökning. Inkludera förfrågningspayload och svarsbody. Detta hjälper till att reproducera problem snabbt. Visa inte råa fel för användarna. Formatera dem till användarvänliga meddelanden. Hantera strömningsfel noggrant. Koppla bort från eventströmmen. Rensa resurser. Se till att din applikation inte läcker minne. Testa felscenarier noggrant. Simulera nätverksavbrott. Simulera servertidsöverstegningar. Verifiera att din återhämtningslogik fungerar. Detta säkerställer tillförlitlighet under ogynnsamma förhållanden.

Skala med JSON-läge och verktygsanrop

Använd strukturerade utdata för pålitlig dataextraktion och funktionskörning.

Aktivera JSON-läge genom att ställa in response_format: {type: "json_object"}. Detta tvingar modellen att returnera giltig JSON. Använd detta för att analysera data eller generera konfigurationer. Verktygsanrop låter modellen exekvera funktioner. Definiera dina verktyg i begärans last. Modellen bestämmer när den ska anropa dem. Skicka tillbaka resultaten till modellen. Den kan generera ett slutgiltigt svar baserat på utdata. Detta skapar en loop för komplexa uppgifter. Se till att dina verktygsdefinitioner är tydliga. Tvetydiga verktyg leder till felaktiga anrop. Validera JSON-output innan du analyserar den. Detta förhindrar runtime-fel i din kod. Använd verktygsanrop för dataextraheringsuppgifter. Det förbättrar noggrannheten avsevärt. Testa med olika inputformat. Se till att modellen hanterar kantfall. Dokumentera tillgängliga verktyg för ditt team. Detta säkerställer konsekvent användning över projekt.

Granska integritets- och datapolicyer

Förstå hur din data lagras och används av leverantören.

Kontrollera integritetspolicyn för detaljer om datalagring. Vissa leverantörer använder din data för träning. Andra behåller den privat. Se till att din data inte används för modellförbättring om det är viktigt för dig. Kontrollera krypteringsstandarder. Data bör krypteras både i transit och i vila. Kontrollera om loggar sparas. Loggar kan innehålla dina prompts. Se till att dessa loggar är säkra. Granska användarvillkoren för ansvarsfriskrivningar. Förstå vem som äger det genererade innehållet. Vissa leverantörer kräver rättigheter till ditt output. Se till att detta stämmer överens med dina behov. Radera ditt konto om du inte längre använder tjänsten. Verifiera att din data har tagits bort. Kontakta support om du har frågor. Dokumentera dina integritetsinställningar för revisionsändamål. Detta säkerställer efterlevnad av interna policyer.