OpenRouter API Production Checklist

Ověřit kompatibilitu API a koncové body

Použijte standardní endpointy kompatibilní s OpenAI pro spolehlivou integraci.

Hlavní endpoint je POST /v1/chat/completions. Toto zpracovává generování textu pro historie chatů. Sekundární endpoint, GET /v1/models, vypisuje dostupné modely. Pro úlohy pouze s textem nepotřebujete endpointy pro vložení nebo generování obrázků. Mnoho vývojářů předpokládá, že potřebují komplexní vrstvu směrování. OpenRouter to zjednodušuje vystavením jediného vstupního bodu. Odesíláte JSON payload s ID modelu a systémovými popisy. Služba vrací strukturovaný JSON s obsahem a daty o využití. Tento design odpovídá očekáváním oficiálního OpenAI SDK. Modely můžete měnit bez změny kódu klienta. Stačí aktualizovat ID modelu v konfiguraci. Ujistěte se, že váš klient podporuje nejnovější schéma JSON. Starší verze mohou odmítnout nové parametry. Otestujte připojení před nasazením do produkce. Ověřte, že formát odpovědi odpovídá vašemu parseru.

Konfigurujte autentizaci a klíče

Zabezpečte svůj API klíč ve environmentálních proměnných ihned po jeho vygenerování.

Vygenerujte klíč prostřednictvím dashboardu poskytovatele. Uložte ho na bezpečné místo. Nikdy ho nehardkódujte ve svém repozitáři zdrojového kódu. Předávejte ho prostřednictvím Authorization: Bearer <key> hlavička. Každý klíč je vázán na konkrétní účet. Klíče můžete rotovat, pokud podezříváte únik. Někteří poskytovatelé umožňují více klíčů na účet. To vám umožňuje oddělit provoz pro vývoj a produkci. Sledujte využití podle klíčů pro detekci anomálií. Pravidelně zrušte nepoužívané klíče. Pro dočasné skripty používejte klíče s krátkou životností. To snižuje dopad kompromise. Ujistěte se, že vaše verze SDK podporuje autentizaci tokenem Bearer. Starší knihovny mohou vyžadovat jiný formát hlavičky. Zkontrolujte dokumentaci pro vaše konkrétní SDK. Ověřte, že klíč má dostatečný zůstatek. Expirovaný klíč vrátí chybu 401. Klíč se zůstatkem nula vrátí chybu 402. Rozlišujte mezi těmito dvěma stavy ve své logice.

Zpracování streamování a využití tokenů

Povolte streamování pro nižší latenci a zpětnou vazbu v reálném čase pro uživatele.

Nastavit stream: true v těle požadavku. Server odesílá řadu Server-Sent Events (SSE). Každá událost obsahuje částečnou část textu. Tyto části musíte složit do úplné odpovědi. Poslední část často obsahuje statistiky spotřeby tokenů. To vám umožňuje sledovat náklady v reálném čase. Bez streamování čekáte na celou odpověď. To významně zvyšuje vnímanou latenci. Streamování je zásadní pro chatová rozhraní. Vytváří efekt psaní, který působí responzivně. Buďte opatrní při zpracování chyb během streamování. Pokud se připojení přeruší, ztratíte aktuální část. Logika opětovného připojení by měla zachovat stav konverzace. Některá SDK zpracovávají streamování automaticky. Jiná vyžadují ruční posluchače událostí. Vyberte přístup, který odpovídá vaší architektuře. Ujistěte se, že váš parser zvládá neúplné části JSON. Nepředpokládejte, že každá událost je kompletním objektem. Bufferujte data, dokud nemáte platnou strukturu.

Sledovat limity rychlosti a souběžnost

Sledujte počet požadavků za minutu, abyste předešli výpadkům služby.

OpenRouter uplatňuje přísné limity rychlosti pro každý API klíč. Překročení těchto limitů vyvolá chybu 429 Too Many Requests. Do logiky opakování musíte implementovat exponenciální backoff. Souběžné požadavky také započítávají do vašich limitů. Zkontrolujte hlavičky odpovědi pro zbývající kvótu. Někteří poskytovatelé tyto hlavičky přímo vystavují. Jiné vyžadují, abyste odvodili limity z chyb. Vysoká souběžnost může vyčerpat váš pool připojení. Ujistěte se, že váš klient efektivně spravuje připojení. Použijte poolování připojení pro snížení režie. Sledujte hloubku fronty během špičkových zátěží. Pokud dosáhnete limitu, počkejte před opakováním. Randomizujte dobu čekání, abyste předešli problémům s hromadou. Logujte všechny události limitů rychlosti pro ladění. To pomáhá identifikovat vzorce ve vašem používání. Upravte nastavení souběžnosti na základě těchto logů. Nepředpokládejte, že jeden klíč zvládne neomezený provoz. Pokud je to nutné, rozložte zátěž mezi více klíčů. To vyžaduje pečlivou správu stavu. Ujistěte se, že každý klíč udržuje vlastní kontext, pokud je to potřeba.

Správa krypto platby a dobíjení

Použijte předplacený kredit k úhradě spotřeby tokenů bez měsíčních poplatků.

Nahrajte svůj účet kryptoměnami. Podporované sítě zahrnují USDT na TRC20 a USDC na Base. Minimální vklady začínají na $20. Bonusy se vztahují na větší částky. Získáte 5 % navíc za $50, 10 % za $100 a 15 % za $200. Kredit nevyprší. To je ideální pro dlouhodobé projekty. Platíte pouze za skutečně použité tokeny. Chyby a odmítnutí jsou zdarma. To chrání váš rozpočet před neočekávanými náklady. Nové účty získají $0.50 na testování. Pro standardní nákupy se nevrací peníze. Dvojité účty jsou opraveny prostřednictvím podpory. Ujistěte se, že vaše peněženka podporuje požadované sítě. Před odesláním ověřte adresu kontraktu. Nesprávné sítě mohou vést ke ztrátě prostředků. Pravidelně kontrolujte svůj zůstatek. Nízké zůstatky mohou neočekávaně přerušit službu. Pokud je to možné, automatizujte doplňování zůstatku. To zajišťuje nepřetržitou dostupnost pro kritické úlohy.

Otestujte filtry obsahu a odmítání

Ověřte, že model se chová očekávaně při zadávání promptů bez omezení.

Modely bez omezení mohou stále aplikovat pevné limity. Zkontrolujte omezení pro specifické typy obsahu. Otestujte s známými spouštěcími frázemi. Ujistěte se, že model reaguje odpovídajícím způsobem. Někteří poskytovatelé si ponechávají filtry z právních důvodů. Ověřte je před spolehnutím se na model pro citlivá data. Otestujte hraniční případy ve vaší doméně. Pošlete zadání, která obvykle spouštějí odmítnutí. Sledujte formát odpovědi. Vrací důvod pro odmítnutí? Nebo generuje obsah tiše? Dokumentujte tato chování ve svých integračních testech. To zabrání překvapením ve výrobě. Pokud model změní své chování, aktualizujte své testy. Upozorněte svůj tým na jakékoli významné změny. Konzistence je klíčová pro důvěru uživatelů. Ujistěte se, že vaše aplikace elegantně zvládá odmítnutí. Nepředpokládejte, že každá odpověď je platná. Zvalidujte strukturu výstupu. Zkontrolujte halucinace nebo chyby formátování. To zajišťuje spolehlivou uživatelskou zkušenost.

Implementujte zpracování chyb pro zdarma požadavky

Chyby zpracovávejte elegantně, abyste udrželi plynulý uživatelský zážitek.

Mohou nastat síťové chyby, časy vypršení a serverové chyby. Implementujte logiku opakování s exponenciálním zpětným zpožděním. Rozlišujte mezi přechodnými a trvalými chybami. Chyba 429 je přechodná. Počkejte a zkuste to znovu. Chyba 400 je trvalá. Zkontrolujte svá vstupní data. Chyba 500 je na straně serveru. Opakujte opatrně. Všechny chyby logujte pro ladění. Zahrňte tělo požadavku a odpovědi. To pomáhá rychle reprodukovat problémy. Neodhalujte surové chyby uživatelům. Formátujte je do uživatelsky přívětivých zpráv. S chybami při streamování zacházte pečlivě. Odpojte se od streamu událostí. Vyčistěte zdroje. Ujistěte se, že vaše aplikace neuniká paměti. Důkladně otestujte scénáře chyb. Simulujte výpadky sítě. Simulujte časy vypršení serveru. Ověřte, že vaše logika zotavení funguje. To zajišťuje spolehlivost za nepříznivých podmínek.

Škálujte s režimem JSON a voláním nástrojů

Použijte strukturované výstupy pro spolehlivé extrahování dat a provádění funkcí.

Režim JSON povolíte nastavením response_format: {type: "json_object"}. Toto donutí model výstupovat platný JSON. Použijte to pro parsování dat nebo generování konfigurací. Volání nástrojů umožňuje modelu vykonávat funkce. Definujte své nástroje v těle požadavku. Model se rozhodne, kdy je zavolat. Předložte výsledky zpět modelu. Může vygenerovat konečnou odpověď na základě výstupu. To vytváří smyčku pro složité úkoly. Ujistěte se, že definice nástrojů jsou jasné. Nejasné nástroje vedou k nesprávným voláním. Ověřte výstup JSON před parsováním. To zabraňuje chybám za běhu ve vašem kódu. Použijte volání nástrojů pro úkoly extrakce dat. Značně zvyšuje přesnost. Otestujte s různými formáty vstupu. Ujistěte se, že model zvládá hraniční případy. Dokumentujte dostupné nástroje pro svůj tým. To zajišťuje konzistentní používání napříč projekty.

Zkontrolovat zásady ochrany osobních údajů a využití dat

Chápejte, jak jsou vaše data ukládána a používána poskytovatelem.

Zkontrolujte zásady ochrany osobních údajů pro podrobnosti o uchovávání dat. Někteří poskytovatelé používají vaše data pro trénování. Jiná je udržují v soukromí. Ujistěte se, že vaše data nejsou používána pro zlepšování modelu, pokud vám na tom záleží. Ověřte standardy šifrování. Data by měla být šifrována při přenosu i v klidovém stavu. Zkontrolujte, zda se ukládají protokoly. Protokoly mohou obsahovat vaše dotazy. Ujistěte se, že jsou tyto protokoly zabezpečené. Projděte podmínky služby ohledně klauzulí o odpovědnosti. Pochopte, kdo vlastní vygenerovaný obsah. Někteří poskytovatelé si nárokují práva na váš výstup. Ujistěte se, že to odpovídá vašim potřebám. Smazání účtu, pokud službu již nepoužíváte. Ověřte, že jsou vaše data odstraněna. Kontaktujte podporu, pokud máte obavy. Dokumentujte svá nastavení soukromí pro účely auditu. To zajišťuje soulad s interními politikami.