OpenRouter API Termelési Ellenőrzőlista

API kompatibilitás és végpontok ellenőrzése

Használja a szabványos OpenAI-kompatibilis végpontokat a megbízható integráció érdekében.

Az elsődleges végpont a POST /v1/chat/completions. Ez szöveg generálást kezel a chat előzményekhez. Egy másodlagos végpont, GET /v1/models, listázza az elérhető modelleket. Nem szükségesek embeddingek vagy képgenerálási végpontok szövegfeladatokhoz. Sok fejlesztő azt feltételezi, hogy komplex irányítási rétegre van szükségük. Az OpenRouter ezt egyszerűsíti egyetlen belépési pont kinyújtásával. Egy JSON payloadt küld a modell azonosítójával és a rendszer promptokkal. A szolgáltatás strukturált JSON-t ad vissza tartalommal és használati adatokkal. Ez a kialakítás megfelel a hivatalos OpenAI SDK elvárásainak. Modelleket cserélhet az ügyfélkód megváltoztatása nélkül. Csak frissítse a modellazonosítót a konfigurációban. Győződjön meg arról, hogy az ügyfélszoftvere támogatja a legújabb JSON sémát. A régebbi verziók elutasíthatják az új paramétereket. Tesztelje a kapcsolatot telepítés előtt. Ellenőrizze, hogy a válasz formátuma megfelel-e a parserének.

Hitelesítés és kulcsok konfigurálása

Biztonságosítsd az API kulcsodat környezeti változókban azonnal generálás után.

Generáljon egy kulcsot a szolgáltató irányítópultján. Tárolja biztonságos helyen. Soha ne kódolja be a forrástárolójába. Adja meg a Authorization: Bearer <key> header. Minden kulcs egy specifikus fiókhoz kötődik. Ha gyanítja a kulcs kiszivárgását, cserélheti azt. Egyes szolgáltatók több kulcsot is engednek egy fiókhoz. Ez lehetővé teszi a fejlesztési és éles forgalom szétválasztását. Figyelje a kulcsonkénti felhasználást az anomáliák észleléséhez. Rendszeresen vonja vissza a nem használt kulcsokat. Használjon rövid élettartamú kulcsokat ideiglenes scriptekhez. Ez csökkenti a kiszivárgás hatókörét. Győződjön meg arról, hogy SDK-ja támogatja a bearer token hitelesítést. Régebbi könyvtárak más fejlécformátumot igényelhetnek. Ellenőrizze a konkrét SDK dokumentációját. Győződjön meg arról, hogy a kulcsnak elegendő egyenlege van. A lejárt kulcs 401-es hibát ad vissza. A nulla egyenlegű kulcs 402-es hibát ad vissza. Különítse el ezeket az állapotokat a logikájában.

Kezelje a streamelést és a tokenfelhasználást

Streamelés engedélyezése az alacsonyabb késés és a valós idejű felhasználói visszajelzés érdekében.

Beállítás stream: true a kérés payloadjában. A szerver Server-Sent Events (SSE) sorozatot küld. Minden esemény részleges szövegdarabot tartalmaz. Ezeket a darabokat össze kell illesztenie a teljes válasz létrehozásához. Az utolsó darab gyakran tartalmazza a tokenfelhasználási statisztikákat. Ez lehetővé teszi a költségek valós idejű nyomon követését. Streamelés nélkül a teljes válaszra vár, ami jelentősen növeli az érzékelt késleltetést. A streamelés elengedhetetlen chat felületekhez. Írógép-hatást hoz létre, amely reszponzívnak tűnik. Legyen óvatos a hibakezeléssel streamelés közben. Ha a kapcsolat megszakad, elveszíti az aktuális darabot. Az újracsatlakozási logikának meg kell őriznie a beszélgetés állapotát. Egyes SDK-k automatikusan kezelik a streamelést. Másokhoz manuális eseményfigyelőkre van szükség. Válassza ki azt a megközelítést, amely illeszkedik az architektúrájához. Győződjön meg arról, hogy a parser kezeli a nem teljes JSON darabokat. Ne feltételezze, hogy minden esemény egy teljes objektum. Pufferelje az adatokat, amíg érvényes struktúrát nem kap.

Sebességkorlátok és párhuzamosság figyelése

Kövesse nyomon a percenkénti kérések számát a szolgáltatás megszakadásának elkerülése érdekében.

Az OpenRouter szigorú sebességkorlátokat alkalmaz API kulcsonként. Ezek túllépése 429 Too Many Requests hibát vált ki. Exponenciális backoffot kell implementálnia a retry logikájában. A párhuzamos kérések is számítanak a korlátokba. Ellenőrizze a válaszfejléceket a megmaradt kvóta érdekében. Egyes szolgáltatók közvetlenül megjelenítik ezeket a fejléceket. Másoknak ki kell következtetniük a korlátokat a hibákból. A magas párhuzamosság kimerítheti a kapcsolati poolját. Győződjön meg arról, hogy az ügyfele hatékonyan kezeli a kapcsolatokat. Használjon kapcsolati poolozást a túlterhelés csökkentésére. Figyelje a sor méretét csúcsidőszakban. Ha eléri a limitet, várjon a retry előtt. Randomizálja a várakozási időt a thundering herd problémák elkerülése érdekében. Naplózza az összes sebességkorlát eseményt a hibakereséshez. Ez segít azonosítani a használati mintákat. Állítsa be a párhuzamossági beállításokat ezek alapján a naplók alapján. Ne feltételezze, hogy egyetlen kulcs képes korlátlan forgalmat kezelni. Ossza meg a terhelést több kulcs között, ha szükséges. Ez alapos állapotkezelést igényel. Győződjön meg arról, hogy minden kulcs megőrzi a saját kontextusát, ha szükséges.

Kriptovaluta alapú számlázás és feltöltések kezelése

Használjon előfizetett hitelt a token-használat fedezésére havi díjak nélkül.

Töltsd fel a fiókodat kriptoeszközökkel. A támogatott hálózatok közé tartozik az USDT a TRC20 hálózaton és az USDC a Base hálózaton. A minimális feltöltések $20-tól kezdődnek. A nagyobb összegekhez bónuszok kapcsolódnak. 5% extra bónuszt kapsz $50-nél, 10%-ot $100-nál és 15%-ot $200-nál. A kredit sosem jár le. Ez ideális hosszú távú projektekhez. Csak a ténylegesen felhasznált tokenekért fizetsz. A hibák és elutasítások ingyenesek. Ez megvédi a költségvetésedet a váratlan költségektől. Az új fiókok $0.50 próbakreditet kapnak tesztelésre. A szabványos vásárlásokhoz visszatérítés nem történik. A dupla terheléseket a támogatás korrigálja. Győződj meg arról, hogy a tárcád támogatja-e a szükséges hálózatokat. Ellenőrizd a szerződés címét küldés előtt. A helytelen hálózatok pénzügyi veszteséget okozhatnak. Rendszeresen ellenőrizd az egyenlegedet. Az alacsony egyenlegek váratlanul megszakíthatják a szolgáltatást. Automatizáld a feltöltéseket, ha lehetséges. Ez biztosítja a folyamatos elérhetőséget kritikus feladatokhoz.

Tesztelje a tartalomszűrőket és a visszautasításokat

Ellenőrizze, hogy a modell a várt módon viselkedik-e cenzúrázatlan promptokkal.

Az uncensored modellek továbbra is alkalmazhatnak szigorú korlátokat. Ellenőrizze a specifikus tartalomtípusok korlátozásait. Tesztelje ismert trigger kifejezésekkel. Győződjön meg arról, hogy a modell megfelelően reagál. Egyes szolgáltatók jogi okokból megtartják a szűrőket. Ellenőrizze ezeket, mielőtt a modellt érzékeny adatokhoz használná. Tesztelje a domainjének szélsőséges eseteket. Küldjön promptokat, amelyek általában visszautasítást váltanak ki. Figyelje meg a válasz formátumát. Visszaad egy okot a visszautasításra? Vagy csendben generál tartalmat? Dokumentálja ezeket a viselkedéseket integrációs tesztjeiben. Ez megakadályozza a meglepetéseket a produkcióban. Ha a modell megváltoztatja viselkedését, frissítse teszteit. Értesítse csapatát minden jelentős változásról. A konzisztencia kulcsfontosságú a felhasználói bizalomhoz. Győződjön meg arról, hogy alkalmazása gracefully kezeli a visszautasításokat. Ne feltételezze, hogy minden válasz érvényes. Érvényesítse a kimeneti struktúrát. Ellenőrizze a hallucinációkat vagy formázási hibákat. Ez biztosítja a megbízható felhasználói élményt.

Hibakezelés Implementálása Ingyenes Kérésekhez

Kezeld gracefully a hibákat a zökkenőmentes felhasználói élmény fenntartása érdekében.

A hálózati hibák, időtúllépések és szerverhibák előfordulhatnak. Implementáljon újrapróbálkozási logikát exponenciális backoffgal. Döntse el a átmeneti és a végleges hibák között. A 429-es hiba átmeneti. Várjon, és próbálja újra. A 400-as hiba végleges. Ellenőrizze a bemeneti adatokat. Az 500-as hiba szerveroldali. Próbálja újra óvatosan. Naplózza az összes hibát a hibakereséshez. Tartalmazza a kérelem payloadját és a válasz törzsét. Ez segít gyorsan reprodukálni a problémákat. Ne tegye láthatóvá a nyers hibákat a felhasználók számára. Formázza őket felhasználóbarát üzenetekké. Kezelje óvatosan a streamelési hibákat. Válassza le az eseményfolyamot. Tisztítsa meg az erőforrásokat. Győződjön meg arról, hogy az alkalmazása nem szivárog memóriát. Tesztelje alaposan a hibakeseteket. Szimulálja a hálózati leállásokat. Szimulálja a szerver időtúllépéseket. Ellenőrizze, hogy a helyreállítási logikája működik-e. Ez biztosítja a megbízhatóságot kedvezőtlen körülmények között.

Skálázza JSON mód és Tool Calling segítségével

Használjon strukturált kimeneteket a megbízható adat kinyeréséhez és függvény végrehajtásához.

Engedélyezd a JSON módot a response_format: {type: "json_object"}. Ez kényszeríti a modellt, hogy érvényes JSON-t adjon vissza. Használd ezt adatok feldolgozásához vagy konfigurációk generálásához. Az eszköz hívások lehetővé teszik, hogy a modell függvényeket hajtson végre. Határozd meg az eszközeidet a kérés payloadjában. A modell dönti el, mikor hívja meg őket. Adjuk vissza az eredményeket a modellnek. A modell végső választ generálhat a kimenet alapján. Ez egy hurkot hoz létre komplex feladatokhoz. Győződj meg róla, hogy az eszköz definíciók egyértelműek. A kétértelmű eszközök hibás hívásokhoz vezetnek. Érvényesítsd a JSON kimenetet feldolgozás előtt. Ez megakadályozza a futásidejű hibákat a kódodban. Használd az eszköz hívásokat adat kinyerési feladatokhoz. Ez jelentősen javítja a pontosságot. Teszteld különböző bemeneti formátumokkal. Győződj meg róla, hogy a modell kezeli a szélsőséges eseteket. Dokumentáld az elérhető eszközöket a csapatod számára. Ez biztosítja a konzisztens használatot a projektekben.

Áttekintés: Adatvédelmi és adathasználati szabályzatok

Értsd meg, hogyan tárolja és használja adataidat a szolgáltató.

Nézd meg az adatvédelmi szabályzatot az adatmegőrzési részletekért. Egyes szolgáltatók a modellek tanítására használják az adataidat. Mások magántartományban tartják. Győződj meg róla, hogy az adataidat nem használják fel a modell fejlesztésére, ha ez fontos számodra. Ellenőrizd a titkosítási szabványokat. Az adatoknak átvitel közben és tárolás közben is titkosítva kell lenniük. Nézd meg, hogy naplók kerülnek-e tárolásra. A naplók tartalmazhatják a kéréseidet. Győződj meg róla, hogy ezek a naplók biztonságosak. Olvasd el a szerződési feltételeket a felelősségi tételekkel kapcsolatban. Értsd meg, ki birtokolja a generált tartalmat. Egyes szolgáltatók jogokat igényelnek a kimenetedre. Győződj meg róla, hogy ez összhangban van az igényeiddel. Töröld a fiókodat, ha már nem használod a szolgáltatást. Ellenőrizd, hogy az adataidat eltávolították-e. Vedd fel a kapcsolatot az ügyfélszolgálattal, ha aggályaid vannak. Dokumentáld az adatvédelmi beállításaidat az auditálás érdekében. Ez biztosítja a belső szabályzatoknak való megfelelést.