OpenRouter API प्रोडक्शन चेकलिस्ट

API संगतता और एंडपॉइंट्स की जांच करें

विश्वसनीय इंटीग्रेशन के लिए मानक OpenAI-संगत एंडपॉइंट का उपयोग करें।

मुख्य एंडपॉइंट POST /v1/chat/completions. यह चेट इतिहास के लिए टेक्स्ट जनरेशन हैंडल करता है। एक सेकंडरी एंडपॉइंट, GET /v1/models, उपलब्ध मॉडल सूचीबद्ध करता है। टेक्स्ट-केवल कार्यों के लिए आपको एम्बेडिंग या इमेज जनरेशन एंडपॉइंट्स की आवश्यकता नहीं है। कई डेवलपर्स मानते हैं कि उन्हें एक जटिल रूटिंग परत की आवश्यकता है। OpenRouter इसे एकल प्रवेश बिंदु को उजागर करके सरल बनाता है। आप अपने मॉडल ID और सिस्टम प्रॉम्प्ट्स के साथ एक JSON पेलोड भेजते हैं। सेवा सामग्री और उपयोग डेटा के साथ संरचित JSON लौटाती है। यह डिज़ाइन आधिकारिक OpenAI SDK अपेक्षाओं से मेल खाता है। आप अपने क्लाइंट कोड को बदले बिना मॉडल स्विच कर सकते हैं। बस अपनी कॉन्फ़िगरेशन में मॉडल ID अपडेट करें। सुनिश्चित करें कि आपका क्लाइंट नवीनतम JSON स्कीमा का समर्थन करता है। पुराने संस्करण नए पैरामीटर को अस्वीकार कर सकते हैं। उत्पादन में तैनात करने से पहले अपने कनेक्शन का परीक्षण करें। सत्यापित करें कि प्रतिक्रिया प्रारूप आपके पार्सर से मेल खाता है।

प्रमाणीकरण और कुंजियाँ कॉन्फ़िगर करें

जनरेशन के तुरंत बाद अपनी API कुंजी को एनवायरनमेंट वेरिएबल्स में सुरक्षित करें।

प्रदाता डैशबोर्ड के माध्यम से एक कुंजी जनरेट करें। इसे एक सुरक्षित स्थान पर संग्रहीत करें। इसे अपने स्रोत रिपॉजिटरी में हार्डकोड न करें। इसे के माध्यम से पास करें Authorization: Bearer <key> हेडर। प्रत्येक कुंजी एक विशिष्ट खाते से जुड़ी होती है। यदि आपको लीक का संदेह है तो आप कुंजियों को रोटेट कर सकते हैं। कुछ प्रदाता प्रति खाता कई कुंजियां अनुमति देते हैं। यह आपको डेवलपमेंट और प्रोडक्शन ट्राफिक को अलग करने की अनुमति देता है। प्रत्येक कुंजी के लिए उपयोग की निगरानी करें ताकि असामान्यताओं का पता लगाया जा सके। उपयोग न की गई कुंजियों को नियमित रूप से रद्द करें। अस्थायी स्क्रिप्ट्स के लिए छोटी अवधि वाली कुंजियां उपयोग करें। इससे कंप्रोमाइज के ब्लैस्ट रेडियस को कम किया जाता है। सुनिश्चित करें कि आपका SDK संस्करण Bearer टोकन प्रमाणीकरण का समर्थन करता है। पुरानी लाइब्रेरी में अलग हेडर फॉर्मेट की आवश्यकता हो सकती है। अपने विशिष्ट SDK के लिए दस्तावेज़ीकरण जांचें। सत्यापित करें कि कुंजी में पर्याप्त बैलेंस है। एक समाप्त कुंजी 401 त्रुटि लौटाती है। शून्य बैलेंस वाली कुंजी 402 त्रुटि लौटाती है। अपनी लॉजिक में इन दो स्थितियों के बीच अंतर करें।

स्ट्रीमिंग और टोकन उपयोग को हैंडल करें

कम विलंबता और रियल-टाइम उपयोगकर्ता प्रतिक्रिया के लिए स्ट्रीमिंग सक्षम करें।

सेट करें stream: true अपने अनुरोध पेलोड में। सर्वर सर्वर-संदेशित इवेंट्स (SSE) की एक श्रृंखला भेजता है। प्रत्येक इवेंट में टेक्स्ट का एक आंशिक चंक होता है। आपको पूर्ण प्रतिक्रिया बनाने के लिए इन चंक को एसेंबल करना होगा। अंतिम चंक अक्सर टोकन उपयोग आंकड़े शामिल करता है। यह आपको लागत को रियल-टाइम में ट्रैक करने की अनुमति देता है। स्ट्रीमिंग के बिना, आप पूरी प्रतिक्रिया की प्रतीक्षा करते हैं। इससे अनुभवगत विलंबता काफी बढ़ जाती है। स्ट्रीमिंग चैट इंटरफेस के लिए आवश्यक है। यह एक टाइपिंग प्रभाव बनाता है जो प्रतिक्रियाशील लगता है। स्ट्रीमिंग के दौरान त्रुटि हैंडलिंग में सावधान रहें। यदि कनेक्शन टूट जाता है, तो आप वर्तमान चंक खो देते हैं। पुनः कनेक्ट लॉजिक को कन्वर्सेशन स्टेट को बनाए रखना चाहिए। कुछ SDK स्ट्रीमिंग को स्वचालित रूप से हैंडल करते हैं। अन्य को मैन्युअल इवेंट लिस्टनर की आवश्यकता होती है। उस दृष्टिकोण का चयन करें जो आपके आर्किटेक्चर के अनुकूल हो। सुनिश्चित करें कि आपका पार्सर अपूर्ण JSON चंक को हैंडल करता है। मानें नहीं कि प्रत्येक इवेंट एक पूर्ण ऑब्जेक्ट है। डेटा को बफर करें जब तक कि आपको एक वैध संरचना नहीं मिल जाती।

रेट लिमिट्स और समवर्तिकता की निगरानी करें

प्रति मिनट अपने अनुरोधों की गणना ट्रैक करें ताकि सेवा विघटन से बचें।

OpenRouter प्रत्येक API कुंजी के लिए कठोर दर सीमाएं लागू करता है। इन सीमाओं को पार करने पर 429 Too Many Requests त्रुटि उत्पन्न होती है। आपको अपनी पुनः प्रयास तर्क में एक्सपोनेंशियल बैकऑफ लागू करना चाहिए। समवर्ती अनुरोध भी आपकी सीमाओं के खिलाफ गिने जाते हैं। शेष क्वाटा के लिए प्रतिक्रिया हेडर जांचें। कुछ प्रदाता इन हेडर को सीधे प्रकट करते हैं। अन्य आपको त्रुटियों से सीमाओं को अनुमानित करने की आवश्यकता होती है। उच्च सहसंयोजकता आपके कनेक्शन पूल को समाप्त कर सकती है। सुनिश्चित करें कि आपका क्लाइंट कनेक्शन को कुशलता से प्रबंधित करता है। ओवरहेड कम करने के लिए कनेक्शन पूलिंग का उपयोग करें। पीक लोड के दौरान अपनी कतार की गहराई की निगरानी करें। यदि आप सीमा पर पहुंच जाते हैं, तो पुनः प्रयास करने से पहले प्रतीक्षा करें। थंडरिंग हर्ड समस्याओं से बचने के लिए अपनी प्रतीक्षा समय को यादृच्छिक बनाएं। डिबगिंग के लिए सभी दर सीमा घटनाओं को लॉग करें। यह आपके उपयोग में पैटर्न की पहचान करने में मदद करता है। इन लॉग के आधार पर अपनी सहसंयोजकता सेटिंग्स समायोजित करें। यह न मानें कि एकल कुंजी असीमित ट्राफिक संभाल सकती है। यदि आवश्यक हो तो भार को कई कुंजियों में वितरित करें। इसमें सावधानीपूर्वक स्थिति प्रबंधन की आवश्यकता होती है। सुनिश्चित करें कि प्रत्येक कुंजी अपनी संदर्भ स्थिति बनाए रखती है यदि आवश्यक हो।

क्रिप्टो बिलिंग और टॉप-अप का प्रबंधन करें

मासिक शुल्क के बिना टोकन उपयोग को कवर करने के लिए प्रीपेड क्रेडिट का उपयोग करें।

अपने खाते को क्रिप्टोकरेंसी से टॉप अप करें। समर्थित नेटवर्क में TRC20 पर USDT और Base पर USDC शामिल हैं। न्यूनतम टॉप-अप $20 से शुरू होते हैं। बड़ी राशियों के लिए बोनस लागू होते हैं। आपको $50 के लिए 5% अतिरिक्त, $100 के लिए 10%, और $200 के लिए 15% मिलता है। क्रेडिट कभी समाप्त नहीं होता है। यह दीर्घकालिक प्रोजेक्ट्स के लिए आदर्श है। आप केवल वास्तविक टोकनों के लिए भुगतान करते हैं। त्रुटियां और अस्वीकृतियां मुफ्त हैं। यह आपके बजट को अप्रत्याशित लागत से सुरक्षित रखता है। नए खातों को परीक्षण के लिए $0.50 मिलते हैं। मानक खरीदारी के लिए रिफंड जारी नहीं किए जाते हैं। डबल चार्ज सहायता के माध्यम से ठीक किए जाते हैं। सुनिश्चित करें कि आपकी वॉलेट आवश्यक नेटवर्क का समर्थन करती है। भेजने से पहले कॉन्ट्रैक्ट पता सत्यापित करें। गलत नेटवर्क फंड के नष्ट होने का कारण बन सकते हैं। नियमित रूप से अपना बैलेंस जांचें। कम बैलेंस सेवा को अप्रत्याशित रूप से बाधित कर सकते हैं। यदि संभव हो तो टॉप-अप को स्वचालित करें। यह महत्वपूर्ण कार्यों के लिए निरंतर उपलब्धता सुनिश्चित करता है।

सामग्री फ़िल्टर और अस्वीकार्यताओं का परीक्षण करें

सत्यापित करें कि मॉडल अनसेंसर्ड प्रॉम्प्ट्स के साथ अपेक्षित तरीके से व्यवहार करता है।

अनकेंसर्ड मॉडल्स अभी भी हार्ड लिमिट्स लागू कर सकते हैं। विशिष्ट कंटेंट टाइप्स पर प्रतिबंधों के लिए जांचें। ज्ञात ट्रिगर फ्रेज के साथ टेस्ट करें। सुनिश्चित करें कि मॉडल उचित प्रतिक्रिया देता है। कुछ प्रोवाइडर्स कानूनी कारणों से फिल्टर रखते हैं। संवेदनशील डेटा के लिए मॉडल पर भरोसा करने से पहले इनकी पुष्टि करें। अपने डोमेन में एज केस टेस्ट करें। उन प्रॉम्प्ट्स भेजें जो आमतौर पर रिफ्यूज़ल ट्रिगर करते हैं। प्रतिक्रिया फॉर्मेट पर ध्यान दें। क्या यह रिफ्यूज़ल का कारण लौटाता है? या क्या यह कंटेंट को चुपचाप जनरेट करता है? इन व्यवहारों को अपने इंटीग्रेशन टेस्ट्स में दस्तावेज करें। यह प्रोडक्शन में हैरानियों को रोकता है। यदि मॉडल अपना व्यवहार बदलता है, तो अपने टेस्ट्स अपडेट करें। अपने टीम को किसी भी महत्वपूर्ण बदलाव के बारे में सूचित करें। स्थिरता यूजर ट्रस्ट के लिए महत्वपूर्ण है। सुनिश्चित करें कि आपका एप्लिकेशन रिफ्यूज़ल को सहजता से हैंडल करता है। मानें नहीं कि हर रिस्पॉन्स वैध है। आउटपुट स्ट्रक्चर की वैलिडेशन करें। हैल्युसिनेशन या फॉर्मेटिंग त्रुटियों की जांच करें। यह एक विश्वसनीय यूजर एक्सपीरियंस सुनिश्चित करता है।

मुफ्त अनुरोधों के लिए त्रुटि हैंडलिंग लागू करें

चिकनी उपयोगकर्ता अनुभव बनाए रखने के लिए त्रुटियों को सहजता से हैंडल करें।

नेटवर्क त्रुटियां, टाइमआउट और सर्वर त्रुटियां हो सकती हैं। एक्सपोनेंशियल बैकऑफ के साथ रीट्राइ लॉजिक लागू करें। तत्काल और स्थायी त्रुटियों में अंतर करें। एक 429 त्रुटि तत्काल होती है। प्रतीक्षा करें और पुनः प्रयास करें। एक 400 त्रुटि स्थायी होती है। अपने इनपुट डेटा की जांच करें। एक 500 त्रुटि सर्वर-साइड होती है। सावधानीपूर्वक पुनः प्रयास करें। डीबगिंग के लिए सभी त्रुटियों को लॉग करें। अनुरोध पेलोड और प्रतिक्रिया बॉडी शामिल करें। इससे समस्याओं को जल्दी पुनः उत्पन्न करने में मदद मिलती है। कच्ची त्रुटियों को उपयोगकर्ताओं को न दिखाएं। उन्हें उपयोगकर्ता-अनुकूल संदेशों में प्रारूपित करें। स्ट्रीमिंग त्रुटियों को सावधानी से संभालें। इवेंट स्ट्रीम से डिस्कनेक्ट करें। संसाधनों को साफ करें। सुनिश्चित करें कि आपका ऐप मेमोरी लीक नहीं करता है। त्रुटि परिदृश्यों का व्यापक रूप से परीक्षण करें। नेटवर्क ड्रॉप का सिमुलेशन करें। सर्वर टाइमआउट का सिमुलेशन करें। सत्यापित करें कि आपकी रिकवरी लॉजिक काम करती है। यह खराब परिस्थितियों में विश्वसनीयता सुनिश्चित करता है।

JSON मोड और टूल कॉलिंग के साथ स्केल करें

विश्वसनीय डेटा एक्सट्रैक्शन और फंक्शन निष्पादन के लिए संरचित आउटपुट का उपयोग करें।

सेटिंग करके जेएसओएन मोड सक्षम करें response_format: {type: "json_object"}. यह मॉडल को वैध JSON आउटपुट करने के लिए मजबूर करता है। डेटा को पार्स करने या कॉन्फ़िगरेशन जनरेट करने के लिए इसका उपयोग करें। टूल कॉलिंग मॉडल को फंक्शन निष्पादित करने की अनुमति देती है। अपने अनुरोध पेलोड में अपने टूल्स को परिभाषित करें। मॉडल तय करता है कि कब उन्हें कॉल करना है। परिणामों को वापस मॉडल में पास करें। यह आउटपुट के आधार पर एक अंतिम प्रतिक्रिया जनरेट कर सकता है। यह जटिल कार्यों के लिए एक लूप बनाता है। सुनिश्चित करें कि आपके टूल डिफिनिशन स्पष्ट हों। अस्पष्ट टूल्स गलत कॉल्स का कारण बनते हैं। पार्स करने से पहले JSON आउटपुट की जांच करें। यह आपके कोड में रनटाइम त्रुटियों को रोकता है। डेटा एक्सट्रैक्शन कार्यों के लिए टूल कॉलिंग का उपयोग करें। यह सटीकता को काफी बढ़ाता है। विभिन्न इनपुट फॉर्मेट के साथ परीक्षण करें। सुनिश्चित करें कि मॉडल एज केस हैंडल करता है। अपने टीम के लिए उपलब्ध टूल्स को दस्तावेज़ करें। यह प्रोजेक्ट्स भर में सुसंगत उपयोग सुनिश्चित करता है।

समीक्षा गोपनीयता और डेटा उपयोग नीतियाँ

समझें कि प्रदाता आपका डेटा कैसे स्टोर और उपयोग करता है।

डेटा रखरखाव विवरण के लिए गोपनीयता नीति जांचें। कुछ प्रदाता अपने मॉडल को बेहतर बनाने के लिए आपके डेटा का उपयोग करते हैं। अन्य इसे गोपनीय रखते हैं। सुनिश्चित करें कि यदि यह आपके लिए महत्वपूर्ण है तो आपके डेटा का उपयोग मॉडल सुधार के लिए नहीं किया जाता है। एन्क्रिप्शन मानकों की जांच करें। डेटा ट्रांजिट और विराम दोनों में एन्क्रिप्टेड होना चाहिए। जांचें कि क्या लॉग संग्रहीत हैं। लॉग में आपके प्रॉम्प्ट हो सकते हैं। सुनिश्चित करें कि ये लॉग सुरक्षित हैं। लायबिलिटी क्लॉज के लिए सेवा की शर्तों की समीक्षा करें। समझें कि जनरेटेड कंटेंट का मालिक कौन है। कुछ प्रदाता आपके आउटपुट पर अधिकार दाव करते हैं। सुनिश्चित करें कि यह आपकी आवश्यकताओं से मेल खाता है। यदि आप सेवा का उपयोग नहीं करते हैं तो अपना खाता हटा दें। सुनिश्चित करें कि आपका डेटा हटा दिया गया है। यदि आपके पास चिंताएं हैं तो सहायता से संपर्क करें। ऑडिट उद्देश्यों के लिए अपनी गोपनीयता सेटिंग्स को दस्तावेज करें। यह आंतरिक नीतियों के अनुपालन को सुनिश्चित करता है।