רשימת בדיקה לייצור של OpenRouter API

אמת תאימות API ונקודות קצה

השתמשו בנקודות הקצה התואמות את הסטנדרט של OpenAI לשילוב אמין.

הנקודה הקצה העיקרית היא POST /v1/chat/completions. זה מטפל ביצירת טקסט עבור היסטוריות צ'אט. נקודת קצה משנית, GET /v1/models, מציג מודלים זמינים. אתם לא צריכים קצות קצה של הטמעות (embeddings) או יצירת תמונות למשימות המוגבלות לטקסט. מפתחים רבים מניחים שהם צריכים שכבת ניתוב מורכבת. OpenRouter מפשט את זה על ידי חשיפת נקודת כניסה אחת. אתם שולחים גוף JSON עם מזהה המודל והנחיות המערכת. השירות מחזיר JSON מבנה עם תוכן ונתוני שימוש. עיצוב זה תואם את ציפיות ה-SDK הרשמי של OpenAI. אתם יכולים להחליף מודלים ללא שינוי בקוד הלקוח שלכם. רק עדכנו את מזהה המודל בתצורה שלכם. ודאו שהלקוח שלכם תומך בסכמת JSON העדכנית ביותר. גרסאות ישנות יותר עשויות לדחות פרמטרים חדשים. בדקו את החיבור שלכם לפני הפריסה לייצור. ודאו שפורמט התגובה תואם את המנתח שלכם.

הגדר אימות ומפתחות

אבטח את מפתח ה-API שלך במשתני סביבה מיד לאחר יצירתו.

צור מפתח דרך לוח הבקרה של הספק. שמור אותו במקום מאובטח. אל תקבע אותו בקוד המקור שלך. העבר אותו דרך Authorization: Bearer <key> כותרת. כל מפתח קשור לחשבון ספציפי. אתה יכול לסובב מפתחות אם אתה חושד לדליפה. ספקים מסוימים מאפשרים מספר מפתחות לחשבון. זה מאפשר לך להפריד תעבורת פיתוח וייצור. מעקב אחר שימוש לפי מפתח כדי לזהות חריגות. בטל מפתחות לא בשימוש באופן קבוע. השתמש במפתחות קצרי טווח עבור סקריפטים זמניים. זה מפחית את נפח הנזק במקרה של פריצה. ודא שגרסת ה-SDK שלך תומכת באימות אסימון Bearer. ספריות ישנות יותר עשויות לדרוש פורמט כותרת שונה. בדוק את התיעוד עבור ה-SDK הספציפי שלך. ודא שהמפתח יש לו מספיק מאזן. מפתח שפג תוקפו מחזיר שגיאת 401. מפתח עם מאזן אפס מחזיר שגיאת 402. הבחן בין שני מצבים אלו בלוגיקה שלך.

טפול בסטרימינג ושימוש בטוקנים

אפשרו זרימת נתונים לזמן אחזור נמוך ומשוב משתמש בזמן אמת.

הגדר stream: true בפלט הבקשה שלך. השרת שולח סדרה של אירועים שנשלחים מהשרת (SSE). כל אירוע מכיל נתח חלקי של טקסט. עליך להרכיב נתחים אלה כדי ליצור את התגובה המלאה. הנתח הסופי לעיתים קרובות כולל סטטיסטיקות שימוש באסימונים. זה מאפשר לך לעקוב אחר עלויות בזמן אמת. ללא סטרימינג, אתה ממתיין לתגובה המלאה. זה מגדיל משמעותית את תחומת הזמן המוחשית. סטרימינג חיוני לממשקי צ'אט. הוא יוצר אפקט הקלדה שנותן תחושת רספונסיביות. הקפד על טיפול בשגיאות במהלך הסטרימינג. אם החיבור נופל, אתה מאבד את הנתח הנוכחי. לוגיקת חיבור מחדש צריכה לשמור על מצב השיחה. חלק מ-SDKs מטפילים בסטרימינג באופן אוטומטי. אחרים דורשים מאזיני אירועים ידניים. בחר בגישה שמתאימה לארכיטקטורה שלך. ודא שהמנתח שלך מטפל בנתחי JSON חסרים. אל תניח שכל אירוע הוא אובייקט שלם. אגור את הנתונים עד שיש לך מבנה תקף.

נטר מגבלות קצב וסינכרון

מעקב אחר הבקשות לדקה כדי להימנע מהפרעות בשירות.

אופן-ראוטר מפעיל מגבלות קצב קפדניות לכל מפתח API. חריגה ממגבלות אלו גורמת לשגיאת 429 Too Many Requests. עליך ליישם החזרה אקספוננציאלית (exponential backoff) בלוגיקת הניסיון החוזר שלך. בקשות מקבילות גם הן נספרות כנגד המגבלות שלך. בדוק את כותרות התגובה לשם קבלת מידע על המכסה הנותרת. חלק מהספקים חושפים כותרות אלו ישירות. אחרים דורשים ממך להסיק מגבלות מתוך שגיאות. רמת תחרות גבוהה יכולה לנצל את מאגר החיבורים שלך. ודא שהלקוח שלך מנהל חיבורים ביעילות. השתמש באגירת חיבורים (connection pooling) כדי להפחית עלויות. מעקב אחר עומק התור שלך במהלך עומסים שיא. אם תגיע למגבלה, המתן לפני ניסיון חוזר. רנדמייז את זמן ההמתנה שלך כדי למנוע בעיות של להקת ברקים (thundering herd). לוג כל אירועי מגבלת הקצב לניפוי באגים. זה עוזר לזהות תבניות בשימוש שלך. התאם את הגדרות התחרות שלך בהתאם ללוגים אלו. אל תניח שמפתח יחיד יכול לטפל בכמות אינסופית של תעבורה. הפץ עומס בין מספר מפתחות אם נדרש. זה דורש ניהול מצב קפדני. ודא שכל מפתח שומר על ההקשר שלו אם נדרש.

ניהול תשלומים בקריפטו והטענות

השתמשו באשראי מקדם לכיסוי שימוש בטוקנים ללא תשלומים חודשיים.

העמיסו את החשבון שלכם בקריפטו. רשתות נתמכות כוללות USDT על TRC20 ו-USDC על Base. הפקדות מינימליות מתחילות ב-$20. בונוסים חלים על סכומים גדולים יותר. אתם מקבלים 5% נוספים ל-$50, 10% ל-$100, ו-15% ל-$200. הקרדיט לא פג תוקף. זה אידיאלי לפרויקטים לטווח ארוך. אתם משלמים רק עבור טוקנים אמיתיים ששימשו. שגיאות ודחיות הן ללא תשלום. זה מגן על התקציב שלכם מפני עלות בלתי צפויה. חשבונות חדשים מקבלים $0.50 לבדיקה. החזרים לא מונפקים עבור רכישות סטנדרטיות. חיובים כפולים מתוקנים באמצעות תמיכה. ודאו שהארנק שלכם תומך ברשתות הנדרשות. אמתו את כתובת החוזה לפני שליחה. רשתות שגויות עשויות להוביל לאובדן כספים. בדקו את יתרתכם באופן קבוע. יתרות נמוכות עשויות להפריע לשירות באופן בלתי צפוי. אוטמטו העמסות אם אפשר. זה מבטיח זמינות רציפה למשימות קריטיות.

בדקו מסנני תוכן וסירובים

ודאו שהמודל מתנהג כמצופה עם פרומפטים חסרי מגבלות.

מודלים ללא צנזורה עשויים עדיין להחיל מגבלות קשיחות. בדוק אילו הגבלות על סוגי תוכן ספציפיים. בדוק עם ביטויי הפעלה ידועים. ודא שהמודל מגיב כראוי. ספקים מסוימים שומרים על מסננים מסיבות משפטיות. ודא אלו לפני שאתה מסתמך על המודל לנתונים רגישים. בדוק מקרי קצה בתחום שלך. שלח הנחיות שבדרך כלל גורמות לסירוב. צפה במבנה התגובה. האם הוא מחזיר סיבה לסירוב? או שהוא מייצר תוכן בשקט? תעד התנהגויות אלו במבחני האינטגרציה שלך. זה מונע הפתעות בייצור. אם המודל משנה את התנהגותו, עדכן את המבחנים שלך. הודע לצוות שלך על כל שינויים משמעותיים. עקביות היא המפתח לאמון המשתמשים. ודא שהיישום שלך מטפל בסירובים בצורה חלקה. אל תניח שכל תגובה תקפה. אמת את מבנה הפלט. בדוק האם יש המצאות או שגיאות עיצוב. זה מבטיח חווית משתמש אמינה.

יישום טיפול בשגיאות עבור בקשות חינמיות

טפלו בשגיאות בצורה חכמה כדי לשמור על חוויית משתמש חלקה.

שגיאות רשת, ניתוקים ושגיאות שרת עשויים להתרחש. ממשו לוגיקת ניסיון חוזר עם החזרה מעריכית. הבדילו בין שגיאות זמניות וקבועות. שגיאת 429 היא זמנית. חכו ונסו שוב. שגיאת 400 היא קבועה. בדקו את נתוני הקלט שלכם. שגיאת 500 היא בצד השרת. נסו שוב בזהירות. רשמו את כל השגיאות לניפוי באגים. כללו את פלט הבקשה וגוף התגובה. זה עוזר לשחזר בעיות במהירות. אל חשפו שגיאות גולמיות למשתמשים. עצבו אותן להודעות ידידותיות למשתמש. טפלו בשגיאות סטרימינג בזהירות. התנתקו מזרם האירועים. נקו משאבים. ודאו שהיישום שלכם לא מדליף זיכרון. בדקו תרחישי שגיאה לעומק. הדמו נפילות רשת. הדמו ניתוקי שרת. ודאו שלוגיקת ההתאוששות שלכם עובדת. זה מבטיח אמינות בתנאים קשים.

הגבר את הקצב עם מצב JSON וקריאת כלים

השתמשו בפלטים מבניים לחילוץ נתונים אמין וביצוע פונקציות.

אפשר מצב JSON על ידי הגדרת response_format: {type: "json_object"}. זה מכריח את המודל להפיק JSON תקף. השתמש בזה לפיענוח נתונים או יצירת תצורות. קריאת כלים מאפשרת למודל להפעיל פונקציות. הגדר את הכלים שלך בגוף הבקשה. המודל מחליט מתי לקרוא להם. העבר את התוצאות בחזרה למודל. הוא יכול לייצר תגובה סופית בהתבסס על הפלט. זה יוצר לולאה למשימות מורכבות. ודא שהגדרות הכלים שלך ברורות. כלים מעורפלים מובילים לקריאות שגויות. אמת את פלט ה-JSON לפני הפיענוח. זה מונע שגיאות ריצה בקוד שלך. השתמש בקריאת כלים למשימות חילוץ נתונים. זה משפר דיוק משמעותית. בדוק עם פורמטים קלט שונים. ודא שהמודל מטפל במקרי קצה. תעד את הכלים הזמינים לצוות שלך. זה מבטיח שימוש עקבי בפרויקטים שונים.

סקור מדיניות פרטיות ושימוש בנתונים

הבן כיצד הספק שלך שומר ומשתמש בנתונים שלך.

בדוק את מדיניות הפרטיות לפרטי אחזקת נתונים. ספקים מסוימים משתמשים בנתונים שלך לאימון. אחרים שומרים על פרטיות. ודא שהנתונים שלך לא משמשים לשיפור המודל אם זה חשוב לך. בדוק סטנדרטים של הצפנה. נתונים צריכים להיות מוצפנים במעבר ובמנוחה. בדוק אם יומנים (logs) נשמרים. יומנים עשויים להכיל את הפקודות שלך. ודא שהיונים הללו מאובטחים. סקור את תנאי השירות לסעיפי אחריות. הבן מי בעל הזכויות על התוכן שנוצר. ספקים מסוימים טוענים לזכויות על הפלט שלך. ודא שזה תואם את הצרכים שלך. מחק את החשבון אם אינך משתמש בשירות עוד. ודא שהנתונים שלך הוסרו. פנה לתמיכה אם יש לך חששות. תעד את הגדרות הפרטיות שלך למטרות ביקורת. זה מבטיח עמידה במדיניות פנימית.