Checklista produkcyjna API OpenRouter

Zweryfikuj kompatybilność API i punkty końcowe

Korzystaj ze standardowych endpointów kompatybilnych z OpenAI dla niezawodnej integracji.

Głównym punktem końcowym jest POST /v1/chat/completions.To obsługuje generowanie tekstu dla historii czatu. Drugorzędny endpoint, GET /v1/models, lista dostępnych modeli. Nie potrzebujesz punktów końcowych embeddingów ani generowania obrazów do zadań tylko tekstowych. Wiele osób programistycznych zakłada, że potrzebują złożonej warstwy routingu. OpenRouter upraszcza to, wystawiając pojedynczy punkt wejścia. Wysyłasz ładunek JSON z identyfikatorem modelu i promptami systemowymi. Usługa zwraca strukturyzowany JSON z treścią i danymi o użyciu. Ten projekt pasuje do oczekiwań oficjalnego SDK OpenAI. Możesz zamieniać modele bez zmiany kodu klienta. Po prostu zaktualizuj identyfikator modelu w konfiguracji. Upewnij się, że Twój klient obsługuje najnowszy schemat JSON. Starsze wersje mogą odrzucać nowe parametry. Przetestuj połączenie przed wdrożeniem do produkcji. Zweryfikuj, czy format odpowiedzi pasuje do Twojego parsera.

Skonfiguruj uwierzytelnianie i klucze

Zabezpiecz swój klucz API w zmiennych środowiskowych natychmiast po jego wygenerowaniu.

Wygeneruj klucz przez panel dostawcy. Przechowuj go w bezpiecznym miejscu. Nigdy nie koduj go na stałe w repozytorium źródłowym. Przekaż go poprzez Authorization: Bearer <key> Nagłówek. Każdy klucz jest powiązany z konkretnym kontem. Możesz rotować klucze, jeśli podejrzewasz wyciek. Niektórzy dostawcy pozwalają na wiele kluczy na konto. Pozwala to na oddzielenie ruchu deweloperskiego i produkcyjnego. Monitoruj użycie na poziomie klucza, aby wykryć anomalie. Regularnie unieważniaj nieużywane klucze. Używaj krótkotrwałych kluczy dla tymczasowych skryptów. Zmniejsza to zakres uszkodzeń w przypadku kompromis. Upewnij się, że Twoja wersja SDK obsługuje uwierzytelnianie tokenem bearer. Starsze biblioteki mogą wymagać innego formatu nagłówka. Sprawdź dokumentację dla swojego konkretnego pakietu SDK. Zweryfikuj, czy klucz ma wystarczające saldo. Wygasły klucz zwraca błąd 401. Klucz z zerowym saldem zwraca błąd 402. Rozróżniaj te dwa stany w swojej logice.

Obsługa strumieniowania i zużycia tokenów

Włącz strumieniowanie dla niższego opóźnienia i informacji zwrotnej użytkownika w czasie rzeczywistym.

Ustaw stream: true w ciele żądania. Serwer wysyła serię zdarzeń wysyłanych serwerowo (SSE). Każde zdarzenie zawiera częściowy fragment tekstu. Musisz złożyć te fragmenty, aby utworzyć pełną odpowiedź. Ostatni fragment często zawiera statystyki zużycia tokenów. Pozwala to na śledzenie kosztów w czasie rzeczywistym. Bez strumieniowania czekasz na całą odpowiedź. Zwiększa to postrzeganą opóźnienie znacząco. Strumieniowanie jest niezbędne dla interfejsów czatu. Tworzy efekt pisania, który wydaje się responsywny. Bądź ostrożny przy obsłudze błędów podczas strumieniowania. Jeśli połączenie zostanie zerwane, tracisz bieżący fragment. Logika ponownego łączenia powinna zachować stan rozmowy. Niektóre SDK obsługują strumieniowanie automatycznie. Inne wymagają ręcznych nasłuchiwaczy zdarzeń. Wybierz podejście, które pasuje do Twojej architektury. Upewnij się, że Twój parser obsługuje niekompletne fragmenty JSON. Nie zakładaj, że każde zdarzenie jest kompletnym obiektem. Buforuj dane, dopóki nie uzyskasz prawidłowej struktury.

Monitoruj Limity Szybkości i Współbieżność

Śledź liczbę żądań na minutę, aby uniknąć przerw w usługach.

OpenRouter narzuca ścisłe limity szybkości na klucz API. Przekroczenie tych limitów powoduje błąd 429 Too Many Requests. Musisz zaimplementować wykładnicze opóźnienie ponawiania w swojej logice ponawiania. Żądania współbieżne również wliczają się do limitów. Sprawdź nagłówki odpowiedzi, aby uzyskać informacje o pozostałym limicie. Niektórzy dostawcy udostępniają te nagłówki bezpośrednio. Inni wymagają wnioskowania o limitach na podstawie błędów. Wysoka współbieżność może wyczerpać pulę połączeń. Upewnij się, że Twój klient efektywnie zarządza połączeniami. Użyj buforowania połączeń, aby zmniejszyć narzut. Monitoruj głębokość kolejki podczas szczytowych obciążeń. Jeśli trafisz na limit, poczekaj przed ponowną próbą. Zróżnicuj czas oczekiwania, aby uniknąć problemów z „stadem”. Zaloguj wszystkie zdarzenia limitu szybkości do debugowania. Pomaga to zidentyfikować wzorce w Twoim użytkowaniu. Dostosuj ustawienia współbieżności na podstawie tych logów. Nie zakładaj, że pojedynczy klucz może obsłużyć nieograniczony ruch. Rozłóż obciążenie między wiele kluczy, jeśli to konieczne. Wymaga to starannego zarządzania stanem. Upewnij się, że każdy klucz utrzymuje własny kontekst, jeśli jest to potrzebne.

Zarządzanie rozliczeniami krypto i doładowaniami

Użyj kredytu z góry do pokrycia zużycia tokenów bez opłat miesięcznych.

Doładuj swoje konto kryptowalutą. Obsługiwane sieci obejmują USDT w TRC20 i USDC w Base. Minimalne wpłaty zaczynają się od $20. Bonusy naliczane są za większe kwoty. Otrzymujesz 5% extra za $50, 10% za $100 i 15% za $200. Kredyt nigdy nie wygasa. Jest to idealne dla projektów długoterminowych. Płacisz tylko za faktycznie użyte tokeny. Błędy i odrzucenia są darmowe. Chroni to Twój budżet przed nieoczekiwanymi kosztami. Nowe konta otrzymują $0.50 do testów. Zwroty nie są wydawane za standardowe zakupy. Podwójne obciążenia są korygowane przez wsparcie. Upewnij się, że Twój portfel obsługuje wymagane sieci. Zweryfikuj adres kontraktu przed wysłaniem. Nieprawidłowe sieci mogą skutkować utratą środków. Regularnie sprawdzaj swoje saldo. Niskie salda mogą niespodziewanie przerwać usługę. Zautomatyzuj doładowania, jeśli to możliwe. Zapewnia to ciągłą dostępność dla krytycznych zadań.

Przetestuj filtry treści i odmowy

Upewnij się, że model zachowuje się zgodnie z oczekiwaniami z promptami uncensored.

Modele bez cenzury nadal mogą stosować twarde limity. Sprawdź ograniczenia dotyczące określonych typów treści. Przetestuj znanymi frazami wyzwalającymi. Upewnij się, że model reaguje odpowiednio. Niektórzy dostawcy zachowują filtry ze względów prawnych. Zweryfikuj je przed poleganiem na modelu do danych wrażliwych. Przetestuj przypadki brzegowe w swojej dziedzinie. Wyślij prompty, które zwykle powodują odmowę. Zaobserwuj format odpowiedzi. Czy zwraca powód odmowy? Czy generuje treść cicho? Zdokumentuj te zachowania w testach integracyjnych. Zapobiega to niespodziankom w produkcji. Jeśli model zmieni zachowanie, zaktualizuj testy. Powiadom swój zespół o istotnych zmianach. Spójność jest kluczowa dla zaufania użytkowników. Upewnij się, że aplikacja obsługuje odmowy w sposób elegancki. Nie zakładaj, że każda odpowiedź jest poprawna. Zweryfikuj strukturę wyjściową. Sprawdź halucynacje lub błędy formatowania. Zapewnia to niezawodne doświadczenie użytkownika.

Wdrożenie obsługi błędów dla żądań darmowych

Obsługuj błędy w sposób elegancki, aby utrzymać płynne doświadczenie użytkownika.

Mogą wystąpić błędy sieciowe, przekroczenia czasu oczekiwania i błędy serwera. Zaimplementuj logikę ponawiania z wykładniczym opóźnieniem. Rozróżniaj błędy tymczasowe i trwałe. Błąd 429 jest tymczasowy. Poczekaj i ponów próbę. Błąd 400 jest trwały. Sprawdź dane wejściowe. Błąd 500 pochodzi po stronie serwera. Ponów próbę z ostrożnością. Loguj wszystkie błędy w celu debugowania. Dołącz payload żądania i ciało odpowiedzi. Pomaga to szybko odtworzyć problemy. Nie udostępniaj surowych błędów użytkownikom. Sformatuj je w przyjazne komunikaty. Ostrożnie obsługuj błędy strumieniowania. Rozłącz się ze strumieniem zdarzeń. Zwolnij zasoby. Upewnij się, że Twoja aplikacja nie wycieka pamięci. Dokładnie przetestuj scenariusze błędów. Symuluj awarie sieciowe. Symuluj przekroczenia czasu serwera. Zweryfikuj, czy Twoja logika odzyskiwania działa. Zapewnia to niezawodność w trudnych warunkach.

Skaluj z trybem JSON i wywoływaniem narzędzi

Korzystaj z wyjść strukturalnych do niezawodnej ekstrakcji danych i wykonywania funkcji.

Włącz tryb JSON, ustawiając response_format: {type: "json_object"}.To wymusza od modelu zwracanie poprawnego formatu JSON. Użyj tego do parsowania danych lub generowania konfiguracji. Wywoływanie narzędzi (tool calling) pozwala modelowi wykonywać funkcje. Zdefiniuj swoje narzędzia w ładunku żądania. Model decyduje, kiedy je wywołać. Przekaż wyniki z powrotem do modelu. Może on wygenerować ostateczną odpowiedź na podstawie wyniku. Tworzy to pętlę dla złożonych zadań. Upewnij się, że definicje narzędzi są jasne. Niejasne narzędzia prowadzą do błędnych wywołań. Zweryfikuj wynik JSON przed parsowaniem. Zapobiega to błędom czasu wykonania w Twoim kodzie. Używaj wywoływania narzędzi do zadań ekstrakcji danych. Znacznie poprawia to dokładność. Przetestuj różne formaty wejściowe. Upewnij się, że model obsługuje przypadki brzegowe. Udokumentuj dostępne narzędzia dla swojego zespołu. Zapewnia to spójne użytkowanie w ramach projektów.

Przejrzyj Polityki Prywatności i Wykorzystania Danych

Zrozum, jak dostawca przechowuje i wykorzystuje Twoje dane.

Sprawdź politykę prywatności pod kątem szczegółów dotyczących przechowywania danych. Niektórzy dostawcy wykorzystują Twoje dane do trenowania modeli. Inni zachowują je w ścisłej prywatności. Upewnij się, że Twoje dane nie są wykorzystywane do ulepszania modelu, jeśli ma to dla Ciebie znaczenie. Zweryfikuj standardy szyfrowania. Dane powinny być szyfrowane zarówno w trakcie transmisji, jak i w spoczynku. Sprawdź, czy przechowywane są logi. Logi mogą zawierać Twoje prompty. Upewnij się, że te logi są bezpieczne. Przeglądaj regulamin w kontekście klauzul odpowiedzialności. Zrozum, kto posiada prawa do wygenerowanej treści. Niektórzy dostawcy roszczą sobie prawa do Twoich wyników. Upewnij się, że zgadza się to z Twoimi potrzebami. Usuń swoje konto, jeśli przestajesz korzystać z usługi. Zweryfikuj, czy Twoje dane zostały usunięte. Skontaktuj się z pomocą techniczną, jeśli masz wątpliwości. Zdokumentuj swoje ustawienia prywatności na potrzeby audytu. Zapewnia to zgodność z wewnętrznymi politykami.