OpenAI
Ez az oldal gépi fordítással készült. Tekintsd meg az eredeti angol nyelvű cikket.

API-használati korlátok és 429-es hibák elhárítása

Azonosítsa az API 429-es hibájának okát, csökkentse a kéréshullámokat, és válassza ki a megfelelő lépést a használati, kredit- vagy egyéb korlátokhoz.

Frissítve: 3 days ago

Áttekintés

Az API-használatra használati korlátok vonatkoznak. Ezek adott időszakra korlátozzák a kérések, tokenek vagy más használati egységek számát.

A 429-es válasz átmeneti használati korlátot, kimerült előre fizetett egyenleget, illetve költési vagy használati korlátot jelezhet. Mielőtt újrapróbálkozna vagy módosítaná a számlázási beállításokat, ellenőrizze a hiba részleteit.

Az ok azonosítása

Olvassa el a hibaüzenetet és – ha rendelkezésre áll – az error.code értékét. A számlázással kapcsolatos hibák error.type értéke továbbra is lehet az általánosabb insufficient_quota.

Hiba vagy hibakódJelentéseTeendő
Elérte a kérésekre vagy tokenekre vonatkozó használati korlátotA kérések túllépik valamelyik vonatkozó használati korlátot.Ütemezze egyenletesebben a kéréseket, és kövesse az alábbi újrapróbálkozási útmutatást.
credit_balance_exhaustedA szervezetnek nem maradtak előre fizetett kreditjei.Vásároljon krediteket az API számlázási beállításaiban.
organization_usage_limit_exceededA szervezet elérte az OpenAI által meghatározott használati korlátját.Kérje magasabb használati korlát jóváhagyását.
organization_spend_limit_exceededA szervezet elérte a kikényszerített költési korlátját.Növelje vagy távolítsa el a korlátot, illetve várjon a havi visszaállításig.
project_spend_limit_exceededA projekt elérte a kikényszerített költési korlátját.Növelje vagy távolítsa el a projekt korlátját, illetve várjon a havi visszaállításig.

A számlázási, költési vagy kvótahiba újrapróbálása nem állítja helyre a hozzáférést. Először rendezze a jelzett egyenleget vagy korlátot. A kikényszerített költési korlátok módosításainak alkalmazása időbe telhet.

A költési korlát módosításához jogosultság szükséges az érintett szervezet vagy projekt beállításainak kezelésére. Ha nincs hozzáférése, kérje meg a beállítások kezelőjét.

Az előre fizetett kreditek vásárlásáról itt olvashat: Az előre fizetett API-számlázás beállítása és kezelése.

A különböző költésszabályozási lehetőségekről az API költési korlátairól szóló útmutatóban olvashat.

A vonatkozó használati korlátok ellenőrzése

A jelenlegi használati szint és korlátok áttekintéséhez nyissa meg szervezete Korlátok oldalát.

A használati korlátok szervezeti és projektszinten is érvényesek lehetnek. Ezek nem egyéni felhasználói keretek. A korlátok modellenként is eltérnek, egyes modellcsaládok pedig közös korláttal rendelkeznek.

Ellenőrizze, hogy a hiba melyik korlátot azonosítja. A percenkénti kérések és a percenkénti tokenek száma például külön korlát. Az egyiket akkor is elérheti, ha a másik alatt marad.

Ellenőrizze, melyik szervezetet használja a kérés

Ha több szervezethez tartozik, ellenőrizze, hogy a kérései a kívánt szervezetet és projektet használják-e.

Ha az API-kulcsa alapértelmezett szervezetet használ, ellenőrizze az alapértelmezett szervezet beállítását. A különböző szervezetek eltérő számlázási konstrukciókkal és használati szintekkel rendelkezhetnek.

Az átmeneti használatikorlát-hibák csökkentése

Ütemezze egyenletesen a kéréseket, és kerülje a hirtelen terhelést

Ossza el időben a kéréseket, ahelyett hogy egyszerre nagy számban küldené el őket.

A használati korlátok a megjelenített intervallumnál rövidebb időszakokra is érvényesíthetők. A percenkénti 60 kéréses korlát például egy másodperces időszakokra is érvényesíthető. Ezért egy rövid terhelési csúcs akkor is hibát okozhat, ha az átlagos használat látszólag a percenkénti korlát alatt marad.

A hosszú utasítások és a szükségtelenül nagy kimenetitoken-keretek szintén hozzájárulhatnak a tokenhasználati korláttal kapcsolatos hibákhoz.

Próbálkozzon újra késleltetéssel

Átmeneti használatikorlát-hibák esetén:

  1. Keresse meg a válasz Retry-After fejlécét.

  2. Ha a fejléc érvényes késleltetést tartalmaz, várjon legalább ennyi ideig az újrapróbálkozás előtt.

  3. Ha a fejléc hiányzik vagy érvénytelen, alkalmazzon véletlenszerű eltéréssel kiegészített exponenciális késleltetést: minden sikertelen kísérlet után növelje a várakozási időt, és adjon hozzá egy rövid, véletlenszerű késleltetést.

  4. Korlátozza az újrapróbálkozások számát és az ezekre fordított teljes időt is.

A hivatalos OpenAI SDK-k már automatikusan újrapróbálják az erre alkalmas használatikorlát-hibákat, és figyelembe veszik a Retry-After fejlécet, ha az szerepel a válaszban. Vegye figyelembe ezeket az újrapróbálkozásokat, mielőtt újabb próbálkozási ciklust adna hozzá.

A sikertelen kérések is beleszámítanak a percenkénti korlátokba. Ugyanannak a kérésnek a folyamatos újraküldése elhúzhatja a problémát.

A megvalósítási útmutatást és példákat az API használati korlátairól szóló útmutatóban találja. Mielőtt külső féltől származó újrapróbálkozási könyvtárat használna az alkalmazásában, vizsgálja át azt.

Az utasítás és a kimenet méretének áttekintése

Távolítsa el az utasításaiból a felesleges instrukciókat, az ismétlődő kontextust és a példákat. Tesztelje a módosított utasítást, hogy továbbra is a kívánt eredményt adja-e.

Használja a végpont és a modell által támogatott kimenetitoken-paramétert:

  • A Chat Completions a max_completion_tokens paramétert használja.

  • A Responses a max_output_tokens paramétert használja.

Ne állítson be a kéréshez szükségesnél jóval nagyobb keretet. Ezek a paraméterek az érvelési tokeneket és a látható kimenetet is magukban foglalják, ezért érvelési modell használatakor mindkettővel számoljon.

A használati szint áttekintése

Ha a terhelési csúcsok csökkentése és a tokenhasználat áttekintése után is jelentkeznek hibák, a korlátok növelésének lehetőségeit a Korlátok oldalon tekintheti meg.

Az API-ra fordított összeg növekedésével az OpenAI automatikusan magasabb használati szintre léptetheti a szervezetet. Ez általában a legtöbb modell használati korlátait növeli.

A jóváhagyott havi használati korlát elkülönül a kérések és tokenek használati korlátaitól. Az egyik növelése nem jelenti azt, hogy a másik is megváltozott.

Ha a probléma továbbra is fennáll

Eszkaláció előtt

Készítse elő a pontos hibaüzenetet, a hibakódot, a kapcsolódó kérésazonosítókat, a hiba időpontját és időzónáját, valamint a fiókjában megjelenő vonatkozó korlátot. Jegyezze fel a már kipróbált lépéseket.

Kapcsolatfelvétel az OpenAI ügyfélszolgálatával

Ha a jelzett korlát ellenőrzése után sem tudja megoldani a problémát, lépjen kapcsolatba az OpenAI ügyfélszolgálatával a Súgóközponton keresztül. Ne adjon meg API-kulcsokat vagy más hitelesítési titkokat.

Hasznos volt ez a cikk?