Hoe werkt de Batch API?
Met het Batch API-endpoint, zoals hier gedocumenteerd, kunnen gebruikers aanvragen indienen voor asynchrone batchverwerking. We verwerken deze aanvragen binnen 24 uur. De details van elke aanvraag worden gelezen uit een vooraf geüpload bestand en de reacties worden naar een uitvoerbestand geschreven. Je kunt het batchobject opvragen voor statusupdates en resultaten.
Wat zijn de prijzen voor de Batch API?
Elk model wordt aangeboden met 50% kostenkorting ten opzichte van de synchrone API’s. Hier vind je meer informatie over onze API-prijzen.
Welke modellen kan ik batchen?
De Batch API is breed beschikbaar voor de meeste van onze modellen, maar niet voor allemaal. Raadpleeg de modelreferentiedocumentatie om zeker te weten dat het model dat je gebruikt de Batch API ondersteunt.
Wat gebeurt er als de API mijn aanvraag niet binnen de beloofde tijd voltooit?
We streven ernaar alle aanvragen binnen 24 uur te verwerken. Als een batch verloopt (d.w.z. niet binnen het SLA-tijdsvenster kon worden voltooid), wordt het resterende werk geannuleerd en wordt al voltooid werk geretourneerd. Ontwikkelaars betalen voor al het voltooide werk.
Wat is de limiet voor hoeveel aanvragen ik kan batchen?
Embeddings-API’s hebben een limiet van 1 miljoen aanvragen die tegelijk in de wachtrij staan.
Voor alle andere API’s is er geen limiet op het aantal aanvragen dat je kunt batchen; elke gebruikstier heeft echter een bijbehorende batchvolumelimiet. Je batchvolumelimiet omvat het maximale aantal invoertokens dat je tegelijk in de wachtrij hebt staan. Je vindt je volumelimieten hier.
Kan ik wijzigen hoe lang het duurt voordat ik iets terughoor van de Batch API?
Ons huidige opgegeven tijdsvenster is 24 uur. We kunnen deze periode momenteel niet wijzigen.
Wordt streaming ondersteund in de Batch API?
Nee, streaming wordt niet ondersteund in de Batch API. Batchaanvragen retourneren resultaten via uitvoerbestanden in plaats van gestreamde reacties.
Worden afbeeldingen ondersteund in de Batch API?
Ja, afbeeldingen worden ondersteund in de Batch API.
Ik heb de foutmelding ‘The URL provided for this request does not prefix-match the batch endpoint’ gekregen. Wat moet ik doen?
Als je deze fout krijgt, betekent dit dat je URL onjuist is opgemaakt voor het Batch API-endpoint. Raadpleeg hier onze documentatie om te controleren of je het endpoint correct aanroept.
Telt het gebruik van de Batch API mee voor mijn andere volumelimieten?
Volumelimieten voor de Batch API staan volledig los van bestaande limieten.
Wat gebeurt er als een batch wordt geannuleerd?
Als een batch handmatig wordt geannuleerd, worden alle resultaten die al zijn voltooid geretourneerd. Ontwikkelaars betalen voor al het voltooide werk.
Wat gebeurt er als een batch verloopt?
Als een batch verloopt (d.w.z. niet binnen het SLA-tijdsvenster kon worden voltooid), wordt het resterende werk geannuleerd en wordt al voltooid werk geretourneerd. Ontwikkelaars betalen voor al het voltooide werk.
Welke statussen kan ik verwachten voor batchtaken?
De batchtaak kan een van de volgende statussen hebben: Valideren, Mislukt, In uitvoering, Afronden, Voltooid, Verlopen, Annuleren en Geannuleerd. Als je API-statuswaarden programmatisch controleert, gebruik dan de lowercase literals: validating, failed, in_progress, finalizing, completed, expired, cancelling en cancelled.
Valideren: De validatie van het geüploade bestand wordt uitgevoerd voordat de batch kan beginnen.
Mislukt: Het bestand heeft het validatieproces niet doorstaan.
In uitvoering: Het bestand is gevalideerd en het batchproces is bezig.
Afronden: De batchtaak is voltooid en de resultaten worden voorbereid.
Voltooid: De batchtaak is voltooid en de resultaten zijn klaar.
Verlopen: De batch kon niet binnen het SLA-tijdsvenster worden voltooid.
Annuleren: De annulering van de batchtaak is gestart.
Geannuleerd: De batchtaak is geannuleerd.
Hoe kan ik controleren welke batchtaken ik al heb gemaakt?
Je kunt een lijst van al je batchtaken ophalen met de API-aanroep die hier is opgegeven.
Wordt geen gegevensbewaring ondersteund op dit endpoint?
Als geen gegevensbewaring is ingeschakeld voor je organisatie, houd er dan rekening mee dat geen gegevensbewaring niet van toepassing is op de Batch API. ZDR-organisaties kunnen batchtaken maken, maar batchinvoerbestanden, uitvoer, fouten en tussenliggende artefacten worden bewaard volgens het geconfigureerde bewaarbeleid voor Batch, File Service en Sediment.