Jak działa Batch API?
Punkt końcowy Batch API, udokumentowany tutaj, umożliwia użytkownikom przesyłanie żądań do asynchronicznego przetwarzania wsadowego. Przetworzymy te żądania w ciągu 24 godzin. Szczegóły każdego żądania zostaną odczytane z wcześniej przesłanego pliku, a odpowiedzi zostaną zapisane w pliku wyjściowym. Możesz odpytać obiekt wsadowy, aby uzyskać aktualizacje statusu i wyniki.
Jakie są ceny Batch API?
Każdy model będzie oferowany z 50% rabatem kosztowym względem synchronicznych interfejsów API. Więcej informacji o cenach naszego API znajdziesz tutaj.
Które modele mogę przetwarzać wsadowo?
Batch API jest szeroko dostępne w większości naszych modeli, ale nie we wszystkich. Zapoznaj się z dokumentacją referencyjną modeli, aby upewnić się, że używany przez Ciebie model obsługuje Batch API.
Co się stanie, jeśli API nie ukończy mojego żądania w obiecanym czasie?
Naszym celem jest obsłużenie wszystkich żądań w ciągu 24 godzin. Jeśli zadanie wsadowe wygaśnie (tj. nie udało się go ukończyć w oknie czasowym SLA), pozostała praca zostanie anulowana, a każda już ukończona praca zostanie zwrócona. Deweloperzy zostaną obciążeni opłatą za każdą ukończoną pracę.
Jaki jest limit liczby żądań, które mogę przetwarzać wsadowo?
Interfejsy API embeddings mają limit 1 miliona żądań oczekujących w kolejce naraz.
W przypadku wszystkich pozostałych interfejsów API nie ma limitu liczby żądań, które możesz przetwarzać wsadowo; jednak z każdym poziomem użycia powiązany jest limit zapytań wsadowych. Twój limit zapytań wsadowych obejmuje maksymalną liczbę tokenów wejściowych, które masz jednocześnie w kolejce. Swoje limity zapytań znajdziesz tutaj.
Czy mogę zmienić czas oczekiwania na odpowiedź z Batch API?
Nasze obecnie określone okno czasowe wynosi 24 godziny. Obecnie nie możemy zmienić tego okresu.
Czy Batch API obsługuje przesyłanie strumieniowe?
Nie, Batch API nie obsługuje przesyłania strumieniowego. Żądania wsadowe zwracają wyniki przez pliki wyjściowe, a nie przez odpowiedzi przesyłane strumieniowo.
Czy Batch API obsługuje obrazy?
Tak, Batch API obsługuje obrazy.
Otrzymałem komunikat o błędzie „The URL provided for this request does not prefix-match the batch endpoint”. Co mam zrobić?
Jeśli otrzymasz ten błąd, oznacza to, że Twój adres URL jest nieprawidłowo sformatowany dla punktu końcowego Batch API. Zapoznaj się z naszą dokumentacją tutaj, aby upewnić się, że prawidłowo wywołujesz punkt końcowy.
Czy korzystanie z Batch API wlicza się do moich innych limitów zapytań?
Limity zapytań Batch API są całkowicie oddzielne od istniejących limitów.
Co się stanie, jeśli zadanie wsadowe zostanie anulowane?
Jeśli zadanie wsadowe zostanie ręcznie anulowane, zwrócone zostaną wszystkie wyniki, które zostały już ukończone. Deweloperzy zostaną obciążeni opłatą za każdą ukończoną pracę.
Co się stanie, jeśli zadanie wsadowe wygaśnie?
Jeśli zadanie wsadowe wygaśnie (tj. nie udało się go ukończyć w oknie czasowym SLA), pozostała praca zostanie anulowana, a każda już ukończona praca zostanie zwrócona. Deweloperzy zostaną obciążeni opłatą za każdą ukończoną pracę.
Jakich statusów mogę oczekiwać w przypadku zadań wsadowych?
Zadanie wsadowe może mieć jeden z następujących statusów: Weryfikowanie, Niepowodzenie, W toku, Finalizowanie, Ukończone, Wygasłe, Anulowanie i Anulowane. Jeśli sprawdzasz wartości statusu API programistycznie, użyj literałów pisanych małymi literami: validating, failed, in_progress, finalizing, completed, expired, cancelling i cancelled.
Weryfikowanie: Trwa weryfikacja przesłanego pliku, zanim zadanie wsadowe będzie mogło się rozpocząć.
Niepowodzenie: Plik nie przeszedł procesu weryfikacji.
W toku: Plik został pomyślnie zweryfikowany i proces wsadowy jest w toku.
Finalizowanie: Zadanie wsadowe zostało ukończone, a wyniki są przygotowywane.
Ukończone: Zadanie wsadowe jest ukończone, a wyniki są gotowe.
Wygasłe: Zadania wsadowego nie udało się ukończyć w oknie czasowym SLA.
Anulowanie: Rozpoczęto anulowanie zadania wsadowego.
Anulowane: Zadanie wsadowe zostało anulowane.
Jak mogę sprawdzić, które zadania wsadowe już utworzyłem?
Możesz uzyskać listę wszystkich swoich zadań wsadowych za pomocą wywołania API określonego tutaj.
Czy ten punkt końcowy obsługuje nieprzechowywanie danych?
Jeśli w Twojej organizacji włączono nieprzechowywanie danych, pamiętaj, że nieprzechowywanie danych nie dotyczy Batch API. Organizacje ZDR mogą tworzyć zadania wsadowe, ale wejściowe pliki wsadowe, dane wyjściowe, błędy i artefakty pośrednie są przechowywane zgodnie ze skonfigurowanymi zasadami przechowywania Batch, File Service i Sediment.