11 marca 2025 r. udostępniliśmy podstawowe elementy naszej nowej platformy agentów. Szczegółowe informacje znajdziesz w naszej dokumentacji API dotyczącej Responses API, narzędzi, w tym Web Search, File Search i Computer Use, oraz naszego Agents SDK z funkcją Tracing.
Tokeny polecenia to tokeny, które wprowadzasz do modelu. To liczba tokenów w Twoim poleceniu.
Tokeny uzupełnienia to wszelkie tokeny generowane przez model w odpowiedzi na Twoje dane wejściowe. W przypadku standardowego żądania jest to liczba tokenów w uzupełnieniu.
Większość oferowanych przez nas modeli ma zarówno limity liczby tokenów, które mogą przyjąć (tokeny polecenia), jak i liczby tokenów, które mogą wygenerować (tokeny uzupełnienia lub próbek).
Obejmuje to również wszelkie tokeny wygenerowane przy użyciu wyższej wartości best_of lub n. Na przykład, jeśli generujesz 3 kandydujące uzupełnienia przy użyciu best_of = 3, liczba próbkowanych tokenów wyniesie co najwyżej 3 * max_tokens.
Więcej informacji o zarządzaniu tokenami znajdziesz w naszym przewodniku po generowaniu tekstu.