A partire dall’11 marzo 2025, abbiamo rilasciato i componenti fondamentali della nostra nuova piattaforma Agents. Per i dettagli, consulta la nostra documentazione API per la Responses API, gli strumenti tra cui Web Search, File Search e Computer Use, e il nostro Agents SDK con Tracing.
I token del prompt sono i token che inserisci nel modello. Questo è il numero di token nel tuo prompt.
I token di completamento sono tutti i token che il modello genera in risposta al tuo input. Per una richiesta standard, questo è il numero di token nel completamento.
La maggior parte dei modelli che offriamo ha sia un limite al numero di token che può accettare in input (token del prompt) sia un limite al numero di token che può produrre in output (token di completamento o token campionati).
Questo include anche eventuali token generati quando si usa un valore più alto di best_of o n. Ad esempio, se stai generando 3 completamenti candidati usando best_of = 3, il numero di token campionati sarà al massimo 3 * max_tokens.
Puoi leggere di più sulla gestione dei token nella nostra guida alla generazione di testo.