Perché ottengo completamenti diversi nel Playground rispetto all’API?

Se la temperature è impostata sopra 0, il modello genererà output con una certa casualità, quindi è normale vedere completamenti diversi. Quando vuoi risultati coerenti e ripetibili, usa temperature = 0.

Se temperature è già a 0 e i risultati differiscono comunque, ecco le cause più comuni:

Differenze nel prompt

Verifica che il prompt sia esattamente lo stesso in entrambi gli ambienti. Anche un singolo spazio in più, un a capo o un carattere nascosto possono causare un output diverso.

Parametri non corrispondenti

Assicurati che tutti i parametri rilevanti corrispondano tra Playground e le richieste API:

• temperature

• top_p

• max_tokens

• frequency_penalty

• presence_penalty

Inoltre, verifica che il nome del modello sia identico. Modelli diversi produrranno naturalmente output diversi, anche con lo stesso prompt e le stesse impostazioni.

Preset del Playground vs. impostazioni predefinite dell’API

Il Playground potrebbe applicare alcune impostazioni predefinite. Nell’API, se ometti un parametro, verrà usato il suo valore predefinito, che potrebbe non corrispondere al comportamento del Playground. Per garantire coerenza, imposta esplicitamente tutti i parametri nella tua richiesta API.

Differenze di formattazione o codifica

Assicurati che la richiesta che invii all’API sia identica al prompt nel Playground. Le differenze possono derivare da:

• Escape JSON

• Fine riga o indentazione

• Spazi bianchi aggiuntivi

Se hai ricontrollato tutti questi aspetti e noti ancora discrepanze, chiedi aiuto sul Community Forum, dove altri utenti potrebbero aver riscontrato problemi simili o potrebbero aiutarti a risolvere il tuo caso specifico.