Le sequenze di stop servono a fare in modo che il modello smetta di generare token in un punto desiderato, ad esempio alla fine di una frase o di un elenco. Usando la Chat Completions API, puoi specificare il parametro stop e passare la sequenza. La risposta del modello non conterrà la sequenza di stop e puoi passare fino a quattro sequenze di stop.
Esempio semplice:
In questo semplice esempio di chat, viene usata una sequenza di stop: la parola "World". Il messaggio di sistema e il messaggio dell’utente sono pensati per cercare di far produrre al modello "Hello world" ma, come vedrai se esegui l’esempio nel playground, di solito il modello si ferma dopo aver detto solo "Hello" poiché world è una sequenza di stop.
Puoi esplorare altri esempi di sequenze di stop usando l’OpenAI chat playground.