Sekwencje zatrzymania służą do tego, by model przestał generować tokeny w wybranym momencie, na przykład na końcu zdania lub listy. Korzystając z API zakończenia czatu, możesz określić parametr stop i przekazać sekwencję. Odpowiedź modelu nie będzie zawierać sekwencji zatrzymania; możesz przekazać maksymalnie cztery takie sekwencje.
Prosty przykład:
W tym prostym przykładzie czatu używana jest jedna sekwencja zatrzymania: słowo „world”. Komunikat systemowy i komunikat użytkownika mają skłonić model do wygenerowania „Hello world”; gdy wygenerowany tekst osiągnie dokładną sekwencję zatrzymania „world”, odpowiedź zatrzyma się przed uwzględnieniem tej sekwencji, więc zwracany wynik to tekst przed „world” (w playgroundzie wyświetlany jako „Hello”).
Dodatkowe przykłady sekwencji zatrzymania możesz poznać w playgroundzie czatu OpenAI.