ストップシーケンスは、文やリストの末尾など、指定した位置でモデルによるトークン生成を停止させるために使用します。Chat Completions API では、stop パラメーターを指定してシーケンスを渡すことができます。モデルの応答にはストップシーケンスは含まれません。最大 4 つのストップシーケンスを渡せます。
簡単な例:
この簡単なチャットの例では、1 つの停止シーケンスとして単語「world」を使用しています。システムメッセージとユーザーメッセージは、モデルに「Hello world」を出力させようとするように設計されています。生成されたテキストが正確な停止シーケンス「world」に達すると、その停止シーケンスを含める前にレスポンスが停止するため、返される出力は「world」の前のテキストになります(プレイグラウンドでは「Hello」と表示されます)。
追加の停止シーケンス例は、OpenAI チャットプレイグラウンドで試すことができます。
