Er zijn twee hoofdopties om je tokengebruik te controleren:
1. Gebruiksdashboard
Het gebruiksdashboard toont je API-gebruik tijdens de huidige en vorige maandelijkse factureringscycli. Om het gebruik van een bepaalde gebruiker van je organisatieaccount weer te geven, kun je de vervolgkeuzelijst naast "Dagelijkse gebruiksuitsplitsing" gebruiken.
2. Gebruiksgegevens uit de API-respons
Je kunt ook gegevens over tokengebruik openen via de API. Informatie over tokengebruik is opgenomen in reacties van onze endpoints onder de sleutel usage.
Hier is een voorbeeld:
{
"id": "chatcmpl-abc123",
"object": "chat.completion",
"created": 1677858242,
"model": "gpt-3.5-turbo",
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
},
"choices": [
{
"message": {
"role": "assistant",
"content": "Dit is een test!"
}
}
]
}Als je streaming gebruikt voor onze completions en toegang wilt tot gebruiksgegevens, zorg er dan voor dat je parameter stream_options het volgende bevat:
stream_options: {"include_usage": true}. Hier is ons cookbook voor Completions streamen en onze platformdocumentatie over streaming.