Token

Ein Token ist die kleinste vom Sprachmodell verarbeitete Einheit – oft ein Wortbestandteil.

• Prompt-Länge
• Kontextgrenzen
• Abrechnung bei API-Nutzung

glossar token