Streaming
Die OpenAI-API bietet die Möglichkeit, Antworten an einen Client zurückzustreamen, um Teilergebnisse für bestimmte Anfragen zu ermöglichen. Um dies zu erreichen, befolgen wir den Standard für vom Server gesendete Ereignisse . Unsere offiziellen Node- und Python -Bibliotheken enthalten Helfer, um das Parsen dieser Ereignisse zu vereinfachen.Streaming wird sowohl für die Chat Completions API als auch für die Assistants API unterstützt. Dieser Abschnitt konzentriert sich darauf, wie Streaming für Chat-Abschlüsse funktioniert. Erfahren Sie hier mehr darüber, wie Streaming in der Assistants API funktioniert.In Python sieht eine Streaming-Anfrage folgendermaßen aus:In Node/Typescript sieht eine Streaming-Anfrage folgendermaßen aus:Vom Server gesendete Ereignisse analysieren#
Das Parsen von vom Server gesendeten Ereignissen ist nicht trivial und sollte mit Vorsicht erfolgen. Einfache Strategien wie das Teilen durch eine neue Zeile können zu Analysefehlern führen. Wir empfehlen, wenn möglich, vorhandene Clientbibliotheken zu verwenden. Modified at 2024-12-23 03:35:17
