Gespräche mit mehreren Nachrichten

So funktioniert der Gesprächsverlauf#

Eine Chat-Completions-Anfrage enthält den Kontext dieses Aufrufs. Für eine Anschlussfrage sende frühere Nutzernachricht, Assistentenantwort und neue Frage in dieser Reihenfolge. Deine Anwendung ist für die Verwaltung des Verlaufs verantwortlich.

Eine Anschlussfrage senden#

Verwende Umgebungsvariablen und Python-Paket aus dem Schnellstart. Dieses einfache Textbeispiel sendet zwei kostenpflichtige Anfragen. Beachte bei Reasoning- oder Tool-Modellen die Anbieterregeln zur Weitergabe zusätzlicher Felder und Tool-Ergebnisse.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["CODING_PLAN_API_KEY"],
    base_url=os.environ["CODING_PLAN_BASE_URL"],
)
messages = [{"role": "user", "content": "What is a Python generator?"}]
first = client.chat.completions.create(
    model=os.environ["CODING_PLAN_MODEL"], messages=messages,
)
answer = first.choices[0].message.content
if answer is None:
    raise RuntimeError("No text answer returned; inspect the response.")
messages.append({"role": "assistant", "content": answer})
messages.append({"role": "user", "content": "Show a short example."})
second = client.chat.completions.create(
    model=os.environ["CODING_PLAN_MODEL"], messages=messages,
)
print(second.choices[0].message.content)

Wachsenden Kontext verwalten#

Jede Anfrage sendet den enthaltenen Verlauf erneut als Eingabe. Lange Gespräche erhöhen Eingabeverbrauch und können Kontextgrenzen erreichen. Behalte für die Aufgabe nötige Anweisungen und Nachrichten; fasse veralteten Verlauf gezielt zusammen oder entferne ihn.

Halte Verläufe verschiedener Nutzer getrennt. Speichere Gesprächsdaten gemäß den Datenschutzanforderungen deiner Anwendung; protokolliere keine Schlüssel oder Geheimnisse aus Nachrichten.

Nächste Schritte#

Kombiniere Verlauf mit Streaming für eine interaktive Oberfläche. Lies Token-Verbrauch um zu verstehen, warum eine kurze Anschlussfrage dennoch viel Eingabe benötigen kann.

Referenz: DeepSeek-Chat-Completions-Nachrichtenformat.