Conversations à plusieurs échanges

C'est comme ça que fonctionne la conversation#

Une requête Chat Completions contient le contexte de cet appel. Pour une demande de connexion, envoie un message utilisateur précédent, une réponse d'assistant et une nouvelle question dans cet ordre. Votre application est responsable de la gestion de l'historique.

Envoyer une requête de raccordement#

Utilisez les variables d'environnement et le paquet Python de la Démarrer rapidement. Cet exemple simple envoie deux requêtes payantes. Sur les modèles Reasoning ou Tool, notez les règles du fournisseur pour partager des champs supplémentaires et des résultats de l'outil.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["CODING_PLAN_API_KEY"],
    base_url=os.environ["CODING_PLAN_BASE_URL"],
)
messages = [{"role": "user", "content": "What is a Python generator?"}]
first = client.chat.completions.create(
    model=os.environ["CODING_PLAN_MODEL"], messages=messages,
)
answer = first.choices[0].message.content
if answer is None:
    raise RuntimeError("No text answer returned; inspect the response.")
messages.append({"role": "assistant", "content": answer})
messages.append({"role": "user", "content": "Show a short example."})
second = client.chat.completions.create(
    model=os.environ["CODING_PLAN_MODEL"], messages=messages,
)
print(second.choices[0].message.content)

Gérer le contexte croissant#

Chaque requête envoie à nouveau l'historique contenu comme entrée. Les longues conversations augmentent la consommation d'entrée et peuvent atteindre des limites contextuelles. Conservez les instructions et les messages nécessaires à la tâche; concentrez l'historique obsolète ou supprimez-le.

Maintenez les processus séparés des différents utilisateurs. Sauvegardez les données de conversation conformément aux exigences de confidentialité de votre application; ne enregistrez pas les clés ou les secrets des messages.

Prochaines étapes#

Combiner l'historique avec Streaming pour une interface interactive. Lisez Consommation de jetons pour comprendre pourquoi une brève question de connexion peut nécessiter beaucoup d'entrée.

Référence: Format de message DeepSeek Chat Completions.