Documentation Index
Fetch the complete documentation index at: /llms.txt
Use this file to discover all available pages before exploring further.
Help us improve these docs. Take our quick survey.
Créez des Chat Completions avec l’endpoint compatible avec OpenAI
/chat/completions. Cet endpoint suit le format OpenAI pour l’envoi de messages et la réception de réponses.
https://api.inference.wandb.ai/v1<your-api-key><your-team>/<your-project>import openai
client = openai.OpenAI(
# L'URL de base personnalisée pointe vers W&B Inference
base_url='https://api.inference.wandb.ai/v1',
# Créez une clé API sur https://wandb.ai/settings
# Pour plus de sécurité, il est préférable de la définir dans l'environnement sous OPENAI_API_KEY
api_key="<your-api-key>",
# Facultatif : équipe et projet pour le suivi de l'utilisation
project="<your-team>/<your-project>",
)
# Remplacez <model-id> par n'importe quel ID de modèle de la liste des modèles disponibles
response = client.chat.completions.create(
model="<model-id>",
messages=[
{"role": "system", "content": "<your-system-prompt>"},
{"role": "user", "content": "<your-prompt>"}
],
)
print(response.choices[0].message.content)
curl https://api.inference.wandb.ai/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer <your-api-key>" \
-H "OpenAI-Project: <your-team>/<your-project>" \
-d '{
"model": "<model-id>",
"messages": [
{ "role": "system", "content": "You are a helpful assistant." },
{ "role": "user", "content": "Tell me a joke." }
]
}'
{
"id": "chatcmpl-...",
"object": "chat.completion",
"created": 1234567890,
"model": "meta-llama/Llama-3.1-8B-Instruct",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "Here's a joke for you..."
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 25,
"completion_tokens": 50,
"total_tokens": 75
}
}
Cette page vous a-t-elle été utile ?