-
Notifications
You must be signed in to change notification settings - Fork 0
Expand file tree
/
Copy pathexample_usage.py
More file actions
79 lines (60 loc) · 2.04 KB
/
example_usage.py
File metadata and controls
79 lines (60 loc) · 2.04 KB
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
"""
Ejemplos de uso del cliente de inferencia
"""
from inference_client import InferenceClient, create_client
def ejemplo_openai():
"""Ejemplo usando OpenAI"""
print("=== Ejemplo con OpenAI ===")
client = create_client(provider="openai")
messages = [
{"role": "system", "content": "Eres un asistente útil."},
{"role": "user", "content": "Explícame qué es la inteligencia artificial en una frase."}
]
response = client.chat_completion(
messages=messages,
model="gpt-3.5-turbo",
temperature=0.7
)
text = client.get_response_text(response)
print(f"Respuesta: {text}\n")
def ejemplo_anthropic():
"""Ejemplo usando Anthropic Claude"""
print("=== Ejemplo con Anthropic ===")
client = create_client(provider="anthropic")
messages = [
{"role": "user", "content": "¿Cuál es la capital de Francia?"}
]
try:
response = client.chat_completion(
messages=messages,
model="claude-3-sonnet-20240229",
max_tokens=100
)
text = client.get_response_text(response)
print(f"Respuesta: {text}\n")
except Exception as e:
print(f"Error: {e}\n")
def ejemplo_api_personalizada():
"""Ejemplo usando una API personalizada"""
print("=== Ejemplo con API personalizada ===")
# Configura tu API personalizada
client = InferenceClient(
api_key="tu_api_key",
api_url="https://tu-api.com/v1",
provider="custom"
)
messages = [
{"role": "user", "content": "Hola"}
]
try:
response = client.chat_completion(messages=messages)
text = client.get_response_text(response)
print(f"Respuesta: {text}\n")
except Exception as e:
print(f"Error: {e}\n")
if __name__ == "__main__":
# Descomenta el ejemplo que quieras probar
# ejemplo_openai()
# ejemplo_anthropic()
# ejemplo_api_personalizada()
print("Descomenta un ejemplo en el código para probarlo")