API de aprendizaje profundo para texto: crea un chatbot rápido
Una API de aprendizaje profundo para texto te permite crear un chatbot funcional en unos quince minutos, porque el modelo se encarga del trabajo de lenguaje y tú solo gestionas los mensajes. A continuación tienes un chatbot completo en Python con historial, streaming y presupuesto de tokens, usando un endpoint compatible con OpenAI.

Resumen
- Un chatbot es un bucle que añade mensajes y reenvía el historial en cada turno.
- El coste de entrada crece con cada turno, así que recorta o resume los mensajes antiguos.
- El streaming proporciona el uso al final, que puedes usar para rastrear el gasto.
- Eliminar turnos antiguos reduce los tokens de entrada de un chat de 50 turnos en aproximadamente un 62%.
Lo que necesitas
El modelo está alojado, así que no hay nada que entrenar ni GPU que alquilar. Necesitas Python 3.9 o superior, el SDK de OpenAI (pip install openai) y una clave. Regístrate, reclama el crédito de prueba de $0.50 en la página de clave de API y guarda la clave en una variable de entorno:
# endpoint https://api.deepapi.cc/v1, model uncensored
export DEEPAPI_KEY="paste-your-key-here"
El endpoint es https://api.deepapi.cc/v1 y el ID del modelo es uncensored. Es una API solo de texto compatible con OpenAI que sirve un único modelo de pesos abiertos gestionado por un proveedor independiente, por lo que el código es el mismo que para cualquier cliente de OpenAI. No hay embeddings, imágenes ni audio aquí, solo texto de entrada y texto de salida.
La idea central: el modelo no tiene memoria
Cada petición es independiente. La API no recuerda lo que dijiste hace un minuto. Para mantener una conversación, envías toda la conversación cada vez: un mensaje de sistema, luego mensajes alternos de usuario y asistente, terminando con el nuevo mensaje del usuario. La respuesta se añade a la lista, y el siguiente turno envía la lista más larga.
Ese único hecho explica la mayoría de las decisiones de diseño en un chatbot. Es por eso que los chats largos cuestan más por turno, por qué necesitas un plan para los mensajes antiguos y por qué importa la ventana de contexto. Este servicio tiene 100.000 tokens en total para prompt más completion.
Un chatbot en 40 líneas
Esta versión transmite la respuesta, mantiene el historial e imprime el uso de tokens después de cada turno.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.deepapi.cc/v1",
api_key=os.environ["DEEPAPI_KEY"],
)
SYSTEM = {"role": "system", "content": "You are a friendly, concise assistant."}
history = [] # user and assistant messages only
MAX_TURNS = 10 # keep about the last 10 exchanges
def reply(user_text):
history.append({"role": "user", "content": user_text})
window = history[-MAX_TURNS * 2:]
stream = client.chat.completions.create(
model="uncensored",
messages=[SYSTEM] + window,
stream=True,
temperature=0.7,
)
text, usage = "", None
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
piece = chunk.choices[0].delta.content
print(piece, end="", flush=True)
text += piece
if getattr(chunk, "usage", None):
usage = chunk.usage
print()
history.append({"role": "assistant", "content": text})
return usage
while True:
user = input("you> ").strip()
if user in {"", "exit", "quit"}:
break
u = reply(user)
if u:
cost = u.prompt_tokens * 0.15 / 1e6 + u.completion_tokens * 0.50 / 1e6
print(f"[{u.prompt_tokens} in, {u.completion_tokens} out, ${cost:.5f}]")
Ejecútalo, chatea unos turnos y observa cómo sube el número de "in". La respuesta transmitida informa del uso al final, así que la cifra es exacta y no necesita suposiciones.
Presupuesto de tokens: por qué importa recortar
Supongamos que el prompt del sistema tiene 200 tokens, y cada turno añade 100 tokens del usuario y 250 del asistente. Sin recorte, el turno k envía 200 + 350 x (k - 1) + 100 tokens de entrada. En una conversación de 50 turnos:
- Total de entrada: 50 x 300 + 350 x (0 + 1 + ... + 49) = 15.000 + 350 x 1.225 = 443.750 tokens
- Total de salida: 50 x 250 = 12,500 tokens
- Costo: 443.750 x $0,15 / 1M = $0,0666, más 12.500 x $0,50 / 1M = $0,0063, lo que es aproximadamente $0,073
Ahora conserva solo los últimos 10 intercambios. Los primeros 10 turnos cuestan 18,750 tokens de entrada, y cada uno de los 40 restantes envía 3,700, por lo que 148,000. El total es 166,750 tokens de entrada, un 62% menos que antes, por un costo de $0.0250 en entrada.
El ahorro es más notable con mensajes más largos o más usuarios. Un chatbot que atiende miles de conversaciones al día nota la diferencia en su saldo.
Mejor que eliminar: resumir
Eliminar turnos antiguos pierde datos que el usuario mencionó al principio, como un nombre o una preferencia. Una solución común es pedir al modelo un resumen breve cuando el historial crezca, y llevar el resumen en lugar de los mensajes antiguos.
# uses the client from above (base_url https://api.deepapi.cc/v1)
def compress(history, keep=6):
if len(history) <= keep * 2:
return history
old, recent = history[:-keep * 2], history[-keep * 2:]
summary = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "Summarise this conversation in under 120 words. Keep names, facts and open questions."},
{"role": "user", "content": "\n".join(m["role"] + ": " + m["content"] for m in old)},
],
).choices[0].message.content
return [{"role": "user", "content": "Summary of earlier chat: " + summary}] + recent
Llámalo de vez en cuando, por ejemplo cuando el historial supere los 20 mensajes: history = compress(history). La llamada de resumen cuesta unos pocos miles de tokens una vez, luego cada turno posterior es más barato. Establece también un presupuesto aproximado. Un recuento de caracteres dividido por cuatro es una buena estimación de tokens para inglés, y el bloque de uso da el número real después de cada llamada.
Probar el bot antes de que lo vean usuarios reales
Un chatbot que funciona con tres mensajes amigables aún puede fallar en producción. Ejecuta esta breve lista de comprobación primero.
- Respuestas largas. Pide una historia de 1,000 palabras y confirma que el streaming no se detiene y que el texto completo llega a
history. - Entrada vacía y enorme. Envía una línea vacía y un muro de texto pegado. El bucle anterior ignora la entrada vacía, pero también deberías limitar la longitud de un mensaje antes de que llegue a la API.
- Conexión caída. Detén la red en medio de un streaming. La respuesta parcial no debe guardarse como si fuera completa, así que añade a
historysolo después de que el bucle termine sin una excepción. - Memoria de hechos tempranos. Dile al bot tu nombre en el turno uno, luego pregúntaselo en el turno quince. Si falla, cambia del recorte simple al enfoque de resumen.
- Costo por conversación. Ejecuta un chat de 20 turnos y suma los costos impresos. Multiplica por el número de conversaciones que esperas por día.
Mantén el prompt del sistema corto y específico. Indica el rol del bot, el tono y cualquier regla de formato en unas pocas líneas, y prueba los cambios uno a la vez. Cada palabra en el prompt del sistema se envía de nuevo en cada turno, así que un prompt de 200 tokens cuesta aproximadamente $0.00003 por petición en entrada, lo cual es poco pero se acumula en miles de peticiones.
Manejo de límites y errores
Un chatbot de un solo usuario rara vez alcanza los límites, pero uno desplegado sí. Una clave completa permite 8 peticiones concurrentes y 300 por minuto, una clave de prueba 2 y 60. Al superar un límite, la API devuelve HTTP 429 con el código rate_limited o concurrency. La sobrecarga temporal también devuelve 429 con Retry-After: 5. Como una petición en streaming mantiene su espacio hasta que termina el streaming, un chatbot web con muchas transmisiones abiertas debe hacer cola o rechazar las nuevas. Las peticiones fallidas o rechazadas no se cobran, así que reintentar no cuesta nada extra.
Otros ajustes útiles: temperature y top_p para variedad, stop para finales personalizados, y seed para ejecuciones de prueba repetibles. El modo JSON y las llamadas a funciones están disponibles para respuestas estructuradas y uso de funciones. La documentación cubre todas ellas.
Publicarlo en un sitio web
El mismo patrón funciona detrás de un endpoint web. Mantén la clave de API en el servidor, nunca en JavaScript del navegador, porque cualquiera puede leer el código del cliente. El navegador envía el nuevo mensaje del usuario a tu servidor, tu servidor carga el historial de ese usuario, llama a la API y transmite la respuesta de vuelta.
Tres detalles evitan problemas. Guarda el historial por sesión para que los usuarios no vean los chats de otros. Limita la longitud de un mensaje de usuario antes de reenviarlo, ya que una novela pegada cuesta dinero real. Y limita las transmisiones simultáneas por clave a la concurrencia de tu plan: con una clave completa son 8 a la vez, y una novena debería esperar en una cola. Para una herramienta interna pequeña esto requiere unas pocas decenas de líneas, y la URL base y la clave son las únicas partes específicas del proveedor.
A dónde ir desde aquí
Envuelve reply en un pequeño servidor web, guarda el historial por usuario en una base de datos y añade un personaje al prompt del sistema. Si quieres comparar proveedores antes de comprometerte, el artículo sobre alternativas a la API de DeepSeek enumera criterios. Para costos a tu propia escala, consulta la página de precios. Las recargas van de $20 a $500, solo en cripto, con bonos desde $50, y el crédito no caduca.
Más guías
Preguntas frecuentes
¿Necesito entrenar un modelo para usar una API de aprendizaje profundo para texto?
No. El modelo ya está entrenado y alojado. Envías mensajes por HTTPS y recibes texto como respuesta.
¿La API recuerda los mensajes anteriores?
No. Cada petición es independiente, por lo que tu código debe reenviar el historial de la conversación en cada turno.
¿Cuántos tokens puede usar una conversación?
La ventana de contexto es de 100.000 tokens para el prompt más la respuesta. Recorta o resume antes de acercarte a ese límite.
¿Puedo usar esto desde JavaScript?
Sí. Usa el SDK de Node.js de OpenAI con baseURL configurado en https://api.deepapi.cc/v1 y el modelo uncensored, o llama al endpoint con fetch.
Obtén tu clave de API al instante
Regístrate, copia tu clave, actualiza tu URL base. Eso es todo.