Chatbot IA — WooCommerce

Chatbot conversacional con IA para un e-commerce en WordPress/WooCommerce de aproximadamente 300 productos, pensado para que los usuarios descubran productos, promociones y recomendaciones por lenguaje natural en lugar de depender solo del buscador tradicional.

El problema

Enviar el catálogo completo al modelo en cada interacción disparaba el costo, agregaba ruido y aumentaba la latencia de respuesta. Había que resolver cómo darle al LLM solo la información relevante para cada consulta, sin perder precisión ni agregar demoras perceptibles en la conversación.

Lo que hice

Diseñé el system prompt y elegí el modelo, ajustando parámetros como la temperature para equilibrar precisión y naturalidad en las respuestas. Sobre el flujo conversacional armado en Typebot, integré un agente con acceso a herramientas y al catálogo mediante un enfoque RAG, recuperando solo la información relevante para cada consulta en lugar de enviar los 300 productos en cada turno.

Hice pruebas exhaustivas contra el catálogo real para afinar el comportamiento del modelo y encontrar los requerimientos óptimos de contexto y formato de respuesta. También implementé cache con Redis para el historial conversacional — deliberadamente sin cachear productos, precios ni stock, para que esa información saliera siempre fresca desde el catálogo.

Resultado

Medí consumo de tokens y latencia en cada iteración para mantener el costo bajo control. El resultado fue un chatbot capaz de responder consultas de descubrimiento de productos con contexto acotado y relevante, con tiempos de respuesta estables gracias al cache de conversación, sin depender de enviar el catálogo completo en cada turno.