Zep Memory

Zep es un almacén de memoria a largo plazo para aplicaciones LLM. Almacena, resume, incrusta, indexa y enriquece los historiales de aplicaciones/chatbots LLM, y los expone a través de APIs simples y de baja latencia.

Guía para Desplegar Zep en Render

Puedes desplegar fácilmente Zep en servicios en la nube como Render, Flyio. Si prefieres probarlo localmente, también puedes iniciar un contenedor docker siguiendo su guía rápida.

En este ejemplo, vamos a desplegar en Render.

  1. Dirígete al Repositorio de Zep y haz clic en Deploy to Render

  2. Esto te llevará a la página Blueprint de Render y simplemente haz clic en Create New Resources

  1. Cuando el despliegue esté completo, deberías ver 3 aplicaciones creadas en tu panel

  1. Simplemente haz clic en la primera llamada zep y copia la URL desplegada

Guía para Desplegar Zep en Digital Ocean (vía Docker)

  1. Clona el Repositorio

git clone https://github.com/getzep/zep.git
cd zep
nano .env

  1. Agrega tu OpenAI API Key en .ENV

ZEP_OPENAI_API_KEY=

docker compose up -d --build

  1. Permite el acceso del firewall al puerto 8000

sudo ufw allow from any to any port 8000 proto tcp
ufw status numbered

Si estás usando el firewall separado del panel de Digital Ocean, asegúrate de que el puerto 8000 también esté agregado allí

Uso en la UI de Flowise

  1. De vuelta en la aplicación Flowise, simplemente crea un nuevo lienzo o usa una de las plantillas del marketplace. En este ejemplo, vamos a usar Simple Conversational Chain

  1. Reemplaza Buffer Memory con Zep Memory. Luego reemplaza la Base URL con la URL de Zep que has copiado anteriormente

  1. Guarda el chatflow y pruébalo para ver si las conversaciones son recordadas.

  1. Ahora intenta limpiar el historial del chat, deberías ver que ahora no puede recordar las conversaciones anteriores.

Autenticación de Zep

Zep te permite asegurar tu instancia usando autenticación JWT. Usaremos la utilidad de línea de comandos zepcli aquí.

1. Generar un secreto y el token JWT

Después de descargar ZepCLI:

En Linux o MacOS

./zepcli -i

En Windows

zepcli.exe -i

Primero obtendrás tu Token SECRETO:

Luego obtendrás el Token JWT:

2. Configurar variables de entorno de autenticación

Establece las siguientes variables de entorno en tu entorno del servidor Zep:

ZEP_AUTH_REQUIRED=true
ZEP_AUTH_SECRET=<el secreto que generaste arriba>

3. Configurar Credencial en Flowise

Agrega una nueva credencial para Zep, y coloca el Token JWT en el campo API Key:

4. Usar la credencial creada en el nodo Zep

En Connect Credential del nodo Zep, selecciona la credencial que acabas de crear. ¡Y eso es todo!

PreviousUpstash Redis-Backed Chat MemoryNextModeration

Last updated