NVIDIA NIM
Prerequisitos
Inicia sesión o regístrate en Nvdia.
Desde la barra de navegación superior, haz clic en NIM:
Busca el modelo que te gustaría usar. Para descargarlo localmente, usaremos Docker:
Sigue las instrucciones de la configuración de Docker. Primero debes obtener una API Key para descargar la imagen de Docker:
Flowise
Chat Models > arrastra el nodo Chat NvdiaNIM
Si estás usando un endpoint alojado en Nvdia, debes tener tu API key. Connect Credential > haz clic en Create New. Sin embargo, si estás usando una configuración local, esto es opcional.
Ingresa el nombre del modelo y ¡voilà 🎉, tu nodo Nvdia NIM está listo para ser usado en Flowise!
Recursos
Last updated