Ya hemos desplegado nuestra plataforma
Ahora, vamos a descargar un modelo y hacerle un par de preguntas:
comenzamos
Accedemos a la URL de nuestro OpenWebUI, nos logamos, y hacemos lo siguiente:
Nos dirigimos a seleccionar un modelo, vemos que está vacío, click en Gestionar Conexiones,
En el menú lateral izq. nos dirigimos a Modelos
Arriba a la derecha, pinchamos en Gestionar, y nos sale esta ventana (foto de arriba)
vamos a descargar nuestro modelo, tenemos la URL donde podemos ver todos los modelos disponibles,
En mi caso, voy a descargar el llama3.1:8b
Lo escribimos, y pinchamos en extraer modelo.
comienza la descarga, tarda un ratito, tener paciencia.
cuando termine la descarga, cerramos la ventana, y listo!
ya nos sale listado que tenemos nuestro modelo descargado y listo.
Ya podemos usar nuestro modelo, si no es así, lo seleccionamos arriba a la izquierda,
Arriba a la derecha, pinchamos en Gestionar, y nos sale esta ventana,
Y comenzamos a trabajar, como ejemplo, voy a pedirle una explicación sobre Veeam, en unas 200 palabras:
OJO! ha tardado un par de minutos (recordad, no hay GPU y es lab) y nos ha arrojado esta respuesta.
FANTÁSTICO!
Recordad, esto es 100% local, y no está buscando o consultando fuera, todo sucede en el contenedor donde está corriendo Ollama y OpenWebUI.
Espero os sea útil, y lo vayáis probando.
Aquí va otro análisis, en este caso, preguntando por la regla del 3-2-1-1-0
un saludo
Luis F.