Apps de modelos en tu red o en una dirección https
Para quien tiene sus modelos en una máquina más potente que la del navegador: un equipo de escritorio, un servidor en casa o una máquina en la oficina. Riff escribe con ellos igual que con LM Studio u Ollama en este equipo Modelos: elige y gestiona el modelo de IA.
En Riff Home › Models (Modelos), la sección Model apps (Apps de modelos) siempre tiene LM Studio y Ollama en este equipo. A su lado está Add a model app (Añadir una app de modelos), para todo lo demás. Puedes tener hasta 12 apps de modelos en total.
Añadir una app de modelos
- Haz clic en Add (Añadir) en la tarjeta Add a model app (Añadir una app de modelos).
- Nombre: cualquiera que la distinga, como GB10 (tunnel).
- App: LM Studio, Ollama u Other (OpenAI-compatible) (Otra (compatible con OpenAI)). Elige Otra para vLLM, un servidor de llama.cpp o cualquier cosa que hable la API de chat de OpenAI. El mismo menú tiene agentes con los que chatear Conecta un agente Hermes.
- Dirección: donde responde la app, como
192.168.1.20:1234ollm.yourdomain.com(más abajo). - Clave de API: solo si la app te la pide. Si no, déjala vacía.
- Haz clic en Save and connect (Guardar y conectar). El navegador pide una sola vez permiso para que Riff acceda a esa dirección. Permítelo.
- La tarjeta dice Connected (Conectado). Elige un modelo en su menú y haz clic en Use this model (Usar este modelo). Las respuestas, las publicaciones y el chat ya lo usan, igual que con una app en este equipo.
Para cambiar la dirección de LM Studio o de Ollama, haz clic en Edit (Editar) en su tarjeta. Back to this computer (Volver a este equipo) la devuelve a localhost. Una app que añadiste tiene Remove (Quitar). Si quitas la app con la que escribe Riff, Riff vuelve a Auto.
Qué direcciones funcionan
| Escribes | Riff usa | Para |
|---|---|---|
localhost o 127.0.0.1 | http://, este equipo | Una app en este equipo |
192.168.1.20, 10.0.0.5, studio.local | http://, tu red | Otro equipo en casa o en la oficina. Las direcciones de Tailscale (100.x.x.x) también cuentan |
llm.yourdomain.com | https:// | Tu propio servidor detrás de un túnel, como un Cloudflare Tunnel |
- Si no pones el puerto, Riff añade el habitual de la app: 1234 para LM Studio, 11434 para Ollama, 8000 para Otra.
- Una dirección
http://en internet público se rechaza, porque lo que escribes cruzaría internet sin cifrar. Riff dice Use an address on your network (192.168.1.20:1234, name.local) or an https tunnel address. (Usa una dirección de tu red (192.168.1.20:1234, name.local) o una dirección de túnel https.) - Bajo el nombre de la tarjeta, una línea dice dónde está y qué guarda, como Your network · 192.168.1.20:1234 · API key saved (Tu red · 192.168.1.20:1234 · clave de API guardada) o Tunnel · llm.yourdomain.com (Túnel · llm.yourdomain.com).
Deja que la app acepte otros equipos
La mayoría de las apps solo responden a su propio equipo hasta que les dices lo contrario. Si una tarjeta nueva dice Not found (No encontrado), indica qué cambiar en ese equipo:
- LM Studio: inicia el servidor y activa Serve on Local Network (Developer › Settings). Deja Enable CORS activado.
- Ollama: inícialo con
OLLAMA_HOST=0.0.0.0, y sigue permitiendo Riff conOLLAMA_ORIGINSModelos: elige y gestiona el modelo de IA. - Otra: inicia el servidor escuchando en el host
0.0.0.0.
Un túnel, en cambio, apunta al puerto de la app en ese equipo, así que la app puede seguir escuchando en localhost.
Claves de API
Una app a la que se llega desde otros equipos, y cualquier cosa detrás de un túnel, debería tener una clave. Riff la envía con cada petición, como Authorization: Bearer seguido de la clave.
- En LM Studio, crea una en Developer › Server settings › API tokens.
- Si una app pide una clave que no has dado, la tarjeta dice Needs an API key (Falta una clave de API) con un cuadro para escribirla. Una clave incorrecta dice Key not accepted (Clave no aceptada) Una app de modelos o un agente necesita una clave o un ajuste.
- Las claves se quedan en este equipo, separadas del resto de tu configuración, donde solo las páginas de Riff pueden leerlas. Nunca van en una copia de seguridad Copia de seguridad y restauración.
Qué sale de este equipo
Cuando Riff escribe con una app en otro equipo, la publicación a la que respondes, tu idea y tu Voz van a esa dirección, y a ningún otro sitio. Con un túnel, pasan por la empresa del túnel (Cloudflare, por ejemplo) de camino a tu servidor. Riff solo habla con las direcciones que añades, y solo después de que hagas clic en Save and connect (Guardar y conectar) o Connect (Conectar).