Saltar al contenido
ES
Añadir a Chrome

Apps de modelos en tu red o en una dirección https

Guía prácticaNuevo

Para quien tiene sus modelos en una máquina más potente que la del navegador: un equipo de escritorio, un servidor en casa o una máquina en la oficina. Riff escribe con ellos igual que con LM Studio u Ollama en este equipo Modelos: elige y gestiona el modelo de IA.

Añade una app de modelos en una dirección de tu red, permite esa dirección y elige su modelo.

En Riff Home › Models (Modelos), la sección Model apps (Apps de modelos) siempre tiene LM Studio y Ollama en este equipo. A su lado está Add a model app (Añadir una app de modelos), para todo lo demás. Puedes tener hasta 12 apps de modelos en total.

Añadir una app de modelos

  1. Haz clic en Add (Añadir) en la tarjeta Add a model app (Añadir una app de modelos).
  2. Nombre: cualquiera que la distinga, como GB10 (tunnel).
  3. App: LM Studio, Ollama u Other (OpenAI-compatible) (Otra (compatible con OpenAI)). Elige Otra para vLLM, un servidor de llama.cpp o cualquier cosa que hable la API de chat de OpenAI. El mismo menú tiene agentes con los que chatear Conecta un agente Hermes.
  4. Dirección: donde responde la app, como 192.168.1.20:1234 o llm.yourdomain.com (más abajo).
  5. Clave de API: solo si la app te la pide. Si no, déjala vacía.
  6. Haz clic en Save and connect (Guardar y conectar). El navegador pide una sola vez permiso para que Riff acceda a esa dirección. Permítelo.
  7. La tarjeta dice Connected (Conectado). Elige un modelo en su menú y haz clic en Use this model (Usar este modelo). Las respuestas, las publicaciones y el chat ya lo usan, igual que con una app en este equipo.

Para cambiar la dirección de LM Studio o de Ollama, haz clic en Edit (Editar) en su tarjeta. Back to this computer (Volver a este equipo) la devuelve a localhost. Una app que añadiste tiene Remove (Quitar). Si quitas la app con la que escribe Riff, Riff vuelve a Auto.

Qué direcciones funcionan

EscribesRiff usaPara
localhost o 127.0.0.1http://, este equipoUna app en este equipo
192.168.1.20, 10.0.0.5, studio.localhttp://, tu redOtro equipo en casa o en la oficina. Las direcciones de Tailscale (100.x.x.x) también cuentan
llm.yourdomain.comhttps://Tu propio servidor detrás de un túnel, como un Cloudflare Tunnel
  • Si no pones el puerto, Riff añade el habitual de la app: 1234 para LM Studio, 11434 para Ollama, 8000 para Otra.
  • Una dirección http:// en internet público se rechaza, porque lo que escribes cruzaría internet sin cifrar. Riff dice Use an address on your network (192.168.1.20:1234, name.local) or an https tunnel address. (Usa una dirección de tu red (192.168.1.20:1234, name.local) o una dirección de túnel https.)
  • Bajo el nombre de la tarjeta, una línea dice dónde está y qué guarda, como Your network · 192.168.1.20:1234 · API key saved (Tu red · 192.168.1.20:1234 · clave de API guardada) o Tunnel · llm.yourdomain.com (Túnel · llm.yourdomain.com).

Deja que la app acepte otros equipos

La mayoría de las apps solo responden a su propio equipo hasta que les dices lo contrario. Si una tarjeta nueva dice Not found (No encontrado), indica qué cambiar en ese equipo:

  • LM Studio: inicia el servidor y activa Serve on Local Network (Developer › Settings). Deja Enable CORS activado.
  • Ollama: inícialo con OLLAMA_HOST=0.0.0.0, y sigue permitiendo Riff con OLLAMA_ORIGINS Modelos: elige y gestiona el modelo de IA.
  • Otra: inicia el servidor escuchando en el host 0.0.0.0.

Un túnel, en cambio, apunta al puerto de la app en ese equipo, así que la app puede seguir escuchando en localhost.

Claves de API

Una app a la que se llega desde otros equipos, y cualquier cosa detrás de un túnel, debería tener una clave. Riff la envía con cada petición, como Authorization: Bearer seguido de la clave.

  • En LM Studio, crea una en Developer › Server settings › API tokens.
  • Si una app pide una clave que no has dado, la tarjeta dice Needs an API key (Falta una clave de API) con un cuadro para escribirla. Una clave incorrecta dice Key not accepted (Clave no aceptada) Una app de modelos o un agente necesita una clave o un ajuste.
  • Las claves se quedan en este equipo, separadas del resto de tu configuración, donde solo las páginas de Riff pueden leerlas. Nunca van en una copia de seguridad Copia de seguridad y restauración.

Qué sale de este equipo

Cuando Riff escribe con una app en otro equipo, la publicación a la que respondes, tu idea y tu Voz van a esa dirección, y a ningún otro sitio. Con un túnel, pasan por la empresa del túnel (Cloudflare, por ejemplo) de camino a tu servidor. Riff solo habla con las direcciones que añades, y solo después de que hagas clic en Save and connect (Guardar y conectar) o Connect (Conectar).