Aller au contenu
FR
Ajouter à Chrome

Applications de modèles sur votre réseau ou à une adresse https

TutorielNouveau

Pour qui fait tourner ses modèles sur une machine plus puissante que celle du navigateur : un ordinateur de bureau, un serveur à la maison ou une machine au bureau. Riff écrit avec eux comme avec LM Studio ou Ollama sur cet ordinateur Modèles : choisir et gérer le modèle d'IA.

Ajoutez une application de modèles à une adresse de votre réseau, autorisez cette adresse, puis choisissez son modèle.

Dans Riff Home › Models (Modèles), la section Model apps (Applications de modèles) contient toujours LM Studio et Ollama sur cet ordinateur. À côté se trouve Add a model app (Ajouter une application de modèles), pour tout le reste. Vous pouvez avoir jusqu’à 12 applications de modèles en tout.

Ajouter une application de modèles

  1. Cliquez sur Add (Ajouter) dans la carte Add a model app (Ajouter une application de modèles).
  2. Nom : ce qui permet de la reconnaître, comme GB10 (tunnel).
  3. Application : LM Studio, Ollama ou Other (OpenAI-compatible) (Autre (compatible OpenAI)). Choisissez Autre pour vLLM, un serveur llama.cpp ou tout ce qui parle l’API de chat d’OpenAI. Le même menu propose des agents avec qui discuter Connecter un agent Hermes.
  4. Adresse : là où l’application répond, comme 192.168.1.20:1234 ou llm.yourdomain.com (voir plus bas).
  5. Clé d’API : seulement si l’application en demande une. Sinon, laissez le champ vide.
  6. Cliquez sur Save and connect (Enregistrer et connecter). Le navigateur demande une seule fois s’il peut laisser Riff accéder à cette adresse. Autorisez-le.
  7. La carte indique Connected (Connecté). Choisissez un modèle dans son menu et cliquez sur Use this model (Utiliser ce modèle). Les réponses, les posts et le chat l’utilisent désormais, comme avec une application sur cet ordinateur.

Pour changer l’adresse de LM Studio ou d’Ollama, cliquez sur Edit (Modifier) dans sa carte. Back to this computer (Revenir à cet ordinateur) la remet sur localhost. Une application que vous avez ajoutée a Remove (Supprimer). Si vous supprimez l’application avec laquelle Riff écrit, Riff revient sur Auto.

Les adresses qui fonctionnent

Vous tapezRiff utilisePour
localhost ou 127.0.0.1http://, cet ordinateurUne application sur cet ordinateur
192.168.1.20, 10.0.0.5, studio.localhttp://, votre réseauUn autre ordinateur à la maison ou au bureau. Les adresses Tailscale (100.x.x.x) comptent aussi
llm.yourdomain.comhttps://Votre propre serveur derrière un tunnel, comme un Cloudflare Tunnel
  • Sans port, Riff ajoute celui de l’application : 1234 pour LM Studio, 11434 pour Ollama, 8000 pour Autre.
  • Une adresse http:// sur l’internet public est refusée, car ce que vous tapez traverserait internet sans chiffrement. Riff affiche Use an address on your network (192.168.1.20:1234, name.local) or an https tunnel address. (Utilisez une adresse de votre réseau (192.168.1.20:1234, name.local) ou une adresse de tunnel https.)
  • Sous le nom de la carte, une ligne indique où elle se trouve et ce qu’elle contient, comme Your network · 192.168.1.20:1234 · API key saved (Votre réseau · 192.168.1.20:1234 · clé d’API enregistrée) ou Tunnel · llm.yourdomain.com.

Laisser l’application accepter d’autres ordinateurs

La plupart des applications ne répondent qu’à leur propre ordinateur tant que vous ne leur dites pas le contraire. Si une nouvelle carte indique Not found (Introuvable), elle dit quoi changer sur cet ordinateur :

  • LM Studio : démarrez le serveur et activez Serve on Local Network (Developer › Settings). Laissez Enable CORS activé.
  • Ollama : démarrez-le avec OLLAMA_HOST=0.0.0.0, et autorisez toujours Riff avec OLLAMA_ORIGINS Modèles : choisir et gérer le modèle d'IA.
  • Autre : démarrez le serveur à l’écoute sur l’hôte 0.0.0.0.

Un tunnel, lui, pointe vers le port de l’application sur cet ordinateur : l’application peut donc continuer d’écouter sur localhost.

Clés d’API

Une application accessible depuis d’autres ordinateurs, et tout ce qui se trouve derrière un tunnel, devrait avoir une clé. Riff l’envoie avec chaque requête, sous la forme Authorization: Bearer suivi de la clé.

  • Dans LM Studio, créez-en une dans Developer › Server settings › API tokens.
  • Si une application demande une clé que vous n’avez pas donnée, la carte indique Needs an API key (Clé d’API requise) avec un champ pour la saisir. Une mauvaise clé donne Key not accepted (Clé refusée) Une application de modèles ou un agent a besoin d’une clé ou d’un réglage.
  • Les clés restent sur cet ordinateur, à part de vos autres paramètres, là où seules les pages de Riff peuvent les lire. Elles ne figurent jamais dans une sauvegarde Sauvegarder et restaurer.

Ce qui quitte cet ordinateur

Quand Riff écrit avec une application sur un autre ordinateur, le post auquel vous répondez, votre idée et votre Voix vont à cette adresse, et nulle part ailleurs. Avec un tunnel, ils passent par la société du tunnel (Cloudflare, par exemple) en chemin vers votre serveur. Riff ne parle qu’aux adresses que vous ajoutez, et seulement après un clic sur Save and connect (Enregistrer et connecter) ou Connect (Connecter).