Zum Inhalt springen
DE
Zu Chrome hinzufügen

Modelle: das KI-Modell auswählen und verwalten

AnleitungNeu

Für alle, die entscheiden, was ihre Antworten, Beiträge und Chats schreibt. Jedes Modell auf dieser Seite läuft auf diesem Rechner, und eine Wahl gilt für die Seitenleiste und den Chat gleichermaßen.

Lade eine Gemma-4-Größe herunter und verwende sie, oder verbinde LM Studio und wähle eines seiner Modelle.

Öffne sie über Models (Modelle) in der Navigationsleiste von Riff Home, per Rechtsklick auf das Riff-Symbol in der Symbolleiste und Models (Modelle) oder mit einem Klick auf den Punkt auf dem Riff-Logo in der Seitenleiste, sobald das Modell bereit ist Riff Home: was es ist und wie du es öffnest.

Riff schreibt mit

Die Karte oben nennt das Modell, das gerade verwendet wird, etwa Riff writes with Gemini Nano (Riff schreibt mit Gemini Nano), mit Replies, posts and Chat all use it. (Antworten, Beiträge und Chat nutzen es alle.) Darunter stehen vier Optionen:

OptionIhre ZeileWas sie tut
AutoGemini Nano when Chrome has it, else Gemma 4 (Gemini Nano, wenn Chrome es hat, sonst Gemma 4)Riff wählt für dich Welches KI-Modell? Gemini Nano oder Gemma 4
Gemini NanoBuilt into Chrome (In Chrome eingebaut)Das eigene Modell von Chrome. Nichts von Riff herunterzuladen
Gemma 4Die verwendete Größe, etwa Gemma 4 E2BDer eigene Download von Riff. Braucht zuerst eine heruntergeladene Größe
Model app (Modell-App)LM Studio or Ollama (LM Studio oder Ollama)Ein Modell, das in LM Studio oder Ollama auf diesem Rechner läuft. Ausgegraut, bis du eines verbindest

In diesen Browser eingebaut

Gemini Nano zeigt den Status, den Chrome dafür meldet: Ready (Bereit), Not downloaded (Nicht heruntergeladen) mit einem Button Download (Herunterladen), Downloading (Wird heruntergeladen), Can't run here (Läuft hier nicht) oder Not in this browser (Nicht in diesem Browser). Es schreibt 5 Sprachen Die Sprachen, in denen Riff schreibt.

Gemma 4, von Riff heruntergeladen

Gemma 4 ist das offene Modell von Google. Riff lädt es einmal herunter und führt es auf deinem Grafikchip aus, und es schreibt 16 Sprachen. Es gibt zwei Größen:

GrößeIhre ZeileHerunterladen
Gemma 4 E2B, die Default size (Standardgröße)Fast. Good for replies, posts and everyday chat. (Schnell. Gut für Antworten, Beiträge und den Chat im Alltag.)Etwa 3 GB
Gemma 4 E4BBetter writing and answers. Needs a strong GPU. (Besser beim Schreiben und Antworten. Braucht eine starke GPU.)Etwa 5 GB

Vor dem Download sagt jede Größe, wie sie hier laufen wird, anhand deines Grafikchips und Speichers: Runs well here (Läuft hier gut), Slow here (Hier langsam) oder Can't run here (no WebGPU) (Läuft hier nicht (kein WebGPU)). Auf einem Laptop ohne starken Grafikchip bleib bei E2B.

  1. Klicke neben einer Größe auf Download (Herunterladen). Ein Balken füllt sich; lass den Tab geöffnet, bis er fertig ist Gemma 4 herunterladen.
  2. Klicke auf Use (Verwenden). Die Meldung lautet Riff now writes with Gemma 4 E2B. It loads onto your GPU on the first riff. (Riff schreibt jetzt mit Gemma 4 E2B. Es wird beim ersten Riff auf deine GPU geladen.) Die Zeile zeigt dann In use (In Verwendung).
  3. Um den Platz freizugeben, klicke auf Delete (Löschen), dann auf Delete? (Löschen?). Es ist immer nur eine Größe geladen.

Oben rechts zählt Models on disk (Modelle auf der Festplatte) zusammen, was Riff heruntergeladen hat, und die Zeile darunter sagt, was der Browser über deinen Grafikchip meldet, etwa Graphics: WebGPU ready · fast 16-bit math (Grafik: WebGPU bereit · schnelle 16-Bit-Berechnung).

LM Studio

Du lässt größere Modelle schon in LM Studio laufen? Riff kann mit ihnen schreiben, weiterhin auf diesem Rechner.

  1. Lade in LM Studio ein Chat-Modell und starte den lokalen Server: Developer › Start server. Schalte seine Option Enable CORS ein.
  2. Such in Riff Home › Models (Modelle) unter Model apps on this computer (Modell-Apps auf diesem Rechner) nach LM Studio (localhost:1234) und klicke auf Connect (Verbinden).
  3. Beim ersten Mal fragt der Browser, ob Riff Apps auf diesem Rechner erreichen darf. Erlaube es: Das gilt nur für localhost und 127.0.0.1.
  4. Die Karte zeigt Connected (Verbunden). Wähle in ihrem Menü ein Modell und klicke auf Use this model (Dieses Modell verwenden). Die Meldung sagt, welches, etwa Riff now writes with qwen3-14b in LM Studio. (Riff schreibt jetzt mit qwen3-14b in LM Studio.)

Ollama

  1. Ollama lehnt Browser-Erweiterungen ab, wenn du sie nicht erlaubst. Beende Ollama und starte es dann in einem Terminal mit OLLAMA_ORIGINS="chrome-extension://*" ollama serve. Auf einem Mac mit der Ollama-App führst du stattdessen launchctl setenv OLLAMA_ORIGINS "chrome-extension://*" im Terminal aus und startest die App dann neu.
  2. Lade in Ollama ein Chat-Modell, falls du noch keins hast.
  3. Klicke in Riff Home › Models (Modelle) bei Ollama (localhost:11434) auf Connect (Verbinden), erlaube die Frage des Browsers, wähle ein Modell und klicke auf Use this model (Dieses Modell verwenden).

Zeigt die Karte Needs one setting (Eine Einstellung fehlt), läuft Ollama, lehnt Riff aber noch ab: Sie zeigt den genauen Befehl für deinen Browser LM Studio oder Ollama verbindet sich nicht.

Wie Modell-Apps mit Riff arbeiten

  • Riff spricht nur mit localhost und mit keiner der beiden Apps, bevor du auf Connect (Verbinden) klickst. Es erreicht nie einen Server auf einem anderen Rechner, auch wenn du es darauf richtest.
  • Embedding-Modelle werden nicht angeboten, nur Chat-Modelle. Die verborgenen Denkschritte eines Modells erscheinen nicht in Entwürfen.
  • Antworten, Beiträge und Chat nutzen alle das Modell, das du gewählt hast. Wird die App später geschlossen, zeigt die Karte Not found (Nicht gefunden), und Riff kann nicht schreiben, bis du sie wieder startest oder ein anderes Modell wählst.