Open-Weight-Modell
Kurz gesagtEin Open-Weight-Modell ist ein KI-Modell, dessen trainierte Gewichte zum Download bereitstehen, sodass du es selbst betreiben und oft anpassen kannst.
Einfach erklärt
Ein trainiertes Modell ist eine sehr grosse Datei aus Zahlen, den Gewichten oder Parametern. Ein geschlossenes Modell erreichst du nur über den Dienst des Anbieters. Bei einem Open-Weight-Modell gibt der Anbieter die Gewichte frei, du kannst sie laden, das Modell auf eigener Hardware betreiben und es oft per Fine-Tuning anpassen.
Offene Gewichte sind nicht dasselbe wie Open Source. Die Open Source Initiative hat eine Open Source AI Definition veröffentlicht. Sie verlangt die Freiheit, das System zu nutzen, zu untersuchen, zu ändern und weiterzugeben, und fordert drei Teile in der Form, die für Änderungen nötig ist: Angaben zu den Trainingsdaten, den Code zum Trainieren und Betreiben des Systems und die Parameter. Viele Open-Weight-Veröffentlichungen geben dir die Gewichte, aber nicht alle Trainingsdaten oder den Code, und sie haben eine eigene Lizenz. Ein Open-Weight-Modell kann also gratis herunterzuladen sein und trotzdem einschränken, wie du es nutzen darfst.
Warum es wichtig ist
- Kontrolle und Datenschutz: Betreibe das Modell auf eigenem Rechner oder Server, damit Prompts dein Netz nicht verlassen müssen. Siehe lokale Modelle.
- Kosten: Keine Gebühr pro Token an einen Anbieter, aber du zahlst Hardware, Strom und deine eigene Zeit.
- Anpassung: Du kannst das Modell auf deine Daten und Aufgaben trimmen.
- Lizenz: Lies sie. Manche Lizenzen begrenzen die kommerzielle Nutzung, setzen Grössenschwellen für grosse Firmen oder verbieten bestimmte Einsätze. Model Cards auf dem Hugging Face Hub beschreiben Lizenz, vorgesehene Nutzung und Grenzen eines Modells.
- Verantwortung: Du kümmerst dich um Updates, Sicherheitsfilter, Betrieb und Korrekturen. Der Dienst eines Anbieters nimmt dir das ab.
- Vertrauen: Lade Gewichte nur aus Quellen, denen du traust, denn Dateien aus unbekannter Herkunft können manipuliert sein.
Beispiel
Eine kleine Firma will interne Dokumente zusammenfassen, ohne sie an einen Cloud-Dienst zu senden. Sie liest die Model Card eines Open-Weight-Modells, prüft, dass die Lizenz geschäftliche Nutzung erlaubt, lädt die Gewichte vom Hugging Face Hub und betreibt das Modell auf einem Server im eigenen Büro. Sie zahlt für den Server, nicht für jedes Token.
Häufige Irrtümer
- «Offene Gewichte heissen Open Source.» Nach der Definition der OSI oft nicht.
- «Gratis zum Laden heisst gratis für jeden Zweck.» Die Lizenz setzt die Regeln.
- «Ich kann die Gewichte lesen, also sehe ich, wie es denkt.» Die Gewichte sind Milliarden von Zahlen, keine lesbaren Regeln.
Fragen und Antworten
Was ist der Unterschied zwischen Open-Weight und Open-Source-KI?
Open-Weight heisst, die trainierten Gewichte sind veröffentlicht. Open-Source-KI braucht nach der OSI-Definition zusätzlich Angaben zu Trainingsdaten und Code sowie die Freiheit, zu nutzen, zu untersuchen, zu ändern und weiterzugeben.
Darf ich ein Open-Weight-Modell geschäftlich nutzen?
Das hängt von der Lizenz ab. Lies sie, bevor du auf das Modell baust. Manche erlauben geschäftliche Nutzung frei, andere setzen Grenzen.
Brauche ich starke Hardware dafür?
Das hängt von der Modellgrösse ab. Kleine Modelle laufen auf einem Laptop. Grosse brauchen Server mit viel Speicher.
Weiterlesen
- Lokales Modell
Ein lokales Modell ist ein KI-Modell, das auf deinem eigenen Rechner oder Server läuft statt in der Cloud eines Anbieters, sodass Prompts dein Gerät nicht verlassen müssen.
- Fine-Tuning
Fine-Tuning trainiert ein bestehendes Modell mit deinen eigenen Beispielen weiter, damit es Stil, Format oder Aufgabe zuverlässiger trifft.
- Parameter
Parameter sind die Zahlen, auch Gewichte genannt, die ein Modell im Training anpasst und dann zum Antworten nutzt; ihre Zahl ist ein grobes Mass für die Grösse.
- Large Language Model (LLM)
Ein Large Language Model (LLM) ist ein KI-System, das mit riesigen Textmengen lernt, das nächste Token vorherzusagen, und so schreibt, fasst zusammen und antwortet.
- Inferenz
Inferenz heisst, ein trainiertes KI-Modell laufen zu lassen, damit es aus deiner Eingabe eine Ausgabe erzeugt, etwa die Antwort auf einen Prompt.