Betrieb & Recht
Open-Weight-Modell
Auch: offenes Modell, Open-Source-Modell
Ein Modell, dessen Gewichte frei verfügbar sind, sodass es auf eigener Infrastruktur laufen kann.
Bei Open-Weight-Modellen sind die trainierten Parameter veröffentlicht. Ihr könnt sie herunterladen und selbst betreiben, lokal oder auf eigenen Servern. Werkzeuge wie Ollama machen das auf einem gut ausgestatteten Rechner in wenigen Minuten möglich.
Der Grund dafür ist meist nicht Kostenersparnis, sondern Kontrolle: Daten verlassen die eigene Umgebung nicht. Das ist bei sensiblen Inhalten das stärkste Argument und manchmal die einzige zulässige Variante.
Dagegen steht, dass offene Modelle den größten kommerziellen Modellen bei schwierigen Aufgaben in der Regel nachstehen, und dass Betrieb, Updates und Hardware euer Problem werden. „Open Weights“ heißt außerdem nicht automatisch „freie Nutzung“, die Lizenzen unterscheiden sich deutlich.
Verwandte Begriffe
- DSGVO und KI
Personenbezogene Daten in KI-Systemen brauchen Rechtsgrundlage, Zweckbindung und einen Blick darauf, wo verarbeitet wird.
- Inferenz
Das Ausführen eines fertig trainierten Modells, also jede einzelne Anfrage.
- Fine-Tuning
Ein vorhandenes Modell mit eigenen Beispielen weitertrainieren, damit es Stil oder Format zuverlässig trifft.
In der Praxis üben
In der AI Masterclass kommt dieser Begriff nicht als Definition vor, sondern in einer Session, in der damit gearbeitet wird.