Open-Weight-Modell

Die Gewichte sind die Zahlen, die ein Modell beim Training anpasst: Milliarden davon, gespeichert in Dateien, die viele Gigabyte wiegen können. Familien wie Llama, Qwen und DeepSeek veröffentlichen Gewichte für viele ihrer Modelle. Quantisierung schrumpft diese Zahlen auf weniger Bits, damit ein Modell auf eine handelsübliche Grafikkarte passt, auf Kosten von etwas Genauigkeit. Feintuning mit ein paar tausend Beispielen, ein im Vergleich zum Training von Grund auf billiges Verfahren, macht aus einem allgemeinen Modell einen Rechtsassistenten oder einen Programmierhelfer. Mit den Gewichten und dem Code, der sie ausführt, kann eine Person oder Firma das Modell auf eigener Hardware betreiben, für eine Spezialaufgabe feintunen oder so komprimieren, dass es auf kleineren Rechnern läuft. Ein geschlossenes Modell bietet nichts davon. Es bleibt auf den Servern seines Herstellers und ist nur über dessen eigene Oberfläche erreichbar, was bedeutet, dass der Hersteller jede Anfrage sieht.

Offene Gewichte und Open Source werden oft verwechselt. Open Source im strengen Sinn verlangt mehr: Zugang zum Code, Angaben zu den Daten und eine Lizenz, die jedem erlaubt, das Werk zu nutzen, zu studieren, zu verändern und weiterzugeben. Viele Open-Weight-Modelle kommen mit einer Lizenz, die Bedingungen ergänzt, etwa für kommerzielle Nutzung oder sehr große Einsätze, und die Trainingsdaten bleiben meist unter Verschluss. Lies die Lizenz des Modells, auf dem du aufbauen willst, statt etwas anzunehmen.

Die praktische Wirkung ist Wettbewerb zwischen Anbietern. Weil dieselben Gewichte von mehreren Firmen betrieben werden können, kann ein Nutzer oder eine Anwendung wählen, wohin eine Anfrage geht, Tempo und Preis vergleichen und einen Anbieter mit passender Speicherrichtlinie nehmen. Die Kehrseiten sind real: Große Modelle brauchen ernstzunehmende Hardware, die Gewichte allein verraten nicht, womit das Modell trainiert wurde, und jeder kann sie feintunen, sodass zwei Modelle auf denselben Gewichten sehr verschieden reagieren können: Eine Community-Variante ist vielleicht knapper, vorsichtiger, auf Code spezialisiert oder auf Übersetzung getrimmt. Benchmarks helfen, täuschen aber: Ein Platz in der Bestenliste belohnt bestimmte Testformate, daher sagt ein kurzer Versuch mit eigenen Dokumenten mehr als eine veröffentlichte Punktzahl.

Mistral Small 3.2 ist ein offenes Modell von Mistral, das NeverNo im kostenlosen Tarif anbietet. Es trägt das Label „privat“: Anfragen gehen an Anbieter, die ausgewählt wurden, weil sie Anfragen nicht speichern, keine Kontodaten reisen mit der Nachricht, und deine Gespräche liegen verschlüsselt in deinem Browser, wie die Seite zur privaten KI erklärt. Es liest Bilder, nimmt bis zu 128.000 Tokens Kontext auf, schreibt Antworten von bis zu 4.096 Tokens und denkt vor der Antwort nie nach, antwortet also sofort.

„Privat“ heißt bei NeverNo genau das: ein offenes Modell, betrieben von DeepInfra oder von OpenRouter mit der Option ohne Speicherung, das Anfragen nicht aufbewahrt. Der Katalog enthält mehrere solcher Modelle, von DeepSeek, GLM, Qwen und Mistral bis zu NeverNo Uncensored. Das Label beruht auf den Zusagen dieser Anbieter, und NeverNo sagt auf seiner Transparenzseite offen, dass es deren Server nicht prüfen kann.