Fine-Tuning

Ein großes Sprachmodell vorzutrainieren verlangt enorme Datenmengen und Rechenleistung. Fine-Tuning beginnt bei diesem Ergebnis und braucht nur einen kleinen Bruchteil des Aufwands. Man gibt dem Modell Beispiele, etwa Fragen mit idealer Antwort, Support-Tickets mit der richtigen Erwiderung oder Texte in einer bestimmten Stimme, und seine Gewichte verschieben sich so, dass solche Ausgaben wahrscheinlicher werden. Die meisten Assistenten entstehen so: Ein Basismodell wird auf Anweisungen feingetunt und danach oft mit RLHF auf Präferenzen weiter abgestimmt.

Vollständiges Fine-Tuning aktualisiert jedes Gewicht und braucht ernsthafte Hardware. Günstigere Ansätze aktualisieren nur einen kleinen Zusatz, wie es LoRA tut, oder trainieren auf einer quantisierten Kopie des Modells. Die Qualität der Daten zählt mehr als ihre Menge: Ein paar tausend saubere, einheitliche Beispiele schlagen oft eine Million unordentlicher. Die Risiken sind Vergessen, wenn das Modell allgemeine Fähigkeiten verliert, Überanpassung, wenn es seine Beispiele auswendig lernt, und vererbte Mängel, weil Fehler oder Verzerrungen der Daten zu Verhalten werden.

Es lohnt sich zu fragen, ob du es überhaupt brauchst. Ein klarer Systemprompt, ein paar Beispiele im Prompt oder das Abrufen von Dokumenten (RAG) lösen das Problem oft ganz ohne Training. Fine-Tuning zahlt sich aus, wenn du im großen Stil ein einheitliches Format oder einen Ton brauchst, einen kürzeren Prompt für mehr Tempo oder ein Verhalten, das Formulierungen allein nicht erreichen. Modelle mit offenen Gewichten kann jeder feintunen, der die Gewichte besitzt; geschlossene nur über den Dienst des Herstellers. Eine verwandte Gewohnheit ist das Teilen von Varianten: Da feingetunte Versionen eines Basismodells dessen Architektur behalten, veröffentlichen Communitys viele davon für Programmierung, Erzählen, Übersetzung oder Fachvokabular und vergleichen sie in öffentlichen Ranglisten. Wer in der Modellkarte Basismodell, verwendete Daten und Lizenz nachliest, sieht, was sich geändert hat und was er mit dem Ergebnis tun darf.

NeverNo bietet keine Möglichkeit, ein Modell feinzutunen, und der Katalog nennt nicht, wie jedes Modell abgestimmt wurde. Was du tun kannst, ist das Verhalten im Prompt zu steuern, mit den Anweisungen, die du schreibst: Sie ändern, was das Modell liest, und lassen seine Gewichte unberührt.

Modelle mit offenen Gewichten sind die Art, die andere feintunen und neu veröffentlichen, und die privaten Modelle im Katalog gehören dazu. Qwen 3.5 35B, ein kostenloses privates Modell von Alibaba, das Bilder liest und dich wählen lässt, ob es nachdenkt, ist eines davon. Privat heißt, dass es bei Anbietern läuft, die ausgewählt wurden, weil sie Anfragen nicht speichern; die Transparenzseite sagt klar, dass NeverNo deren Server nicht einsehen kann.