Leitplanken (Guardrails)

Leitplanken sind kein einzelner Schalter. Die erste Schicht steckt im Modell selbst: Beim Feintuning, oft mit menschlichem Feedback, belohnt der Hersteller hilfreiche Antworten und bringt dem Modell bei, bestimmte Anfragen abzulehnen. Eine zweite Schicht steht in Klartext im Systemprompt, den versteckten Anweisungen, die jedes Gespräch rahmen. Eine dritte besteht aus getrennten Klassifikatoren, die deine Anfrage oder den Antwortentwurf lesen und blockieren oder umschreiben. Schließlich legt die Nutzungsrichtlinie des Herstellers fest, was Kunden verlangen dürfen, und sie kann durch Sperrung von Konten durchgesetzt werden.

Hersteller führen sie aus rechtlichen, wirtschaftlichen und mitunter ethischen Gründen ein: Schaden vermeiden, schlechte Presse vermeiden, die Gesetze vieler Länder zugleich beachten. Typische Auslöser sind Waffen, Selbstverletzung, Medikamentendosierung, Finanzberatung und urheberrechtlich geschützte Liedtexte. Weil jede Firma die Linien selbst zieht, kann dieselbe Frage von einem Modell beantwortet und von einem anderen abgelehnt werden. Der Preis ist Überablehnung: Eine Frage zur Wechselwirkung zweier Medikamente, eine düstere Romanszene oder eine unverblümte Meinung kann abgewiesen oder unter Warnhinweisen begraben werden, obwohl nichts Falsches gefragt wurde.

Leitplanken sagen außerdem wenig darüber, wer das Modell betreibt. Ein Modell mit wenigen eingebauten Regeln kann von einem Anbieter bereitgestellt werden, der eigene Filter ergänzt, und ein sehr vorsichtiges Modell kann über einen Dienst laufen, der nichts hinzufügt. Beim Vergleich von Werkzeugen lauten die nützlichen Fragen: Welche Regeln gelten, wer wendet sie an, und sagt das Werkzeug dir, wenn eine ausgelöst wurde? Forschende unterscheiden außerdem die Ablehnung, bei der das Modell nein sagt, von der stillen Verwässerung, bei der es antwortet, aber den nützlichen Teil weglässt, was schwerer zu bemerken ist.

Claude Opus 5.5 bei NeverNo ist ein gutes Beispiel dafür, dass die Leitplanken eines Herstellers bestehen bleiben. Es ist das große Reasoning-Modell von Anthropic für sorgfältiges Schreiben und Analysieren und ist anonymisiert: NeverNo sendet die Anfrage ohne deinen Namen, dein Konto oder deine IP-Adresse, aber Anthropic liest den Text, wendet seine eigenen Nutzungsregeln an und darf die Anfrage nach eigener Richtlinie eine Weile aufbewahren. Opus kann daher manche Anfragen ablehnen. Kommt eine Anfrage, die sein Hersteller nicht erlaubt, beantwortet stattdessen eines der privaten Modelle von NeverNo sie, und die App sagt dir das.

Die eigenen Modelle von NeverNo und die offenen Modelle im Katalog tragen das Label „privat“ und sind so ausgewählt und eingestellt, dass sie zu jedem rechtmäßigen Thema offen antworten, wie die Seite zum unzensierten KI-Chat beschreibt. Drei feste Grenzen gelten weiterhin für jedes Konto, jedes Modell und jede Sprache und werden auf unseren Servern geprüft: nichts mit Minderjährigen, nichts über reale Personen ohne deren Einwilligung und keine echte Hilfe, andere schwer zu schädigen.