Guardrail

I guardrail non sono un singolo interruttore. Il primo livello è incorporato nel modello stesso: durante la messa a punto, spesso con feedback umano, il creatore premia le risposte utili e insegna al modello a declinare certe richieste. Un secondo livello è scritto in linguaggio semplice nel system prompt, le istruzioni nascoste che inquadrano ogni conversazione. Un terzo livello è fatto di classificatori separati che leggono la tua richiesta, o la bozza di risposta, e la bloccano o la riscrivono. Infine la politica d’uso del creatore stabilisce cosa i clienti possono chiedere e può essere fatta rispettare sospendendo gli account.

I creatori li aggiungono per ragioni legali, commerciali e talvolta etiche: evitare danni, evitare cattiva stampa, rispettare insieme le leggi di molti paesi. Inneschi tipici sono armi, autolesionismo, dosaggi dei farmaci, consigli finanziari e testi di canzoni protetti. Poiché le linee le traccia ogni azienda, la stessa domanda può trovare risposta in un modello e rifiuto in un altro. Il costo è il rifiuto eccessivo: una domanda su come interagiscono due medicinali, una scena cupa in un romanzo o un’opinione schietta possono essere respinte o sepolte sotto le avvertenze benché non sia stato chiesto nulla di sbagliato.

I guardrail dicono poco anche su chi fa girare il modello. Un modello con poche regole incorporate può comunque essere servito da un host che aggiunge i propri filtri, e un modello molto prudente può essere raggiunto tramite un servizio che non aggiunge nulla. Quando confronti gli strumenti, le domande utili sono quali regole si applicano, chi le applica e se lo strumento ti avvisa quando una di esse scatta. I ricercatori distinguono inoltre il rifiuto, in cui il modello dice no, dalla diluizione silenziosa, in cui risponde ma lascia fuori la parte utile, che è più difficile da notare.

Claude Opus 5.5 su NeverNo è un buon esempio di guardrail del creatore che restano al loro posto. È il grande modello di ragionamento di Anthropic per scrittura e analisi accurate, ed è anonimizzato: NeverNo invia la richiesta senza il tuo nome, il tuo account o il tuo indirizzo IP, ma Anthropic legge comunque il testo, applica le proprie regole d’uso e può conservare la richiesta per un po’ secondo la propria politica. Opus può quindi declinare alcune richieste. Quando arriva una richiesta che il suo creatore non consente, risponde al suo posto uno dei modelli privati di NeverNo, e l’app te lo dice.

I modelli di NeverNo e i modelli aperti del catalogo sono etichettati come privati e sono scelti e configurati per rispondere con franchezza su qualsiasi tema lecito, come descrive la pagina sulla chat senza censura. Tre limiti assoluti valgono comunque per ogni account, modello e lingua e sono verificati sui nostri server: niente che riguardi minori, niente su persone reali senza il loro consenso e nessun aiuto concreto per fare gravi danni ad altri.