System prompt

I modelli di chat ricevono messaggi con un ruolo. Il messaggio di sistema viene per primo e descrive come deve comportarsi l’assistente: che è un paziente insegnante di matematica, che risponde in francese, che mantiene le risposte sotto le cento parole, che restituisce JSON. Seguono i messaggi dell’utente e dell’assistente. I modelli sono addestrati a dare al messaggio di sistema più peso del testo ordinario, ma resta pur sempre testo, e un modello può allontanarsene o fraintenderlo, soprattutto nelle conversazioni lunghe.

Un buon system prompt è specifico. Dice chi è l’assistente, con chi parla, come si presenta una buona risposta e cosa fare quando mancano informazioni. Ingredienti tipici sono un personaggio, un pubblico, un tono, un limite di lunghezza, uno schema di uscita e due scambi di esempio; gli esempi del formato desiderato funzionano meglio degli aggettivi astratti. Le regole sono più chiare se formulate in positivo, come «fai prima una domanda di chiarimento», che in lunghi elenchi di divieti. Tienilo abbastanza breve perché nulla si contraddica, e mettilo alla prova con ingressi scomodi.

Un system prompt non è un confine di sicurezza. A volte gli utenti riescono a convincere un modello a rivelarlo o ad agire contro di esso, quindi segreti e controllo degli accessi vanno nel tuo codice, non nelle istruzioni. Anche l’iniezione di prompt, in cui testo nascosto in una pagina web, in un’e-mail o in un file tenta di scavalcare le consegne, è un motivo di prudenza. Gli sviluppatori usano il termine anche per le istruzioni nascoste che le app aggiungono sopra un modello di base, ed è per questo che lo stesso modello può sembrare molto diverso in due prodotti. Guide al tono di un marchio, personaggi da tutor, copioni di assistenza e regole di revisione del codice ne sono esempi comuni; i tecnici le versionano, eseguono test di regressione e registrano quale revisione ha risposto. I fornitori di solito mettono il messaggio di sistema in cima alla richiesta e lo mantengono identico da un turno all’altro, il che spesso permette di metterlo in cache, mentre i turni dell’utente cambiano ogni volta; alcuni modelli trattano un messaggio developer come un livello di istruzione leggermente diverso.

Nell’app NeverNo, le istruzioni personalizzate e i personaggi stabiliscono il ruolo che un modello interpreta. Scrivi come deve rispondere, oppure definisci un personaggio con una personalità e un modo di parlare, e il modello vi si attiene per tutta la conversazione. Istruzioni e personaggi sono conservati nel tuo browser e, se attivi la sincronizzazione, ti seguono cifrati sugli altri dispositivi.

Nell’API una richiesta di chat accetta messaggi con ruolo system o developer, accanto a user, assistant e tool. NeverNo Uncensored, il modello privato di NeverNo, è incluso nel piano gratuito con una finestra di contesto di 128.000 token, e la pagina sulla chat senza censura mostra come risponde con franchezza. Un system prompt può plasmarne tono e formato; i limiti assoluti di NeverNo restano qualunque cosa dica: niente che riguardi minori, niente su persone reali senza il loro consenso e nessun aiuto concreto per fare gravi danni ad altri.