Top-p (campionamento a nucleo)

Dopo aver dato un punteggio al vocabolario, un modello ha una probabilità per ogni possibile token successivo. Top-p li ordina dal più al meno probabile, li somma partendo dall’alto finché il totale raggiunge p e scarta tutto ciò che sta sotto quella soglia. I token rimasti vengono riscalati in modo che le loro probabilità sommino uno, e la scelta avviene tra loro. La dimensione del gruppo non è fissa: quando il modello è sicuro, può bastare un solo token a superare la soglia, e quando molte continuazioni sono plausibili il gruppo cresce fino a includerne decine. Questo comportamento adattivo è il motivo per cui top-p si è affermato accanto a top-k, un taglio più semplice che tiene sempre lo stesso numero di candidati qualunque sia la situazione.

Pensa al menu di un ristorante che elenca solo i piatti ordinati più spesso, finché coprono nove ordinazioni su dieci. In una sera tranquilla con un favorito evidente il menu è corto; in una sera affollata con gusti vari è lungo. Un top-p di 1 tiene ogni token e quindi non cambia nulla, mentre un valore vicino a 0,1 tiene quasi solo la scelta migliore e rende l’uscita quasi deterministica. Per conversazione e scrittura i valori tipici stanno tra 0,8 e 1, e abbassare la cifra elimina le parole rare e strane che possono far uscire un testo di strada. Molte interfacce di chat nascondono questo controllo, ma resta una leva comoda quando un assistente suona ripetitivo o divaga.

Top-p agisce nella stessa fase della temperatura, e i due si influenzano. La temperatura rimodella prima le probabilità, poi top-p taglia la coda della distribuzione rimodellata. La maggior parte delle guide suggerisce perciò di cambiare uno e lasciare l’altro al valore predefinito, per capire quale dei due ha causato una differenza. Nessuna delle due impostazioni rende una risposta più vera: modellano soltanto quanto è avventurosa la formulazione. Alcuni modelli di ragionamento fissano questi parametri o li ignorano, e i fornitori differiscono nei controlli di campionamento che espongono, quindi l’ultima parola spetta alla documentazione del modello.

Su NeverNo l’API accetta top_p in una richiesta di chat, accanto a temperature, stop e seed. Vengono passati ai modelli che li prevedono e omessi per gli altri; l’elenco dei modelli mostra quali parametri supporta ciascuno, quindi controllalo prima di fare affidamento su uno. Qwen 3.5 35B, un modello privato gratuito di Alibaba che legge le immagini e ti lascia scegliere se ragionare, è uno dei modelli aperti del catalogo.

La pagina sulla chat senza censura mostra come NeverNo risponde con franchezza mentre tiene la cronologia nel tuo browser. Le impostazioni di campionamento cambiano lo stile di una risposta, mai i limiti assoluti: niente che riguardi minori, niente su persone reali senza il loro consenso e nessun aiuto concreto per fare gravi danni ad altri.