Prompt système

Les modèles de discussion reçoivent des messages munis de rôles. Le message système vient en premier et décrit le comportement attendu de l’assistant : qu’il est un tuteur de maths patient, qu’il répond en français, qu’il garde ses réponses sous 100 mots, qu’il renvoie du JSON. Les messages de l’utilisateur et de l’assistant suivent. Les modèles sont entraînés à donner plus de poids au message système qu’au texte ordinaire, mais ce n’est que du texte : un modèle peut s’en écarter ou le mal interpréter, surtout dans les longues conversations.

Un bon prompt système est précis. Il dit qui est l’assistant, à qui il parle, à quoi ressemble une bonne réponse et que faire quand une information manque. On y met volontiers un personnage, un public, un ton, une longueur maximale, un schéma de sortie et deux échanges d’exemple : des exemples du format voulu valent mieux que des adjectifs abstraits. Les règles sont plus claires formulées de manière positive, comme « pose d’abord une question de clarification », que sous forme de longues listes d’interdits.

Un prompt système n’est pas une frontière de sécurité. Un utilisateur peut parfois convaincre un modèle de le révéler ou d’agir contre lui : les secrets et le contrôle d’accès relèvent de ton propre code, pas des consignes. L’injection de prompt, quand un texte caché dans une page web, un e-mail ou un fichier tente de supplanter la consigne, en est une raison de plus. Les développeurs emploient aussi ce terme pour les consignes cachées qu’une application ajoute à un modèle de base, ce qui explique qu’un même modèle semble très différent d’un produit à l’autre. Chartes de ton de marque, personnages de tuteur, scripts de support et règles de relecture de code en sont des exemples ; on les versionne et on les teste. Les fournisseurs placent d’ordinaire le message système en tête de la requête et le gardent constant d’un tour à l’autre, ce qui permet souvent de le mettre en cache, alors que les tours de l’utilisateur changent ; certains modèles traitent un message developer comme un échelon d’instruction légèrement différent.

Dans l’application NeverNo, les instructions personnalisées et les personnages fixent le rôle que joue un modèle. Tu écris comment il doit répondre, ou tu définis un personnage avec une personnalité et une manière de parler, et le modèle s’y tient pendant la conversation. Tes instructions et tes personnages sont stockés dans ton navigateur et, si tu actives la synchronisation, te suivent chiffrés sur tes autres appareils.

Dans l’API, une requête de discussion accepte des messages de rôle system ou developer, en plus de user, assistant et tool. NeverNo Uncensored, le modèle privé de NeverNo, est inclus dans l’offre gratuite avec une fenêtre de contexte de 128 000 jetons, et la page sur le chat IA sans censure montre comment il répond franchement. Un prompt système peut orienter son ton et son format ; les limites fermes de NeverNo restent en place quoi qu’il dise : rien qui implique des mineurs, rien sur des personnes réelles sans leur consentement, et aucune aide réelle pour nuire gravement à autrui.