Системный промпт

Чат-модели получают сообщения с ролями. Системное сообщение идёт первым и описывает, как должен вести себя ассистент: что он терпеливый репетитор по математике, что отвечает по-французски, что укладывается в сто слов, что возвращает JSON. Затем следуют сообщения пользователя и ассистента. Модели обучают придавать системному сообщению больший вес, чем обычному тексту, но это всё равно текст, и модель может отклониться от него или понять неверно, особенно в длинных чатах.

Хороший системный промпт конкретен. Он говорит, кто такой ассистент, с кем он разговаривает, как выглядит хороший ответ и что делать, если не хватает сведений. Типичные составляющие — образ, аудитория, тон, предел длины, схема вывода и два примера диалога; примеры нужного формата работают лучше абстрактных прилагательных. Правила яснее, когда сформулированы положительно, например «сначала задай один уточняющий вопрос», а не длинным списком запретов. Делай его достаточно коротким, чтобы правила не противоречили друг другу, и проверяй на неудобных запросах.

Системный промпт — не граница безопасности. Пользователям порой удаётся убедить модель раскрыть его или действовать вопреки ему, поэтому секретам и контролю доступа место в твоём коде, а не в инструкциях. Ещё один повод для осторожности — инъекция промпта, когда текст, спрятанный на веб-странице, в письме или файле, пытается подменить задание. Разработчики называют так и скрытые инструкции, которые приложения добавляют поверх базовой модели, поэтому одна и та же модель в двух продуктах может ощущаться совсем по-разному. Руководства по голосу бренда, образы репетиторов, сценарии поддержки и правила ревью кода — типичные примеры; инженеры версионируют их, прогоняют регрессионные тесты и записывают, какая версия дала ответ. Провайдеры обычно ставят системное сообщение в начало запроса и не меняют его от реплики к реплике, что часто позволяет его кэшировать, тогда как реплики пользователя меняются каждый раз; некоторые модели считают сообщение разработчика инструкцией немного другого уровня.

В приложении NeverNo пользовательские инструкции и персонажи задают роль, которую играет модель. Ты пишешь, как она должна отвечать, или описываешь персонажа с характером и манерой речи, и модель держится этого весь чат. Твои инструкции и персонажи хранятся в браузере и, если включить синхронизацию, следуют за тобой в зашифрованном виде на другие устройства.

В API запрос чата принимает сообщения с ролью system или developer, наряду с user, assistant и tool. NeverNo Uncensored, собственная приватная модель NeverNo, входит в бесплатный тариф, её окно контекста — 128 000 токенов, а страница о нейросети без цензуры показывает, как она отвечает прямо. Системный промпт может задавать её тон и формат; жёсткие ограничения NeverNo остаются в силе, что бы в нём ни говорилось: ничего, что касается несовершеннолетних, ничего о реальных людях без их согласия и никакой реальной помощи в причинении серьёзного вреда другим.