Barreras de seguridad (guardrails)

Las barreras no caben en un único interruptor. Una primera capa va integrada en el modelo: durante el ajuste fino, a menudo con valoraciones humanas, el fabricante premia las respuestas útiles y enseña al modelo a rechazar ciertas peticiones. Una segunda está redactada en lenguaje corriente en el prompt de sistema, las instrucciones ocultas que enmarcan cada conversación. Una tercera la forman clasificadores independientes, que leen tu petición o el borrador de la respuesta para bloquearla o reescribirla. Por último, la política de uso del fabricante fija lo que los clientes pueden pedir, y puede aplicarse mediante la suspensión de cuentas.

Los fabricantes las ponen por razones jurídicas, comerciales y a veces éticas: evitar un daño, evitar mala publicidad, cumplir a la vez las leyes de muchos países. Entre los detonantes típicos: armas, autolesiones, dosis de medicamentos, asesoramiento financiero y letras de canciones protegidas por derechos de autor. Como cada empresa traza sus propios límites, una misma pregunta recibe respuesta en un modelo y rechazo en otro. La otra cara es el rechazo excesivo: una pregunta sobre la interacción de dos medicamentos, una escena oscura en una novela o una opinión tajante pueden ser descartadas o sepultadas bajo advertencias cuando no se pidió nada reprochable.

Además, las barreras dicen poco de quien ejecuta el modelo. Un modelo con reglas internas ligeras puede ser servido por un alojador que añade sus propios filtros, y un modelo muy prudente puede llegar a través de un servicio que no añade ninguno. Para comparar herramientas, las preguntas útiles son: qué reglas se aplican, quién las aplica y si la herramienta avisa cuando se ha activado alguna. Los investigadores distinguen además el rechazo, cuando el modelo dice que no, de la dilución silenciosa, cuando responde pero omite la parte útil, algo más difícil de notar.

Claude Opus 5.5 en NeverNo ilustra bien unas barreras de fabricante que siguen vigentes. Es el gran modelo de razonamiento de Anthropic para redacción cuidada y análisis, y está anonimizado: NeverNo envía la petición sin tu nombre, tu cuenta ni tu dirección IP, pero Anthropic sigue leyendo el texto, aplica sus propias reglas de uso y puede conservar la petición un tiempo según su política. Por tanto, Opus puede rechazar algunas peticiones. Cuando llega una petición que su fabricante no permite, uno de los modelos privados de NeverNo responde en su lugar, y la aplicación te lo indica.

Los modelos propios de NeverNo y los modelos abiertos del catálogo se presentan como privados, y están elegidos y ajustados para responder con franqueza sobre cualquier tema legal, como describe la página del chat sin censura. Aun así, tres límites absolutos se aplican a cada cuenta, cada modelo y cada idioma, y se comprueban en nuestros servidores: nada que implique a menores, nada sobre personas reales sin su consentimiento y ninguna ayuda real para causar un daño grave a otros.