ガードレール

ガードレールは、一つのスイッチではありません。最初の層はモデル自体に組み込まれています。微調整の過程で、多くは人のフィードバックを使い、開発元は役に立つ回答に報酬を与え、特定の依頼を断ることをモデルに教えます。第二の層は、システムプロンプトに平易な言葉で書かれています。すべての会話の枠を作る、見えない指示です。第三の層は、あなたの依頼や回答の下書きを読み、ブロックしたり書き換えたりする、別の分類器でできています。最後に、開発元の利用規約が、顧客が何を頼んでよいかを定め、アカウントの停止によって実施されることがあります。

開発元が加える理由は、法的なもの、商業的なもの、ときに倫理的なものです。害を避けること、悪い評判を避けること、多くの国の法律に同時に従うことなどです。典型的なきっかけは、武器、自傷、薬の用量、金融の助言、著作権のある歌詞などです。線引きは各社が行うため、同じ質問に一つのモデルは答え、別のモデルは断ることがあります。代償は過剰な拒否です。二つの薬の相互作用の質問、小説の暗い場面、はっきりした意見は、何も悪いことを尋ねていないのに、追い返されたり注意書きに埋もれたりすることがあります。

ガードレールは、誰がモデルを動かしているかについては、ほとんど何も語りません。組み込みの規則が少ないモデルでも、独自のフィルターを加えるホストから提供されることがあり、非常に慎重なモデルが、何も加えないサービスを通じて使えることもあります。道具を比べるときに役立つ問いは、どの規則が適用されるか、誰が適用するか、規則が作動したときにそれを知らせてくれるかどうかです。研究者は、モデルがはっきり断る拒否と、答えはするものの役に立つ部分を抜いてしまう目立たない骨抜きとを区別しており、後者のほうが気づきにくいものです。

NeverNo の Claude Opus 5.5は、開発元のガードレールがそのまま残る良い例です。これは Anthropic の大型の推論モデルで、丁寧な文章や分析に向いており、匿名化されています。NeverNo はあなたの名前、アカウント、IP アドレスを付けずにリクエストを送りますが、Anthropic はテキストを読み、自社の利用規則を適用し、自社の方針に従ってしばらくリクエストを保持することがあります。そのため、Opus は一部の依頼を断ることがあります。開発元が許可しない依頼が来たときは、代わりに NeverNo のプライベートモデルの一つが答え、アプリがそのことを知らせます。

NeverNo 自身のモデルとカタログのオープンモデルはプライベートと表示され、合法な話題なら何でも率直に答えるよう選ばれ、設定されています。これは検閲なし AI チャットのページが説明している内容です。三つの絶対的な制限は、すべてのアカウント、モデル、言語に適用され、当社のサーバーで確認されます。未成年者に関わること、本人の同意のない実在の人物に関すること、他の人を深刻に傷つける実際の手助けは行いません。