ファインチューニング（微調整）

大規模言語モデルの事前学習には、膨大なデータと計算が必要です。ファインチューニングはその結果から出発し、労力のごく一部しか使いません。理想的な回答付きの質問、正しい返信付きのサポートの問い合わせ、特定の口調の文章といった例をモデルに与えると、重みが動いて、そのような出力が出やすくなります。ほとんどのアシスタントはこうして作られます。基本モデルを指示で微調整し、さらに RLHF で選好に合わせて調整するのが一般的です。

完全なファインチューニングはすべての重みを更新し、本格的なハードウェアが必要です。より安価な方法には、LoRA のように小さな追加部分だけを更新するものや、モデルの量子化したコピーで訓練するものがあります。データは量より質が重要です。きれいで一貫した数千の例のほうが、乱雑な百万の例より優れていることがよくあります。リスクは、モデルが一般的な能力を失う忘却、例を丸暗記する過学習、データの誤りや偏りがそのまま振る舞いになる欠陥の継承です。

そもそも必要かどうかを問う価値があります。明確なシステムプロンプト、プロンプトに置いた少数の例、文書の検索（RAG）で、訓練なしに問題が解決することはよくあります。ファインチューニングが報われるのは、大規模に一貫した形式や口調が必要なとき、速度のためにプロンプトを短くしたいとき、言葉だけでは実現できない振る舞いが必要なときです。オープンウェイトのモデルは、重みを持つ誰でも微調整できますが、クローズドなモデルは、開発元自身のサービスを通してのみ可能です。関連する習慣が派生版の共有です。微調整されたバージョンは基本モデルの構造を保つので、コミュニティはコーディング、物語、翻訳、専門用語向けに多くを公開し、公開の順位表で比べています。基本モデル、使われたデータ、ライセンスについてモデルカードを読めば、何が変わり、結果を使って何をしてよいかがわかります。

NeverNo には、モデルをファインチューニングする方法はなく、カタログにも各モデルの調整方法は載っていません。できるのは、プロンプトの水準で振る舞いを調整することです。自分で書く指示は、モデルが読むものを変えますが、重みには触れません。

オープンウェイトのモデルは、他の人が微調整して再公開する種類のもので、カタログのプライベートモデルはその種類です。画像を読み取り、推論するかどうかを選べる Alibaba の無料のプライベートモデル Qwen 3.5 35Bもその一つです。プライベートとは、保存しない提供元を選んで提供されるという意味で、透明性のページは、NeverNo が提供元のサーバーを検査できないことをはっきり述べています。