2026年10月8日に、Googleの静的/動的学習、過学習、LLM tuningを再読しました。静的学習は単純ですがデータ変化で古くなり、動的学習は適応する代わりに継続的な訓練・入力監視・ロールバックが必要です。過学習は訓練データと新しいデータの差で確認し、プロンプト、ファインチューニング、蒸留は分けて扱います。会話の文脈を渡しただけで重みが更新されたとは考えません。
30秒で要点
AIの学習は、データや評価の手がかりを使ってモデルのパラメータを調整する処理です。推論は、モデルを新しい入力に適用して、分類・数値・文章などを出す処理です。
会話に資料を追加すると返答が変わっても、それだけでモデルの重みが更新されたとは限りません。入力文脈の利用、追加学習、継続的な学習を分けると、「何を変えればよいか」を判断しやすくなります。答えが自然なことと、正しいことも別です。
学習で調整し、推論で使う
猫と犬を分類するモデルを考えます。学習では、画像と正解ラベルを使い、予測と正解の違いを小さくするようにパラメータを調整します。推論では、学習に使っていない画像を入力し、どちらに分類するかを出します。これは仕組みを説明する例で、ここで画像モデルを動かした結果ではありません。
表が収まらない場合は、横にスクロールできます
| 段階 | 何を入れるか | 何が起きるか | 確かめること |
|---|---|---|---|
| 学習の準備 | 目的に合う記録、必要ならラベル | 整理し、学習用と評価用を分ける | 利用できるデータか、偏りや漏えいがないか |
| 学習 | 学習用データと目的・評価の手がかり | パラメータを調整する | 訓練データだけに合わせすぎていないか |
| 評価 | 学習とは分けたデータ | 誤りの種類と頻度を見る | 実際に使う入力や失敗コストに近いか |
| 推論 | 新しい入力と、必要な文脈 | 現在のモデルで出力する | 出力が目的に合い、根拠を確かめられるか |
「学習済み」は「今後の入力にも必ず正解する」という認定ではありません。学習に使わなかったデータにも適用できる性質を汎化と呼びます。その程度は、実際の評価で確かめます。Googleの過学習と汎化の解説も、訓練データへの当てはまりと、それ以外での振る舞いを分けています。
概念上の流れは次のとおりです。矢印は処理の関係を表し、処理時間や費用の比率ではありません。
学習用データ → パラメータの調整 → モデル候補 → 分けたデータで評価
↓ 採用したモデル
新しい入力 + 必要な文脈 → 推論 → 分類・数値・文章などの出力
会話の文脈と、モデルの更新を分ける
文章生成では、入力された文章やそれまでの文脈を利用して、続きのトークンを生成する構成が使われます。トークンは単語全体とは限らず、単語の一部や文字などの場合もあります。GoogleのTransformer教材は、文脈を扱う注意機構と、順に生成する構成を説明しています。すべてのAIが同じ構成という意味ではありません。
たとえば「社内の休暇ルールを説明して」という依頼に、対象の規程を添えると、モデルはその入力を参照して回答できます。これは入力条件を変えた例です。会話の中で規程を使えたことから、次の利用者にもその規程を答えるようモデル自体が学習したとは判断できません。
表が収まらない場合は、横にスクロールできます
| 変えるもの | 例 | 重みの更新との関係 |
|---|---|---|
| プロンプト・文脈 | 対象、出力形式、参照する規程を追加する | 入力の変更自体は重みの更新ではない |
| 検索で渡す資料 | 問いに関係する最新の文書を取得して添える | 取得した資料を使うことと、学習への取り込みは別 |
| 追加学習 | 特定の目的に合わせたデータでモデルを調整する | パラメータの全部または一部を更新する |
| 継続・頻回の学習 | 新しいデータを使ってモデルを更新する構成 | 更新手順・評価・切戻しを設計する必要がある |
オンライン学習は例外ではなく、別に設計する構成
一度学習したモデルを一定期間使う構成もあれば、継続的または頻繁に更新する構成もあります。推薦のように新しい情報を取り込む用途は、後者を検討する例になります。ただし、利用者の反応を得た瞬間に、必ず同じモデルの重みを変えるとは限りません。
Googleの静的・動的学習の説明は、更新を続ける際の監視や、問題が起きたときに戻せる備えも扱っています。新しいデータに誤りや偏りがあれば、更新が改悪になる可能性もあります。実務では、更新に使う記録、評価用として残す記録、採用条件、戻すモデルを決めます。「利用するほど自動的に賢くなる」という約束にせず、どの版を何で評価したかを残すことが大切です。
出力の種類と、学ぶ方法は別の軸
分類・回帰・生成は「何を出すか」の整理です。教師あり・教師なし・強化学習は「何を手がかりに調整するか」の整理です。二つを同じ一覧の排他的な種類として扱わないようにします。
表が収まらない場合は、横にスクロールできます
| 出力の種類 | 入力と出力の教材例 | 評価の問い |
|---|---|---|
| 分類 | メールを迷惑メールかどうかに分ける | 見逃しと誤検知はどれくらいか |
| 回帰 | 条件から数値を予測する | どの範囲で、どれほど外れるか |
| 生成 | 資料から説明文を作る | 資料にない断定や抜けがないか |
教師あり学習は正解ラベルなど、教師なし学習はデータの構造、強化学習は行動に対する報酬を主な手がかりにします。文章生成モデルでも、事前の学習に加え、指示に沿うための調整など複数の段階を使う場合があります。Googleの機械学習入門を踏まえた整理であり、方式名だけで精度や安全性を順位付けするものではありません。
「答えを出せる」と「正しく判断できる」を区別する
AIが自然な説明を作れても、事実確認まで済んだとは限りません。学習データの偏り、古い情報、不十分な入力、生成の誤りなどを考える必要があります。「人間と同じ意味理解をしているか」という問いを、流暢さだけで決着させることもできません。
過学習は、訓練データの特徴や偶然の細部に合わせすぎ、別のデータではうまく働かない状態です。次は仕組みを考えるための仮想例です。
表が収まらない場合は、横にスクロールできます
| 対象 | 件数 | 正解 | 不正解 | 正解率 |
|---|---|---|---|---|
| 学習に使った記録 | 100 | 98 | 2 | 98% |
| 学習から分けた評価用記録 | 100 | 80 | 20 | 80% |
18パーセントポイントの差がありますが、この表だけで過学習が原因と断定はできません。評価用の難しさ、データの分布、ラベルの誤りも調べます。また、80%という一つの値では、大切な異常を見逃したのか、正常なものを誤って止めたのかは分かりません。業務上の損失が違う誤りを分けて見る必要があります。
最小検証:一つの入力を、何が変わったか説明する
外部へ送信しない教材や、利用が許可された匿名の資料で、次を記録します。これは運用前の整理であり、少数例で本番品質を保証する手順ではありません。
- 課題を一つ決め、入力、期待する出力、許されない誤りを残す。
- まず入力だけ、次に必要な資料を添えた入力を比べる。モデルの版や設定も記録する。
- 返答が変わった理由を、文脈の追加と、モデル更新の有無に分ける。生成にはばらつきがあるため一回の差で効果を決めない。
- 正しさ、抜け、確認時間、誤りの重さを同じ条件で確かめる。問題があれば、人へ戻す条件を決める。
モデルを変更する場合は、同じ評価用データで比較できるようにします。評価を見ながら調整を重ねると、その評価用データにも合わせ込めるため、最後に使う確認用のデータは別に確保します。
学習方法と評価の理解をつなぐ
方式の手がかりはAIの学習方法、AIと機械学習の関係はAIと機械学習の違い、内部の重みのイメージはニューラルネットワークの基礎で補えます。
2026年10月4日に公式教材の該当範囲を確認しました。利用する製品のモデル版、文脈の上限、データの保存・利用条件は、導入や更新の時点で別に確認してください。この記事の仮想計算は、特定のAI製品の性能測定ではありません。