AI

AIの基本用語を整理。LLM・トークン・RAGの違い

生成AIの記事でよく見るLLM、プロンプト、コンテキスト、トークン、RAGなどの意味と違いを説明します。

「LLMを使って、RAGで回答の精度を上げる」。こう言われても、知らない略語が2つ出てきた時点で困りますよね。

ここでは、AIに「大学の図書館は何時まで開いている?」と聞く場面を使って、言葉のつながりを整理します。数式もプログラミングの知識も、まだ必要ありません。

読み終わったときに、AIが答えを作る仕組みと、その答えを確認する理由を説明できれば十分です。

1. AIと生成AIは、同じ範囲の言葉ではない

AIは人工知能のこと。予測や分類、提案など、人の知的な作業に関わる技術を広く指す言葉です。

たとえば「このメールは迷惑メールか」を分類する仕組みもAIです。一方、メールの返信文を新しく作る仕組みは、生成AIの例になります。

やりたいこと 出力の例 着目する働き
メールを分類する 迷惑メール/通常のメール 判断・分類
混雑を予測する 来客数の予測 予測
返信を作る 新しい文章 生成

生成AIはAIの一種です。「生成」は、文章、画像、音声、コードなどの内容を作ること。AI全部がチャットをしたり絵を描いたりするわけではありません。

同じサービスの中で、分類と文章生成を組み合わせる場合もあります。製品をきれいに二分する表ではなく、働きの違いとして考えてください。Googleの機械学習用語集でも、生成AIは新しい内容を作るモデルとして整理されています。

2. モデルは中心の仕組み、サービスは使うための製品

AIモデルは、学習したデータの傾向を使って、予測や出力を作る仕組みです。AIサービスは、モデルに画面、ファイル添付、検索などを組み合わせ、使える形にした製品全体です。

料理にたとえるなら、モデルは調理を担う部分、サービスは注文窓口や食材の準備まで含むお店に近いイメージです。ただし、モデルが人と同じ意図で調理している、という意味ではありません。

この区別は、ツール選びで役に立ちます。

  • 同じモデルでも、検索できるサービスとできないサービスがある
  • 読ませられるファイルや、変更できる作業範囲が違う
  • 同じサービス内でも、用途によって使うモデルが変わることがある

つまり「同じAIモデルだから、答えも機能も同じ」とは限らないんです。モデル名に加えて、渡した情報と使える機能も見ましょう。

3. LLMは、言葉を扱う大規模なモデル

LLMはLarge Language Modelの略で、日本語では「大規模言語モデル」です。

文章生成では、前にある情報を手がかりに、続きに来る文字列の単位を予測して出力していきます。文章の要約、翻訳、質問への回答、コード生成などに利用されます。GoogleのLLM入門で、この基本的な考え方が説明されています。

ここで「図書館は何時まで?」と聞いたとしましょう。

自然な文章で「午後8時までです」と答えられたとしても、その生成処理だけで、あなたの大学の今日の開館時間を調べたことにはなりません。

大学名が分からない。今日は特別な休館日かもしれない。そもそも、そのモデルに検索機能が接続されていないかもしれない。

言葉を作れることと、その場の事実を確かめていることは、分けて考える必要があります。

4. プロンプトとコンテキストを分けて考える

プロンプトは、モデルに渡す指示や入力です。日常会話では「質問欄に書いたお願い」の意味で使われますが、資料や例を含む入力全体を指すこともあります。

コンテキストは、回答を作る際に参照する周辺情報です。生成AIサービスでは、指示、会話の一部、添付資料から取り出した内容、検索結果などが含まれる場合があります。

どこまでをプロンプトと呼ぶかは資料によって違うので、「プロンプトは必ず最後の質問1文だけ」と暗記しなくて大丈夫です。

質問を、必要な情報で補う

情報が少ないお願いは、こうです。

図書館は何時まで?

次は、説明用に作った架空の案内を添えた例です。

以下は、練習用の図書館案内です。
平日:9時〜20時
土曜:10時〜17時
日曜:休館

この案内だけを使って、土曜の閉館時刻を答えてください。
案内にない内容は推測しないでください。

2つ目なら、答えの材料と対象の曜日がそろっています。期待する答えは「17時」です。

「資料に書いてある範囲で答えて」と頼むことは有効ですが、それでも誤読はあり得ます。最後は自分でも案内と突き合わせましょう。

具体的な頼み方はプロンプトの基本で練習できます。

5. トークンは、文字数とは違う処理単位

モデルは文章をそのまま一枚の紙として読むのではなく、トークンという単位に分けて扱います。単語、単語の一部、文字や記号などが単位になります。

重要なのは、1トークン=1文字ではないことです。分け方はモデルや言語によって異なります。

「日本語1,000文字なら必ず○トークン」と、どのサービスでも使える換算はできません。利用量やAPI料金がトークン数で示されていたら、そのサービスの計測方法を確認します。

APIは、プログラムから別のサービスを呼び出す窓口のことです。用語が混ざってきたら、APIの説明に寄り道してください。

6. コンテキストウィンドウは、一度に扱える情報の枠

コンテキストウィンドウは、モデルが一度に扱えるトークン量の上限です。入力だけでなく出力側の枠との関係もあるため、表示された上限すべてを資料に使えるとは限りません。

会話が長くなると、サービスが過去の内容を要約したり、一部を除いたりする場合があります。画面に古い会話が見えていても、その全文が今回のモデルへの入力に入っているとは限らないんです。

だから、大事な条件は短く整理して、必要な場面で再提示すると扱いやすくなります。

ここまでの条件を確認します。
対象はPythonを学び始めた人です。
外部ライブラリは使わず、入力・計算・表示の順に説明してください。

上限の大きさと、資料を正確に使えるかどうかも別の問題です。長い資料を渡すなら、目的の章や質問を示した方が、確認すべき箇所が分かりやすくなります。

7. 学習・推論・会話の記憶は別のこと

言葉 主な意味 図書館の例で考えると
学習 データからモデルの内部の数値を調整する 言葉や説明の傾向を事前に学ぶ
推論 学習済みモデルを使って出力を作る 渡された質問と案内から答える
会話の文脈を参照する 今回使える情報として過去の発言などを読む 前の発言で指定した「土曜」を使う

普段AIから返事を受け取るときの処理は、主に推論です。「推論」はここでは機械学習の用語で、必ずしも人間のように論理を熟考した、という意味ではありません。

会話で新しい事実を教えて、その後の返答に反映されたとしても、その瞬間にモデル全体が再学習されたとは限りません。 会話の情報として読んでいる場合があります。

一方、送信内容が後のモデル改善に使われるかどうかは、サービスや設定の問題です。「今は推論だから、データは保存されない」とも言えません。安全な使い方で分けて確認しましょう。

8. ハルシネーションは、もっともらしい誤り

生成AIが、事実と違う内容や根拠のない説明を、自然な形で出すことがあります。これをハルシネーションと呼びます。

図書館の例なら、実在しない開館案内のURLを出す、休館日なのに開いていると断定する、といった問題です。「自信がありそうな口調」は正しさの証拠になりません。

確かめ方は3段階です。

  1. 回答のうち、確認が必要な事実を分ける。時刻、料金、名称、利用条件など
  2. リンク先を実際に開く。URLがあるだけでは確認にならない
  3. 対象と条件を照合する。同じ大学か、該当する曜日・施設かを読む

「根拠をつけて」とお願いした後にも、この確認は必要です。根拠そのものが間違っていたら困りますよね。

9. マルチモーダルは、複数の形式を扱うこと

文章、画像、音声など、複数の種類の情報を扱うことをマルチモーダルといいます。

図書館の張り紙を写真で渡して、書いてある案内を説明してもらうのも一例です。画像を入力できることと、画像を新しく生成できることは同じではありません。入力・出力の対応は別々に確認します。

写真では、文字のつぶれ、反射、小さな注記の読み落としもあります。重要な日付や数字は、元画像を拡大して自分でも確かめてください。

10. RAGは、資料を探してから答える仕組み

RAGはRetrieval-Augmented Generationの略で、「検索拡張生成」と呼ばれます。

仕組みは、大きく4段階です。

  1. 「土曜の閉館時刻は?」という質問を受け取る
  2. 関連する図書館の案内を探す
  3. 見つけた案内を、回答を作るための情報としてモデルに渡す
  4. モデルがその情報を使って文章を作る

インターネット検索だけでなく、学内の資料や社内のデータベースから探す場合もあります。RAGは通常、質問のたびにモデルを再学習させることではありません。 回答時に使う資料を追加する考え方です。Google CloudのRAG解説に流れが整理されています。

ただし、検索した資料が古い、別キャンパスの案内だった、必要な注意書きを取り出せなかった、という失敗は残ります。RAGを使えば絶対に正解、ではありません。

確認問題:何が違うか説明してみよう

次の3つの説明は、そのまま信じてよいでしょうか。

  1. 「このAIは画像を読めるから、画像も作れる」
  2. 「長い会話の画面が残っているから、AIは全文を読んでいる」
  3. 「RAGで回答したから、元の資料は確認しなくていい」

模範解答と解説

どれも、その説明だけでは判断できません。

1は入力と出力の機能を混同しています。画像入力への対応と、画像生成への対応を別に確認します。

2は画面上の履歴と、今回モデルに渡された情報を混同しています。重要な条件は短く再確認しましょう。

3は資料を使う仕組みと、正しさの保証を混同しています。検索対象や取得した箇所が正しいか、最終回答が資料に合っているかは、別に確かめる必要があります。

次に読むなら

用語は、単語帳のように丸暗記するより「今の作業のどこに当たるか」で覚えるとつながります。

実際にAIを使うならプロンプトの基本へ。コードを書いてもらうならAIが書いたコードの確認方法へ進んでみてください。

← 記事一覧へ戻る