LLM（大規模言語モデル）
LLMとは、大量の文章を学習して、文章の続きを予測する形で、質問への回答や文章の生成、指示の理解を行うAIのことです。 Large Language Modelの略で、エルエルエムと読みます。
別表記：LLM／大規模言語モデル／言語モデル／Large Language Model／生成AI（文章生成）／基盤モデル
何をしているのか
LLMがやっていることを一言で言えば、「次に来る言葉を予測する」ことです。「今日の天気は」と入力されれば、その続きとして自然な言葉を予測して出力します。これを繰り返して、文章全体を作ります。
大量の文章を学習しているので、予測が非常に正確で、質問に答えたり、要約したり、翻訳したり、指示に従って作業したりできるように見えます。ただ、仕組みの根本は、言葉の予測です。意味を理解して考えているわけではなく、学習した文章のパターンから、もっともらしい続きを選んでいます。
AIエージェントとの関係
AIエージェントは、LLMを頭脳として使い、そこにツールを使う能力や、手順を組み立てる能力を足したものです。LLMが「次に何をすべきか」を予測し、その予測に従ってファイルを開いたり、メールを送ったりします。
だから、LLMの性質がそのままAIエージェントの性質になります。
決まった手順をなぞるのではなく、そのつどもっともらしい次の一手を選びます。 同じ指示でも、毎回同じ動きをするとは限りません。
指示と、途中で読んだ文章を区別できません。 どちらも同じ文字列として処理するので、読んだ資料の中に指示のような文があれば、従ってしまうことがあります。
もっともらしいが間違っている出力をすることがあります。 事実ではないことを、事実のように述べることがあります。
これらは欠陥ではなく、仕組みの性質です。精度が上がっても、なくなりません。
なぜ権限を区切る必要があるのか
LLMが「次の一手」を予測で選ぶ以上、こちらの意図と違う一手を選ぶことは、確率的に必ず起こります。「やらないでください」と指示しても、その指示をどう解釈するかは予測に委ねられます。
だから、LLMの判断の外側で範囲を区切る必要があります。LLMが何を選ぼうと、範囲の外の操作は受け付けられない形にしておく。VC（Verifiable Credentials）は、この範囲をAIに持たせ、受け付ける側で確かめる手段です。
よくある誤解
LLMは考えているのか。 言葉のパターンから予測しています。考えているように見える出力をしますが、意図や理解を持っているわけではありません。
より賢いLLMを使えば、間違いはなくなるのか。 減りますが、なくなりません。予測である以上、外れることはあります。
LLMとAIエージェントは同じものか。 LLMは言葉を扱う部分で、AIエージェントはLLMにツールと手順を足して、業務を実行できるようにしたものです。
