RAG・ファインチューニング・AIエージェント：LLMを仕事に組み込む3つの方法｜生成AIのしくみ 第7回

RAG：資料を渡してから答えさせる

RAG（Retrieval-Augmented Generation、検索拡張生成）は、2020年に発表された研究で名前が広まった方法です。LLMに直接答えさせるのではなく、まず関係する資料を検索して取り出し、それをプロンプト（指示文）に添えて、資料にもとづいて答えさせます。

RAGの流れ

1. 準備：社内規程やマニュアルなどの文書を、適当な長さの断片（チャンク）に分け、それぞれを第3回で見た埋め込み（ベクトル）に変換して保存しておく（このための保存庫を「ベクトルデータベース」と呼ぶことがあります）
2. 検索：ユーザーの質問も埋め込みに変換し、意味の近い断片を探して数件取り出す（キーワード検索と組み合わせることも多い）
3. 生成：「次の資料にもとづいて答えてください。資料にないことは分からないと答えてください」といった指示とともに、取り出した断片と質問をLLMに渡して答えさせる
4. 出典の表示：どの資料のどこを根拠にしたかを、答えと一緒に示す

RAGの長所と注意点

長所は、モデルを再学習せずに、社内の最新情報を答えに反映できることです。文書を差し替えれば、すぐに答えも変わります。根拠となる資料を示せるので、人が確認しやすいのも大きな利点です。

一方で、RAGの答えの質は、検索で正しい資料を取り出せるかどうかに大きく左右されます。

• 文書の分け方が悪い（表が途中で切れる、見出しと本文が離れる）と、必要な情報がうまく取り出せない
• 古い版と新しい版の規程が混在していると、古い方を根拠にしてしまう
• 検索で関係の薄い断片を拾うと、それに引っ張られて誤った答えになる

「RAGを入れたのに精度が出ない」というとき、原因の多くはLLMではなく、文書の整備や検索の部分にあると言われます。

ファインチューニング：モデルを追加で学習させる

ファインチューニングは、すでに学習済みのLLMに、特定の目的のデータで追加の学習を行い、重みを調整する方法です。第5回で見た「指示チューニング」も、ファインチューニングの一種です。

向いていること、向いていないこと

ファインチューニングが効果を発揮しやすいのは、「どう答えるか（振る舞い）」を変えたいときです。

• 社内の決まった報告書の形式や文体で、毎回そろった出力をさせたい
• 問い合わせを、自社独自のカテゴリに分類させたい
• 特定の分野の専門用語や言い回しに慣れさせたい
• 長い指示を毎回書く代わりに、振る舞いをモデルに覚えさせて、コストや応答時間を減らしたい

一方で、「新しい知識を覚えさせる」目的には、注意が必要です。追加学習で事実を覚えさせても、正確に思い出せるとは限らず、かえってハルシネーションを招くことがあると指摘されています。また、情報が更新されるたびに学習し直す必要があります。社内の知識を答えさせたいなら、まずRAGを検討するのが一般的です。

もう一歩深く
大きなモデルの重みをすべて調整し直すには、膨大な計算資源が必要です。そこで、元の重みは固定したまま、小さな追加の部品だけを学習する方法がよく使われます。代表的なものが2021年に発表された「LoRA（低ランク適応）」で、学習するパラメータ数を大幅に減らしながら、全体を調整した場合に近い性能が得られると報告されています。こうした手法をまとめて「パラメータ効率のよいファインチューニング（PEFT）」と呼びます。

AIエージェント：道具を使って、仕事を進める

AIエージェントは、LLMが「答えを返す」だけでなく、目的を達成するために、自分で手順を考え、道具（ツール）を使い、結果を見て次の行動を決める仕組みです。

道具を使えるようになる仕組み

LLM自体は文章を生成するだけですが、「使える道具の一覧と使い方」を指示文で伝えておくと、「この場面では、検索ツールを、このキーワードで使う」といった指示を、決まった形式で出力できます。その出力を受けて、周りのプログラムが実際に検索を実行し、結果をLLMに返します。LLMはその結果を読んで、次の行動を決めます。この仕組みは「ツール利用（関数呼び出し）」などと呼ばれます。

道具の例は次のとおりです。

• Web検索、社内文書の検索（RAGもエージェントの道具の1つになりうる）
• 計算や表の集計のためのプログラム実行
• メールやチャットの送信、カレンダーの登録
• 社内システムやデータベースの読み書き
• ブラウザの操作

エージェントの基本の流れ

研究では、「考える→行動する→結果を観察する」を繰り返す方式（ReActなど）が知られています。

1. 目的を受け取る（例：「来週の出張の候補便を調べて、予算内のものを表にまとめて」）
2. 次にやるべきことを考える（「まず日程と予算を確認し、便を検索する」）
3. 道具を使う（検索を実行する）
4. 結果を観察する（候補が見つかった、または条件に合わなかった）
5. 目的を達成するまで2〜4を繰り返し、最後に結果をまとめる

エージェントで注意すべきこと

エージェントは、できることが広がる分、リスクも大きくなります。

• 誤りの連鎖：途中の判断を1つ誤ると、それを前提に次の行動を重ねてしまう（第4回で見た「前の出力に引っ張られる」性質）
• 取り返しのつかない操作：メール送信、支払い、データの削除などを、確認なしに実行させるのは危険
• 外部からの指示の混入：検索したWebページや受け取ったメールの中に、AIへの指示を装った文章（プロンプトインジェクション）が仕込まれていると、それに従ってしまうおそれがある
• コストと時間：何度も道具を使い、何度もLLMを呼び出すため、単純な質問応答より時間も費用もかかる

そのため実務では、「調べる・下書きする」まではエージェントに任せ、「送信・登録・支払い」の前には人が確認する、という線引きがよく採られます。

よくある誤解：エージェントにすれば、どんな仕事も丸ごと任せられる

2026年11月時点でも、エージェントの得意不得意は作業によって大きく異なります。手順が決まっていて、結果を確かめやすい作業から小さく始め、確認の仕組みを組み込みながら範囲を広げるのが現実的です。

この記事の監修者に相談できます

監修者の田中磨生が代表を務める株式会社Abinで、ご相談をお受けしています。

相談無料ツギノテ編集部に相談する→

3つの使い分け：どれから検討するか

実務での検討順は、おおむね次のようになります。

1. まずはプロンプト（指示）の工夫：多くの課題は、指示の書き方と、資料を一緒に渡すことで改善できます。最も安く、早く試せます。
2. 社内の知識が必要ならRAG：規程・マニュアル・商品情報など、更新される知識にもとづいて答えさせたい場合。
3. 形式や振る舞いをそろえたいならファインチューニング：大量に同じ形式の処理をする場合や、指示だけでは安定しない場合。
4. 複数の手順を任せたいならエージェント：調べる・計算する・まとめるといった一連の作業を自動化したい場合。人の確認ポイントを必ず設計する。

これらは組み合わせて使うことも多く、「エージェントが道具としてRAGを使う」「ファインチューニングしたモデルにRAGで資料を渡す」といった構成もよく見られます。

実務ではこう使う：導入の相談で聞くべき質問

ベンダーやツールを選ぶとき、次の質問をすると中身が見えやすくなります。

• 「RAGの場合、文書の分け方や更新はどうするのか。古い版はどう扱うのか」
• 「答えに出典は表示されるか。資料にない質問にはどう答えるか」
• 「ファインチューニングは何のために行うのか。プロンプトやRAGではだめなのか」
• 「エージェントが実行できる操作の範囲はどこまでか。人の承認はどこで入るか」
• 「入力したデータは、モデルの学習に使われるのか」

法人向けの生成AIツールや、導入を支援する会社を比べる際は、法人向け生成AIツールのおすすめ比較やAI導入支援のおすすめ比較も参考にしてください。実際に社内で活用した企業の例は、生成AIの成功事例にまとめています。

この回のまとめ

• RAGは、質問のたびに関係資料を検索して渡し、それを根拠に答えさせる方法。モデルは変えず、最新の社内情報を反映できる。精度は検索と文書の整備に左右される。
• ファインチューニングは、追加の学習で重みを調整する方法。形式・文体・分類など「振る舞い」を変えるのに向く。知識の追加には慎重に。
• AIエージェントは、道具を使いながら「考える→行動する→観察する」を繰り返して作業を進める仕組み。誤りの連鎖や、取り返しのつかない操作に注意。
• 検討の順番は、プロンプトの工夫→RAG→ファインチューニング→エージェント。組み合わせて使うことも多い。

確認テスト

次回予告

第8回からは、文章から画像へと舞台を移します。画像生成AIは、どんな技術の積み重ねで今の姿になったのか。VAE、GAN、拡散モデルという3つの系譜を、まずは全体像からつかみましょう。

参考資料

• Lewis, P. et al. “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks.” arXiv:2005.11401, 2020.（確認日：2026年11月12日）
• Hu, E. J. et al. “LoRA: Low-Rank Adaptation of Large Language Models.” arXiv:2106.09685, 2021.（確認日：2026年11月12日）
• Yao, S. et al. “ReAct: Synergizing Reasoning and Acting in Language Models.” arXiv:2210.03629, 2022.（確認日：2026年11月12日）
• Schick, T. et al. “Toolformer: Language Models Can Teach Themselves to Use Tools.” arXiv:2302.04761, 2023.（確認日：2026年11月12日）
• Greshake, K. et al. “Not what you’ve signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection.” arXiv:2302.12173, 2023.（確認日：2026年11月12日）
• Gekhman, Z. et al. “Does Fine-Tuning LLMs on New Knowledge Encourage Hallucinations?” arXiv:2405.05904, 2024.（確認日：2026年11月12日）