幻覚（ハルシネーション）をゼロへ！特定領域に特化した最強AIを作る「RAFT」とは

📖 推定読了時間：約4分

企業の独自データを使ったAIチャットボットを構築する際、現在の主流は外部ドキュメントを検索して回答させるRAG（検索拡張生成）です。しかし、RAGだけでは「ドキュメントの文脈を正しく理解できず、的外れな回答をする」という限界がありました。

そこで今、AI研究の最前線で急速に注目を集めているのが、RAGとFine-Tuning（微調整）のハイブリッド手法である「RAFT（Retrieval-Augmented Fine-Tuning）」です。これにより、AIの幻覚（ハルシネーション）を徹底的に抑え込み、特定ドメインにおける回答精度を飛躍的に向上させることが可能になります。

なぜ従来のRAGやFine-Tuningだけでは不十分なのか？

LLMを活用した検索拡張生成（RAG）の基礎やエージェント開発の流れを把握するには、AI・生成AI入門書籍 や AIエージェント開発・Agentic Workflow実践ガイド本 が格好の入門書となります。

RAGの弱点は、検索エンジンが拾ってきた文書（チャンク）の中にノイズ（関係ない情報）が混ざっていると、LLMが混乱してしまう点にあります。一方、Fine-Tuning単体では、企業内の全ての最新マニュアルを学習させるにはコストがかかりすぎ、情報が古いまま固定化されてしまう（知識の陳腐化）問題がありました。

RAFTは、この両者の弱点を補完します。「検索された文書セット」と「それに基づく正しい回答」のペアを用いてモデルをファインチューニングすることで、LLMに「与えられた文書群の中から、どれが正解でどれがノイズ（Distractor）かを見極める能力」を直接訓練します。

RAFTの学習メカニズム：ノイズへの耐性

RAFTの画期的な点は、訓練データにあえて「質問とは無関係なノイズ文書（Distractor documents）」を混ぜ込むことです。

• ✅正解文書（Oracle document）：質問に対する明確な答えが含まれている文書。
• ✅ノイズ文書（Distractor document）：検索には引っかかりそうだが、答えを含まない文書。

LLMに対して「この複数の文書の中から、答えが含まれていないものは無視し、正しい文書だけを抽出して答えなさい」という訓練を徹底的に行います。これにより、実際の運用でRAGが多少精度の低い検索結果を返してきても、AI自身が「これは関係ないな」と判断して幻覚を防ぐ強靭な耐性が身につきます。

Chain-of-Thought（思考の連鎖）との組み合わせ

ローカル環境や自社サーバーでベクトル検索やモデル検証を行う際は、PostgreSQL・pgvectorによるベクトル検索実践本 の活用や、大容量VRAMを誇る ローカルLLM向け高VRAMグラフィックボード（RTX 4090等） の導入が実用的な選択肢です。

さらにRAFTでは、単に答えを出力させるだけでなく、「なぜその答えになるのか」という思考プロセス（Chain-of-Thought）も含めて学習させます。これにより、複雑な社内規定や就業規則などの推論が必要なタスクにおいて、論理破綻のない正確な回答が保証されます。

まとめ

RAGか、ファインチューニングか。これまで二者択一で語られることの多かった企業用AI構築のベストプラクティスは、RAFTの登場により「両方の融合」へと明確にシフトしました。自社独自のAIエージェントをより賢く、より確実なものにしたいと考えている開発チームにとって、RAFTは今後必須のアーキテクチャ設計となるでしょう。