富士通が社内RAG本格運用 18万人でナレッジAI展開

富士通が2026年9月、社内に蓄積された約3000万件の文書データを検索・活用可能なRAG（検索拡張生成）システム「ナレッジAI」を全社員約18万人に向けて本格展開する。発表によると、従来のキーワード検索では見つからなかった暗黙知や過去の提案書、技術ノウハウが自然言語で引き出せるようになり、提案業務の工数を平均3割削減する効果が見込まれるという。

3000万件の文書資産を「問える」資産へ

富士通は長年、SI事業やコンサルティング事業で膨大な提案書、仕様書、障害対応記録、技術ブログなどを社内システムに蓄積してきた。しかし、キーワード検索では「類似案件の失敗要因」や「特定技術の導入判断プロセス」といった文脈依存の問いには答えられず、ベテラン社員の頭の中にしかない知識が属人化していた。

同社デジタル変革本部の担当者は「検索ではなく『質問』で知識に到達できる仕組みを作りたかった」と話す。ナレッジAIは、社内文書をベクトル化して意味検索可能にし、大規模言語モデル（LLM）が参照元を提示しながら回答を生成する構成だ。参照元ドキュメントへのリンクが自動付与されるため、ハルシネーション対策と信頼性確保を両立している。

PoCから本番へ、ガバナンスと権限管理を統合

2025年度下期から約1年間、約5000人のエンジニア・営業でPoC（概念実証）を実施。この段階で「権限管理」「情報鮮度」「コスト最適化」の3課題が顕在化した。

権限管理では、機密度ラベル（社外秘、部門限定、全社公開など）を文書単位で継承し、質問者の権限に応じて参照可能な文書のみをRAGの検索対象に含める仕組みを導入。情報鮮度では、四半期ごとの一括再インデックスに加え、主要ナレッジベースについては更新検知型の差分同期を併用。コスト面では、クエリ分類ルーターを導入し、単純なFAQは軽量モデル、複雑な技術相談は高性能モデルへ振り分けることで、推論コストをPoC比で約6割圧縮した。

現場で起きた「問い方」の変化と定量効果

本格運用開始から約1か月で、日次アクティブユーザーは全社員の約4割にあたる7万人超に達する見込み。利用ログ分析では、「過去の類似提案書を探す」「エラーコードから原因と対処を特定する」「競合比較資料を作る」の3用途が全体の65%を占める。

営業部門では提案書作成の初期ドラフト作成時間が平均4時間から2.5時間へ短縮される効果が確認された。SE部門では障害調査の初動で「過去事例の検索・読解」に費やしていた時間が30分から8分に圧縮された。一方で、利用促進施策として「プロンプトテンプレート集」を社内公開し、部門別ベストプラクティスを月次で更新する運用を始めている。

「検索」から「対話型ナレッジマネジメント」への転換点

富士通の取り組みは、単なる社内検索改善にとどまらず、組織知の「形式知化・共有・再利用」サイクルをLLM時代に再設計した事例として注目される。同社は今後、グループ会社約400社への横展開と、顧客向けSIサービスへのナレッジAI組み込みを計画している。

「ナレッジマネジメントは『文書を溜める』から『問いに答える』へシフトした」。担当者のこの言葉は、生成AIを業務インフラとして定着させる際の、技術・ガバナンス・現場文化の三位一体の取り組みが不可欠であることを示唆している。