【専門家対談】AIツール選定に疲れたあなたへ。RAGのコモディティ化から見る、これからのAIとの付き合い方
最終更新日:
2025.6.11

監修者情報

岡田 徹
NOVEL株式会社 代表取締役
大阪大学在学中よりエンジニアとして活動し、複数のプロダクト立ち上げを経験。
2019年2月にNOVEL株式会社を設立。
2022年より生成AI領域に特化し、
AIライティングSaaS『SAKUBUN』(累計70万回利用・2万アカウント)を企画・開発。大手メディアや人材企業・出版企業への導入実績を持つ。
現在は中堅企業向けAIコンサルティングに注力し、製造業・小売業・金融機関など業種を問わず、生成AIの導入から定着までを一気通貫で支援している。
著書: 『2冊目に学ぶ ChatGPTプロンプト攻略術』(C&R研究所、2024年)
この記事に関連するお役立ち資料

AIを活用した業務自動化 事例BOOK
無料ダウンロード
2025年、生成AIの世界は百花繚乱の時代を迎えました。ChatGPTの登場以降、毎日のように新しいAIツールやサービスがリリースされ、その進化の速さに多くの人が驚きと期待を寄せています。しかしその一方で、「ツールが多すぎて、どれを選べばいいのか分からない」「自社の課題に最適なAIはどれなのか?」といった声が日増しに高まっているのも事実です。
この「AIツール多すぎ問題」は、もはや一部の専門家だけのものではなく、ビジネスにAIを取り入れようとするすべての人にとっての共通の悩みとなりつつあります。
今回は、このカオスとも言える状況をどのように捉え、企業や個人はAIとどう向き合っていくべきなのか。NOVEL株式会社の代表として数々のAIプロジェクトに携わる岡田氏と、同社でAI技術の最前線を追うエンジニアの秋月氏が、専門家の視点から徹底討論。
特に、これまで専門領域とされてきた「RAG」技術の現状と未来、そして今後のツール選定の新たな基準について、深く掘り下げます。
岡田: 最近、強く感じているのが、世の中にAIツールが出過ぎていて、もはや「ツールの選定」自体に専門的なニーズが生じているという状況です。少し前までは、特定の課題を解決するためにAIツールを探すという流れでしたが、今はおびただしい数の選択肢の中から最適解を見つけ出すこと自体が、一つの大きなプロジェクトになりつつあります。
これは、多くの企業担当者が直面している課題ではないでしょうか。次々と登場する魅力的なツールを前に、どれが本当に自社の業務フローに合致し、費用対効果を見込めるのか、判断が非常に難しくなっています。
岡田: この「AIツール多すぎ問題」と並行して起きている非常に興味深い現象が、RAG(Retrieval-Augmented Generation)のコモディティ化です。RAGとは、社内文書やマニュアルといった独自のデータソースをLLM(大規模言語モデル)に参照させ、その情報に基づいた回答を生成させる技術のことです。
ほんの1、2年前まで、RAGの実装はAIベンダーの「十八番」とも言える専門領域でした。企業にAI導入を提案する際の、一つのキラーコンテンツだったわけです。しかし、今やその状況は一変しました。
その象徴的なツールが、Googleの「NotebookLM」です。例えば、京都府の舞鶴市が市のウェブサイトの情報をNotebookLMに読み込ませ、市民からの問い合わせに自動で回答するFAQシステムを構築した事例も見たことがあります。行政のようなパブリックな組織が、専門的な開発なしに、これほど手軽にRAGを活用できるようになったのです。

https://note.com/maizuru_digital/n/n2b4d7d326541
岡田: NotebookLMには最近、作成したナレッジベースを一般公開できる共有機能が追加されました。これにより、Googleフォームでアンケートを作成するような感覚で、誰でも簡単にFAQチャットボットを作成し、公開できるようになったのです。これは、RAGが特別な技術ではなく、誰もが使える日常的なツールへと変化したことを意味しています。
秋月: まさにその通りですね。
岡田: さらに、この流れを加速させているのが、ChatGPTとGoogleドライブの連携機能です。これも非常に強力で、自社のGoogleドライブに社内規程や就業規則、各種マニュアルといった資料をアップロードし、ChatGPTと連携させるだけで、かなり高機能な社内情報検索システムが構築できてしまいます。
実際に私のクライアントでも、この構成を導入している企業があります。社員から総務部への定型的な問い合わせを減らすために、関連資料をすべてGoogleドライブに集約し、「何か疑問があれば、まずはこのChatGPTに聞いてみて」という運用を始めたところ、問い合わせ対応の工数が大幅に削減されたと聞いています。
このように、かつては専門的な開発や高額な投資が必要だったRAGが、今や既存のクラウドサービスを組み合わせるだけで、誰でも手軽に実現できる時代になりました。私の中では、「RAGは完全にコモディティ化したな」というのが率直な感想です。秋月さんはどう思いますか?
秋月: はい、どんどんコモディティ化しているという認識で完全に一致します。たくさんのデータの中から必要な情報を見つけ出して回答を生成する、というのは、まさにAIが最も得意とするところです。今後、セットアップはさらに簡単になり、より多くの場面で当たり前に使われる技術になっていくでしょう。

岡田: では、RAGのような技術が当たり前になった今、私たちは何を基準にツールを選んでいけば良いのでしょうか。機能面での差別化が難しくなってきたからこそ、別の判断軸が必要になってきます。
秋月: そうですね。ツールが多すぎて、ユーザー側も一つ一つの詳細な違いを追うのは困難です。そうなってくると、最終的には「信頼性」や「ブランド名」で選ぶという流れが強まるのではないでしょうか。特にエンタープライズ領域ではその傾向が顕著になると思います。
やはり企業の基幹システムとして導入する以上、実績があり、サポート体制がしっかりしているベンダーの製品が選ばれやすくなります。適当ではない、しっかりとした母体のサービスであるという安心感は、非常に重要な選択基準になります。
岡田: それは間違いありませんね。特に企業向けソフトウェアの領域では、依然としてMicrosoftの存在感が絶大です。
秋月: はい。先日お会いした企業の方も、やはりMicrosoftの「Copilot Studio」を導入していました。これは、Microsoft 365の各種ツールとシームレスに連携できるRAG構築プラットフォームですが、導入の決め手はやはり、普段から使っているSharePointやTeamsのデータを直接、安全に参照できる点にあるようでした。
Azureを導入している企業であれば、ほぼ間違いなくMicrosoft製品を選択するでしょうし、このエコシステムの強さは揺るぎないものがあります。
岡田: そうなると、今後のAIプラットフォームの覇権争いは、「Microsoft 365」対「Google Workspace」、そしてそこに単独で切り込む「ChatGPT (OpenAI)」という三つ巴の構図になっていきそうですね。RAGのような機能はどのプラットフォームでも提供されるのが当たり前になり、ユーザーはどの経済圏(エコシステム)に乗るかを選択する、と。この競争が最終的にどういう形で収斂していくのか、今の時点ではまだ完全には読めません。

秋月: プラットフォームというマクロな視点に加えて、もう一つ重要な選択基準が生まれてくると考えています。それは、ベースとなっているLLM(大規模言語モデル)が持つ「個性」や「得意分野」です。
最近のモデルの進化を見ていると、それぞれに明確なキャラクターが出てきたように感じます。これを私は、人間の知能指数になぞらえて「EQ(心の知能指数)のGemini」と「IQ(知能指数)のGPT」と表現しています。

岡田: 面白い見方ですね。詳しく聞かせてください。
秋月: GoogleのGemini、特に最新の2.5 Proなどは、非常にEQが高いモデルだと感じます。生成される文章が自然で、相手への配慮が感じられる。ビジネスメールの作成や、顧客向けの資料作成など、人間的なニュアンスが求められるタスクで非常に高いパフォーマンスを発揮します。
一方で、OpenAIのGPTシリーズ、特にGPT-o3などは、論理的思考、つまりIQが非常に高い。まるで優秀な科学者と対話しているような感覚で、複雑なプログラミングのコード生成や、難解な問題の分析において圧倒的な強さを見せます。回答は極めて論理的で正確ですが、時として人間的な温かみには欠けるかもしれません。
岡田: なるほど。確かにその感覚はよく分かります。Geminiは自然なビジネス文書を作るのが得意ですし、GPTは複雑な指示にも粘り強く対応してくれる印象がありますね。
秋月: このように、それぞれのLLMが持つ得意・不得意が明確になってきたことで、今後は「どのツールを使うか」だけでなく、「どの頭脳(LLM)にタスクを任せるか」という使い分けが重要になってくるはずです。
岡田: LLMの個性という点で言うと、プラットフォームごとの課題も見えてきます。例えばMicrosoftのCopilotですが、実際に使っている人から話を聞くと、一つ気になる点があるようです。それは、ベースとなっているOpenAIのモデルの反映が、本家ChatGPTに比べてワンテンポ遅れるという点です。
CopilotはOpenAIのモデルに大きく依存していますが、Microsoft社内での安全性や互換性の検証に時間がかかるためか、GPT-o3が登場しても、しばらくはGPT-4oベースのモデルがデフォルトで動いている、といったことが起こりがちです。そのため、最先端の性能を求めるユーザーにとっては、少し物足りなく感じられる場面があるかもしれません。
秋月: その点、Googleは自社でモデル(Gemini)を開発し、自社のアプリケーション(Workspace)に迅速に統合できるのが大きな強みですよね。最新モデルの恩恵を、エンドユーザーが最も早く受けられる可能性があります。
岡田: まさに。この開発から提供までの一貫性とスピード感は、今後の競争においてGoogleの大きなアドバンテージになるでしょう。
秋月: ただ、最終的には論理的な性能差だけでなく、「どのツールに慣れているか」というユーザー体験も無視できない要素だと思います。私自身、日常的にGoogleのサービスを使っているため、Geminiが非常に使いやすく感じます。今さらCopilotに乗り換える積極的な理由を見つけるのは難しい、というのが正直なところです。
今回の対談を通じて、生成AIをめぐる現在の状況が、より明確になったのではないでしょうか。
AIツールの選択は新たな課題に: AIツールはもはや飽和状態にあり、「何ができるか」だけでなく「どれを選ぶべきか」という選定眼そのものが求められている。
RAGはコモディティ(日用品)へ: かつて専門技術だったRAGは、NotebookLMやChatGPTの進化により、誰もが手軽に利用できる一般的な機能へと変化した。
選択基準は「プラットフォーム」と「LLMの個性」へ: 今後のツール選びは、MicrosoftやGoogleといった巨大なエコシステム(プラットフォーム)を基盤に、タスクの目的に合わせて「EQのGemini」や「IQのGPT」といったLLMの個性を使い分ける視点が重要になる。
生成AIのカオスな時代は、まだ始まったばかりです。しかし、その中で着実に「棲み分け」と「コモディティ化」が進んでいます。この大きな潮流を理解することが、無数の選択肢の中から、あなたにとっての、そしてあなたの組織にとっての「最適解」を見つけ出すための、最も確かな羅針盤となるはずです。
「AIエージェントで定型業務を効率化したい」
「社内に眠る膨大なデータをビジネスに活かしたい」
このような課題をお持ちではありませんか?
私たちは、お客様一人ひとりの状況を丁寧にヒアリングし、本記事でご紹介したような最新のAI技術を活用して、ビジネスを加速させるための最適なご提案をいたします。
AI戦略の策定から、具体的なシステム開発・導入、運用サポートまで、一気通貫でお任せください。
「何から始めれば良いかわからない」という段階でも全く問題ありません。 まずは貴社の状況を、お気軽にお聞かせください。
RAG (Retrieval-Augmented Generation / 読み: ラグ) 検索拡張生成。大規模言語モデル(LLM)が回答を生成する際に、外部の特定のナレッジベース(社内文書やウェブサイトなど)から関連情報を検索し、その内容を考慮に入れることで、より正確で専門的な回答を生成する技術。
NotebookLM Googleが提供するAI搭載のノートツール。ユーザーがアップロードしたドキュメント(Googleドキュメント、PDF、テキストファイルなど)の内容を学習し、その情報に関する質問への回答、要約、ブレインストーミングなどを行うことができる。
Copilot Studio Microsoftが提供する、独自のCopilot(AIアシスタント)を開発・カスタマイズできるローコードプラットフォーム。Microsoft 365のデータや社内システムと連携した、企業向けのチャットボットなどを構築できる。
LLM (Large Language Model / 大規模言語モデル) 膨大な量のテキストデータを学習することで、人間のように自然な文章を生成したり、質問に答えたり、要約したりする能力を持つAIモデル。ChatGPTのGPTシリーズやGoogleのGeminiなどが代表例。
この記事に関連するお役立ち資料を無料ダウンロード

AIを活用した業務自動化 事例BOOK
AI技術を活用した社内業務効率化の基本から、実際の導入ステップまでをわかりやすく解説しています。
下記フォームにご記入下さい。(30秒)
テックユニットは、下記のような方におすすめできるサービスです。
お気軽にご相談ください。
・開発リソースの確保に困っている方
・企業の新規事業ご担当者様
・保守運用を移管したい方
・開発の引き継ぎを依頼したい方


おすすめの記事
関連する記事はこちら
OCRを導入したのに工数が変わらない理由──「一気通貫で自動化しないと意味ない」と断言できる根拠
OCRを導入して読み取りはできるのに、その後のExcel貼り付けや確認作業は人のまま。「一気通貫で自動化しないと全体工数は変わらない」という構造的な理由と、例外処理・辞書の育て方・ROIの出し方を解説します。この記事でわかること「読み取り部...
「3年前に試して無理だった書類」が今は99.9%で読み取れる──生成AIベースOCRが変えた精度の常識
3〜5年前に諦めたOCRを再度試したら99.9%の性能が出た、という現場が増えています。生成AIベースOCR(VLM)が旧来OCRと何が違うのか。精度99%の実態と、図面・手書き書類への対応力の変化を解説します。 この記事でわかる...
使うのは全体の3割だけ──ChatGPTが社内に定着しない「2つの壁」
大企業でも全社導入後に使っているのは2〜3割にとどまる背景と、社内に定着しない「2つの壁」、そして企業によって定着しやすさに差が出る理由を解説します。この記事で分かること・ChatGPTは3000人規模の大企業でも、全社導入後に使っているの...
「提案は立派なのに何も変わらない」を防ぐーー1問で分かるAI導入コンサルの本当の見極め方
AI導入コンサル選びの失敗パターン3つと、面談で使える見極め方を実務経験から解説。「論点整理だけ」「開発はできるがコンサルはできない」など現場で起きる地雷の正体とは?この記事でわかること-AI導入コンサル選びの失敗は「提案の華やかさ」で選ぶ...
AI外注 vs 内製 どっちが正解?3年やって出た答えは"どっちもコケる"
AI外注か内製かで悩む中小企業向けに、どちらを選んでもコケる理由と、成果が出るハイブリッドの分業モデルを実務経験から解説します。この記事でわかること- フル外注もフル内製も、どちらを選んでも失敗しやすい構造的な理由がある- AI導入の失敗は...
そのデータ、本当にAIに使えますか?活用前に整理したい2つのこと
「AIを使いたいけど、うちのデータって本当に使えるのかな……?」そんな不安を感じている企業は少なくありません。ChatGPTなどの生成AIを導入しても、社内データの状態が整っていなければ、期待した答えが返ってこないことはよくあります。そこで...
Excel・Accessがもう限界?移行を判断する10のサインと、中小企業の現実的な進め方
ある日突然、業務が止まる前に「受注管理のExcelを2人で同時に開いたら壊れた。バックアップがなく、1週間分のデータが消えた。」「Accessのデータベース、作った担当者が退職してから誰も触れていない。クラッシュしたら終わり。」「月末の集計...
AI時代に必要なデータ基盤とは?整理しないとAIは使えない
「AIを入れたのに使えない」の本当の原因「ChatGPTを社内に導入したけど、精度が出なくて結局使われていない」「AIで月次レポートを自動化したいのに、どこから手をつければいいかわからない」こうした声は、AI導入を検討している中小企業のあち...
DX推進室がなくても大丈夫!現場主導のAI活用スモールスタート術
「AIの導入は、専門のDX推進室や優秀なAIエンジニアがいる大企業だけの話だ」 「我が社には推進できる人材がいないから…」企業の規模を問わず、多くのビジネスリーダーがAIの可能性を感じながらも、人材不足を理由に最初の一歩を踏み出せずにいます...
AIで営業の優先度付けを自動化|売れる3%に集中する方法
「なぜ、あの人だけが常に高い成果を上げ続けるのか?」 多くの営業組織では、一握りのトップセールスが全体の売上の大半を支えるという、いわゆる「属人化」が長年の課題となっています。彼らの持つ勘や経験を組織に共有するのは難しく、多くの営業担当者は...
方法から入るAI導入は失敗する|現場起点のAI定着設計術
「最新のAIツールを導入したが、現場では全く使われず、ライセンス費用だけが無駄になっている…」 これは、AI導入に取り組む多くの企業が直面する、決して珍しくない現実です。鳴り物入りで始まったプロジェクトが、なぜ現場に受け入れられず、静かに形...
AIは指示待ちから先回りへ。次世代AIエージェントとは
これまで私たちが慣れ親しんできたChatGPTをはじめとする生成AIは、非常に賢いアシスタントでした。しかし、その基本はあくまで「指示待ち」。ユーザーがプロンプトを入力して初めて、その能力を発揮する受動的な存在でした。しかし今、その常識が大...
人気記事ランキング
おすすめ記事