使うのは全体の3割だけ──ChatGPTが社内に定着しない「2つの壁」
最終更新日:
2026.3.18

監修者情報

岡田 徹
NOVEL株式会社 代表取締役
大阪大学在学中よりエンジニアとして活動し、複数のプロダクト立ち上げを経験。
2019年2月にNOVEL株式会社を設立。
2022年より生成AI領域に特化し、
AIライティングSaaS『SAKUBUN』(累計70万回利用・2万アカウント)を企画・開発。大手メディアや人材企業・出版企業への導入実績を持つ。
現在は中堅企業向けAIコンサルティングに注力し、製造業・小売業・金融機関など業種を問わず、生成AIの導入から定着までを一気通貫で支援している。
著書: 『2冊目に学ぶ ChatGPTプロンプト攻略術』(C&R研究所、2024年)
この記事に関連するお役立ち資料

AIを活用した業務自動化 事例BOOK
無料ダウンロード
大企業でも全社導入後に使っているのは2〜3割にとどまる背景と、社内に定着しない「2つの壁」、そして企業によって定着しやすさに差が出る理由を解説します。
・ChatGPTは3000人規模の大企業でも、全社導入後に使っているのは2~3割にとどまる
・使われない理由は「汎用性が高すぎて何したらいいかわからない」と「社内データを全部言語化するコストが高い」の2つ
・IT企業でもうまくいく理由は技術力ではなく「データをクラウドに置く文化」の差
・解決の入り口はフォーム形式での使いやすさ設計と、社内プロンプト集の共有
ChatGPTが会社で定着しない理由は、使っている人が少ないのではない。個人レベルの浸透は、実はかなり進んでいます。知り合いの55歳のおばさんが、ライブチケットの情報収集にChatGPTを普通に使っていた、という話があります。周りの友人がまず使い始めて、「やばい」と思って自分も使いだしたと。Google検索より使いやすいと感じている人も多い。IT系ではなくても個人レベルならもう大体みんな使いだしているというのが実感です。
ところが、会社レベルとなると、話がまるで変わります。3000人規模の会社がいち早く全社導入しても、1年後に使っていたのは2~3割にとどまったという話しがあります。個人と全社でこれだけ差が出るのには、構造的な理由があります。

使われない最初の壁は、ChatGPTの汎用性の高さそのものにあります。
Google検索は「調べたいことを検索すれば答えが返ってくる」という使い方が明確です。ところがChatGPTのようなAIツールは何でもできるがゆえに、汎用性が高すぎて逆に何したらいいかわからない状態を生みます。
「AIが便利そうなのは分かる。でも、自分の仕事の何に使えばいいか分からない」──これが現場の本音です。研修でChatGPTのデモを見せると「あ、自分もこういうことに使えるんだ」という気づきが生まれますが、デモを見るだけでは業務に組み込めません。
チャット形式というインターフェース自体も、この問題を強めています。チャットはフリースタイルすぎて迷う人が多い。「何を聞けばいいのか」からわからない。
もう一つの壁は、社内業務の性質そのものにあります。
例えば見積もりを作る場面を考えてみてください。ChatGPTに頼もうとすると「この会社とは過去こういうやりとりをしていて、こういう経緯で打ち合わせが決まって、向こうの担当者はこういうキャラクターの人で…」みたいなことを全部言語化して入力しないといけない。そこまで考えると、結局自分でやった方が早いと思う。
これが多くの現場で起きていることです。社内業務は「社内固有の情報・経緯・人間関係」を前提に動いているため、その文脈をゼロから言語化して入力するコストが、ChatGPTを使うメリットを上回ってしまう。
さらに見落とされがちなのがセキュリティの問題です。ChatGPTの無料プランでは入力データが学習に使われる場合があります。見積もり作成に使っていた人がいて、別の人がそのクライアント名を検索したら、その見積もりのデータが出てきてしまったという情報流出の話が実際に起きています。「社内情報を入れるのが怖い」という現場の感覚は、こういった話が背景にあります。
会社の中でもIT企業はうまくいっているケースが多い、という話があります。これは技術リテラシーの差ではなく、もっと単純な理由です。
IT企業はそもそもデータをGoogle Driveなどのクラウドに入れておく文化がある。ChatGPTはGoogle Driveとすぐ連携できるので、繋げればいいだけの話になる。一方でローカル(社内ファイルサーバー)にデータを置いているIT企業はほとんど聞いたことがない。
製造業・物流・建設などの非IT企業は逆で、社内の情報が各担当者のPC・ファイルサーバー・紙に散在していることが多い。この状態でAIを使おうとすると、「適切なデータだけ拾ってきてインプットしないといけない」という手間が毎回発生します。例えば財務担当者が日常的に見ているExcelシートが5〜10個あって、それをすべて入れるとAIがパンクしてしまう。適切なデータだけ選択して与えないといけないが、そういう使い方を知らない人も多い。

ではどうするか。ここで「社内データを全部クラウドに移行しなければ」と考える必要はありません。
現実的なのは、一部のデータだけクラウドに上げて、一部はAWSなどにデータベースを作って持つハイブリッド運用です。既存のファイルサーバーをそのままの状態でAIにアクセスさせることは、割と無理ゲーに近い。ファイルサーバーに直接アクセスさせようとすると、それだけで何千万という開発コストになってしまいます。でもクラウドを使えば数百万万程度で済む。5〜10倍コストが違います。
全部をAIに投げようとしないこと。まず使う可能性のある一部のデータだけをクラウドに切り出す、というアプローチが現実的です。
社内データ問題とは別に、「汎用性が高すぎてわからない」問題に対しては2つの入り口があります。
1つ目は、チャット形式をやめてフォーム形式にすること。
チャットに何を書けばいいかわからない人に効果的なのは、Googleフォームのように枠を区切ってしまう方法です。「ここに契約書を添付してください」「契約書の名前をここに入れてください」「特記事項があればここに入れてください」という形で枠を決めると、人は何をしたらいいかが明確になります。これだけで誰でも使えるようになる可能性が高い。チャットのようなフリースタイルに任せると、そこで詰まってしまう人が多いです。
また最近のAIは、Claudeのように「ここが足りないので教えてください」と向こうから聞いてきたり、選択肢を提示して選んだら次に進める形式も実装されてきています。人から情報を引き出す仕掛けが組み込まれているので、使いやすさはどんどん改善されています。
2つ目は、社内プロンプト集の共有と活用。
面白い事例として、「この業務をこのプロンプトで解決できました」という事例をチャットのスレッドに流し続けるという仕組みを作っている会社があります。さらに一歩進んだやり方として、そのプロンプト集自体をChatGPTやNotebook LMに食わせてしまって、「こういう使い方でうまくいった事例ある?」と聞いたら検索できる状態にしている人もいます。こうすると、うまくいったやり方がすぐ出てくるので使いやすい。
ChatGPTが会社で使われない理由は3点に集約できます。
第一に、「何でもできる」という汎用性がそのまま「何したらいいかわからない」という障壁になっています。Google検索と違い、使い方が自明でないことが定着を阻んでいます。
第二に、社内業務は「社内固有の文脈・データ」を前提に動いているため、それを毎回言語化するコストが使うメリットを上回ってしまいます。IT企業がうまくいくのはこの「データをクラウドに置く文化」がすでにあるからで、技術力の差ではありません。
第三に、社内データ連携は「全部クラウド移行」ではなく「必要な一部だけ切り出すハイブリッド運用」が現実的です。ファイルサーバー直接連携は開発コストが5〜10倍かかります。
A: 「とりあえず使ってみる」ところから始めるのもありです。メールの返信下書き、検索の代わりに使うといったライトな使い方でも、業務は変わります。そのうえで「社内データと連携しないと使えない問題」が見えてきたら、必要なデータだけクラウドに切り出すハイブリッド運用を検討する順番が現実的です。
A: 「AIに連携させたい業務」に絞って、そこで使うファイルだけをクラウドに切り出すところからのが現実的です。前者のデータを一気にクラウドに移行しようとすると大きなプロジェクトになります。全部投げるのではなく、使う可能性のある一部だけ、という発想が出発点です。
A: まずSlackやTeamsに専用のチャンネル・スレッドをひとつ作って、「このプロンプトでこれが出来ました」と投稿するだけで十分です。仕組みを複雑にする必要はありません。蓄積されてきたら、その投稿をまとめてChatGPTやNotebookLMに読み込ませると、社内で「こういう使う方の事例ある?」と検索できる状態になります。
A: 「全社でAIを使おう」という提案より、「この業務の、このステップだけ試させてほしい」という形の方が通りやすいです。記事で触れたように、個人レベルではすでに広く使われているツールなので、「導入するかどうか」より「どこから始めるか」という前提で話すと議論がしやすくなります。
-----------------------------------------------------------------------------------------
AIを活用した業務改善にお悩みですか?
NOVELでは、生成AIの導入から定着まで一気通貫で支援しています。
まずはお気軽にご相談ください。
👉[無料相談はこちら]
👉 [次回ウェビナーに参加する]
この記事に関連するお役立ち資料を無料ダウンロード

AIを活用した業務自動化 事例BOOK
AI技術を活用した社内業務効率化の基本から、実際の導入ステップまでをわかりやすく解説しています。
下記フォームにご記入下さい。(30秒)
テックユニットは、下記のような方におすすめできるサービスです。
お気軽にご相談ください。
・開発リソースの確保に困っている方
・企業の新規事業ご担当者様
・保守運用を移管したい方
・開発の引き継ぎを依頼したい方


おすすめの記事
関連する記事はこちら
OCRを導入したのに工数が変わらない理由──「一気通貫で自動化しないと意味ない」と断言できる根拠
OCRを導入して読み取りはできるのに、その後のExcel貼り付けや確認作業は人のまま。「一気通貫で自動化しないと全体工数は変わらない」という構造的な理由と、例外処理・辞書の育て方・ROIの出し方を解説します。この記事でわかること「読み取り部...
「3年前に試して無理だった書類」が今は99.9%で読み取れる──生成AIベースOCRが変えた精度の常識
3〜5年前に諦めたOCRを再度試したら99.9%の性能が出た、という現場が増えています。生成AIベースOCR(VLM)が旧来OCRと何が違うのか。精度99%の実態と、図面・手書き書類への対応力の変化を解説します。 この記事でわかる...
使うのは全体の3割だけ──ChatGPTが社内に定着しない「2つの壁」
大企業でも全社導入後に使っているのは2〜3割にとどまる背景と、社内に定着しない「2つの壁」、そして企業によって定着しやすさに差が出る理由を解説します。この記事で分かること・ChatGPTは3000人規模の大企業でも、全社導入後に使っているの...
「提案は立派なのに何も変わらない」を防ぐーー1問で分かるAI導入コンサルの本当の見極め方
AI導入コンサル選びの失敗パターン3つと、面談で使える見極め方を実務経験から解説。「論点整理だけ」「開発はできるがコンサルはできない」など現場で起きる地雷の正体とは?この記事でわかること-AI導入コンサル選びの失敗は「提案の華やかさ」で選ぶ...
AI外注 vs 内製 どっちが正解?3年やって出た答えは"どっちもコケる"
AI外注か内製かで悩む中小企業向けに、どちらを選んでもコケる理由と、成果が出るハイブリッドの分業モデルを実務経験から解説します。この記事でわかること- フル外注もフル内製も、どちらを選んでも失敗しやすい構造的な理由がある- AI導入の失敗は...
そのデータ、本当にAIに使えますか?活用前に整理したい2つのこと
「AIを使いたいけど、うちのデータって本当に使えるのかな……?」そんな不安を感じている企業は少なくありません。ChatGPTなどの生成AIを導入しても、社内データの状態が整っていなければ、期待した答えが返ってこないことはよくあります。そこで...
Excel・Accessがもう限界?移行を判断する10のサインと、中小企業の現実的な進め方
ある日突然、業務が止まる前に「受注管理のExcelを2人で同時に開いたら壊れた。バックアップがなく、1週間分のデータが消えた。」「Accessのデータベース、作った担当者が退職してから誰も触れていない。クラッシュしたら終わり。」「月末の集計...
AI時代に必要なデータ基盤とは?整理しないとAIは使えない
「AIを入れたのに使えない」の本当の原因「ChatGPTを社内に導入したけど、精度が出なくて結局使われていない」「AIで月次レポートを自動化したいのに、どこから手をつければいいかわからない」こうした声は、AI導入を検討している中小企業のあち...
DX推進室がなくても大丈夫!現場主導のAI活用スモールスタート術
「AIの導入は、専門のDX推進室や優秀なAIエンジニアがいる大企業だけの話だ」 「我が社には推進できる人材がいないから…」企業の規模を問わず、多くのビジネスリーダーがAIの可能性を感じながらも、人材不足を理由に最初の一歩を踏み出せずにいます...
AIで営業の優先度付けを自動化|売れる3%に集中する方法
「なぜ、あの人だけが常に高い成果を上げ続けるのか?」 多くの営業組織では、一握りのトップセールスが全体の売上の大半を支えるという、いわゆる「属人化」が長年の課題となっています。彼らの持つ勘や経験を組織に共有するのは難しく、多くの営業担当者は...
方法から入るAI導入は失敗する|現場起点のAI定着設計術
「最新のAIツールを導入したが、現場では全く使われず、ライセンス費用だけが無駄になっている…」 これは、AI導入に取り組む多くの企業が直面する、決して珍しくない現実です。鳴り物入りで始まったプロジェクトが、なぜ現場に受け入れられず、静かに形...
AIは指示待ちから先回りへ。次世代AIエージェントとは
これまで私たちが慣れ親しんできたChatGPTをはじめとする生成AIは、非常に賢いアシスタントでした。しかし、その基本はあくまで「指示待ち」。ユーザーがプロンプトを入力して初めて、その能力を発揮する受動的な存在でした。しかし今、その常識が大...
人気記事ランキング
おすすめ記事