生成AIの情報漏洩事例4選｜原因と企業が取るべき防止策を解説

コラム更新日：2026.08.19

近年、生成AIは文章作成やアイデア出し、プログラミング支援など、あらゆるビジネスシーンで業務効率化を実現するツールとして広く普及しています。しかし、その一方で「社内の重要なデータが漏洩するのではないか」という不安を抱え、導入を躊躇している企業や、一律で利用を禁止している企業も少なくありません。

実際、セキュリティ担当者不在の企業などでは、「よく分からないから使わせない」という判断が下されがちです。しかし、実は「一律禁止」こそが、かえって企業を重大なセキュリティリスクにさらす原因になっています。

本記事では、実際に起きた生成AIの情報漏洩事例を交えながら、なぜ情報漏洩が起こるのかという原因とその対策を解説。正しく恐れ、適切に対策すれば、AIは心強いパートナーになります。

執筆・監修：TSクラウド編集部

Google Cloud の「プレミア認定」を保有する、Google Workspace 正規販売代理店です。業界歴 17 年、延べ 3,500 社以上の導入支援実績（ 2026 年 2 月時点）に基づき、Google Workspace の最新機能から活用術、DX推進に役立つノウハウを専門的な視点で解説しています。

※情報は記事公開（更新）時のものです。Google Workspace の仕様や価格は変更される場合があるため、最新情報は必ず公式ページでご確認ください。

※名称変更に関するお知らせ： NotebookLMは、2026年7月に「Gemini Notebook」に名称が変わりました。メディア内では旧名称が利用されていることがあります。その場合は、Gemini Notebookに読み替えてご確認ください。

実際に発生した生成AIの情報漏洩・トラブル事例

まずは、実際に起きた4つの代表的な事例から教訓を学びましょう。

①入力内容が学習データに使われたことによる機密情報の流出

2023年、大手電子機器メーカーにて、従業員が開発中のソースコードを生成AIに入力し、バグの修正やプログラムの最適化を依頼しました。その際、入力した機密情報がAIサービス側のサーバーに送信・保存され、さらに「AIの追加学習用データ」として取り込まれてしまう懸念が発生。同社は社内での生成AIツールの利用を原則禁止しました。

「入力した内容がAIに学習されて、回り回って他社の回答画面に出てしまうリスク」を理解し、事前に対策された環境を使う必要があることを示す典型的な事例です。

②システムの不具合によるチャット履歴の露出

2023年3月、生成AIの開発元にて、システムの一時的なバグにより、一部ユーザーの画面に「別のユーザーが過去にやり取りしたチャット履歴のタイトル」が表示される問題が発生しました。

さらに詳しく調査した結果、特定の時間帯にアクティブだった有料プラン加入者の約1.2%において、氏名、メールアドレス、クレジットカード番号の下4桁や有効期限といった個人情報が他人に露出した可能性があることも判明しました。

AIモデルそのものの安全性だけでなく、それを取り巻く周辺システム全体の脆弱性にも目を向ける必要があります。

③ウイルス（マルウェア）経由のアカウント情報奪取

2023年から2025年にかけて、生成AIサービスのアカウント情報（ログインID・パスワード）がダークウェブなどの闇市場に売りに出されたと報じられています。利用者のPC端末が「インフォスティーラー（情報窃取型マルウェア）」と呼ばれるウイルスに感染したことが原因ではないかと見られています。

ブラウザに記憶されていたログイン情報が盗まれ、結果として過去のチャット履歴や機密情報が第三者に見られる状態になってしまった可能性が指摘されています。

生成AIツールの設定をいくら強固にしても、従業員が使用するPC端末そのもののセキュリティが脆弱であれば、アカウントを乗っ取られて情報が筒抜けになってしまうリスクがあります。

④AI固有の脆弱性を突いた不正操作

2025年、AIに搭載された検索拡張生成（RAG）の仕組みを悪用した、情報漏洩の脆弱性「EchoLeak」の存在が報道されました。これは、AIが自動的に外部のメールや共有ドキュメントを参照する便利な機能を逆手に取った「間接プロンプトインジェクション」と呼ばれる新世代の攻撃です。

メールなどに人間の目には見えない悪意ある指示（不正プロンプト）を隠しておくことで、ユーザーが一切操作をしていない状態でも、AIに社内機密情報を読み込ませ、外部へ送信・流出させる可能性があったことが指摘されています。また、同様の手法として、URL末尾に悪意ある命令を隠し、ブラウザAIにフィッシングサイト等へ誘導させる「HashJack」という攻撃手法も報告されています。

AIが処理するデータが安全か検証する仕組みの構築や、定期的な脆弱性パッチ適用体制の確保が重要です。

なぜ情報漏洩は起こるのか？3つの主要な発生原因

漏洩事例から見える原因は、人為的ミス・システム脆弱性・外部攻撃の3つに大別されます。それぞれの具体的な内容と、なぜそれが起こり得るのかについて詳しく見ていきましょう。

①機密情報の入力（人為的リスク）

最も頻繁に発生し、かつ企業にとって身近な脅威となるのが、従業員の誤った使い方による「人為的リスク」です。生成AIは入力されたテキストを解析して回答を生成しますが、一部のツールの初期設定では、入力されたデータがAIの学習データとしてベンダー側のサーバーに蓄積される仕組みになっています。

もし従業員が、機密情報をそのままプロンプトに入力してしまうと、そのデータはAIベンダーのサーバーに永久保存されるリスクがあります。そして最悪の場合、別のユーザーが関連する質問をした際に、自社の機密情報が回答の一部として流用されてしまう危険性があるのです。これは、情報の機密性に対する認識の甘さやリテラシー不足が直接的な原因となります。

②システムのバグや設定ミス（システム的リスク）

2つ目の原因は「システム的リスク」です。先ほど紹介した個人情報が露出した事例のように、データベースの連携ミスやプログラムの不具合によって、本来は厳重なアクセス制限がかかっているはずの情報が意図せず公開状態になってしまうことがあります。

また、企業が自社システムに生成AIのAPIを組み込んで運用する際にも、アクセス権限の設定ミスや通信の暗号化の漏れがあると、そこがセキュリティホールとなり情報が外部へ漏れ出す原因となります。

システムは人が設計・構築するものである以上、どれだけ堅牢に見えても脆弱性が潜んでいる可能性を常に考慮し、定期的な監査とアップデートを行う運用が求められます。

③悪意ある攻撃（外部的リスク）

3つ目は、サイバー犯罪者などの第三者が意図的にシステムの隙を突いて情報を盗み出す「外部的リスク」です。特に近年、世界中で警戒されているのが「プロンプトインジェクション」という手法です。

プロンプトインジェクションとは、AIに対して巧妙かつ特殊な指示を入力することで、開発者が設定した安全制限を突破し、本来非公開であるべき内部情報やシステム制御権を引き出す攻撃のことです。

外部からのサイバー攻撃は日々巧妙化しており、AIを利用する企業は常に最新の脅威動向を把握しておく必要があります。

企業が直面する「シャドーAI」と個人アカウント運用の危うさ

多くの企業が直面しているのが、「生成AIは情報漏洩のリスクがあるから、とりあえず社内での利用はすべて禁止にする」という運用です。

確かに、ルールが未整備な状態で勝手に使わせるのにはリスクがあります。しかし、一律禁止にすることで、会社が許可していないAIツールを従業員が勝手に使う「シャドーAI」の発生を招きかねません。それは、以下のリスクを孕んでいます。

原因特定が不可能：ログ（利用記録）が管理されていないため、インシデント発生時に「誰が・何を・いつ入力したか」を追えず、事態収束が遅れる。
データ保護の欠如：データが学習に利用される設定となっている場合、自社の機密情報が漏洩するリスクが生じ、入力した瞬間に企業の機密保持契約を違反する状態になる。
ガバナンスの崩壊：著作権侵害やハルシネーション（AIが嘘をつく現象）への対策が個人の裁量に委ねられ、企業としてのコンプライアンスが守られない。
業務の生産性向上チャンスを逃す：生成AIを使いこなす他社に比べ、資料作成やデータ処理、リサーチにかける時間やコストで大きく遅れをとる。

大切なのは、「危ないから使わせない」ではなく、「生成AIのリスクを正しく理解し、安全な環境とルールを整えて正しく活用する」ことです。これこそが、企業の競争力につながります。

安全にAI活用を進めるために。法人向け環境への移行

生成AIによる情報漏洩を根本から防ぎ、かつ業務効率化の恩恵を最大限に受けるための最適解は、法人向け環境への移行です。法人向け有料版では、エンタープライズ基準のセキュリティとプライバシー保護が厳格に定められています。

法人向け環境の最大の強みは、入力したプロンプトや社内データが、AIの学習モデルに二次利用されない点にあります。さらに、組織のIT管理者が利用権限を一括管理でき、強固なアクセス制御やログ監視を標準で備えています。

法人向け生成AIサービスには、単体のチャットボットを契約する方法のほかに、普段使用している業務ツールに最初からAIが組み込まれている環境を選ぶ方法があります。たとえば、「Google Workspace」のビジネスプランであれば、GmailやGoogleドキュメント、Googleスプレッドシートの中で、最高峰のAIアシスタントをエンタープライズ水準の安全性を保ったまま利用することができます。

Gemini 無料版と有料版の違いを比較！ビジネスに最適なプランの選び方

Geminiの導入に、法人向け有料プラン「Google Workspace」の活用をおすすめする理由を詳しく解説しています

情報漏洩を防ぐための「3つのセキュリティ対策」

安全なAI活用のためには、組織的な管理が行えるツールを導入するだけでなく、「ルール」「教育」「技術」の3本柱による多層防御が必須です。第一歩として、すでに個人アカウントで生成AIを利用している従業員に対しては、チャット履歴の保存オフや、学習へのデータ利用のオプトアウト（拒否）設定を徹底させることが重要です。その上で、組織全体として以下の「3つのセキュリティ対策」を強力に推進していきましょう。

①社内ガイドラインの策定

生成AIを安全に業務利用するためには、明確な社内ガイドラインの策定が不可欠です。ルールが曖昧なままだと、従業員は「何を入力してよくて、何がダメなのか」を個人の感覚で判断してしまい、誤入力による情報漏洩リスクが高まります。

ガイドラインには、業務での利用を許可するAIツールを明記するとともに、個人情報、顧客名、未公開の経営資料、開発中のソースコードといった具体的な入力禁止リストを定義することを推奨します。ガイドライン作成の際には、国が公表している「AI事業者ガイドライン」などを参考にすることで、より社会的な信頼性の高いルールを整えることができます。

また、AIが生成した文章やコードをそのまま外部公開せず、必ず人間が事実確認を行うといった運用ルールも盛り込むべきです。