「生成 AI は情報漏洩が心配なので、まだ使わせていない」。そう決めても、社員が個人のアカウントで使い始めることは珍しくありません。何が起きると漏洩につながるのかを知らないまま禁止しても、ルールは守られにくくなります。
この記事は社内の生成 AI の利用ルールを決める情シス・総務の方に向けて書いています。生成 AI で実際に起きた情報漏洩の事例を 5 つ取り上げ、何が起きたか、原因はどこにあったか、どう防ぐかを順に整理します。
事例は、2026 年 11 月 4 日時点で確認できた当事者の発表と報道だけをもとに書いています。件数や経緯は、出典に挙げた記事に書かれているとおりです。
結論:原因は 5 つの型に分かれ、うち 4 つは会話の中身が外に出る経路
- 社員の入力:社員が機密の情報を入力してしまう。サムスン電子では、エンジニアが社内のソースコードを ChatGPT に入力しました
- サービスの不具合:提供元の不具合で、ほかの利用者の情報が表示されてしまう。2023 年 3 月の ChatGPT で起きました
- 共有の設定:会話を共有した本人の設定で、会話が検索結果に出てしまう。2025 年 7 月の ChatGPT の共有リンクで起きました
- ログイン情報の盗難:パソコンのマルウェアでログイン情報が盗まれ、過去の会話ごと読まれるおそれがある。2023 年に発表された調査では、約 10 万台の端末で見つかりました
- プロンプトインジェクション:AI が読み込むメールに指示を仕込み、社内の情報を外へ送らせる。2025 年 6 月に Microsoft 365 Copilot の脆弱性として公表されました
- 最初の 4 つは、会話に書いた中身が本人の思わない相手に届く経路です。会社としてできるのは、使うサービスを決めることと、送る前に個人情報や機密を伏せることです
事例 1:社員がソースコードを入力した(サムスン電子、2023 年)
何が起きたか
2023 年 5 月 2 日の Bloomberg の報道によると、韓国のサムスン電子で、エンジニアが社内のソースコードを ChatGPT にアップロードし、誤って社外に漏らしました。同社はこれを受けて、会社の端末と社内ネットワークでの生成 AI の利用を禁止しました。
社員への通知では、生成 AI に送ったデータは外部のサーバーに保存されるため、取り出したり削除したりするのが難しいと説明しています。同社の社内調査では、回答者の 65% が生成 AI をセキュリティ上のリスクと考えていました。規則に違反した場合は、解雇を含む懲戒の対象になるとも伝えています。
原因
攻撃も不具合もなく、社員が普段の仕事の延長で入力しただけです。入力した情報は社外のサーバーに渡り、あとから取り戻せません。
防ぐには
入れてよい情報と、入れてはいけない情報の線を決め、例を添えて周知します。ただし、ルールだけでは貼り付ける瞬間の見落としは防げません。
サムスン電子は利用を禁止しましたが、全面的な禁止は、使いたい社員が個人の端末やアカウントで使い始める「シャドー AI」にもつながります。禁止の代わりに何を用意するかは シャドーAI対策と生成AIの情報漏洩対策 で整理しています。
事例 2:サービスの不具合で、ほかの利用者の情報が表示された(OpenAI、2023 年 3 月)
何が起きたか
2023 年 3 月 20 日、ChatGPT で、一部の利用者の画面に、ほかの利用者のチャット履歴のタイトルが表示されました。原因は、OpenAI が使っていたオープンソースのライブラリ(redis-py)の不具合です。
同じ不具合で、太平洋時間の 3 月 20 日午前 1 時から 10 時までの 9 時間に利用していた ChatGPT Plus の加入者のうち約 1.2% について、氏名、メールアドレス、支払い先の住所、クレジットカード番号の下 4 桁と有効期限が、ほかの利用者に表示された可能性があります。OpenAI は、カード番号の全桁が表示されることはなかったと説明しています。
原因
利用者の操作ではなく、提供元のサービスの不具合です。利用者の側では防げません。
防ぐには
提供元の不具合は防げないため、入れた情報はいつか外に出るかもしれない、と考えて使います。会話に個人情報が書かれていなければ、ほかの人に表示されてしまっても被害は小さくなります。
事例 3:共有した会話が検索結果に出た(OpenAI、2025 年 7 月)
何が起きたか
ChatGPT には、会話をリンクで共有する機能があります。共有リンクを作る画面には「Make this chat discoverable」(この会話を検索できるようにする)というチェックがあり、チェックを入れた会話が Google の検索結果に表示されていたことが、2025 年 7 月末に報じられました。
OpenAI の CISO(最高情報セキュリティ責任者)である Dane Stuckey 氏は、この機能が「意図しないものを誤って共有してしまう機会を多く生んだ」として、機能を取り下げました。検索エンジンに載った会話も、削除を進めていると説明しています。
原因
不具合でも攻撃でもなく、利用者が選んだ設定です。チェックは自分で入れる必要がありましたが、「ウェブ検索に表示される」という説明は、チェックの下に小さなグレーの文字で書かれていました。
防ぐには
会話の共有リンクを社外に出してよいかを決めておきます。共有する場合は、その前に会話に個人情報や社外秘が残っていないかを確認します。
事例 4:ログイン情報が盗まれ、過去の会話を読まれるおそれ(2022〜2023 年)
何が起きたか
セキュリティ企業の Group-IB は 2023 年 6 月 20 日、情報を盗むマルウェア(インフォスティーラー)に感染した端末のうち、ChatGPT のログイン情報が保存されていた端末を 101,134 台確認したと発表しました。これらのログはダークウェブの市場で売買されていたものです。地域別ではアジア太平洋が最も多く(40.5%)、ログの数は 2023 年 5 月に 26,802 件と最多でした。
Group-IB は、ChatGPT が標準の設定で会話をすべて残すことを挙げ、ログイン情報を手に入れた攻撃者にとって、機密の情報の宝庫になりうると指摘しています。
原因
ChatGPT 側が侵入されたのではなく、利用者の端末に入り込んだマルウェアが原因です。盗まれたログイン情報でログインされると、そのアカウントの会話の履歴がすべて読めてしまいます。
防ぐには
Group-IB はパスワードを定期的に変え、二要素認証を設定するよう勧めています。会社としては、業務で使うアカウントの二要素認証を必須にします。読まれたときの被害を小さくするには、履歴に個人情報を残さないことも大切です。
事例 5:AI が読み込むメールに指示を仕込まれた(Microsoft 365 Copilot、2025 年 6 月)
何が起きたか
2025 年 6 月、Microsoft 365 Copilot の脆弱性「EchoLeak」(CVE-2025-32711)が公表されました。見つけたのはセキュリティ企業の Aim Security です。攻撃者が細工したメールを送るだけで、受け取った人がそのメールを開かなくても、Copilot がメールを読み込んだときに、社内の情報を外部へ送らせることができるものでした。
Microsoft はサーバー側で修正を済ませ、利用者の対応は不要と説明しています。実際に悪用された形跡は確認されていません。
原因
「プロンプトインジェクション」と呼ばれる攻撃です。AI は読み込んだ文章の中に書かれた指示と、利用者からの指示を見分けられないことがあります。AI がメールや社内の文書を読めるほど、仕込まれた指示に触れる機会も増えます。
防ぐには
利用者の側では防ぎにくく、提供元の修正を待つ部分が大きい型です。会社としては、AI に読ませる範囲(メール、共有フォルダなど)を必要な分に絞り、提供元のセキュリティ情報を確認します。送る前に伏せても、この型の漏洩は防げません。
5つの事例から分かること
| 事例 | 型 | 外に出たもの | 利用者の側で防げたか |
|---|---|---|---|
| サムスン電子(2023 年) | 社員の入力 | 社内のソースコード | 入力しなければ防げた |
| ChatGPT の不具合(2023 年) | サービスの不具合 | 履歴のタイトル、支払い情報の一部 | 防げない |
| ChatGPT の共有リンク(2025 年) | 共有の設定 | 共有した会話 | 共有の前に確認すれば防げた |
| Group-IB の調査(2023 年) | ログイン情報の盗難 | ログイン情報(過去の会話を読まれるおそれ) | 二要素認証と端末の対策で減らせる |
| EchoLeak(2025 年) | プロンプトインジェクション | Copilot が読める社内の情報 | 防げない(提供元が修正) |
利用者の側で防げないものもありますが、事例 1 から 4 には共通点があります。どれも、会話に書いた中身が外に出る経路です。どの経路でも、会話に個人情報や機密が書かれていなければ、外に出る中身は減ります。
会社として決めておくこと
- 使ってよいサービスとプランを決める:業務では法人向けのプランを使い、個人のアカウントで業務の情報を扱わない
- 入れてよい情報の線を決める:個人情報、社外秘、ソースコード、パスワードや API キーなど、区分ごとに決めて例を添える。区分の考え方は ChatGPTに個人情報を入れても大丈夫? にまとめています
- 共有リンクの扱いを決める:会話を社外に共有してよいか、共有の前に何を確認するかを決める
- アカウントを守る:業務で使うアカウントの二要素認証を必須にする
- AI に読ませる範囲を絞る:メールや共有フォルダとつなぐ AI は、読める範囲を必要な分に絞る
- 入れる前に確認する仕組みを用意する:ルールだけでは、貼り付ける瞬間の見落としは防げません
送る前に個人情報を伏せる方法
氏名を「A さん」、メールアドレスを「(メール)」のように置き換えてから貼るか、「[氏名] さんへのお礼のメール」のように伏せた形のまま頼み、仕上げの差し込みは手元で行います。要約や表の整理、メールの文面づくりなら、個人情報そのものは必要ないことがほとんどです。
件数が多いときは、手での置き換えでは漏れが出ます。貼り付けた瞬間に中身を確認するブラウザの拡張を使うと、見落としを減らせます。導入するときは、提供元と、検査のために中身を外へ送るかどうかを確認してください。
送る前の確認を、ブラウザの中で:Samurai App 情報保護
Samurai App の Chrome 拡張「Samurai App 情報保護」は、ChatGPT・Gemini・Claude・Copilot などの生成 AI のサイトに文章を貼り付けたりファイルを添付したりしたときに、送る前に中身を確認します。事例 1 のように、普段の仕事の延長で貼り付けてしまう場面のための機能です。
- 見つける情報:氏名、メールアドレス、電話番号、住所、生年月日、マイナンバー、クレジットカード番号、口座番号、API キー・トークン、パスワード。氏名は表の見出しや「氏名:」のようなラベルを手がかりに見つけます
- 選べる対応:やめる、このまま送る、一部マスクして送る、マスクして送る。マスクすると、見つかった箇所が
[NAME]や[EMAIL]のような区分名に置き換わります - 確認はブラウザの中だけ:AI のモデルは使わず、決まった規則で確認します。中身を検査のために外部へ送ることはありません
送る前に伏せた個人情報は、不具合で表示された会話にも、共有した会話にも、盗まれたアカウントの履歴にも残りません。ChatGPT に顧客リストを貼り付けてから伏せて送るまでの流れは、個人情報検出のページの動画(45 秒)で紹介しています。詳しくは 個人情報検出 のページをご覧ください。
出典
- Samsung bans staff's AI use after spotting ChatGPT data leak(The Star に転載された Bloomberg の記事、2023 年 5 月 2 日)
- OpenAI: ChatGPT payment data leak caused by open-source bug(BleepingComputer、2023 年 3 月 24 日)
- OpenAI is removing ChatGPT conversations from Google(Engadget、2025 年 8 月 1 日)
- Group-IB Discovers 100K+ Compromised ChatGPT Accounts(Group-IB、2023 年 6 月 20 日)
- CVE-2025-32711(NVD、2025 年 6 月 11 日公開)
- EchoLeak AI Attack Enabled Theft of Sensitive Data via Microsoft 365 Copilot(SecurityWeek、2025 年 6 月 12 日)