クラウドAIに営業秘密を話すと運営企業に渡ります｜IPAが挙げた5つの対策

ガジェット
2026.09.21

この記事には広告はありません。当サイトの他の記事には広告・アフィリエイトリンクが含まれています。

結論：クラウドのチャットAIに営業秘密を話すと、運営企業にその内容が渡ります

IPA（情報処理推進機構）とAIセーフティ・インスティテュート（AISI）が2026年4月2日に公表した「AI利用者のためのセキュリティ豆知識」は、AIにもセキュリティにも詳しくない利用者やマネージャを想定した資料です。スライド形式で24ページ、社内研修にも使える作りになっています。

背景として、IPAは「情報セキュリティ10大脅威2026」で第3位に「AIの利用をめぐるサイバーリスク」がランクインしたことを挙げています。

この資料が挙げる対策は5つです。

# 対策
1 クラウドAIに営業秘密は教えない
2 AIブラウザは社内用と社外用を分ける
3 RAG使用時は「混ぜるな危険」にご用心
4 外見では詐欺師を見破れないと心得る
5 AI仕込みのサイバー攻撃も撃退法は従来通り
IPA・AISI「AI利用者のためのセキュリティ豆知識」（2026年3月）より

1. クラウドAIに営業秘密は教えない

資料の説明は明快です。

インターネット経由で利用できるクラウド型のチャットAIに営業秘密を話すとチャットAIの運営企業にその営業秘密が渡ってしまいます

そのうえで、こう続きます。

  • チャットAIとユーザーとの実際のやりとりを、将来のAI改良のための学習データとして運営企業が流用する場合がある
  • 自社の営業秘密を学習したAIは、その内容を他のユーザーに喋ってしまう可能性が理屈上ある
  • 利用するチャットAIのサービス規約や利用時設定を確認することで、ユーザー入力を保存や学習対象から除外できる

「理屈上」という書き方に注意してください。必ず漏れると言っているわけではありません。ただ、設定で防げるものを設定していない状態は避けよう、という話です。

資料は、AIツールへの情報漏えいの実態として、民間企業（LayerXSecurity社）の調査を引用しています。67％の従業員が個人アカウントで生成AIツールを使用、77％が生成AIツールにデータを「貼り付け」している、という数字です。当サイトではこの調査の原典を確認していません。

2. AIブラウザは社内用と社外用を分ける

AIブラウザは、チャットAIを内蔵したWebブラウザのことです。閲覧中のページの翻訳・要約や、ECサイトでの商品検索・発注代行を依頼できます。

問題は、AIブラウザでは閲覧中のページや過去の閲覧履歴などを生成AIと共有することになる点です。そして、こういうことが起きます。

Webページ内に悪意ある不正プロンプトが含まれると、ユーザーによる指示と誤認して情報漏洩や不正送金などを生成AIが実行してしまう可能性があります

資料は「AIブラウザの不正プロンプト対策はまだ不完全」としたうえで、常用のAIブラウザでは社内ポータルなど重要な情報にアクセスしないようにするなど、使い分けることを勧めています。

3. RAG使用時は「混ぜるな危険」

RAG（Retrieval Augmented Generation）は、生成AIが知らない情報を自分で検索して知識を補う仕組みです。これを使うと、自社の社内情報に即した回答を得られるようになります。

ここで問題になるのが、検索範囲に外部由来のデータが混ざる場合です。

起きること 結果
メールのような外部由来のデータがRAG検索される 不正プロンプトを含む攻撃メールも取り込まれ、チャットAIの不正動作を引き起こす可能性
社内文書と不正メールの両方が同時にプロンプト上に取り込まれる 社内情報が不正プロンプトにより社外に流出する可能性

対策として資料が挙げているのは、RAGによる検索範囲を適切に制限するというシステム運用上の選択肢です。「社内の全データを検索対象にする」のがいちばん便利ですが、そこにメールが入っていると危ない、という構図です。

4. 外見では詐欺師を見破れない

本物と見分けのつかない精巧なフェイク画像・動画・音声を、今では誰もが簡単に作れます。資料はさらに、こういう現象を挙げています。

フェイクがあまりに多すぎるせいで本物の情報がフェイクに見えてしまう「嘘つきの配当」という現象が広がりつつあることも懸念されています

対策は、意外に古典的です。

  • 機密情報の送信や多額の送金などの重要な行動を促すメールやオンライン会議での依頼を受け取ったら、その依頼が本物かどうかを確認する二重・三重のチェックを欠かさない
  • 自分自身・家族・業務上の関係者などを模倣したフェイク生成の材料となる顔写真や声といったデータを、SNSで安易に公開しない

5. AI仕込みの攻撃も、撃退法は従来通り

ここが、この資料のいちばん落ち着いた部分です。

AIで脆弱性を探し出す技術は徐々に発達しており、現時点のAIはSQLインジェクションやXSSのような一般的でよくあるタイプの脆弱性を粘り強く探し出せる能力を持っています。ただし——

しかし現在のAIは高度で想定外と言えるような脆弱性を見つけ出せる水準には到達していません

資料は、米国防高等研究計画局（DARPA）が主催したAIによる脆弱性自動修正コンテストで、AIが探知した脆弱性は主にXSS、境界外書き込み、SQLインジェクション、CSRF、パストラバーサルといった従来から知られる典型的な脆弱性の範囲に収まったとされることを挙げています。

そして結論はこうです。AIが扱える脆弱性が従来のものと変わらないということは、従来のセキュリティ対策が有効だということを意味する。だから基本のセキュリティ対策をしっかり実践しましょう、と。

6. 生成AIは「知識豊富だが経験不足の新人」

基礎知識のパートも実務的です。資料は生成AIを次のように説明しています。

  • 膨大な知識の暗記を得意としつつ、理解は未熟な子供のようなもの
  • 自分の知識や会話の内容を完全に理解してはいないため、応答が出鱈目だったり破綻したりすることがある
  • 出鱈目を答える現象はハルシネーションと呼ばれ、完全に防ぐ方法はまだ分かっていない

「知識はあっても正誤の判断ができず、時々とんでもない間違いをしてしまう発展途上の新人だと思って使いましょう」——これが資料の表現です。

また、AIには種類があり、種類ごとにできることもセキュリティ上の課題も対策も違う、という点も冒頭で断られています。

7. 資料自体が「数カ月で古くなる」と書いています

利用上の注意として、次の断り書きがあります。

AIに関する状況は極めて流動的で変化が速いため数カ月もすると事情が変化してしまう場合があります

また、厳密性よりも分かりやすさを重視してまとめたものであること、あらゆる状況にあてはまる示唆を提示するものではないこと、フェイクによる世論操作等の問題には触れないことも明記されています。読むときの前提として押さえておくところです。

実務としてやること

  • 業務で使うチャットAIについて、サービス規約と利用時設定を確認し、入力を学習対象から除外する設定があれば有効にする
  • 個人アカウントでの業務利用を認めるかどうかを決め、社内に明示する
  • 営業秘密・顧客情報をチャットAIに貼り付けないことをルール化する
  • AIブラウザを使うなら、社内ポータルなど重要情報にアクセスする用と分ける
  • RAGを導入するなら、検索対象にメールなど外部由来のデータを入れるかを検討する
  • 送金や機密情報の送信を求める依頼は、別の連絡手段で本人に確認する手順を決める
  • OSとソフトウェアの更新、パスワード管理など、従来のセキュリティ対策を続ける

FAQ

社内にAIを入れなければ関係ありませんか

資料の対策4（フェイク）と対策5（AI仕込みの攻撃）は、自社がAIを使うかどうかに関わらず当てはまります。攻撃する側がAIを使うためです。

有料プランなら学習されませんか

資料は「利用するチャットAIのサービス規約やチャットAIの利用時設定を確認することで、ユーザー入力を保存やAIの学習対象から除外できます」としています。プランごとの扱いはサービスによって異なるため、当サイトでは個別のサービスの規約を確認していません。必ずご自身で規約と設定をご確認ください。

ハルシネーションを防ぐ方法はありますか

資料は「完全に防ぐ方法はまだ分かっていません」としています。RAGは学習外の情報に基づく回答ができないことによるハルシネーションを減らす仕組みとして紹介されていますが、完全な解決策としては書かれていません。

「情報セキュリティ10大脅威2026」で第3位というのは、個人編ですか組織編ですか

本記事で参照した資料には「情報セキュリティ10大脅威2026では第3位に『AIの利用をめぐるサイバーリスク』がランクインしており」とのみ記載されており、編の区別は確認していません。10大脅威の詳細はIPAの該当ページをご確認ください。

この資料は引用してよいのですか

IPAは、PDFファイルから部分的に引用や転載を行う場合について「書籍・刊行物等に関するよくあるご質問と回答」ページの該当項目を確認するよう案内しています。

参照した一次情報

  • 独立行政法人情報処理推進機構（IPA）「AI利用者のためのセキュリティ豆知識」 ipa.go.jp
    2026年9月21日確認。公開日（2026年4月2日）、資料の想定読者と特徴、目次、情報セキュリティ10大脅威2026で第3位に「AIの利用をめぐるサイバーリスク」がランクインした旨、引用時の注意に関する記述はこのページに基づきます。
  • IPA・AIセーフティ・インスティテュート「AI利用者のためのセキュリティ豆知識」（2026年3月） ipa.go.jp（PDF）
    2026年9月21日確認。5つの対策、生成AIとRAGの説明、ハルシネーション、DARPAのコンテストで探知された脆弱性の傾向、本資料の利用上の注意に関する記述はこの資料に基づきます。LayerXSecurity社の調査数値は、同資料が引用しているものです。
  • IPA「AIセキュリティ」 ipa.go.jp
    2026年9月21日確認。AIセキュリティの課題の分類と、IPAの関連資料の一覧に関する記述はこのページに基づきます。

いずれも2026年9月21日に確認しました。資料自体が「数カ月もすると事情が変化してしまう場合があります」と断っているため、最新版はIPAのページでご確認ください。

関連記事

この記事は、公表されている一次情報をもとに整理したものです。特定のAIサービスの推奨や評価を行うものではありません。

コメント

タイトルとURLをコピーしました