生成AIのセキュリティ対策｜情報漏洩の事例・攻撃手口・企業の対策

生成AIのセキュリティとは、生成AIを業務で使うときに、入力した情報が社外に出る、AIそのものが攻撃される、AIを使った攻撃を受ける、という3つの方向の危険から、会社の情報と業務を守ることです。IPA(情報処理推進機構)の「情報セキュリティ10大脅威2026」では、AIの利用をめぐるサイバーリスクが組織向けの3位に入り、総務省の令和8年版情報通信白書でも、日本企業が生成AIの活用で最も懸念しているのは、社内情報の漏洩などのセキュリティリスクでした。本記事では、IPA・総務省・個人情報保護委員会などの公的資料と、OWASPや各サービスの公式ページにもとづき、情報漏洩の原因と事例、プロンプトインジェクションなどAIが狙われる仕組み、AIを使った攻撃への備え、使うサービスを選ぶときの確認項目、社内で決めておく対策を整理します。内容は2026年10月21日時点の公開情報です。

目次

開く

閉じる

1. 生成AIのセキュリティとは？3つの方向の危険と、日本企業の懸念
2. 生成AIの情報漏洩｜原因を4つの経路に分けて、事例で確認する
3. AIそのものが狙われる｜プロンプトインジェクションとAIシステムの弱点
4. AIを使った攻撃｜フィッシング・なりすまし・攻撃の自動化と、守り方
5. 生成AIのセキュリティ対策｜リスク別の対応表と、サービスを選ぶときの確認項目
6. 社内に基準を届けて確かめる教育サービス3つの違い｜生成AI専用の教材ではなく、運営面の支え
7. よくある質問(FAQ)
8. まとめ｜生成AIのセキュリティで押さえたい6つのこと
9. 参考文献

生成AIのセキュリティとは？3つの方向の危険と、日本企業の懸念

生成AIのセキュリティとは、情報が社外に出る・AIが攻撃される・AIを使った攻撃を受けるという3方向の危険を防ぐことで、日本企業の最大の懸念は社内情報の漏洩です。

総務省の令和8年版情報通信白書は、企業が生成AIの活用で懸念するリスクを国別に尋ねています。日本では「社内情報の漏洩などのセキュリティリスクがある」と答えた割合が最も高く、次いで「出力結果の精度に問題がある」「著作権等の権利を侵害する可能性がある」の順でした。また、セキュリティリスクなどを防ぐ取組として、日本で最も多かったのは「全社的な指針やガイドラインを整備している」の41.1%でした(2026年10月21日確認)。

IPAの「情報セキュリティ10大脅威2026」は、組織向けの3位に「AIの利用をめぐるサイバーリスク」を挙げています。解説書では、AIへの不十分な理解による情報漏洩、生成結果を十分に検証せず鵜呑みにすることによる問題、AIの悪用によるサイバー攻撃の容易化や手口の巧妙化などが例に示されています。公的資料で確認できる危険を、本記事では次の3方向に整理します。分類は本記事の整理で、根拠は公的資料の記載にもとづきます。

方向	何が起きるか	主な根拠	詳しい章
1. 入力した情報が社外に出る	業務データ・個人情報・営業秘密をAIに入力して、組織の管理外に出る。個人アカウントでの業務利用(シャドーAI)や、サービス側の不具合による流出も含む	IPA「10大脅威2026」、IPA「AI利用者のためのセキュリティ豆知識」、個人情報保護委員会の注意喚起、OpenAIの公表	情報漏洩の章
2. AIそのものが攻撃される	外から仕込まれた不正な指示(プロンプトインジェクション)でAIが誤動作し、社内の秘密データが流出するおそれがある。AIの基盤の設定ミスもある	IPA「10大脅威2026」解説書のコラム、IPA豆知識、OWASP「Top 10 for LLM Applications」	AIを狙う攻撃の章
3. AIを使った攻撃を受ける	自然な翻訳文のフィッシング、本物そっくりの偽の音声や画像でのなりすまし、攻撃作業の自動化が進む	IPA「10大脅威2026」、IPA豆知識、英国NCSCの予測(IPAが紹介)	AIを使った攻撃の章

誤情報(ハルシネーション)・著作権・偏見など、セキュリティ以外の問題点を含めた全体像は、AIリスクとは？企業が知るべき4分類と対策5ステップをEU AI Act・国内ガイドラインで解説で整理しています。本記事は、情報と業務を守るセキュリティの観点に絞ります。

3方向のうち、利用する会社が自分の判断で減らしやすいのは1つ目です。入力してよい情報の基準を決めて全員に伝え、使うサービスと設定をそろえれば、入力による漏洩の可能性は大きく減らせます(本記事の整理)。2つ目と3つ目は、サービス提供側の対策と基本的なセキュリティ対策が中心で、利用者側は、外部の情報を無警戒にAIへ読ませない、不審な依頼を二重に確認する、といった使い方の工夫で備えます。

ここで押さえたいのは、3方向のどれも、設定やツールだけでは防ぎきれず、使う一人ひとりの知識と判断が最後の関門になる点です。入力してよい情報の基準や、不審なメールや依頼の見分け方を、全員に同じ形で学んでもらいたい場合の一例が、株式会社Oysterが提供するOneCompliance(ワンコンプライアンス)です。商品ページでは、ダッシュボードや自動リマインダーで研修の実施・管理の工数を減らせること、法務・労務・情報領域のコンテンツが法改正などに合わせて更新されることが特徴として紹介されています。公式サイトのコース一覧には「情報セキュリティ」があり、情報セキュリティのリスク、外部からの攻撃、人の不注意や不正、リスクを最小化する対策を学ぶとされ、マルウェア感染、機密情報・個人情報の漏洩、メールの誤送信などを防ぐ手立てが挙げられています(2026年10月21日確認)。生成AIの利用そのものを扱う専用のコースは一覧にないため、生成AI向けの内容は資料で確認してください。費用は受講人数に応じた課金体系のため、問い合わせでの確認が必要です。料金はプランによって異なるため、資料や公式サイトで確認してください。

社内に法務専任担当や教育専任担当がおらず、社内のみでの実施が困難

OneCompliance 導入事例(株式会社プリメディカ。導入の背景・課題感として掲載) 出典：導入事例ページ

生成AIの情報漏洩｜原因を4つの経路に分けて、事例で確認する

生成AIの情報漏洩は、利用者の入力、個人アカウントの業務利用、サービス側の不具合、AI基盤の設定ミスの4つの経路で起こり、IPAは入力した営業秘密が運営企業に渡るおそれを指摘しています。

情報漏洩というと、社員が機密情報を入力してしまう場面が思い浮かびますが、公的資料や公表された事例を見ると、原因は入力だけではありません。経路ごとに、防ぐ側の打ち手が違うため、まず4つに分けます。

経路	何が起きるか	確認できる根拠・事例	防ぐ方向
1. 利用者の入力	営業秘密や個人情報をクラウド型のチャットAIに入力すると、その情報がチャットAIの運営企業に渡る。運営企業が、やりとりをAI改良の学習データとして流用する場合がある	IPA「AI利用者のためのセキュリティ豆知識」(2026年3月)	サービス規約と利用時の設定を確認し、入力の保存や学習への利用から除外する。営業秘密は入力しない
2. 個人アカウントの業務利用(シャドーAI)	職場が認めていないAIサービスを、従業員が個人のアカウントで業務に使う。会社が入力の中身も利用の事実も把握できない	IPA「10大脅威2026」組織向け3位の解説書	未許可サービスの禁止、個人アカウントでの業務利用の制限、通信ログなどによる利用状況の把握
3. サービス側の不具合	サービス提供側のバグで、他の利用者の情報が見えてしまう。利用者側の入力が適切でも起こりうる	OpenAIが2023年3月24日に公表した、同月20日のChatGPT停止の経緯	入力する情報の範囲を絞る。契約・管理者機能・提供側の公表を確認する
4. AI基盤の設定ミス	AIサービスの裏側のデータベースやメッセージ基盤が、認証なしでインターネットに公開され、機密データが流出する	IPA「10大脅威2026」解説書のコラムが紹介した事例	AI特有ではなく、認証や設定という基本の管理の不備。サービスの選定で提供側の対策を確認する

経路1 利用者の入力｜営業秘密がサービスの運営企業に渡る

IPAの「AI利用者のためのセキュリティ豆知識」は、最初の対策として「クラウドAIに営業秘密は教えない」を挙げています。インターネット経由で使うチャット型のAIに営業秘密を話すと、運営企業にその営業秘密が渡ってしまうこと、運営企業が利用者とのやりとりを将来のAI改良のための学習データとして流用する場合があることが理由です。自社の営業秘密を学習したAIが、その内容を他の利用者に話してしまう可能性も、理屈のうえではあるとされています。一方で、利用するサービスの規約や利用時の設定を確認すれば、入力を保存やAIの学習の対象から除外できる場合があると説明されています。

同じ豆知識は、LayerX Security社の調査として、従業員の67%が個人アカウントで生成AIツールを使用し、77%が生成AIツールにデータを貼り付けているという数字を紹介しています。民間企業の調査の数字で、調査の対象や時期は元の報告書で確認する必要があり、日本企業の状況をそのまま示すものではありません。会社が見えないところで入力が起きやすい、という傾向を示す例として読むのが安全です。

経路2 個人アカウントの業務利用(シャドーAI)｜会社が見えない入力

IPAの「10大脅威2026」の解説書は、職場でAIサービスの利用がない場合などに、従業員が個人的に使っているAIサービスを業務に使うことをシャドーAIと呼んでいます。本来、組織の外への持ち出しが禁止されている業務データや資料をAIサービスに入力すれば、情報漏洩につながります。職場が、従業員の個人アカウントによるAIの業務利用を認識できないこと自体も、リスクだと説明されています。事例として、米国のAI企業の調査で、業務で生成AIにデータをコピー＆ペーストして入力している利用者が77%、そのうち82%が組織に管理されていないアカウントによるものだったという数字が示されています。

個人情報を含む入力には、法的な論点もあります。個人情報保護委員会は、令和5年(2023年)6月2日の「生成AIサービスの利用に関する注意喚起等」で、個人情報取扱事業者に、個人情報を含むプロンプトを入力する場合は利用目的の達成に必要な範囲内かを確認すること、あらかじめ本人の同意なく個人データを入力し、応答結果の出力以外の目的で取り扱われる場合は個人情報保護法の規定に違反する可能性があるため、提供事業者が個人データを機械学習に利用しないこと等を確認することを示しています。本記事は一般的な情報提供であり、法的助言ではありません。個別の判断が必要な場合は、専門家に相談してください。

経路3 サービス側の不具合｜2023年3月のChatGPTの事例

「AIによる情報漏洩の事例」として確認できる、提供元自身の公表を1つ挙げます。OpenAIは2023年3月24日の公表で、同月20日にChatGPTを一時停止した理由を説明しました。オープンソースのライブラリのバグにより、一部の利用者が、他のアクティブな利用者のチャット履歴のタイトルを見られる状態になったという内容です。さらに調査の結果、同じバグが原因で、特定の9時間の間にアクティブだったChatGPT Plus加入者の1.2%について、支払いに関する情報(氏名、メールアドレス、請求先住所、クレジットカードの種類と下4桁、有効期限)が、他の利用者に見える状態になりえたと説明しています。クレジットカードの全桁は表示されていなかったとされ、影響を受けた利用者には通知したと公表されています。

この事例が示すのは、利用者が入力に気をつけていても、サービス側の不具合で情報が見える可能性があることです。入力する情報の範囲を絞ることに加え、使うサービスの管理者機能や契約、提供元の公表の確認が必要になります。ChatGPTに絞った解説はChatGPTのセキュリティリスクとは？有効な対策も紹介にまとめています。

経路4 AI基盤の設定ミス｜AI特有ではない管理の不備

IPAの解説書のコラムは、AIサービスであっても、基盤インフラの設定ミスや認証不備といった従来型の脆弱性が、依然として重要な攻撃経路になりうると指摘しています。実際に、DeepSeekのデータベースや、AIコンパニオンアプリのメッセージング基盤(Kafka)が、認証なしでインターネットに公開され、機密データが流出した事例が報告されているとされています。IPAは、これらはAI技術そのものの欠陥ではなく、基本的なセキュリティ管理の不備に起因すると整理しています。利用する会社にできるのは、サービスの提供元がどのような管理体制をとっているかを、契約前に確認することです。

入力する前に確認する3つの問い(本記事の整理)

1. その情報は、社外に出ても問題がないか。営業秘密、個人データ、取引先の秘密に当たる場合は、入力する前に判断を仰ぐ
2. 使うサービスは、入力を学習に使うか。除外の設定や、法人向けの契約で扱いが変わるか(IPAは、サービス規約と利用時の設定の確認を挙げています)
3. 会社が認めた契約・アカウントで使っているか。個人のアカウントで業務に使っていないか

AIそのものが狙われる｜プロンプトインジェクションとAIシステムの弱点

プロンプトインジェクションとは、AIに不正な指示を紛れ込ませて動作を変えさせる攻撃で、IPAは、技術的対策で完璧なものは知られていないと説明しています。

IPAの用語集によると、チャット型のAIは利用者の要求になるべく応えようとしますが、応じるべきでない要求を拒否する保護措置(セーフガード)も組み込まれています。この保護措置の回避などを狙って、AIの動作を変えてしまう特殊なプロンプトを入力する攻撃がプロンプトインジェクションです。通常は、チャットAIの利用者でなければできません。しかし、RAG(AIが知らないことを、社内メールサーバーなどの外部接続システムで検索して、プロンプトの一部に取り込む仕組み)などを通じてプロンプトに入り込むデータの中に不正なプロンプトを混ぜ込むと、直接の利用者ではない第三者でもプロンプトインジェクションができます。これを間接プロンプトインジェクションと呼び、AIシステムの利用者にも警戒が必要な攻撃だと説明されています。

IPAが紹介する、AIを狙った攻撃の事例

「10大脅威2026」の解説書のコラムと、豆知識から、AIそのものを狙った事例を整理します。いずれもIPAの記載を要約したもので、詳細は各資料で確認してください。

事例・手口	何が起きるか	IPAの記載のポイント
EchoLeak(2025年6月に報道)	Microsoft 365 Copilotの脆弱性。メール等に含まれる見えないプロンプトをAIに読み込ませることで、利用者の操作なしに、秘密情報を外部へ送信させるもの	RAGの仕組みを悪用した攻撃。不正なプロンプトが外部から注入されると、Copilotにアクセスを許可した社内の秘密データ等が流出する可能性があったとされる。報道では修正済み
HashJack(AIブラウザへの攻撃)	URLの末尾に悪意のある命令を隠す。ブラウザに組み込まれたAIがURL全体を読み取る性質を利用し、フィッシングへの誘導などを行う	Cato Networksが発見した手法として紹介されている
MCPサーバーでのデータの混用	AIモデルの利用で広く使われるプロトコル(MCP)を使ったサービスで、営業秘密等のデータと、Web検索結果などの信頼できない情報が混ざると、外部入力による不正操作のリスクが高まるおそれがある	Pynt社の調査で指摘されているとして紹介されている
AIコードエディタへの攻撃	プロジェクト内のファイル(READMEなど)に悪意のある指示を埋め込み、開発者の権限で任意のコードを実行させる間接プロンプトインジェクションの脆弱性が、AIコードエディタのCursorで発見された	開発現場でもAIツールが標的になっている例として紹介されている
存在しないパッケージ名の悪用	AIがコード生成時に存在しないパッケージ名を提案してしまうハルシネーションを悪用し、その名前でマルウェアを登録して、開発者にインストールさせる	Koi Securityが実例を報告したとして紹介されている

利用する側にできる備え｜IPAの豆知識から

IPAの豆知識は、AIブラウザ(チャットAIを内蔵したWebブラウザ)について、閲覧中のページや過去の閲覧履歴などを生成AIと共有することになるため、Webページ内に悪意のある不正プロンプトが含まれると、利用者の指示と誤認して、情報漏洩や不正送金などを実行してしまう可能性があると説明しています。不正プロンプト対策はまだ不完全なため、常用のAIブラウザでは社内ポータルなど重要な情報にアクセスしないよう、社内用と社外用を使い分けることを勧めています。

RAGを使うときは、「混ぜるな危険」として、メールのような外部由来のデータがRAG検索されると、不正プロンプトを含む攻撃メールも取り込まれ、チャットAIの不正動作を引き起こす可能性があり、社内文書と不正メールの両方が同時にプロンプトに取り込まれた場合は、社内情報が社外に流出する可能性もあると説明しています。対策として、RAGによる検索範囲を適切に制限するといった、システム運用上の選択肢が挙げられています。

OWASP「Top 10 for LLM Applications 2025」で見る、AIシステムの10の弱点

OWASP(Open Worldwide Application Security Project)は、生成AIとLLMを使ったアプリケーションの上位10のリスクを、「Top 10 for LLM and GenAI」として2025年版を公開しています(2026年10月21日確認)。主に開発・提供する側向けの整理ですが、自社でAIを組み込む場合や、AIが外部とつながる機能を使う場合に、どこが弱点になるかを見る手がかりになります。次の表の項目名は、OWASPの英語表記を日本語に直したもので、右の列は本記事の整理です。OWASPの定義文そのものではありません。

項目(OWASPの表記)	日本語での呼び方	利用する会社が確認したい場面(本記事の整理)
LLM01 Prompt Injection	プロンプトインジェクション	メール・文書・Webページなど、外部のデータをAIに読ませる機能を使うとき
LLM02 Sensitive Information Disclosure	機密情報の開示	入力や参照させたデータの中の機密が、AIの出力から他者に出ないか
LLM03 Supply Chain	サプライチェーン	外部のモデル・ライブラリ・プラグインを組み込むとき、出どころを確認しているか
LLM04 Data and Model Poisoning	データとモデルの汚染	自社で追加の学習やRAGのデータ整備をするとき。IPAは、一般の利用者が通常気にする必要はないとしている
LLM05 Improper Output Handling	出力の不適切な扱い	AIの出力を、確認せずに他のシステムや業務の処理へ渡していないか
LLM06 Excessive Agency	過大な権限	AIに与えるメール送信・ファイル操作などの権限が、必要以上に広くないか
LLM07 System Prompt Leakage	システムプロンプトの漏えい	自社用に作ったAIの指示文に、秘密にしたい情報を書き込んでいないか
LLM08 Vector and Embedding Weaknesses	ベクトルと埋め込みの弱点	RAGの検索対象データについて、閲覧権限の管理が保たれているか
LLM09 Misinformation	誤情報	AIの出力を確認する手順があるか(詳しくはAIの幻覚(ハルシネーション)とは？)
LLM10 Unbounded Consumption	際限のない消費	AIの利用量やコストに上限を設けているか

表の中で、IPAは、データポイズニング(学習データへの不適切なデータの混入)について、生成AIの機械学習はOpenAIやGoogleのような大手企業がもっぱら手がけるものなので、一般のAIシステム利用者が気にする必要は通常はないと説明しています。AIのセキュリティに不安を感じたときに、すべてを同じ重さで心配せず、自社が使う場面に当たる項目から確認すれば足ります。

AIを使った攻撃｜フィッシング・なりすまし・攻撃の自動化と、守り方

AIを使った攻撃とは、攻撃者が生成AIで自然なフィッシング文面や偽の音声・画像、攻撃用プログラムを作ることで、IPAは、大部分は従来の攻撃がAIで半自動化・高速化されたもので、従来の対策が有効だと整理しています。

攻撃者側のAI利用は、企業がAIを使うかどうかに関わらず、受ける側の脅威になります。IPAの資料から、確認できる手口を整理します。

手口	AIで何が変わるか	IPAの記載のポイント
フィッシング・翻訳	Webページの翻訳やフィッシングの文面を、標的の母国語で違和感なく表現できる。多言語での攻撃が格段に容易になる	「10大脅威2026」解説書。攻撃の頻度・数量が増えたり、平均的な攻撃の技術水準が高まったりしているとされる
偽の音声・画像・動画(なりすまし)	本物と見分けのつかない精巧なフェイクを、誰もが簡単に作れる状況がある	豆知識。機密情報の送信や多額の送金などを促す依頼は、本物かどうかを二重・三重にチェックする
脆弱性の探索	一般的でよくあるタイプの脆弱性を、AIが粘り強く探し出せる。一方、高度で想定外の脆弱性を見つけ出せる水準には到達していない	豆知識。AIが扱える脆弱性が従来のものと変わらないため、従来のセキュリティ対策が有効
攻撃の自動化	Anthropic社の調査では、中国の国家支援型の攻撃者がAIの「Claude Code」を悪用し、偵察から認証情報の窃取、データ分析までの一連の攻撃プロセスの80-90%をAIが自律的に実行していた。実行中にAIで挙動やコードを変えるマルウェアも出現している	「10大脅威2026」解説書のコラム。Google Threat Intelligence Groupが報告したPROMPTFLUXやPROMPTSTEALなどが紹介されている
不正アクセスの補助	2025年2月、不正に入手したIDとパスワードを機械的に入力して携帯電話の回線契約まで行うプログラムを使ったとして、中高生3人が逮捕された。生成AIを補助的に使ってプログラムを自作したとされる	「10大脅威2026」解説書の事例(報道にもとづく)

今後の見通しについて、IPAのコラムは、英国の国家サイバーセキュリティセンター(NCSC)が、2027年にかけてAIがサイバー攻撃の脅威を質・量ともに増大させると予測していることを紹介しています。特にゼロデイ脆弱性の発見や攻撃コードの開発が加速し、修正プログラムの公開から攻撃までの時間が短くなるおそれがある、という内容です。一方で、防御側でも、AIを活用するかどうかで差が広がり、対応が遅れたシステムのリスクが高まると見られている、とも紹介されています。「サイバーセキュリティにおけるAIの活用」には、防御側がAIを使う面もあり、攻撃側だけの話ではありません。

守り方の軸について、IPAのコラムは、間接プロンプトインジェクション以外の事例の大部分は、従来と変わらないサイバー攻撃がAIによって半自動化・高速化されているものにとどまるため、従来のサイバーセキュリティ対策が有効だと述べています。「10大脅威2026」の対策としては、多要素認証(MFA)の徹底、決裁や承認のプロセスに複数名によるチェックを規程化して運用を徹底すること、既存のセキュリティ対策全般の点検や強化の検討が挙げられています。基本の対策ソフトの考え方はサイバー攻撃対策ソフトとは？セキュリティソフトとの違いも解説で確認できます。

不審なメールや、送金・情報提供を求める依頼を見分ける知識は、一度周知しただけでは、全員に身についているかが見えません。研修のあとに、全員が理解できているかをテストで確かめたい場合の一例が、株式会社イー・コミュニケーションズが提供するSAKU-SAKU Testingです。商品ページでは、CBTの技術を活かしたeラーニングプラットフォームであること、選択式・穴埋め・並び替え・記述式の問題を配信できること、既存問題とオリジナル問題を組み合わせたテストを作成できること、受講状況や結果がリアルタイムで集計されることが紹介されています。事務局運営やカスタマーデスクを利用する場合は、オプション扱いです。生成AIやセキュリティに特化したコンテンツがあるかは、資料で確認してください。料金はプランによって異なるため、資料や公式サイトで確認してください。

生成AIのセキュリティ対策｜リスク別の対応表と、サービスを選ぶときの確認項目

生成AIのセキュリティ対策は、入力の基準、サービスと契約の選定、利用状況の把握、外部データの扱い、基本の攻撃対策、教育の6つで考えます。AI事業者ガイドラインは、脆弱性を完全には排除できないと認識するよう求めています。

リスク別の対応表｜IPAの対策を、リスクごとに並べ替え

IPAの「10大脅威2026」の解説書と豆知識が示す対策を、本記事の3方向のリスクごとに並べ替えました。IPAの記載は、AI事業者ガイドラインでいうAI利用者の立場での対策を想定したものです。

リスク	対策(IPAの記載の要約)	主な担い手
入力による情報漏洩	社内の秘密情報等を安易に入力しない。外部サービス利用時には、入力データを学習の対象から除外するオプトアウト設定を徹底する。AIサービス契約時に約款を確認する	経営層(規程・契約)、従業員(入力)
シャドーAI	未許可・未認可のAIサービス利用(シャドーIT)を禁止する。個人アカウントでの業務利用を制限し、規程違反時の対応を明確にする。IT資産管理と構成管理を行い、通信ログやCASB等で、AIサービスの利用状況や管理されていない利用を把握する	経営層、システム管理者
AIを狙う攻撃(間接プロンプトインジェクション)	AIが参照するデータが、外部由来の危険なデータで汚染されないよう配慮する。AIブラウザは社内用と社外用に分ける。RAGの検索範囲を適切に制限する	システム管理者、利用者
AIを使った攻撃	多要素認証(MFA)を徹底する。決裁・承認プロセスに複数名によるチェックを規程化する。重要な依頼は、二重・三重に確認する。既存の対策全般を点検・強化する	経営層、システム管理者、全員
被害を受けたあと	適切な報告・連絡・相談を行い、整備した対応体制に基づいて対応する。トラブルに備えて、専門家や相談窓口を確保しておく	全員、経営層
知識不足による事故	AI利用における講習等のプログラムを用意する。AIへの過剰な依存に留意する	従業員、経営層

この表で、従業員に関わる対策の多くが「知っているかどうか」に左右される点に注目してください。規程や設定は経営層と管理者が整えられますが、入力しない、不審な依頼を二重に確認するという判断は、最終的に使う一人ひとりが行います。IPAの豆知識が、社内勉強会でも使える資料として公開されていることも、知識を全員に届ける重要性を示しています。

AI事業者ガイドライン第1.2版が示すセキュリティの考え方

総務省・経済産業省の「AI事業者ガイドライン(第1.2版)」は、「セキュリティ確保」の項目で、AIシステム・サービスの機密性・完全性・可用性を維持し、その時点の技術水準に照らして合理的な対策を講じることを求めています。あわせて、AIシステム・サービスの脆弱性を完全に排除することはできないことを認識すること、外部からの攻撃は日々新たな手法が生まれているため、最新動向に留意することも示しています。同じ注記の中で、AI開発者・AI提供者向けに、LLMとLLMを構成要素に含むAIシステムへの脅威に対する技術的対策例を整理した「AIのセキュリティ確保のための技術的対策に係るガイドライン」が、2026年3月に策定されたことも紹介されています(総務省のサイバーセキュリティタスクフォースのページ)。利用する側の会社は、まず、使うサービスの提供者がこうした対策を講じているかを確認する立場になります。ガイドラインの位置づけと改定内容はAI事業者ガイドライン第1.2版｜位置づけと改定内容にまとめています。

使うサービスを選ぶときに確認する6項目(本記事の整理)

サービスを選ぶときの確認項目を、IPAの対策(約款の確認、オプトアウト設定、利用状況の把握)と、各サービスの公式ページの記載の構成から整理しました。個人向けの無料プランと、法人向けの契約では、同じサービス名でも扱いが異なることがあります。契約するプランの規約で確認してください。

確認項目	何を見るか	主な確認先
1. 入力データの学習利用	入力した内容が、既定でモデルの学習に使われるか。使われない設定にできるか	規約、管理画面、公式のデータ保護ページ
2. 保持と削除	入力や会話が保存される期間、削除後に消えるまでの期間。例外の条件	公式のデータ保護ページ、契約
3. アクセス権の扱い	AIが参照できるのは、利用者に閲覧権限のあるデータだけか。権限の設計が崩れていないか	公式ドキュメント、自社の権限設定
4. 管理者機能	認証連携(SSO)、利用状況の確認、アクセスや機能の制御ができるか	管理画面、契約、資料
5. 外部連携・拡張	プラグインやエージェントなど、外部につなぐ機能を、管理者が選んで許可できるか	管理画面、公式ドキュメント
6. 認証・第三者監査	SOC 2などの監査報告や認証の有無と、その対象範囲	公式ページ、提供元への確認

法人向けサービスの公式な説明の例(2026年10月21日確認)

上の項目に当たる、各社の公式ページの記載を3つ挙げます。比較や優劣を示すものではなく、確認する項目の具体例です。プランや契約、設定によって異なる場合があるため、実際の導入では最新の公式ページと契約内容で確認してください。

サービス(公式ページの名称)	学習への利用	アクセス権・管理者機能など
ChatGPT Business・Enterprise・Edu・API(OpenAIの「Enterprise privacy」)	既定では、ビジネスのデータをモデルの学習に使用しない。フィードバック機能などで明示的にオプトインした場合に限り、共有されたデータが学習に使われることがある	削除された会話は、法律上の保持が必要な場合などを除き30日以内に削除。保存時はAES-256、転送時はTLS 1.2以上で暗号化。SOC 2 Type 2の監査を完了。SAML SSOに対応し、アクセスや機能を制御できる(公式ページの更新日は2026年1月8日と記載)
Microsoft 365 Copilot(Microsoft Learnの「データ、プライバシー、セキュリティ」。現在の名称はMicrosoft Copilotと記載)	Microsoft Graph経由でアクセスされるプロンプト、応答、データは、基盤となるLLMのトレーニングには使用されない	利用者が少なくとも表示アクセス許可を持っている組織データのみを表示。管理者が、組織内で許可するエージェントを選べる。脱獄やプロンプトインジェクションを検出・低減する保護機能がある(すべてのシナリオで使えるとは限らないと記載)
Google Workspaceの生成AI機能(Geminiなど。Googleの「プライバシー ハブ」)	お客様の事前の許可または指示なしに、モデルのトレーニングにお客様のデータを使用しない	組織のコンテンツは、人間によってレビューされることがない。既存のGoogle Workspaceの権限に従い、閲覧権限のないファイルをAIも表示・使用できない

どのサービスも、入力する側の判断を不要にするものではありません。学習に使われない契約でも、個人データを入力する場合の利用目的の確認(個人情報保護委員会の注意喚起)や、会社が決める入力の基準は引き続き必要です。サービスの設定と契約でそろえられる部分と、人の判断に頼る部分を分けて考えると、準備の抜けが見えやすくなります。

サービスの設定や契約は、管理者が整えられます。一方、決めた基準や、被害を受けたときの報告の手順を、全員が同じ形で理解し、必要なときに思い出せるようにするのは、教育の役割です。自社の対応手順や基準を、社内向けの教材にして、いつでも何度でも学べる形にしたい場合の一例が、株式会社FCEが提供するSmart Boardingです。商品ページでは、社内独自の教育内容を学習プログラムにして、いつでも何度でも学習と復習ができること、LMS機能で各受講者の進捗や理解度を確認できること、学習の成果を確認する小テストを作成して配信できることが紹介されています。電話・メールでの相談や教育プログラムの設計といった手厚いサポートは、「充実サポートプラン」のみの提供です。生成AIのセキュリティに特化した既製のコースがあるかは、資料で確認してください。料金はプランによって異なるため、資料や公式サイトで確認してください。

【自社オリジナルコンテンツ】と【FCEプログラム】を活用した自社独自の学習コースを作成

Smart Boarding 導入事例(株式会社ミツハシ)の見出し 出典：導入事例ページ

社内に基準を届けて確かめる教育サービス3つの違い｜生成AI専用の教材ではなく、運営面の支え

3つのサービスは、生成AIのセキュリティそのものを守るものではなく、基準の周知・理解度の確認・手順の教材化という運営面を支える教育サービスです。

ここまでに登場した3つのサービスを、役割の違いで並べます。優劣や順位ではなく、社内の状況に合うものを選ぶための整理です。自社の状況を選ぶと、合うサービスが強調されます。

どのサービスも、生成AIの利用状況の把握、サービスの設定、AIへの攻撃の検知を代わりに行うものではありません。利用状況の把握や設定は管理者、入力の判断や不審な依頼の確認は使う人が行います。そのうえで、使う人が増えたときの基準の周知、理解の確認、手順の教材化を、研修の仕組みに載せるかどうかを検討する位置づけです。複数のサービスの資料をまとめて請求して、研修の内容・管理の方法・サポートの範囲を比べてください。情報セキュリティ研修に使えるeラーニングの選び方は、情報セキュリティ研修向けeラーニングおすすめ3選｜選び方も解説で確認できます。

よくある質問(FAQ)

Q1. 生成AIのセキュリティで、企業が気をつけることは何ですか？

A. 3つの方向で考えます。入力した情報が社外に出る危険、AIそのものが攻撃される危険、AIを使った攻撃を受ける危険です。総務省の白書では、日本企業が最も懸念しているのは社内情報の漏洩でした。まず、入力してよい情報の基準と、使ってよいサービスを決めて、全員に伝えることが出発点になります。

Q2. AIによる情報漏洩の事例は？

A. 提供元が公表した事例として、2023年3月のChatGPTがあります。OpenAIは、オープンソースのライブラリのバグで、一部の利用者が他の利用者のチャット履歴のタイトルを見られる状態になり、ChatGPT Plus加入者の1.2%の支払い関連情報が見えた可能性があると公表しました。IPAは、2025年6月に報じられたMicrosoft 365 Copilotの脆弱性EchoLeakも紹介しています。

Q3. AIは安全ですか？

A. 使い方と設定、契約で変わります。IPAは、AIへの不正な指示(プロンプトインジェクション)の対策は不完全で、完璧な技術的対策は知られていないと説明しています。一方で、事例の大部分は従来の攻撃がAIで高速化されたもので、従来のセキュリティ対策が有効とも述べています。入力の基準、サービスの選定、基本的な対策を組み合わせてください。

Q4. サイバーセキュリティにおけるAIの活用とは何ですか？

A. 攻撃側と防御側の両方で使われています。攻撃側では、自然なフィッシング文面の作成や、攻撃作業の自動化などに使われています。防御側でも、AIを活用するかどうかで差が広がると、IPAのコラムで紹介された英国NCSCは見ています。どちらの場合も、AIの出力を人が確認する運用が前提です。

Q5. AIセキュリティの勉強方法は？

A. 公的な資料から始めるのが確実です。IPAの「AI利用者のためのセキュリティ豆知識」は社内勉強会にも使える資料で、IPAの「AIセキュリティ短信」で最新の動向を、AIセーフティ・インスティテュートの「AIシステムに対する既知の攻撃と影響」で攻撃手法を確認できます。AIを開発する立場なら、OWASPの「Top 10 for LLM Applications」も参考になります。社内では、研修とテストで基準を全員に届ける方法もあります。

Q6. 生成AIに社内の情報を入力すると、学習されますか？

A. サービスと契約によって異なります。IPAは、チャット型のAIの運営企業が、やりとりを学習データとして流用する場合があるため、規約と設定の確認で入力を学習の対象から除外するよう勧めています。法人向けでは、OpenAIの「ChatGPT Business・Enterprise・Edu・API」などが、既定ではデータを学習に使わないと公式に説明しています(2026年10月21日確認)。個人データを入力する場合は、個人情報保護委員会の注意喚起も確認してください。

まとめ｜生成AIのセキュリティで押さえたい6つのこと

生成AIのセキュリティは、3つの方向に分けて考えると、打ち手が見えやすくなります。どれも、使わないことで避けるのではなく、使う範囲と確認の手順を決め、使う人に伝えることで管理していく問題です。

1. 危険は、入力した情報が社外に出る、AIそのものが攻撃される、AIを使った攻撃を受ける、の3方向。日本企業が最も懸念するのは社内情報の漏洩
2. 情報漏洩の経路は、利用者の入力、個人アカウントの業務利用、サービス側の不具合、AI基盤の設定ミスの4つ。入力前に、社外に出てよいか、学習に使われないか、会社が認めたアカウントかを確認する
3. AIそのものを狙う攻撃は、プロンプトインジェクションが中心。外部のデータをAIに読ませる機能は、AIブラウザの使い分けやRAGの検索範囲の制限など、混ぜない工夫で備える
4. AIを使った攻撃の大部分は、従来の攻撃の高速化。多要素認証、複数名での承認、重要な依頼の二重確認など、基本の対策を点検する
5. サービス選びでは、学習利用、保持と削除、アクセス権、管理者機能、外部連携、第三者監査の6項目を契約するプランの規約で確認する
6. 基準の周知・理解度の確認・手順の教材化をそろえるため、eラーニングの資料を請求して比較する

生成AIの機能や公的資料の内容は、今後も更新されます。変わらないのは、どこまで任せ、どこで人が確認するかを決めるのは、使う組織の側だということです。まず、使ってよいサービスと入力してよい情報の範囲を決めるところから始めてください。

参考文献

• 総務省「令和8年版 情報通信白書 懸念されるリスク及びリスク対策のための取組状況」(2026年10月21日確認)https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd121140.html
• IPA「情報セキュリティ10大脅威 2026 [組織編] 解説書」(2026年10月21日確認)https://www.ipa.go.jp/security/10threats/omgdg50000008fi8-att/kaisetsu_2026_soshiki.pdf
• IPA「AI利用者のためのセキュリティ豆知識」(2026年3月。2026年10月21日確認)https://www.ipa.go.jp/digital/ai/security/rcu1hd0000009h9u-att/1-1.pdf
• IPA「AI利用者のためのセキュリティ豆知識」紹介ページ(2026年10月21日確認)https://www.ipa.go.jp/digital/ai/security/ai_security_tips.html
• IPA「AIセキュリティ短信」(2026年10月21日確認)https://www.ipa.go.jp/digital/ai/security/ai-security-bulletin.html
• AIセーフティ・インスティテュート「AIシステムに対する既知の攻撃と影響」(2026年10月21日確認)https://aisi.go.jp/output/output_security/known_attacks_and_impacts/
• 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」(令和5年6月2日。2026年10月21日確認)https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/
• 総務省・経済産業省「AI事業者ガイドライン(第1.2版)」本編(総務省掲載。2026年10月21日確認)https://www.soumu.go.jp/main_content/001064279.pdf
• 総務省 サイバーセキュリティタスクフォース(2026年10月21日確認)https://www.soumu.go.jp/main_sosiki/kenkyu/cybersecurity_taskforce/index.html
• OWASP「Top 10 for LLM and GenAI Apps」(2026年10月21日確認)https://genai.owasp.org/llm-top-10/
• OpenAI「March 20 ChatGPT outage: Here’s what happened」(2023年3月24日公表。2026年10月21日確認)https://openai.com/index/march-20-chatgpt-outage/
• OpenAI「Enterprise privacy」(2026年10月21日確認)https://openai.com/enterprise-privacy/
• Microsoft「Microsoft Copilot のデータ、プライバシー、セキュリティ」(2026年10月21日確認)https://learn.microsoft.com/ja-jp/copilot/microsoft-365/microsoft-365-copilot-privacy
• Google Workspace「Google Workspace の生成 AI に関するプライバシー ハブ」(2026年10月21日確認)https://knowledge.workspace.google.com/admin/gemini/generative-ai-in-google-workspace-privacy-hub?hl=ja
• OneCompliance「コンプライアンス研修 学習コース/コンテンツ一覧」(2026年10月21日確認)https://onecompliance.jp/courses