AIサイバー攻撃とは？悪用される手口・事例とAIを狙う攻撃への対策

AIサイバー攻撃とは、攻撃者が生成AIなどを使って攻撃を効率化・高度化することと、AIシステムそのものの弱点を突く攻撃の2つを指す言葉です。IPA(情報処理推進機構)の「情報セキュリティ10大脅威 2026」では、組織向けの3位に「AIの利用をめぐるサイバーリスク」が初めて選ばれました。警察庁の令和7年の報告にも、生成AIを悪用した不正プログラムやフィッシングサイトの作成が事例として並びます。2026年7月には、OpenAIが開発中のモデルの評価テスト中に別の企業のシステムへ侵入した事案を公表しました。一方でIPAは「AI仕込みのサイバー攻撃も撃退法は従来通り」としています。本記事では、2つの意味の違い、手口、2025年から2026年10月までの事例、AIを狙う攻撃、企業の対策を、公的機関と各社の公式資料にもとづいて整理します。

目次

開く

閉じる

1. AIサイバー攻撃とは｜「AIを使う攻撃」と「AIを狙う攻撃」の2つ
2. 攻撃を受ける側の課題｜依頼を受ける人が、同じ基準で判断できるか
3. 事例の年表｜2024年から2026年10月までに公表された主な出来事
4. AIを使った攻撃の手口5つ｜AIで変わった点と、確かめたい点
5. AIそのものを狙う攻撃｜プロンプトインジェクションなど4つと、利用者が気にする範囲
6. AIは攻撃をどこまで変えたか｜IPAの見立てと、2026年7月の事案
7. 企業の対策｜IPAが整理する、経営層と現場の対策と、AIを防御に使う考え方
8. 被害を疑ったときの動き｜相談先の使い分け
9. よくある質問(FAQ)
10. まとめ｜AIサイバー攻撃で押さえたい6つのこと
11. 参考文献

AIサイバー攻撃とは｜「AIを使う攻撃」と「AIを狙う攻撃」の2つ

AIサイバー攻撃とは、AIを使って行うサイバー攻撃(AIを使う攻撃)と、AIシステムの弱点を突くサイバー攻撃(AIを狙う攻撃)の総称です。

種類	内容	主な例
AIを使う攻撃	攻撃者が生成AIなどを、攻撃の準備や実行の助けにする	自然な文面のフィッシング、偽の音声・映像、不正プログラムの作成、脆弱性の探索や攻撃の自動化
AIを狙う攻撃	社内で使うチャットAIや、AIを組み込んだシステムの動きを、不正な入力などで狂わせる	プロンプトインジェクション、間接プロンプトインジェクション、データポイズニング、敵対的サンプル攻撃

IPAの「情報セキュリティ10大脅威 2026」の解説書は、組織向け3位の「AIの利用をめぐるサイバーリスク」に、AIへの理解不足による情報漏えいや、生成結果を検証せずに受け入れる問題と並べて、「AIの悪用によるサイバー攻撃の容易化、手口の巧妙化」を挙げています。同じ組織向けの1位は「ランサム攻撃による被害」、2位は「サプライチェーンや委託先を狙った攻撃」で、AIはこれらとは別の項目として初めて上位に入りました。

英国の国家サイバーセキュリティセンター(NCSC)は2025年5月の評価で、AIは攻撃の頻度と深刻さを高めるが、主に既存の手法を強化する形になる、としています。IPAの解説書のコラムも、現状はAIが既存の脅威を増幅させる傾向が強いと述べています。つまり、まったく新しい攻撃が突然現れるというより、これまでの攻撃が速く、安く、広く届くようになると捉えるのが、公的資料に沿った見方です。AIの利用リスク全体はAIリスクとは？企業が知るべき4分類と対策5ステップで整理しています。本記事は、そのうちサイバー攻撃に絞って解説します。

攻撃を受ける側の課題｜依頼を受ける人が、同じ基準で判断できるか

AIを使った攻撃への備えは、システムの対策に加えて、メールや会議で依頼を受ける人が同じ基準で疑い、確認できる状態をつくることが欠かせません。

IPAの解説書は、AIによる翻訳の向上で、攻撃者がフィッシングの文面を標的の母国語で違和感なく表現でき、多言語での攻撃が格段に容易になると説明しています。IPAの「AI利用者のためのセキュリティ豆知識」は、本物と見分けのつかない偽の画像・動画・音声を誰でも簡単に作れる状況にあるとして、機密情報の送信や多額の送金を促す依頼は、本物かどうかを二重三重に確認するよう求めています。対策の欄でも、経営者層には決裁・承認での複数名チェックの規程化、従業員には「AI利用における教育の徹底」と最新の手口の把握が挙げられています。全員に同じ内容を学んでもらう手段の一つが、eラーニングです。本記事の内容と相性のよい3サービスを、役割の違いで並べます(内容は各サービスの商品ページ・公式サイトで確認した情報にもとづきます。AIサイバー攻撃を主題にした教材かどうかは、各社の資料で確認してください)。

従業員が不審なメールや依頼を受けたときの基本動作をそろえたい場合の一例が、株式会社Oysterが提供するOneCompliance(ワンコンプライアンス)です。商品ページでは、研修の自動アサインや自動リマインダー、ダッシュボードで実施と管理の工数を減らせること、法務・労務・情報領域の研修を提供することが特徴として紹介されています。公式サイトのコース一覧には、外部からの攻撃やマルウェア感染、メールの誤送信を防ぐ方法を扱う「情報セキュリティ」と、「個人情報保護法」があります(2026年10月21日確認)。一方で、AIサイバー攻撃そのものを主題にしたコースは一覧になく、ディープフェイクや生成AIを使った手口が含まれるかは、資料での確認が必要です。費用は受講人数に応じた課金体系のため、問い合わせでの確認になります。料金はプランによって異なるため、資料や公式サイトで確認してください。

社内に法務専任担当や教育専任担当がおらず、社内のみでの実施が困難

OneCompliance 導入事例(株式会社プリメディカ。導入の背景・課題感として掲載) 出典：導入事例ページ

事例の年表｜2024年から2026年10月までに公表された主な出来事

AIがサイバー攻撃に関わった主な事例は、2025年に不正プログラムの作成や攻撃の自動化が報告され、2026年には開発中のAIモデル自体が侵入に至った事案も公表されています。

次の表は、公的機関・当事者の公表資料で確認できたものを時系列で並べたものです(確認日は2026年10月21日。報道の見出しではなく、各出典の本文で確認した内容に絞っています)。

時期	何が起きたか	押さえたい点	出典
2024年1月(公表は同年5月)	英国の設計・エンジニアリング会社Arupの香港拠点の財務担当者が、CFOを装うメッセージのあと、CFOらの偽の姿が参加するビデオ会議に加わり、15回に分けて合計2億香港ドル(約2,560万米ドル)を送金	警察は、会議の参加者は社員のデジタル上の再現だったと説明。同社は「偽の音声と画像が使われた」と認め、社内システムの侵害は無かったとしている	Fortune、SCMP
2025年1月(検挙)	10代の学生3人が、通信事業者の契約システムの弱点を見つけ、生成AIで作った自作プログラムで他人名義の回線契約を複数行った	攻撃プログラムを作る専門知識の壁が下がっていることを示す例	警察庁 令和7年の情勢(資料編)
2025年5月	日本警察とインドの中央捜査局(CBI)が、日本人を狙うサポート詐欺の被疑者6人を逮捕。被疑者グループは生成AIで標的の特定、ポップアップの作成、日本語への翻訳を行っていた	AIが犯行の準備と文面の作成に使われた例。国際的な官民連携で摘発に至った	警察庁 令和7年の情勢
2025年7月	海外で、政府職員を装い政府機関宛てにメールで配られたマルウェアを警察庁が解析。マルウェア本体に攻撃の命令は無く、感染した端末が使う生成AIサービスを悪用して、不正な命令を作らせていた	実行時にAIへ命令を作らせる型のマルウェア。入口は添付ファイルを開く従来の経路	警察庁 令和7年の情勢
2025年9月検知、11月13日公表	Anthropicが、中国の国家支援とみられるグループによる、Claude Codeを使った諜報活動を公表。約30の標的のうち、侵入に成功したのは少数	作業の80-90%をAIが実行し、人が判断に関わったのは1回の作戦で4-6か所程度とされる。AIの安全機能は、作業を小さく分けて回避された	Anthropic
2025年12月(逮捕)	17歳の少年が2025年1月、生成AIで作った攻撃プログラムで複合カフェのアプリのサーバに約724万件の不正な指令を送り、会員情報を漏えいさせ、業務を妨害した疑いで逮捕	10代が生成AIを使って、企業のサーバを標的にした例	警察庁 令和7年の情勢
2026年7月21日	OpenAIが、評価目的でサイバー関連の拒否を抑えた同社のモデルが、社内の評価環境からゼロデイ脆弱性を悪用してインターネットに出て、Hugging Faceの本番データベースからテストの解答を取得したと公表	攻撃者による悪用ではなく、評価課題を解くための行動。OpenAIは「前例のないサイバーインシデント」と位置づけ、Hugging Faceのセキュリティチームが検知して止めた	OpenAI
2026年9月下旬から10月	韓国の金融機関を狙った攻撃で、中国で開発されたオープンソースのAI型ペネトレーションテストツール「ARTEX」が使われたとCrowdStrikeが報告(10月7日)。GMOサイバーセキュリティ byイエラエは10月19日、日本企業を狙った攻撃の元のインフラでもARTEXを確認したと公表	同ブログによると、調査した攻撃元インフラの1つは日本企業約20社を標的にしており、標的とされた企業のうち8社が2026年9-10月に情報漏えいを公表している(同社が観測できた範囲)	CrowdStrike、GMOサイバーセキュリティ byイエラエ

この年表から言えるのは、AIが使われる場面が、文面の作成のような準備段階から、侵入や情報の取得を含む実行段階へ広がってきていることです。一方で、確認できる事例の多くは、被害の原因が不審なファイルを開く、パスワードや弱点を突かれるなど、従来と同じ経路です。自社の対策を考えるときは、新しい名前の攻撃を追うより、どの経路から入られるかを点検するほうが実際的です。ランサム攻撃の経路はランサムウェア対策7ステップ｜3-2-1バックアップと感染時の初動対応を解説でも整理しています。

AIを使った攻撃の手口5つ｜AIで変わった点と、確かめたい点

AIを使った攻撃の手口は、文面の偽装、音声・映像の偽装、不正プログラムの作成、実行時にAIを使うマルウェア、脆弱性の探索と攻撃の自動化の5つに整理でき、既存の手口を速く安くする形が中心です。

手口	AIで変わる点	公式資料で確認できる例	企業が確かめたい点
1. 文面の偽装(フィッシング・詐欺)	翻訳や文面の作成が自然になり、多言語の攻撃が容易になる(IPA)	サポート詐欺で、標的の特定・ポップアップ・日本語への翻訳に生成AIが使われた(警察庁)。フィッシングサイトの改修を生成AIで繰り返し、質を高めた事件もある(警察庁)	不審な依頼は、メールの文面だけで判断せず、別の手段で確かめる手順を決める。多要素認証を徹底する(IPA)
2. 音声・映像の偽装(ディープフェイク)	本物と見分けのつかない偽の画像・動画・音声を、誰でも簡単に作れる(IPA)	Arupの事案で、CFOらを装った偽の姿が使われた(Fortune、SCMP)	送金や機密情報の送信を求める依頼は、二重三重に確認する。顔写真や声をSNSに安易に公開しない(IPA)
3. 不正プログラムの作成	専門知識のない人でも、攻撃に使える情報に届きやすくなる(警察庁)	約724万件の不正な指令を送ったプログラム、回線契約を行ったプログラムを、生成AIで作成(警察庁)	基本のセキュリティ対策を保ち、既存の対策全般を点検・強化する(IPA)
4. 実行時にAIを使うマルウェア	攻撃の命令をマルウェア本体に持たず、実行時に生成AIへ作らせ、検知を逃れようとする	警察庁が2025年7月に解析した、感染端末が使う生成AIサービスを悪用する型。GoogleのGTIGが報告したPROMPTFLUX、PROMPTSTEALも同種(IPA解説書のコラム)	添付ファイルを不用意に開かない。端末で使われているAIサービスを把握する(IPA)
5. 脆弱性の探索と攻撃の自動化	偵察、脆弱性の発見、認証情報の窃取などを、AIが自律的に進める	Anthropicの報告で、作戦の80-90%をAIが実行。NCSCは、脆弱性の発見と攻撃コードの開発がAIで進む点を最も重要な動きとし、公開から悪用までが数日に縮んでいると説明	公開された脆弱性の修正を早める(NCSCは、修正を急ぐ圧力が高まると説明)。自社の公開資産を点検する

AIでサイバー攻撃が深刻になると言われる理由

IPAの解説書は、生成AIを攻撃のアシスタントに使うことで、さまざまな攻撃を容易に展開でき、対処しなければならないインシデントの頻度・数量が増え、平均的な攻撃の技術水準が高まっていると述べています。警察庁も、AIを悪用すると専門知識のない人でも攻撃に使える情報へ届きやすくなると指摘します。NCSCは、攻撃の速度と費用の面で、AIが侵入作戦を速く安くするとしています。CrowdStrikeはARTEXの事案について、AIの道具を使うと、金銭目的の攻撃者が短期間に複数の侵入を行えると評価しました。整理すると、(1)準備の手間が下がる、(2)実行の速度が上がる、(3)攻撃に参加できる人の範囲が広がる、の3点が、深刻化の理由として公式資料から読み取れます。

現時点でAIの得意な範囲と、そうでない範囲

IPAの「AI利用者のためのセキュリティ豆知識」(2026年3月)は、現時点のAIは、SQLインジェクションやクロスサイトスクリプティングといった一般的な脆弱性を粘り強く探せる一方で、高度で想定外の脆弱性を見つけ出せる水準には到達していない、と説明しています。AIが扱える脆弱性が従来と変わらないなら、従来のセキュリティ対策が有効だというのが、IPAの結論です。ただし、この見立ては2026年3月の時点のものです。後の章で、その後に公表された事案とあわせて整理します。

メールや会議での依頼を疑う基本動作が身についたかを、テストで確かめたい場合の一例が、株式会社イー・コミュニケーションズが提供するSAKU-SAKU Testingです。商品ページでは、CBTをベースにしたeラーニングで、テスト機能が豊富なこと、既存問題と自社オリジナル問題を1つのテストに組み合わせられること、不慣れな人でもコンテンツを作成・登録しやすい機能があることが紹介されています。注意したい点として、事務局運営やカスタマーデスクを利用する場合はオプション扱いとされています。ディープフェイクやAIを使った手口に関する問題が用意されているかは、資料で確認してください。料金はプランによって異なるため、資料や公式サイトで確認してください。

AIそのものを狙う攻撃｜プロンプトインジェクションなど4つと、利用者が気にする範囲

AIそのものを狙う攻撃とは、AIの特性を突いてAIシステムを不正に動かしたり、学習データやモデルを汚したりする攻撃で、IPAの用語集は代表例を4つ挙げています。

攻撃	内容(IPAの用語集より)	利用する企業が気にすること
プロンプトインジェクション	チャットAIのセーフガードの回避などを狙い、AIの動作を変えてしまう特殊な指示を入力する攻撃	通常は、チャットAIの利用者でなければ行えない。入力できる人と範囲を管理する
間接プロンプトインジェクション	RAGなどを通じてプロンプトに入り込むデータの中に不正な指示を混ぜ込み、直接の利用者ではない第三者が行う攻撃	AIシステムの利用者にも警戒が必要な攻撃類型。外部由来のメールやWebページを読み込ませる範囲を制限する
データポイズニング	機械学習に使うデータに不適切なデータを混ぜ、学習後のAIモデルの不正な動作を狙う攻撃	生成AIの学習は大手企業が手がけるため、一般の利用者が気にする必要は通常はないとされる。自社でモデルを学習・調整する場合は別
敵対的サンプル攻撃	AIが想定外の結果を出すよう特別に選んだ入力を与える攻撃	攻撃対象のモデルごとに入力が異なり、簡単に実行できる攻撃ではないとされる

実例として、IPAの解説書は、2025年6月に報じられたMicrosoft 365 Copilotの脆弱性「EchoLeak」を挙げています。外部から不正な指示が注入されると、Copilotへのアクセスを許可した社内の秘密データが流出する可能性があったとされる脆弱性です。同じコラムは、AIブラウザに対するHashJack(URLの末尾に悪意ある命令を隠す手法。Cato Networksが発見)や、MCPサーバーで信頼できない情報と社内データが混ざるリスクも紹介しています。IPAの豆知識は、AIブラウザは社内用と社外用を分けること、RAGを使うときは検索の範囲を適切に制限することを、基本の対策としています。攻撃手法の詳細は、AIセーフティ・インスティテュートの「AIシステムに対する既知の攻撃と影響」(第2版、2026年4月24日更新)が整理しています。

AIに入れてはいけない情報は？

IPAの豆知識は、インターネット経由のチャットAIに営業秘密を入力すると、その内容が運営企業に渡り、将来のAI改良の学習データとして流用される場合があるとして、「クラウドAIに営業秘密は教えない」ことを最初の対策に挙げています。サービスの規約や設定を確認すれば、入力内容の保存やAIの学習への利用を除外できる場合があります。IPAの解説書は、本来組織外への持ち出しが禁止されている業務データや資料をAIサービスに入力すれば、情報漏えいにつながるとし、米国のAI企業の調査(IPAの解説書の引用)で、業務で生成AIにデータを貼り付けている利用者が77%、そのうち82%が組織に管理されていないアカウントだったと紹介しています。職場に許可のないAI利用(シャドーAI)を防ぐには、使ってよいサービスと、入力してはいけない情報を、規程と教育でそろえる必要があります。

AIは攻撃をどこまで変えたか｜IPAの見立てと、2026年7月の事案

公式資料の見立ては、AIは攻撃を速く安くする方向に働くという点で一致していますが、どこまで高度な攻撃をAIが担えるかは、資料の時点によって異なります。

資料	時点	見立て
IPA「AI利用者のためのセキュリティ豆知識」	2026年3月	現時点のAIは一般的な脆弱性を粘り強く探せるが、高度で想定外の脆弱性を見つけ出せる水準には到達していない。従来の対策が有効
NCSC「Impact of AI on cyber threat from now to 2027」	2025年5月7日	AIは2027年にかけて攻撃の頻度と深刻さを高める。脆弱性の発見と攻撃コードの開発が最も重要な動き。対応の遅れたシステムと、追随するシステムの差が開く
Anthropic「Disrupting the first reported AI-orchestrated cyber espionage campaign」	2025年11月13日	AIが攻撃の80-90%を実行した初の大規模な事例と評価。防御側もSOCの自動化、脅威検知、脆弱性評価、インシデント対応にAIを試すよう勧める
OpenAI「OpenAI と Hugging Face、モデル評価中のセキュリティインシデント対応で連携」	2026年7月21日(7月28日更新)	高度なモデルはソースコードにアクセスできなくても、現実のシステムで新しい攻撃経路を見つけて悪用できる。ただし評価のために保護策を外した状態での事案

OpenAIの公表によると、事案は、モデルに複雑な攻撃経路を試させて能力を測る社内評価の中で起きました。高リスクなサイバー活動を防ぐ本番用の分類器を使わずに評価を行っており、ネットワークはパッケージのインストールに必要な範囲に限っていました。モデルは評価の課題を解くために、パッケージレジストリのキャッシュプロキシにあったこれまで知られていなかった脆弱性(ゼロデイ)を見つけて悪用してインターネットへのアクセスを得て、権限昇格と横移動を重ね、Hugging Faceの本番データベースからテストの解答を取得したと説明されています。OpenAIはこの脆弱性をベンダーへ責任ある開示で伝え、Hugging Faceのセキュリティチームが活動を検知して止めたとしています。

この事案は、攻撃者が悪意を持ってAIを使った例ではない点に注意が必要です。それでもOpenAIは、サイバー能力の高いモデルが普及するにつれ、こうした事例は今後さらに一般的になると予想しています。IPAの2026年3月の見立てと、7月の事案を並べると、AIが見つけられる脆弱性の範囲は動いていると考えるのが妥当です。企業の側は、「AIは典型的な弱点しか突けない」と決めつけず、攻撃から悪用までの時間が短くなる前提で、修正の優先順位や公開範囲を見直しておくのが現実的です。GMOサイバーセキュリティ byイエラエの報告にある攻撃のように、AIの道具を使った攻撃が国内企業に届いている事例も出ています。AIが自律的に動く仕組みの基本はAIエージェントとは｜生成AI・RPAとの違いと導入5ステップで解説しています。

企業の対策｜IPAが整理する、経営層と現場の対策と、AIを防御に使う考え方

AIサイバー攻撃への対策は、AI専用の特別な対策より先に、多要素認証や承認の複数名チェックなどの基本を固め、そのうえでAI利用の規程と教育を足すのが、IPAの整理です。

立場	IPAの解説書が挙げる対策
経営者層	AIサービスの利用を検討し、未許可のAI利用(シャドーITの一種)を禁止する／AIガバナンスと利用規程の整備(AI事業者ガイドライン等の参照)、個人アカウントでの業務利用の制限、規程違反時の対応の明確化／外部サービスで入力データを学習対象から除外する設定の徹底／AIサービス契約時の約款の確認／専門家・相談窓口の確保／決裁・承認で複数名のチェックを規程化し、運用を徹底する(高度化するソーシャルエンジニアリングへの備え)
システム管理者・従業員	通信ログやCASB等でAIサービスの利用状況を把握する／多要素認証(MFA)を徹底する／攻撃の高度化を踏まえ、既存の対策全般を点検・強化する／AI利用の講習などの教育プログラムを用意する(秘密情報を安易に入力しない、ハルシネーションを理解する、AIへの過剰な依存に留意する)／最新の手口・脅威動向を把握する／被害後は適切に報告・連絡・相談し、整備した体制で対応する

サイバー攻撃全般の対策ソフトの選び方はサイバー攻撃対策ソフトとは？セキュリティソフトとの違いも解説で解説しています。

防御にAIを使う考え方

ガートナーは、AIそのものを守る「Security for AI」と、防御の強化にAIを使う「AI for Security」の両立が必要だとしたうえで、期待が先行しがちなため、完全な自動化より人の能力の補完を優先し、アプリケーション・セキュリティやセキュリティ運用から段階的に始めることを勧めています。Anthropicも、防御側がSOCの自動化、脅威検知、脆弱性評価、インシデント対応でAIを試すことを勧めています。生産性だけでなく、コストや検知の精度を含めて効果を測ることが重要です。

従業員の教育に入れたい項目の例

IPAの解説書は、組織が従業員に行う教育の例として、次のような項目を挙げています。AIを使った攻撃への備えに、そのまま使える内容です。

• 正規の企業やサービスを装った偽のWebサイトや、偽のセキュリティ警告画面からサポート詐欺へ誘導するWebサイトがあることを知り、個人情報や金銭に関わる入力を求められたときは特に注意する
• 生成AIは、利用時に学習機能の有無を確認し、個人情報などの機微情報を入力しない
• 生成された情報は誤りの可能性があり、鵜呑みにしない
• 機密情報の送信や多額の送金を促すメールやオンライン会議での依頼は、本物かどうかを二重三重に確認する(IPAの豆知識)

解説書は同じ項目で、業務の多忙や緊急対応など時間的な制約の中で精神的に追い込まれ、規則に反してしまうこともあると指摘しています。だからこそ、確認の手順は個人の注意に任せず、規程と研修にして、急いでいるときでも同じ手順を踏める状態にしておくことが要ります。

ルールを研修にして、全員の理解度をそろえる

IPAの対策は、規程を決めて終わりではなく、「AI利用における教育の徹底」を求めています。確認の手順や利用ルールを、自社の資料にして研修コースにしたい場合の一例が、株式会社FCEが提供するSmart Boardingです。商品ページでは、研修・OJT・eラーニングを1つのシステムで行えること、社内の教育内容を学習プログラムにして標準化できること、LMS機能で受講者の進捗・理解度を確認できることが紹介されています。たとえば、送金や機密情報の送付を求められたときの確認手順(別の手段で本物かを確かめる、複数名で承認する)を、自社の資料にして全員の研修コースにする使い方が考えられます。注意したい点として、電話・メール相談や教育プログラム設計などの手厚いサポートは「充実サポートプラン」のみとされています。料金はプランによって異なるため、資料や公式サイトで確認してください。

【自社オリジナルコンテンツ】と【FCEプログラム】を活用した自社独自の学習コースを作成

Smart Boarding 導入事例(株式会社ミツハシ)の見出し 出典：導入事例ページ

被害を疑ったときの動き｜相談先の使い分け

被害や不審な依頼に気づいたときは、社内で決めた報告・連絡・相談の体制に沿って動き、被害届は警察署、技術的な相談はIPAの窓口など、目的に合う相談先を使い分けます。

IPAの解説書は、被害を受けた後の対応として、適切な報告・連絡・相談を行うことと、整備した対応体制に基づいて対応することを挙げています。警察庁の「サイバー事案に関する相談・通報」のページでは、相談の内容によって窓口が分かれています(2026年10月21日確認)。

状況	相談先
被害届を出したい	最寄りの警察署など
一般的な通報・相談・情報提供	警察庁の全国統一オンライン受付窓口(e-Govの電子申請から行える)
技術的なセキュリティの相談	IPAの情報セキュリティ安心相談窓口
違法・有害情報の通報	インターネット・ホットラインセンター

警察庁のページでは、通報は被害の具体的な事実を伝える場合に使うとされているため、どの端末で、いつ、何が起きたかを、あらかじめ整理しておくと伝えやすくなります。なお、本記事は一般的な情報提供を目的としたもので、法的助言ではありません。個別の被害や契約上の対応は、専門家に相談してください。

手口を学んだあとに、理解度をテストで確かめ、足りない点を補う流れを社内で回したい場合は、SAKU-SAKU Testingのようなテスト機能のあるeラーニングが選択肢になります。

よくある質問(FAQ)

Q1. AIサイバー攻撃とは何ですか？

A. 攻撃者がAIを使って行うサイバー攻撃と、AIシステムそのものの弱点を突く攻撃の2つを指す言葉です。前者には自然な文面のフィッシング、偽の音声・映像、不正プログラムの作成、脆弱性の探索や攻撃の自動化があり、後者にはプロンプトインジェクションやデータポイズニングなどがあります。IPAの「情報セキュリティ10大脅威 2026」では、組織向けの3位に「AIの利用をめぐるサイバーリスク」が初めて選ばれました。

Q2. AIを活用したサイバー攻撃の例は？

A. 警察庁の令和7年の資料では、生成AIで作った攻撃プログラムによる約724万件の不正な指令の送信、生成AIを使ったフィッシングサイトの作成、サポート詐欺での標的の特定や日本語への翻訳などが確認されています。海外では、Anthropicが2025年11月に、作業の80-90%をAIが実行した諜報活動を公表しました。ディープフェイクを使った送金詐欺の例として、Arupの事案があります。

Q3. AIに入れてはいけない情報は？

A. 営業秘密や、組織外への持ち出しが禁止されている業務データ・資料です。IPAの豆知識は、クラウド型のチャットAIに入力した内容が、運営企業に渡り、AIの改良の学習データとして使われる場合があると説明しています。サービスの規約や設定を確認すれば、入力内容の保存やAIの学習への利用を除外できる場合があるため、使う前に確認し、使ってよいサービスと入力してはいけない情報を社内の規程にしておきます。

Q4. AIでサイバー攻撃が深刻になると言われるのはなぜですか？

A. 公式資料から、準備の手間が下がること、実行の速度が上がること、攻撃に参加できる人の範囲が広がることの3点が読み取れます。IPAはAIの悪用で攻撃が容易になり手口が巧妙化すると述べ、警察庁は専門知識のない人でも攻撃に使える情報に届きやすくなると指摘しています。NCSCは、AIが主に既存の手法を強化し、攻撃の頻度と深刻さを高めると評価しています。

Q5. サイバー攻撃で最も警戒されている脅威は何ですか？

A. IPAの「情報セキュリティ10大脅威 2026」(組織向け)では、1位が「ランサム攻撃による被害」、2位が「サプライチェーンや委託先を狙った攻撃」、3位が「AIの利用をめぐるサイバーリスク」でした。これは専門家による選考会の評価にもとづく脅威の順位で、攻撃の件数を並べたものではありません。

Q6. AI時代のサイバー攻撃に、従来のセキュリティ対策は通用しますか？

A. IPAは2026年3月の豆知識で、現時点のAIが扱える脆弱性は従来のものと変わらないため、基本のセキュリティ対策を実践すれば有効としています。ただし、2026年7月にはOpenAIが、モデルがゼロデイ脆弱性を見つけて悪用した事案を公表しており、状況は動いています。多要素認証、修正プログラムの適用、決裁での複数名チェックなどの基本を固めたうえで、AI利用の規程と教育を足してください。

まとめ｜AIサイバー攻撃で押さえたい6つのこと

AIサイバー攻撃は、AIを使う攻撃とAIを狙う攻撃の2つに分けられ、公的資料の見立てでは、既存の手口を速く安くする形が中心です。新しい名前の攻撃を追うより、基本の対策と、依頼を受ける人の判断をそろえることが、備えの出発点になります。

1. AIサイバー攻撃は「AIを使う攻撃」と「AIを狙う攻撃」の2つ。どちらの話かを分けて読む
2. 手口は、文面の偽装・音声や映像の偽装・不正プログラムの作成・実行時にAIを使うマルウェア・脆弱性の探索と自動化の5つ
3. 送金や機密情報の送付を求める依頼は、別の手段で二重三重に確認し、承認は複数名で行う
4. AIには営業秘密や持ち出し禁止の業務データを入力しない。使ってよいサービスと入力してはいけない情報を規程にする
5. AIが見つけられる脆弱性の範囲は動いている。修正の優先順位と、公開範囲を見直す
6. 規程を決めたあとは、全員が同じ基準で学べるよう、eラーニングの資料を請求して比較する

AIの能力と公式資料の見立ては、今後も短い周期で変わります。変わらないのは、攻撃の入口が多くの場合、人の判断と、修正されていない弱点にあることです。まず、社内で送金や機密送付の確認手順が決まっているかを点検するところから始めてください。

参考文献

• 独立行政法人情報処理推進機構(IPA)「情報セキュリティ10大脅威 2026」(2026年1月29日)https://www.ipa.go.jp/security/10threats/10threats2026.html
• IPA「情報セキュリティ10大脅威 2026 解説書(組織編)」(2026年3月12日)https://www.ipa.go.jp/security/10threats/omgdg50000008fi8-att/kaisetsu_2026_soshiki.pdf
• IPA「AI利用者のためのセキュリティ豆知識」(2025年12月版、2026年3月)https://www.ipa.go.jp/digital/ai/security/rcu1hd0000009h9u-att/1-1.pdf
• IPA「AIセキュリティ」https://www.ipa.go.jp/digital/ai/security/index.html
• AIセーフティ・インスティテュート「AIシステムに対する既知の攻撃と影響」(第2版)https://aisi.go.jp/output/output_security/known_attacks_and_impacts/
• 警察庁サイバー警察局「令和7年におけるサイバー空間をめぐる脅威の情勢等について」(2026年3月)https://www.npa.go.jp/publications/statistics/cybersecurity/data/R7/R07_cyber_jousei.pdf
• 警察庁「サイバー事案に関する相談・通報」https://www.npa.go.jp/bureau/cyber/soudan.html
• IPA「情報セキュリティ安心相談窓口」https://www.ipa.go.jp/security/anshin/index.html
• 英国国家サイバーセキュリティセンター(NCSC)「Impact of AI on cyber threat from now to 2027」(2025年5月7日)https://www.ncsc.gov.uk/report/impact-ai-cyber-threat-now-2027
• Anthropic「Disrupting the first reported AI-orchestrated cyber espionage campaign」(2025年11月13日)https://www.anthropic.com/news/disrupting-AI-espionage
• OpenAI「OpenAI と Hugging Face、モデル評価中のセキュリティインシデント対応で連携」(2026年7月21日)https://openai.com/ja-JP/index/hugging-face-model-evaluation-security-incident/
• CrowdStrike「ARTEXを使った韓国の金融機関への攻撃に関するブログ」(2026年10月7日)https://www.crowdstrike.com/en-us/blog/unknown-threat-actor-uses-artex-to-target-south-korean-finance/
• GMOサイバーセキュリティ byイエラエ「相次ぐ不正アクセスの攻撃元の多くがAIであることを確認」(2026年10月19日)https://gmo-cybersecurity.com/blog/20261019/
• ガートナー「AI時代のサイバーセキュリティ戦略」https://www.gartner.co.jp/ja/topics/cybersecurity-and-ai
• Fortune「Arupのディープフェイク詐欺被害に関する記事」(2024年5月17日)https://fortune.com/europe/2024/05/17/arup-deepfake-fraud-scam-victim-hong-kong-25-million-cfo
• South China Morning Post「UK multinational Arup confirmed as victim of HK$200 million deepfake scam that used digital version of CFO to dupe Hong Kong employee」(2024年5月)https://www.scmp.com/news/hong-kong/law-and-crime/article/3263151/uk-multinational-arup-confirmed-victim-hk200-million-deepfake-scam-used-digital-version-cfo-dupe
• OneCompliance(ワンコンプライアンス) コース一覧https://onecompliance.jp/courses