AIリスクとは？企業が知るべき4分類と対策5ステップをEU AI Act・国内ガイドラインで解説

AIリスクとは、AIを業務や製品に使うことで生じうる損失や不利益の総称です。企業で特に問題になるのは、情報漏えい、ハルシネーション(誤情報)、著作権侵害、AIを狙った攻撃やAIを使った攻撃の4つの観点で、EUのAI規則(EU AI Act)ではAIの用途ごとにリスクを4段階に分けています。独立行政法人情報処理推進機構(IPA)の「情報セキュリティ10大脅威 2026」でも、組織向けの脅威の3位に「AIの利用をめぐるサイバーリスク」が初めて選ばれました。本記事では、立場別の全体像、4段階の分類と4つの観点、公的資料に載っている具体例、対策の5ステップ、日本の指針、よくある失敗、効果の確認方法を解説します。

目次

開く

閉じる

1. AIリスクとは｜全社員に同じ理解を届けるのが難しい理由
2. AIリスクの分類｜EU AI Actの4段階と、立場別の3つの見方
3. 企業が実施すべき5つの対策ステップ
4. AIリスクの4つの観点｜情報漏えい・ハルシネーション・著作権・攻撃
5. 日本国内の動向｜AI推進法とAI事業者ガイドライン
6. AIリスク対応でよくある失敗パターン
7. リスク対応の効果をどう確認するか｜四半期ごとの見直し
8. よくある質問(FAQ)
9. まとめ
10. 参考文献

AIリスクとは｜全社員に同じ理解を届けるのが難しい理由

AIリスクの多くは、悪意ではなく「知らなかった」「いつもの感覚で入力した」ことから起こります。IPAの「情報セキュリティ10大脅威 2026」解説書(組織向け)は、生成AIの業務利用による情報漏えいの例として、米国のAI企業の調査を紹介しています。業務で生成AIにデータをコピー＆ペーストして入力している利用者が77%おり、そのうち82%は組織に管理されていないアカウントを使っていた、という内容です。海外企業の調査の紹介であり、日本企業の割合にそのまま当てはまるとは限りませんが、会社が把握できない利用が起こりうることを示しています。

同じ解説書は、AIを利用する側の対策として、AI利用における講習等のプログラムを用意すること、社内の秘密情報等を安易に入力しないこと、ハルシネーションが存在することを理解すること、AIへの過剰な依存に留意することを挙げています。ルールを文書にして配るだけでは、この「理解」までは届きません。対面の説明会は受講漏れや理解度のばらつきが出やすく、ルール改定のたびに開くのも負担です。そこで選択肢になるのが、受講状況や理解度を記録でき、教材を更新しやすいeラーニングです。本記事と相性のよい3サービスを、優劣ではなく役割の違いで並べます(内容は各サービスの商品ページで確認した情報にもとづきます。AIリスクそのものを扱う教材の有無は、資料で確認してください)。

AIリスクのルールを全社員に同じ内容で学ばせ、受講の記録を残したい場合の一例が、OneCompliance(ワンコンプライアンス)です。コンプライアンス研修に特化したeラーニングで、個人情報保護法、情報セキュリティ、著作権などのコースが用意されています(著作権コースの説明には生成AIへの言及があります。AIリスクそのものを扱う教材かどうかは、資料で確認してください)。ダッシュボードで各コースの受講進捗をまとめて確認でき、期限前後のリマインダーを自動で送れるため、受講の催促にかかる手間を抑えられます。一方で、料金は受講人数に応じた体系で、問い合わせでの確認が必要です。料金はプランによって異なるため、資料や公式サイトで確認してください。

社内に法務専任担当や教育専任担当がおらず、社内のみでの実施が困難

OneCompliance 導入事例(株式会社プリメディカ。導入の背景・課題感として掲載) 出典：導入事例ページ

AIリスクの分類｜EU AI Actの4段階と、立場別の3つの見方

AIリスクを整理する代表的な物差しが、EUのAI規則(EU AI Act)の4段階分類です。AIを用途ごとに「受容できないリスク」「ハイリスク」「透明性義務を伴うリスク」「極小リスク」の4段階に分け、リスクが高いほど重い義務を課す考え方を採っています。

EU AI Actは2024年8月に発効し、禁止されるAIの規定から順に段階的に適用が始まっています。EU域内で事業を行う企業やEU向けにAIを使った製品・サービスを提供する企業が直接の対象ですが、日本国内だけで事業をしている企業にとっても、「どの用途のAIがどの程度危険とみなされるのか」を考える際の共通言語として役立ちます。適用時期や細かな義務は改正・延期の議論もあるため、実際に対応が必要な場合は欧州委員会の公式情報や専門家の確認を前提にしてください。

リスク区分	代表的な用途の例	扱いの考え方
受容できないリスク	人の行動を無意識のうちに操作するAI、行政による社会的な信用スコアリングなど	原則として利用が禁止される
ハイリスク	採用選考や人事評価、融資の審査、重要インフラの制御など	リスク管理、データの品質管理、記録の保存、人による監督などが求められる
透明性義務を伴うリスク	チャットボット、AIが生成した画像や音声など	相手がAIであることや、AIによる生成物であることを示す義務がある
極小リスク	迷惑メールフィルター、ゲームのAIなど	特別な義務は課されず、自主的な取り組みに委ねられる

この分類から企業が学べるのは、「AIそのもの」ではなく「AIを何に使うか」でリスクの重さが決まるという考え方です。同じ生成AIでも、社内の議事録の要約に使う場合と、応募者の書類選考の判断材料に使う場合とでは、誤りが起きたときに人に与える影響がまったく違います。後者は人の権利や機会に直接かかわるため、たとえ日本国内の利用であっても、人が最終判断をする体制や判断根拠の記録を慎重に設計しておく必要があります。

立場で見る：AI利用者・AI提供者・AI開発者

用途の重さに加えて、自社がAIにどう関わっているかという「立場」でも、向き合うリスクは変わります。経済産業省と総務省の「AI事業者ガイドライン」は、AIにかかわる事業者を「AI開発者」「AI提供者」「AI利用者」の3つに分けています。生成AIを業務に使うだけの一般企業の多くは「AI利用者」に当たり、AIを組み込んだ自社サービスを顧客に出す企業は「AI提供者」にもなります。

立場	当てはまる企業の例	向き合う主なリスク
AI利用者	業務で生成AIやAI搭載のソフトを使う企業	機密情報・個人情報の入力、誤った出力の鵜呑み、生成物の著作権、会社が把握していないAI利用(シャドーAI)
AI提供者	AIを組み込んだ自社のサービスやシステムを顧客に提供する企業	誤った回答が利用者に与える影響、プロンプトインジェクションなどの攻撃、出力内容による評判の毀損
AI開発者	AIモデルそのものを開発する企業	学習データの偏りや権利、モデルやデータを狙った攻撃

本記事は、多くの企業に当てはまる「AI利用者」の立場を中心に書いています。AIを組み込んだサービスを提供している場合は、利用者向けの対策に加えて、出力の品質管理と、顧客への説明を別に設計する必要があります。

リスクの向きは3方向ある

立場とは別に、リスクがどこから来るのかという「向き」で整理すると、対策の担当部署を決めやすくなります。IPAの10大脅威2026の解説書は、AIの利用をめぐるリスクとして、AIへの理解不足による権利侵害や情報漏えい、生成結果を検証せず鵜呑みにすることによる問題、AIの悪用による攻撃の容易化、AIを利用したシステムの脆弱性を狙った攻撃を挙げています。これを企業の対策に合わせて整理すると、次の3方向になります。

• AIを使う側のリスク：社員による機密情報の入力、会社が把握していないAIツールの無断利用(いわゆるシャドーAI)、誤った出力の業務利用など
• AIで攻撃されるリスク：生成AIで作られた自然な文面のフィッシングメールなど、AIによって攻撃が容易になり、手口が巧妙になること
• AIシステムが狙われるリスク：不正な指示を紛れ込ませて意図しない動作をさせるプロンプトインジェクションなど、AIを組み込んだシステム自体の脆弱性を突く攻撃

一つ目は全社員の行動にかかわるため人事・総務と情報システム部門が、二つ目は経理や営業など外部とやり取りする部署を含めた全社の注意喚起が、三つ目はAIを自社のシステムやサービスに組み込む開発担当や委託先の管理が、それぞれ中心になります。「AIリスク対策」を一つの部署に丸ごと任せると抜け漏れが生じやすいのは、このように向きごとに担うべき部署が異なるためです。

企業が実施すべき5つの対策ステップ

AIリスク対策は、利用状況の把握、リスクの分類、影響の評価、優先度の設定、定期的な見直しの5段階で進めると抜け漏れが少なくなります。いきなり完璧なルールを作ろうとせず、現状を知ることから始めるのがポイントです。

ステップ1：社内のAI利用状況を把握する

最初に行うべきは、誰が、どのAIツールを、何の業務に使っているかの棚卸しです。会社として契約しているツールだけでなく、社員が個人のアカウントで使っている無料のAIチャット、ブラウザの拡張機能、業務ソフトに後から追加されたAI機能も対象にします。アンケート形式で「使っているツール名」「使っている業務」「入力している情報の種類」を聞くだけでも、シャドーAIの実態がかなり見えてきます。このとき、無断利用を責める形にすると正直な回答が集まらないため、「実態を知って安全に使える環境を整えるため」という目的を伝えることが大切です。AI活用の全体像はAI活用とは｜業務改善・価値創出の2軸と事例・進め方で整理しています。

ステップ2：用途ごとにリスクを分類する

棚卸しした用途を、前述の4段階分類を参考に「人の権利や機会に影響するか」「社外に出るか」「機密情報を扱うか」の3つの問いで仕分けます。たとえば社内会議のメモ整理は低い区分、顧客向けの回答文の作成は中程度、採用や評価の判断材料にする用途は高い区分、というように用途単位で分けると、対策の濃淡をつけられます。

ステップ3：発生可能性と影響度を評価する

分類した用途ごとに、リスクが起きる可能性と、起きたときの影響の大きさを「高・中・低」で評価します。数値で精密に出す必要はありません。重要なのは、評価の根拠を簡単に書き残しておくことです。「顧客名を入力する運用があり、学習に使われる設定のまま」「生成画像を広告に使っているが確認手順がない」といった具体的な根拠があると、後から見直す際に判断の変化を追いやすくなります。

ステップ4：優先度を決めて対策を割り当てる

可能性と影響がともに高いものから順に、対策と担当者、期限を決めます。対策の種類は大きく、利用を止める、設定や契約で技術的に防ぐ、手順やルールで防ぐ、教育で防ぐ、の4つです。すべてを禁止すると業務改善の機会を失い、かえって無断利用を招くため、「使ってよい範囲を明確にしたうえで使う」方向で設計するのが現実的です。IPAの解説書も、AI利用者側の対策として、個人アカウントによる業務利用の制限、外部サービス利用時に入力データを学習対象から除外する設定(オプトアウト)の徹底、サービス契約時の約款の確認、決裁や承認プロセスでの複数名によるチェックの規程化などを挙げています。

ステップ5：定期的に見直す

AIツールは機能追加やプラン変更が頻繁で、法制度やガイドラインも更新が続いています。一度作った評価をそのままにせず、少なくとも四半期に一度は利用状況とリスク評価を見直す日程をあらかじめ決めておきます。見直しの具体的な方法は、後半の「リスク対応の効果をどう確認するか」で詳しく解説します。

独自の工夫：1枚の「AIリスク台帳」にまとめる

5つのステップの結果は、部署ごとの資料に散らばらせず、1枚の表(AIリスク台帳)に集約しておくと運用が格段に楽になります。列は次の程度で十分です。

列	記入例
用途	問い合わせメールの返信文の下書き
使用ツール・契約形態	法人向けプラン(入力内容を学習に使わない設定を確認済み)
扱う情報	顧客の氏名・問い合わせ内容(個人情報を含む)
リスク区分と評価	中(社外に出る、個人情報を扱う)
対策	氏名は伏せて入力、送信前に担当者が内容を確認
責任者・次回見直し日	カスタマーサポート課長・次の四半期末

台帳があると、新しいAIツールの導入相談が来たときに「既存の用途と比べてリスクは高いか低いか」をすぐ判断でき、監査や取引先からの問い合わせにも同じ資料で答えられます。表計算ソフトの共有ファイルで始めれば、追加費用もかかりません。ここまでの手順を、自社の状況に当てはめて確認してみましょう。

AIリスクの4つの観点｜情報漏えい・ハルシネーション・著作権・攻撃

企業が日常のAI活用で特に注意すべきリスクは、情報漏えい、ハルシネーション(誤情報)、著作権侵害、AIを狙った攻撃・AIを使った攻撃の4つに集約できます。それぞれ起きる場面と基本の対策が異なるため、観点ごとに押さえておきましょう。

情報漏えい

生成AIに入力した内容は、サービスの提供事業者のサーバーで処理されます。利用規約や設定によっては、入力内容がAIの学習に利用される場合もあります。個人情報保護委員会は、個人情報取扱事業者が生成AIサービスに個人情報を含むプロンプトを入力する場合、特定された利用目的の達成に必要な範囲内であることを十分に確認するよう注意喚起しています。基本の対策は、法人向けプランなど入力データを学習に使わない契約形態を選ぶこと、そして「公開情報」「社内情報」「機密情報・個人情報」の3段階で入力してよい情報を明文化することです。

ハルシネーション(誤情報)

生成AIは、事実と異なる内容をもっともらしい文章で出力することがあります。存在しない法令の条文や統計、実在しない参考文献を示す例も知られています。問題になるのは、誤りそのものより「誤りに気づかずにそのまま使うこと」です。IPAの解説書も、答えが容易に得られる便利さから過剰に依存し、誤った生成結果を鵜呑みにしてしまうことがありうるとして、利用者が生成結果を精査することを求めています。社外に出す文書や意思決定の根拠となる資料では、数字・固有名詞・制度の記述を一次資料で確認する手順を業務フローに組み込み、確認した人の名前を残す運用にすると、確認の形骸化を防ぎやすくなります。AIの仕組みから確認したい場合はLLMとは？生成AIとの違いと仕組み、業務で使う際の確認ポイントも参考になります。

著作権侵害

文化庁は「AIと著作権に関する考え方について」の中で、AIの開発・学習段階と、生成・利用段階を分けて考え方を整理しています。企業が注意したいのは生成・利用段階で、生成物が既存の著作物と似ており(類似性)、かつ既存の著作物をもとにしている(依拠性)と認められる場合には、著作権侵害となる可能性があるとされています。特定の作家名や作品名を指定して生成させる使い方は避け、広告やWebサイトなど社外に公開する生成物は、既存の作品に似ていないかを確認してから使うことが基本です。個別の判断が必要な場合は弁護士などの専門家に相談してください。

AIを狙った攻撃・AIを使った攻撃

AIを社内の文書検索や問い合わせ対応に組み込むと、Webページやメールに隠された不正な指示をAIが読み込み、本来見せてはいけない情報を出力してしまう「プロンプトインジェクション」のリスクが生じます。また、生成AIによって日本語として自然なフィッシングメールが作られやすくなり、攻撃者が多言語の文面を違和感なく用意できるようになった点も、IPAの解説書で指摘されています。対策としては、AIに与えるアクセス権限を必要最小限にすること、送金や契約など重要な指示は別の経路で本人に確認するルールを設けることが有効です。

観点	起きやすい場面	基本の対策	主な担当
情報漏えい	顧客情報や社外秘資料の入力	契約形態の確認、入力情報の3段階区分	情報システム・総務
ハルシネーション	社外文書・資料作成、調べもの	一次資料での確認手順、確認者の記録	各業務部門
著作権侵害	広告・Web・資料での生成物の公開	作家名等の指定を避ける、公開前の類似確認	広報・マーケティング・法務
攻撃	AI組み込みシステム、なりすまし連絡	権限の最小化、別経路での本人確認	情報システム・経理

この4つの観点は互いに独立しているわけではありません。たとえば、社内文書を読み込ませたAIチャットボットがプロンプトインジェクションを受けると、攻撃と情報漏えいが同時に起こります。台帳で用途ごとに「どの観点に当てはまるか」を複数チェックできるようにしておくと、重なりを見落としにくくなります。個人情報や生成AIのセキュリティ面をさらに詳しく知りたい場合は、AIとは何かと中小企業が安全に始める手順をまとめた記事もあわせて参考にしてください。

公的資料に載っているAIリスクの具体例

「AIのリスクは分かったが、実際にどんな問題が起きているのか」という疑問には、IPAの10大脅威2026の解説書(組織向け)に載っている例が参考になります。次の例は、いずれも同書が紹介しているものです。

観点	紹介されている例(IPA解説書)	企業が学べること
情報漏えい	米国のAI企業の調査として、業務で生成AIにデータを貼り付けている利用者が77%、そのうち82%が組織に管理されていないアカウントによるものだったという	会社が把握できない個人アカウントの業務利用を、ルールと教育で減らす
ハルシネーション	2025年1月、米国テキサス州の裁判所の公聴会で、前年に同州の弁護士が提出した意見書に実在しない判例が引用されていたことが判明した。生成AIで作成し、ハルシネーションが起こりうることを知らなかったという	専門職でも、AIの限界を知らないと誤りに気づけない。確認の手順と教育が要る
AIの脆弱性	2025年6月、Microsoft 365 Copilotの脆弱性「EchoLeak」の存在が報道された。不正なプロンプトが外部から注入されると、アクセスを許可した社内の秘密データ等が流出する可能性があったという(修正済みと報じられている)	AIに与える権限と、読み込ませる情報の範囲を絞る
AIを使った攻撃	2025年2月、不正に入手したIDとパスワードで携帯電話の回線契約まで行うプログラムを使ったとして、中高生3人が不正アクセス禁止法違反などの疑いで逮捕された。生成AIを補助的に使ってプログラムを自作したという	AIによって、攻撃に必要な技術のハードルが下がっている

4つの観点とあわせて押さえたい：バイアス・過度な依存・説明責任・ブランド毀損

4つの観点とあわせて押さえておきたいのが、出力の偏り(バイアス)、AIへの過度な依存、判断の根拠が説明しにくいこと(ブラックボックス化)、そしてそれらが招くブランドイメージの毀損です。AIは学習データに含まれる偏りを反映することがあり、採用や与信、顧客対応の場面で特定の属性の人に不利な結果を出してしまうと、差別的な扱いとして批判を受けるおそれがあります。また、AIが「なぜその結論を出したのか」を担当者が説明できない状態で判断に使うと、顧客や応募者から理由を問われたときに答えられません。AIの出力に頼りすぎると、担当者自身の確認や判断の力が育たず、AIが使えないときに業務が止まるという面もあります。AI事業者ガイドラインが共通の指針に公平性・透明性・アカウンタビリティ(説明責任)を掲げているのは、こうしたリスクを踏まえたものです。

これらは一度の不適切な回答や生成物がSNSで拡散されることで、短期間に企業の評判を大きく損ねる形で表面化しやすい点が特徴です。対策としては、人の評価や選別にかかわる用途ではAIの出力を判断材料の一つにとどめて最終判断は人が行うこと、判断に使った情報と判断者を記録しておくこと、顧客向けのチャットボットなど社外の人が直接AIの出力を目にする用途では公開前に想定外の質問への回答を試しておくことが基本になります。AIリスク台帳の「リスク区分と評価」の欄に、偏りや説明のしにくさが問題になる用途かどうかも書き添えておくと、見直しの際に確認漏れを防げます。

AIでしてはいけないこと：社員に伝える6つの禁止事項

ここまでのリスクを社員向けの言葉にすると、社内ルールに入れておきたい禁止事項は次の6つに整理できます(本記事での整理。自社の業務に合わせて調整してください)。

1. 機密情報や顧客・従業員の個人情報を、許可された範囲を超えて入力しない
2. 会社が認めていないAIサービスや、個人のアカウントで業務をしない
3. 出力を確認せずに、社外向けの文書や意思決定の根拠として使わない
4. 特定の作家名や作品名を指定して生成したり、既存の作品との類似を確認せずに公開したりしない
5. 採用や評価など人にかかわる判断を、AIの出力だけで決めない
6. 送金や契約などの重要な指示を、メールや電話の文面だけで信じない(別の経路で本人に確認する)

この6つは、文書にして配るだけでは社員の行動に結びつきません。IPAの解説書がAI利用者側の対策に「AI利用における教育の徹底」を挙げているように、禁止事項の理由を、自社の業務の例とあわせて学ぶ機会が必要です。個人情報や情報セキュリティ、著作権の研修を、全社員に同じ内容で届けて受講状況を残す方法の一例が、次の資料です。

日本国内の動向｜AI推進法とAI事業者ガイドライン

日本では、EUのような罰則付きの包括的な規制ではなく、AIの研究開発と活用を推進する法律と、事業者の自主的な取り組みを促すガイドラインを組み合わせる方針が採られています。企業にとっての実務上の指針は、経済産業省と総務省の「AI事業者ガイドライン」です。

2025年には「人工知能関連技術の研究開発及び活用の推進に関する法律」(いわゆるAI推進法)が成立し、同年6月に公布、9月に全面施行されました。この法律は、AIの研究開発と活用を推進しつつ、国が基本計画を定め、不適正な利用などへの対応を進める枠組みを定めたもので、事業者には国の施策への協力が努力義務として求められています。詳細は内閣府の公表資料で確認できます。

一方、AI事業者ガイドラインは、AIにかかわる事業者を「AI開発者」「AI提供者」「AI利用者」の3つに分け、それぞれが取り組むべき事項を整理しています。2026年3月31日には第1.2版が公表され、旧来の複数のガイドラインを1つにまとめた最新版として案内されています。ガイドラインでは、人間中心、安全性、公平性、プライバシー保護、セキュリティ確保、透明性、アカウンタビリティ(説明責任)などを共通の指針として掲げ、利用者には、提供者が定めた範囲での適正な利用や、関係者の教育などが求められています。位置づけと改定の内容はAI事業者ガイドライン第1.2版｜位置づけと改定内容で解説しています。

項目	EU AI Act	日本(AI推進法・AI事業者ガイドライン)
基本的な考え方	リスクに応じた法的義務を課す規制型	活用推進と自主的な取り組みを重視するソフトロー中心
長所	禁止事項や義務が明確で、判断の基準がはっきりしている	技術の変化に合わせて柔軟に更新しやすく、事業者が活用しやすい
短所・留意点	対応コストが大きく、要件の解釈に専門知識が必要	具体的な対策の水準は各社の判断に委ねられる部分が大きい
企業の実務への示唆	用途ごとのリスク区分の考え方を社内評価に借りる	「AI利用者」として取り組む事項を社内ルールに落とし込む

日本の枠組みは自主性を重んじる分、「何をどこまでやれば十分か」を各社が自分で決めなければなりません。ここで役立つのが、前述のAIリスク台帳と社内ルールの文書化です。ガイドラインの指針を自社の言葉に置き換えたうえで、全社員が同じ理解を持てるように教育の機会を設け、受講したかどうかを記録として残しておくと、取引先や監査から説明を求められた際の根拠にもなります。なお、本記事の法令・制度に関する記述は一般的な情報提供を目的としたもので、法的助言ではありません。個別の判断が必要な場合は専門家に相談してください。

ガイドラインの内容を読むだけでは、社員の行動は変わりません。部署や雇用形態を問わず同じ内容を学べる形にし、理解度テストの結果を見て、つまずきやすい項目を補足する流れを作ることで、初めてガバナンスが現場に届きます。研修のあとに確認テストを出して理解度を確かめたい場合の一例が、SAKU-SAKU Testingです。CBTの技術を活かしたテスト機能が中心で、用意された設問と自社のオリジナル設問を1つのテストにまとめて配信でき、選択式・穴埋め・並び替え・記述の問題を出せます。コンプライアンス・ハラスメント・情報セキュリティなどの研修コンテンツも用意されています。一方で、AIによるリモート監視などの一部機能は有償オプションで、日本国内仕様のため海外での利用はサポート対象外です。AIに関する設問や教材の有無は資料で確認してください。料金はプランによって異なるため、資料や公式サイトで確認してください。

3サービスの役割を比較表で見る

AIリスク対応でよくある失敗パターン

AIリスク対応でつまずく企業には、全面禁止、ルールの作りっぱなし、担当部署への丸投げという3つの共通点があります。いずれも「リスクを減らしたつもりで、実際には見えなくしただけ」という状態を生みやすい点に注意が必要です。

失敗パターン	起きること	改善の方向
生成AIを全面禁止する	業務効率化を求める社員が個人アカウントで隠れて使い、会社が実態を把握できなくなる	会社が認めたツールと使ってよい範囲を示し、安全な使い道を用意する
ルールを作って配布しただけで終わる	読まれずに形だけになり、新入社員や異動者に内容が伝わらない	受講と理解度確認を記録し、入社・異動時の教育に組み込む
情報システム部門に丸投げする	技術的な対策は進むが、著作権や採用での利用など業務判断の論点が抜ける	法務・人事・現場部門を含めた横断の担当体制を作る
一度評価して見直さない	ツールの機能追加や規約変更に気づかず、評価の前提が崩れる	台帳に次回見直し日を書き、四半期ごとに更新する

特に全面禁止は、一見もっとも安全に見えて逆効果になりやすい対応です。AIを使えば数時間の作業が数十分で終わると知った社員にとって、禁止は「使うな」ではなく「会社に見えないところで使え」という意味に受け取られがちです。リスクをゼロにすることではなく、リスクが見える状態を保ちながら影響を小さくすることを目標にしましょう。

また、業種によって注意すべき観点の比重も変わります。顧客の個人情報を多く扱う小売・サービス業や医療・介護では情報漏えいが、広告やコンテンツを多く制作する業種では著作権が、送金や取引の多い業種ではなりすましによる攻撃が、それぞれ優先度の高い論点になりやすい傾向があります。自社の業務でどの観点の比重が大きいかを意識して、台帳の評価に反映させてください。社内のAI教育の進め方はAI教育とは？学校・企業での活用と文科省ガイドラインの要点でも整理しています。

リスク対応の効果をどう確認するか｜四半期ごとの見直し

AIリスク対策の効果は、「事故がなかった」だけでは測れません。利用状況の把握率、教育の受講率と理解度、ヒヤリハットの報告件数という3つの指標を四半期ごとに確認すると、対策が機能しているかを判断しやすくなります。

指標	確認する内容	読み取り方
利用状況の把握率	台帳に登録された用途と、アンケートで判明した用途の差	差が大きいほど、会社が把握していないAI利用が残っている
受講率と理解度	AI利用ルールの教育の受講率、理解度テストの正答率が低い設問	正答率の低い設問は、ルールの書き方か教え方に改善の余地がある
ヒヤリハットの報告件数	「入力しかけた」「誤りに気づいた」などの報告数と内容	報告が出ることは健全な状態。ゼロが続く場合は報告しにくい雰囲気を疑う

見直しの会議では、この3指標に加えて、利用中のAIツールの規約や機能の変更点、国内外のガイドラインの改定状況を確認し、台帳のリスク評価と対策を更新します。所要時間は1時間程度でも十分です。大切なのは、見直しの日程を年度初めにあらかじめ決めておき、担当者が変わっても続く仕組みにしておくことです。

理解度テストで正答率が低かった項目は、次の四半期の重点テーマにします。たとえば「顧客名を伏せれば入力してよいか」という設問の正答率が低ければ、具体的な入力例と禁止例を並べた補足教材を追加します。こうした改善を回すには、受講状況とテスト結果を一覧で確認でき、教材をすぐに差し替えられる研修の仕組みがあると、担当者の負担を大きく減らせます。自社の資料や動画で研修コースを作り、更新し続けたい場合の一例が、Smart Boardingです。研修・OJT・eラーニングを1つのシステムで運用でき、自社の資料や動画と用意された動画を組み合わせたオリジナルの研修コースを作成できます。学習管理の機能で受講状況を確認でき、テストやレポートの作成にも対応しています。一方で、自社の教育内容を学習プログラムにする際には一定の手間がかかり、担当者との打ち合わせも必要です。料金はプランによって異なるため、資料や公式サイトで確認してください。

コンプライアンス教育等、全社員の受講が必要な教育の推進・管理が容易にできる

Smart Boarding 導入事例(日鉄保険サービス株式会社)のポイント見出し 出典：導入事例ページ

3サービスの役割を比較表で見る

よくある質問(FAQ)

Q1. AIリスクとは何ですか？

A. AIを業務や製品に使うことで生じうる損失や不利益の総称です。企業の日常的なAI活用では、情報漏えい、ハルシネーション(誤情報)、著作権侵害、AIを狙った攻撃やAIを使った攻撃の4つが代表的な観点になります。

Q2. AIのデメリット・リスクの具体例にはどのようなものがありますか？

A. IPAの10大脅威2026の解説書には、業務で生成AIにデータを貼り付けた利用者の多くが組織に管理されていないアカウントを使っていたという調査、生成AIで作成した意見書に実在しない判例が引用されていた事例(2025年1月に米国テキサス州で判明)、Microsoft 365 Copilotの脆弱性「EchoLeak」の報道(2025年6月)などが紹介されています。情報漏えい、ハルシネーション、AIシステムの脆弱性が代表的なデメリットです。

Q3. AIでしてはいけないことは何ですか？

A. 機密情報や個人情報を許可なく入力すること、会社が認めていないサービスや個人アカウントで業務をすること、出力を確認せずに社外文書や判断の根拠に使うこと、既存の作品との類似を確認せずに生成物を公開すること、人にかかわる判断をAIの出力だけで決めることが代表的です。具体的な禁止事項は、自社の業務に合わせて社内ルールに明記してください。

Q4. 生成AIの利用を全面禁止すればリスクはなくなりますか？

A. 全面禁止は、社員が個人アカウントで隠れて使うシャドーAIを招き、かえって会社が実態を把握できなくなるおそれがあります。会社が認めたツールと使ってよい範囲を明確にしたうえで使う方が、リスクを管理しやすくなります。

Q5. 中小企業は何から始めればよいですか？

A. まず社員がどのAIツールを何の業務に使っているかをアンケートなどで把握し、次に入力してよい情報の範囲を決めることから始めるのが現実的です。結果は1枚のAIリスク台帳にまとめると、見直しや追加の判断がしやすくなります。

Q6. AI事業者ガイドラインは守らないと罰則がありますか？

A. AI事業者ガイドラインは法的な拘束力を持つものではなく、事業者の自主的な取り組みを促す指針とされています。ただし、個人情報保護法や著作権法などの既存の法令はAIを使う場合にも適用されるため、ガイドラインを参考に社内ルールを整えておくことが大切です。

まとめ

AIリスクは「AIそのもの」ではなく「AIを何に、どう使うか」で重さが決まります。EU AI Actの4段階分類と日本のAI事業者ガイドラインを物差しにしながら、情報漏えい・ハルシネーション・著作権・攻撃の4つの観点で自社の使い方を点検し、リスクをゼロにするのではなく見える状態で小さくしていくことが基本です。今日からできることとして、次の4つから始めてみてください。

1. 社内のAI利用状況を棚卸しし、用途・ツール・扱う情報を1枚のAIリスク台帳にまとめる
2. 入力してよい情報の区分と、生成物を社外に出す前の確認手順を社内ルールとして文書にする
3. 入社時や改訂時にルールを教える機会を決め、受講率・理解度・ヒヤリハット報告を四半期ごとに見直す
4. 研修を仕組みにする場合は、受講管理・自社教材での研修コース・確認テストという役割の違いで、eラーニングの資料を取り寄せて比べる

参考文献

• 経済産業省「AI事業者ガイドライン」 https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html
• 内閣府「人工知能関連技術の研究開発及び活用の推進に関する法律」 https://www8.cao.go.jp/cstp/ai/ai_act/ai_act.html
• 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」 https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/
• 文化庁「AIと著作権について」 https://www.bunka.go.jp/seisaku/chosakuken/aiandcopyright.html
• 独立行政法人情報処理推進機構(IPA)「情報セキュリティ10大脅威 2026」 https://www.ipa.go.jp/security/10threats/10threats2026.html
• IPA「情報セキュリティ10大脅威 2026 [組織]」解説書(PDF) https://www.ipa.go.jp/security/10threats/omgdg50000008fi8-att/kaisetsu_2026_soshiki.pdf
• European Commission「AI Act」 https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai