生成AIの問題点6つ｜事例・法的な論点と社内でできる対策

生成AIの問題点とは、入力した情報の漏えい、もっともらしい誤り(ハルシネーション)、著作権など他者の権利の侵害、偏見や偽情報、悪用とAI自体の弱点、人がAIに頼りすぎることや組織の体制の遅れの6つに整理できる、生成AIを業務で使うときに起きうる問題のことです。総務省の令和8年版情報通信白書では、日本企業が懸念するリスクの1位が社内情報の漏洩などのセキュリティリスク、2位が出力結果の精度、3位が著作権等の権利侵害でした。一方で、何らかの業務で生成AIを使っている日本企業は86.4%にのぼり、問題点を理由に使わない段階から、知ったうえで管理する段階に入っています。本記事では、IPA、個人情報保護委員会、文化庁、総務省・経済産業省などの公的資料にもとづき、6つの問題点の中身、実際に起きた事例、法的な論点、社内でできる対策を整理します。内容は2026年10月21日時点の公開情報です。

目次

開く

閉じる

1. 生成AIの問題点とは？6つの分類と、日本企業が懸念している順
2. 情報漏えい・個人情報｜入力した内容が組織の外に出る問題
3. 誤情報(ハルシネーション)｜もっともらしい誤りを確認せずに使う問題
4. 著作権など権利の侵害｜学習の段階と、生成・利用の段階を分けて考える
5. 偏見・偽情報・悪用｜出力の中身と、AIの使われ方の問題
6. 過度な依存と体制の遅れ｜人と組織の側の問題
7. 問題点への対策｜IPAが示す組織の対策を、役割別に整理
8. 社内に基準を届けて確かめる教育サービス3つの違い｜生成AI専用の教材ではなく、運営面の支え
9. よくある質問(FAQ)
10. まとめ｜生成AIの問題点で押さえたい6つのこと
11. 参考文献

生成AIの問題点とは？6つの分類と、日本企業が懸念している順

生成AIの問題点とは、情報漏えい、誤情報、権利侵害、偏見・偽情報、悪用、過度な依存と体制の遅れの6つに整理でき、日本企業が最も懸念するのは社内情報の漏えいです。

総務省の令和8年版情報通信白書は、企業が生成AIの活用で懸念するリスクを国別に尋ねています。日本では「社内情報の漏洩などのセキュリティリスクがある」と答えた割合が最も高く、次いで「出力結果の精度に問題がある」「著作権等の権利を侵害する可能性がある」の順でした。米国・ドイツ・中国でもこれらは比較的高い一方、「出力結果に倫理上不適切な内容や偏見が含まれる可能性がある」「個人情報の取り扱いなどプライバシーの侵害の可能性がある」は、日本より高い傾向があると白書は書いています(2026年10月21日確認)。

公的資料で確認できる問題点を、本記事では次の6つに整理します。分類は本記事の整理で、根拠は公的資料の記載にもとづきます。

問題点	何が起きるか	主な根拠	本記事の解説
1. 情報漏えい・個人情報	業務データや個人情報を入力して組織の外に出る。会社が把握できない個人アカウントでの利用(シャドーAI)も含む	IPA「情報セキュリティ10大脅威2026」組織向け3位。個人情報保護委員会の注意喚起	情報漏えいの章
2. 誤情報(ハルシネーション)	実在しない情報をもっともらしく出力し、確認せずに使って損害が出る	IPA「10大脅威2026」の解説書、IPA「AI利用者のためのセキュリティ豆知識」	誤情報の章
3. 権利の侵害	生成物が既存の著作物に似て侵害となる。学習や入力に使うデータの権利の問題	文化庁「AIと著作権に関する考え方について」(令和6年3月15日)	権利侵害の章
4. 偏見・偽情報	学習データ由来の偏りや、真実らしく装った偽情報が出る	AI事業者ガイドライン第1.2版	偏見・偽情報・悪用の章
5. 悪用・AI自体の弱点	攻撃者がAIで攻撃を容易にする。AIの仕組みを突かれて秘密データが流出するおそれがある	IPA「10大脅威2026」の解説書(2025年6月のEchoLeak等)	偏見・偽情報・悪用の章
6. 過度な依存と体制の遅れ	出力を鵜呑みにする。指針や審査・評価の体制が整っていない	AI事業者ガイドライン第1.2版、総務省の白書	依存と体制の章

同じ白書によると、何らかの業務で生成AIを利用している日本企業は86.4%(2025年度調査)で、導入の影響として最も多かった回答は「作業時間の短縮などによる業務の効率化」の61.6%でした(2026年10月21日確認)。効果が出るから使われ、使われるから問題点が現実のトラブルになります。使わせないことではなく、問題点を知ったうえで管理することが、現実的な出発点になります。

ここで押さえたいのは、6つの問題点の多くが、AIの性能よりも、使う人の知識と判断に左右される点です。白書は、日本企業のリスク対策で最も多いのが「全社的な指針やガイドラインを整備している」の41.1%である一方、米国・ドイツ・中国では、導入段階の専門的な審査体制や、導入後の定期的な評価・検証が、日本より高い傾向があるとも書いています。指針をつくっても、使う全員が同じ基準で読み、同じ判断ができるとは限りません。入力してよい情報や、権利への配慮の基準を、全員に同じ形で学んでもらいたい場合の一例が、株式会社Oysterが提供するOneCompliance(ワンコンプライアンス)です。商品ページでは、ダッシュボードや自動リマインダーで研修の実施・管理の工数を減らせること、法務・労務・情報領域のコンテンツが法改正などに合わせて更新されることが特徴として紹介されています。公式サイトのコース一覧には「情報セキュリティ」「個人情報保護法」「著作権/肖像権」などがあります(2026年10月21日確認)が、生成AIの利用そのものを扱う専用のコースは一覧にありません。費用は受講人数に応じた課金体系のため、問い合わせでの確認が必要です。料金はプランによって異なるため、資料や公式サイトで確認してください。

社内に法務専任担当や教育専任担当がおらず、社内のみでの実施が困難

OneCompliance 導入事例(株式会社プリメディカ。導入の背景・課題感として掲載) 出典：導入事例ページ

情報漏えい・個人情報｜入力した内容が組織の外に出る問題

情報漏えいとは、業務データや個人情報を生成AIに入力した結果、組織が把握できない形で外部に出る問題で、IPAは「10大脅威2026」の組織向け3位に、AIの利用をめぐるサイバーリスクを挙げています。

IPAの解説書(組織向け)では、職場でAIサービスの利用が認められていない場合などに、従業員が個人的に使っているAIサービスを業務に使うことがあり、これを「シャドーAI」と呼んでいます。本来、組織の外への持ち出しが禁止されている業務データや資料をAIサービスに入力すれば、情報漏えいにつながります。また、職場が従業員の個人アカウントによる業務利用を把握できないこと自体もリスクだと説明されています。

解説書は事例として、米国のAI企業の調査を紹介しています。業務で生成AIにデータをコピー＆ペーストして入力している利用者が77%おり、そのうち82%は組織に管理されていないアカウントによるものだったという内容です。これは米国の企業による調査で、日本企業の状況をそのまま示す数字ではありませんが、会社が見えないところで入力が起きやすいことを示す例です。

個人情報を入力するときの法的な論点｜個人情報保護委員会の注意喚起

個人情報保護委員会は、令和5年(2023年)6月2日に「生成AIサービスの利用に関する注意喚起等」を公表しています。個人情報取扱事業者向けの注意点は、主に次の2つです。

• 個人情報を含むプロンプトを入力する場合は、特定された利用目的の達成に必要な範囲内であることを十分に確認する
• あらかじめ本人の同意を得ずに個人データを含むプロンプトを入力し、その個人データが応答結果の出力以外の目的で取り扱われる場合は、個人情報保護法の規定に違反することとなる可能性がある。そのため、サービス提供事業者が個人データを機械学習に利用しないこと等を十分に確認する

一般の利用者向けには、入力された個人情報が機械学習に利用されることがある点、サービスの利用規約やプライバシーポリシーを確認する点も示されています。本記事は一般的な情報提供であり、法的助言ではありません。個人情報の扱いは、自社の利用目的や契約によって判断が変わるため、個別の判断が必要な場合は専門家に相談してください。

入力する前に確認する4つの視点(本記事の整理)

1. その情報は、個人データ、取引先の秘密、未公表の情報のどれかに当たらないか
2. 使うサービスは入力内容を学習に使うか。学習の対象から除外する設定(オプトアウト)があるか(IPAの対策にも、外部サービス利用時のオプトアウト設定の徹底が挙がっています)
3. 会社が認めたアカウントで使っているか。個人のアカウントで業務に使っていないか
4. 利用規約とプライバシーポリシーを読んだか(個人情報保護委員会の注意喚起でも確認が求められています)

メールの文面や議事録など日常の作業でも、取引先の名前や個人名は入力されがちです。基準は一度決めて終わりではなく、使う人が増えるたびに同じ内容を届け直す必要があります。AIリスク全体の分類はAIリスクとは？企業が知るべき4分類と対策5ステップをEU AI Act・国内ガイドラインで解説で、誤情報への備えはAIの間違った情報への対処法｜ファクトチェック手順と組織体制の作り方で詳しく扱っています。

誤情報(ハルシネーション)｜もっともらしい誤りを確認せずに使う問題

ハルシネーションとは、生成AIが実在しない情報をもっともらしく出力する現象で、IPAは、完全に防ぐ方法はまだ分かっていないと説明しています。

IPAの「AI利用者のためのセキュリティ豆知識」(2026年3月)は、生成AIを、知識は豊富でも経験が不足している新人のようなものと表現しています。自分の知識や会話の内容を完全には理解していないため、応答が出鱈目だったり破綻したりすることがあり、知識があっても正誤の判断ができず、時々大きな間違いをする、という説明です。個人情報保護委員会の注意喚起も、生成AIの出力する自然な文章は確率的な相関関係にもとづいて生成されるため、不正確な内容が含まれるリスクがあると述べています。総務省の白書で、日本企業が懸念するリスクの2位が「出力結果の精度に問題がある」だったことも、同じ問題を指しています。

実際に起きた事例｜実在しない判例を提出した弁護士

IPAの「10大脅威2026」の解説書は、2025年1月に米国テキサス州の裁判所で開かれた公聴会の事例を挙げています。前年に同州の弁護士が提出した意見書に、実在しない判例が引用されていることがわかり、生成AIを使って作成していたことが明らかになりました。当該の弁護士は、生成AIで作ったデータにハルシネーションが起こりうることを知らなかったとされています。

出力を確認する視点(本記事の整理)

出力の種類	ハルシネーションで起きやすいこと	確認のしかた
数字・日付	もっともらしいが出典のない数値や、年度の違う数値が出る	官公庁や公式サイトなどの一次情報と突き合わせる
固有名詞・法令・判例・出典	実在しない名前、条文、判例、URLが出る	原典やリンク先を実際に開き、実在と内容を確認する。上のテキサス州の事例が当たる
引用・要約	原文にない内容が混ざる、趣旨が変わる	原文と並べて読み、引用箇所が一致するか確かめる
社内の規定・非公開の情報	AIが知らない情報について、推測で答える	社内の原本で確認する。IPAは、学習外の情報(社内規定など)にはAIは答えられず、ハルシネーションの原因にもなると説明している

重要な文書や外部に出す内容は、1人の確認で終わらせず、確認する人と確認する項目を決めておくと抜けが減ります。手順の詳しい進め方はAIの幻覚(ハルシネーション)とは？仕組み・原因・防止策と業務のチェック体制とAIの間違った情報への対処法｜ファクトチェック手順と組織体制の作り方にまとめています。

テキサス州の事例で目を引くのは、弁護士がハルシネーションが起こりうることを知らなかったと書かれている点です。ツールの設定だけでなく、使う人がこの性質を知っているかどうかが、事故を分けます。知識を周知したうえで、全員が理解できているかをテストで確かめたい場合の一例が、株式会社イー・コミュニケーションズが提供するSAKU-SAKU Testingです。商品ページでは、CBTの技術を活かしたeラーニングプラットフォームであること、選択式・穴埋め・並び替え・記述式の問題を配信できること、既存問題とオリジナル問題を組み合わせたテストを作成できること、受講状況や結果がリアルタイムで集計されることが紹介されています。事務局運営やカスタマーデスクを利用する場合は、オプション扱いです。生成AIの利用に特化したコンテンツがあるかは、資料で確認してください。料金はプランによって異なるため、資料や公式サイトで確認してください。

著作権など権利の侵害｜学習の段階と、生成・利用の段階を分けて考える

生成AIと著作権は、AIの学習の段階と、生成物を使う段階に分けて考え、文化庁は、生成物に既存の著作物との類似性と依拠性が認められれば著作権侵害となりうるとしています。

文化庁のページによると、生成AIと著作権の関係に関する判例や裁判例の蓄積がないという現状を踏まえ、文化審議会の著作権分科会法制度小委員会が、令和6年3月15日に「AIと著作権に関する考え方について」を取りまとめました。この文書の整理を、2つの段階に分けて表にします(2026年10月21日確認)。

段階	文化庁の考え方(要点)	企業が確認したいこと
学習の段階(AIの開発・学習)	著作権法第30条の4の対象。情報解析の用に供する場合は、著作物に表現された思想や感情を享受することを目的としない場合に該当すると考えられる。ただし、1つの利用行為に複数の目的が併存し、その中に1つでも「享受」の目的が含まれていれば、同条の要件を欠く	多くの企業は、AIを開発するのではなく利用する側。社内の資料を使ってAIに追加の学習をさせる場合などは、どの目的で何を使うかを確認する
生成・利用の段階(生成物を使う)	既存の判例では、既存の著作物との類似性と依拠性の両方が認められる際に著作権侵害となるとされる。生成AIの生成物にも、その生成・利用の段階で両方が認められれば、差止請求や損害賠償請求がされうる。故意による侵害には刑事罰の適用もありうる	生成物をそのまま公開・商用利用する前に、既存の著作物に似ていないかを確認する

依拠性について、文化庁は、利用者が既存の著作物を認識していて、それを生成AIで生成させた場合は、依拠性が認められ、利用者による著作権侵害が成立すると考えられると整理しています。例として、既存の著作物そのものを入力する場合や、既存の著作物の題号などの特定の固有名詞を入力する場合が挙げられています。一方で、生成AIの開発に使われた著作物を利用者が認識していないのに、それに似たものが生成される場合もありうる点は、人間が行う創作と異なる点として、整理の対象になっています。

実務では、他人の作品名や既存の画像そのものをプロンプトに入れて生成させない、公開前に類似するものがないかを確認する、といった基本を、全員が知っていることが出発点になります(本記事の整理)。なお、本記事は一般的な情報提供であり、法的助言ではありません。個別の判断が必要な場合は、専門家に相談してください。著作権の詳しい整理はAIの著作権｜生成AI時代の権利と実務対応をご覧ください。

偏見・偽情報・悪用｜出力の中身と、AIの使われ方の問題

偏見・偽情報・悪用とは、AIの出力の不当な偏り、真実らしく装った偽情報、AIを攻撃に使う行為のことで、AI事業者ガイドラインとIPAが、それぞれ対策を求めています。

偏見・差別｜学習データ由来の偏り

AI事業者ガイドライン第1.2版は、特定の個人や集団への、人種・性別・国籍・年齢・政治的信念・宗教などの多様な背景を理由とした不当で有害な偏見と差別をなくすよう努めることが重要だとしています。そのうえで、それでも回避できないバイアスがあることを認識し、人権や多様な文化を尊重する観点から許容できるかを評価して利用することが重要だと述べています。採用や評価など、人に関わる判断にAIの出力を使う場合は、結果を人が確認する前提が欠かせません(本記事の整理)。

偽情報｜真実らしく装った情報を誰でも作れる

同じガイドラインは、生成AIによって、内容が真実・公平であるかのように装った情報を誰でも作れるようになり、AIが生成した偽情報・誤情報・偏向情報が社会を不安定化・混乱させるリスクが高まっていることを認識したうえで、必要な対策を講じるよう求めています。社内に置き換えると、広告・SNS・プレスリリースなど、自社が外に出す情報にAIの生成物を使うときに、事実の確認と出所の確認を省かない、ということになります(本記事の整理)。

悪用｜攻撃の容易化と、AI自体の弱点

IPAの解説書は、AIによる翻訳の能力の向上で、攻撃者がWebページの翻訳やフィッシングの文面を、標的の母国語で違和感なく表現できるようになり、多言語での攻撃が格段に容易になると指摘しています。事例として、2025年2月に、不正に入手したIDとパスワードを機械的に入力して携帯電話の回線契約まで行うプログラムを使ったとして、中高生3人が不正アクセス禁止法違反などの疑いで逮捕されたことを挙げ、生成AIを補助的に使ってプログラムを自作したとされています。

AI自体の弱点を突く攻撃もあります。解説書は、2025年6月に、Microsoft 365 Copilotの脆弱性「EchoLeak」が報道されたことを紹介しています。不正なプロンプトが外部から注入されると、AIが不適切な動作をして、Copilotにアクセスを許可した社内の秘密データなどが流出する可能性があったとされ、修正済みと報じられています。IPAの豆知識では、RAGなどを通じてAIのプロンプトに入り込むデータの中に不正なプロンプトを混ぜ込む手口を、間接プロンプトインジェクションと呼び、AIシステムの利用者にも警戒が必要な攻撃だと説明しています。

これらは、利用者が入力と出力に気をつけるだけでは防ぎきれません。AIのサービスを選ぶとき、契約や約款、サービス提供側のセキュリティ対策を確認することが、次の章で扱う組織の対策につながります。

過度な依存と体制の遅れ｜人と組織の側の問題

過度な依存と体制の遅れとは、AIの出力を鵜呑みにする人の側の問題と、指針や審査の体制が整っていない組織の側の問題のことで、白書は日本企業の27.0%に「組織的な取組はない」としています。

人の側｜自動化バイアスと過剰な依存

AI事業者ガイドライン第1.2版は、自動化バイアスなど、AIに過度に依存するリスクに注意を払い、必要な対策を講じるよう求めています。IPAの解説書も、問いに対する答えが容易に得られ、利便性が高く手軽なため、過剰に依存し、誤った生成結果を鵜呑みにしてしまうことが考えられると説明しています。便利さが増すほど、確認が省かれやすくなる点が、この問題の特徴です。

組織の側｜指針の整備と、審査・評価の体制

総務省の白書では、生成AIの活用に組織的に取り組んでいる日本企業は65.6%で、「組織的な取組はない」と答えた割合は27.0%と約3割にのぼり、米国・ドイツ・中国に比べて顕著に高い結果でした。企業規模別では、中小企業で特に高い傾向が見られています(2026年10月21日確認)。リスク対策では、日本は「全社的な指針やガイドラインを整備している」が41.1%で最も高く、米国・ドイツ・中国では、導入段階の専門的な審査体制や、導入後の定期的な評価・検証が、日本より高い傾向でした。白書は、他の3か国では議事録・メール作成の補助にとどまらず、顧客向けの製品・サービスにも生成AIが使われており、それに伴って事前審査や事後評価の体制が整いつつあると考察しています。

そのほかによく挙がる運用面の問題

解説記事では、導入・運用のコスト、既存システムとの連携、指示(プロンプト)の書き方による品質のばらつき、最新情報の反映のしにくさも問題点として挙がります。これらは、公的資料で一律の数値や基準が示されているわけではなく、使うサービスや契約によって異なります。本記事では、公的資料で確認できた6つに絞り、費用や連携は各サービスの資料で確認する前提としました。なお、IPAの豆知識は、生成AIは学習済みの知識にもとづいて回答を組み立てるため、社内規定のような学習外の情報には答えられず、それを補う仕組みとしてRAGがあると説明しています。

問題点への対策｜IPAが示す組織の対策を、役割別に整理

生成AIの問題点への対策は、IPAの解説書で、経営層のルール整備、システム管理者の利用状況の把握、従業員の教育の3つの役割に分けて示されています。

IPAの「10大脅威2026」の解説書は、AI事業者ガイドラインでいうAI利用者の立場での対策として、次の内容を挙げています(2026年10月21日確認)。

役割	公的資料が示す対策(解説書の記載の要約)	主に防ぐ問題点
経営層	未許可・未認可のAIサービス利用(シャドーIT)の禁止。AIガバナンスとサービス利用規定の整備(AI事業者ガイドライン等の参照・準拠、個人アカウントにおける業務利用の制限、規程違反時の対応の明確化)。外部サービス利用時のオプトアウト設定の徹底。約款の確認。専門家・相談窓口の確保。決裁・承認プロセスでの複数名チェックの規程化	1. 情報漏えい、5. 悪用、6. 体制の遅れ
システム管理者	IT資産管理と構成管理、通信ログやCASB等の活用による、AIサービスの利用状況の把握。多要素認証の徹底	1. 情報漏えい、5. 悪用
従業員・職員	AI利用における講習等のプログラムの用意。社内の秘密情報等を安易に入力しない。出力が指示どおりとは限らず、ハルシネーションが存在することを理解する。AIへの過剰な依存に留意する	1. 情報漏えい、2. 誤情報、6. 過度な依存

この表で、従業員向けの対策の中心が「教育」であることに注目してください。ルールや設定は経営層と管理者が整えられますが、入力しない・鵜呑みにしないという判断は、最終的に使う一人ひとりが行います。

使わせないだけでは足りない理由(本記事の整理)

生成AIの利用を一律に禁止すれば、問題点も消えそうに見えます。しかしIPAの解説書は、職場にAIサービスの利用がない場合に、従業員が個人的に使っているAIサービスを業務に使う(シャドーAI)ことが、情報漏えいにつながりうると説明しています。使えない環境が、かえって会社の見えない利用を招くこともあります。使ってよいサービスと入力してよい情報の範囲を決め、使い方を教える運用のほうが、問題点を管理しやすいと考えられます。AI事業者ガイドラインの位置づけと改定内容は、AI事業者ガイドライン第1.2版｜位置づけと改定内容にまとめています。

ルールや確認手順は、文書にして配るだけでは、読まれたかどうか、理解されたかどうかが見えません。自社の確認手順を社内向けの教材にして、いつでも何度でも学べる形にしたい場合の一例が、株式会社FCEが提供するSmart Boardingです。商品ページでは、社内独自の教育内容を学習プログラムにして、いつでも何度でも学習と復習ができること、LMS機能で各受講者の進捗や理解度を確認できること、学習の成果を確認する小テストを作成して配信できることが紹介されています。電話・メールでの相談や教育プログラムの設計といった手厚いサポートは、「充実サポートプラン」のみの提供です。生成AIの利用に特化した既製のコースがあるかは、資料で確認してください。料金はプランによって異なるため、資料や公式サイトで確認してください。

【自社オリジナルコンテンツ】と【FCEプログラム】を活用した自社独自の学習コースを作成

Smart Boarding 導入事例(株式会社ミツハシ)の見出し 出典：導入事例ページ

社内に基準を届けて確かめる教育サービス3つの違い｜生成AI専用の教材ではなく、運営面の支え

3つのサービスは、生成AIの問題点そのものを防ぐものではなく、基準の周知・理解度の確認・手順の教材化という運営面を支える教育サービスです。

ここまでに登場した3つのサービスを、役割の違いで並べます。優劣や順位ではなく、社内の状況に合うものを選ぶための整理です。自社の状況を選ぶと、合うサービスが強調されます。

どのサービスも、生成AIの利用状況の把握や、出力の確認そのものを代わりに行うものではありません。利用状況の把握や設定は管理者、出力の確認は使う人と確認の担当が行います。そのうえで、使う人が増えたときの基準の周知、理解の確認、手順の教材化を、研修の仕組みに載せるかどうかを検討する位置づけです。複数のサービスの資料をまとめて請求して、研修の内容・管理の方法・サポートの範囲を比べてください。

よくある質問(FAQ)

Q1. 生成AIの問題点は何ですか？

A. 生成AIの問題点は、情報漏えい、ハルシネーション(誤情報)、著作権など権利の侵害、偏見と偽情報、悪用とAI自体の弱点、過度な依存と組織の体制の遅れの6つに整理できます。総務省の白書では、日本企業が最も懸念しているのは、社内情報の漏洩などのセキュリティリスクでした。

Q2. 生成AIがダメな理由は何ですか？

A. 生成AIそのものが「ダメ」というより、確認や基準のないまま使うと問題が起きる、というのが公的資料の整理です。IPAはハルシネーションを完全に防ぐ方法はまだ分かっていないとし、入力による情報漏えいや、生成物による権利侵害も起こりえます。使う範囲、入力してよい情報、確認する人を決めて使うことが前提です。

Q3. 生成AIの利点と問題点は何ですか？

A. 利点は業務の効率化です。総務省の白書では、導入の影響として「作業時間の短縮などによる業務の効率化」が61.6%と最も高い回答でした。問題点は6つあり、効率化の効果は、確認の手間や体制づくりとあわせて考える必要があります。

Q4. ハルシネーションは防げますか？

A. 完全には防げません。IPAは、完全に防ぐ方法はまだ分かっていないと説明しています。数字・固有名詞・出典を原典で確認し、重要な内容は複数の人で確かめる運用が基本になります。

Q5. 生成AIに個人情報を入力してもよいですか？

A. 条件があります。個人情報保護委員会の注意喚起では、利用目的の達成に必要な範囲内かを確認すること、本人の同意なく個人データを入力し、応答結果の出力以外の目的で取り扱われる場合は法に違反する可能性があること、サービス提供事業者が機械学習に利用しないこと等を確認することが示されています。個別の判断は専門家に相談してください。

Q6. 生成AIで作った文章や画像は、著作権侵害になりますか？

A. 既存の著作物との類似性と依拠性が認められれば、侵害となりえます。文化庁は、利用者が既存の著作物を認識していて、その著作物そのものや題号などを入力して生成させた場合は、依拠性が認められると考えられると整理しています。公開前に類似するものがないかを確認してください。

まとめ｜生成AIの問題点で押さえたい6つのこと

生成AIの問題点は、6つに整理できます。どれも、使わないことで避けるのではなく、使う範囲と確認の手順を決め、使う人に伝えることで管理していく問題です。

1. 問題点は、情報漏えい、誤情報、権利の侵害、偏見・偽情報、悪用とAI自体の弱点、過度な依存と体制の遅れの6つ。日本企業が最も懸念するのは社内情報の漏えい
2. 入力する前に、個人データ・秘密情報か、学習に使われないか、会社が認めたアカウントかを確認する。個人情報は個人情報保護委員会の注意喚起を参照する
3. ハルシネーションは完全には防げない。数字・固有名詞・出典は原典で確認し、重要な内容は複数の人で確かめる
4. 生成物は、既存の著作物との類似性と依拠性が認められると著作権侵害になりうる。他人の作品名や既存の著作物そのものを入力して生成させない
5. 対策は、経営層のルール整備、管理者の利用状況の把握、従業員の教育の3つの役割で考える。禁止だけでは、見えない利用を招くことがある
6. 基準の周知・理解度の確認・手順の教材化をそろえるため、eラーニングの資料を請求して比較する

生成AIの機能や公的資料の内容は、今後も更新されます。変わらないのは、どこまで任せ、どこで人が確認するかを決めるのは、使う組織の側だということです。まず、使ってよいサービスと入力してよい情報の範囲を決めるところから始めてください。

参考文献

• 総務省「令和8年版 情報通信白書 懸念されるリスク及びリスク対策のための取組状況」(2026年10月21日確認)https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd121140.html
• 総務省「令和8年版 情報通信白書 生成AIの業務利用状況」(2026年10月21日確認)https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd121130.html
• 総務省「令和8年版 情報通信白書 生成AIの活用により生じうる影響」(2026年10月21日確認)https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd121150.html
• 総務省「令和8年版 情報通信白書 組織的な取組状況」(2026年10月21日確認)https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd121120.html
• IPA「情報セキュリティ10大脅威 2026 [組織編] 解説書」(2026年10月21日確認)https://www.ipa.go.jp/security/10threats/omgdg50000008fi8-att/kaisetsu_2026_soshiki.pdf
• IPA「AI利用者のためのセキュリティ豆知識」(2026年3月。2026年10月21日確認)https://www.ipa.go.jp/digital/ai/security/rcu1hd0000009h9u-att/1-1.pdf
• 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」(令和5年6月2日。2026年10月21日確認)https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/
• 文化庁「AIと著作権について」(2026年10月21日確認)https://www.bunka.go.jp/seisaku/chosakuken/aiandcopyright.html
• 文化庁 文化審議会著作権分科会法制度小委員会「AIと著作権に関する考え方について」(令和6年3月15日。2026年10月21日確認)https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/pdf/94037901_01.pdf
• 総務省・経済産業省「AI事業者ガイドライン(第1.2版)」本編(総務省掲載。2026年10月21日確認)https://www.soumu.go.jp/main_content/001064279.pdf
• 経済産業省「AI事業者ガイドライン」(第1.2版)https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html
• OneCompliance「コンプライアンス研修 学習コース/コンテンツ一覧」(2026年10月21日確認)https://onecompliance.jp/courses