ChatGPT、Claude、Geminiといった生成AIが業務で広く使われるようになり、情シス部門は新たなセキュリティ課題に直面しています。IBMの「Cost of a Data Breach Report 2026」では、悪意ある侵害の4分の1がAIを使った攻撃で、その平均被害額は約600万ドル（全体平均の約499万ドルより約100万ドル高い）と報告されました。攻撃側がAIを使い始めた一方で、守る側の生成AI利用は現場が先行し、情シスの管理が追いついていないのが実情です。

しかし「具体的にどんなリスクがあるのか」「業務で禁止すべきか、許可すべきか」「どうガバナンスを整えればいいのか」と悩む情シス担当者は少なくありません。実際、生成AIのリスクは情報漏洩だけでなく、知的財産・コンプライアンス・社会的責任など複数の領域にまたがります。

この記事で持ち帰れるものは3つです。

• リスクの分類は8つ。一般に語られる7つに加え、既存SaaSに後付けされた生成AI機能（生成AI搭載SaaS）という8つ目の死角を独立して扱います
• 利用可否は「入力データの区分×サービスの契約条件」の2軸で決めます。4段階のデータ区分表と8項目の審査基準を、そのまま社内会議に持ち込める形で掲載しています
• 社内規程は文面まで書かないと運用されません。禁止データ・申請フロー・出力検証責任の3つについて条文例を載せています

明日の実務で使うものが必要な方は「生成AI利用の可否を判断するチェックリスト」と「情シスがつまずく5つの失敗パターン」から読み進めてください。

資料ダウンロード：5分でわかるジョーシス

生成AIのセキュリティリスクとは

生成AIのセキュリティリスクとは、ChatGPT・Claude・Geminiなどの大規模言語モデル（LLM）を企業業務で利用する際に発生するさまざまなリスクの総称です。情報漏洩・知的財産権侵害・コンプライアンス違反・モデルの誤動作など、多様な領域にわたるのが特徴です。

生成AIは2022年末のChatGPT登場以降、世界中の企業で急速に活用が広がりました。この動きは公的機関のリスク評価にも表れています。IPAが2026年1月29日に公表した「情報セキュリティ10大脅威 2026」では、「AIの利用をめぐるサイバーリスク」が組織向け脅威の3位として初めて選出されました。1位はランサム攻撃による被害、2位はサプライチェーンや委託先を狙った攻撃で、AI利用は既存の主要脅威と並ぶ位置づけになったことになります。IPAが挙げる想定リスクには、AIへの理解不足による意図しない情報漏えいや権利侵害、生成結果を検証せず鵜呑みにすることで生じる問題、AIの悪用による攻撃の容易化が含まれます。AI固有の攻撃だけでなく「AIを使う人間の運用」がリスク源として明示されている点が、情シスにとっての示唆です。

被害額の側からも変化が確認できます。IBMとPonemon Instituteが世界602組織を対象に実施した「Cost of a Data Breach Report 2026」（調査期間2025年3月〜2026年2月）では、データ侵害1件あたりの世界平均被害額は約499万ドルで過去最高を記録しました。悪意ある侵害のうち4分の1はAIを活用した攻撃で（前年比56%増）、その平均被害額は約600万ドルに達します。20%超の組織がAIモデルまたはAIアプリケーションを標的とした侵害を報告したことも示されました。

生成AI利用が広がった背景

生成AIが企業で急速に普及した背景には、3つの要因があります。

• 自然な対話形式で誰でも使える操作性
• 文書作成・要約・翻訳・コーディングなど業務適用範囲の広さ
• 個人でも月額数千円で高機能AIにアクセスできる価格

これらが組み合わさり、情シスの管理が及ばないまま現場での活用が広がる「シャドーAI」が発生しています。

この「現場先行」の構造は、実データでも裏づけられています。ジョーシスが調査会社Censuswideと共同で豪州のIT意思決定者500名を対象に実施した調査（2025年9月3日公表）では、78%の専門職がすでにAIツールを使っている一方、利用者の63%は「安全に使えている自信がない」と回答しました。そして70%の組織が「どのAIツールが使われているかをほとんど、あるいは全く把握できていない」状態にあります。

利用は進み、本人も不安を感じており、組織としては見えていない。禁止のルールを1枚追加しても解決しないのは、問題が「ルールの不在」ではなく「可視性の不在」にあるからです。

リスクが顕在化した事例

実際に発生した代表的な事例には以下があります。

• 韓国大手電機メーカーの社員がChatGPTにソースコードを入力し、機密情報が外部に流出
• 米国の弁護士がChatGPTで生成した架空の判例を裁判書類に引用、信用失墜
• 海外企業が生成AIで作成した広告コンテンツが既存作品を侵害、訴訟に発展

これらの事例は、生成AIのセキュリティリスクが理論上のものではなく、現実の経営リスクであることを示しています。

参考：IPA — 情報セキュリティ10大脅威 2026

‍参考：IBM — Cost of a Data Breach Report 2026（プレスリリース）‍

参考：ジョーシス — 豪州シャドーAI調査（2025年9月3日）

企業が直面する生成AIの7つのリスク

生成AIのリスクは多面的で、情シス部門としては以下の7つを把握しておく必要があります。それぞれリスクの性質と対策が異なります。

1. 機密情報の漏洩リスク

最も身近で深刻なリスクが、機密情報の漏洩です。従業員がプロンプトに顧客情報・契約書・ソースコードを入力すると、生成AIサービスのサーバーに送信されます。一部のサービスではこのデータが学習材料として再利用される可能性があり、外部への流出リスクが残ります。

問題は「入力する人がいるかどうか」ではなく「すでに入力されている前提で設計されているか」です。前述のジョーシスの豪州調査（IT意思決定者500名・2025年9月3日公表）では、36%の従業員が機密情報をAIツールにアップロードしていました。内訳は事業戦略に関する情報が44%、技術情報が40%、財務情報が34%、社内コミュニケーションが28%です。さらに24%は顧客の個人情報（PII）を、18%は知的財産や法務・コンプライアンス文書をアップロードしたと回答しています。

顧客の個人情報が4人に1人の手で外部サービスに渡り得るという前提に立つと、優先順位は変わります。研修による意識向上よりも、まず「どのAIサービスが使われているか」を把握し、企業契約のサービスに寄せる方が先になります。

2. 著作権・知的財産権侵害

生成AIが出力するコンテンツには、学習データに含まれる既存作品の特徴が反映されることがあります。意図せず他者の著作物に類似した文章・画像・コードを生成し、利用すれば著作権侵害となる可能性があります。商用利用時に特に注意が必要です。

3. ハルシネーションによる誤情報の業務利用

生成AIは事実と異なる内容を確信を持って提示する「ハルシネーション」を起こします。法律相談・医療情報・技術仕様の確認など、正確性が求められる領域で誤った回答を信用すると、ビジネス上の誤判断や信用失墜につながります。

4. プロンプトインジェクション攻撃

外部のWeb情報やドキュメントを生成AIに参照させる際、悪意のある指示が混入し、AIの動作が乗っ取られる攻撃が「プロンプトインジェクション」です。社内文書から機密情報を引き出されたり、誤った操作を実行させられたりするリスクがあり、特にAIエージェントの普及とともに注目されています。

実務で押さえておきたいのは直接型と間接型の区別です。直接プロンプトインジェクションは利用者自身が「これまでの指示を無視して」といった命令を入力する形で、影響範囲はその利用者のセッションに限られます。一方の間接プロンプトインジェクションは、攻撃者が文書やWebページ、共有ファイルに指示を仕込み、AIがそれを読み込んだ瞬間に発動します。利用者は普通に要約を依頼しただけで加害の起点になり得ます。

LLMは命令とデータを同じ経路で受け取るため、「これは指示」「これは読むだけの資料」という区別を構造的に持ちません。入力の検証だけでなく、出力のフィルタリング、AIに与える権限の最小化、機微な操作の前に人間の承認を挟むといった多層の防御が必要です。社内ファイルサーバーやSaaS上の共有ドキュメントを参照させる構成では、参照先の範囲を絞ることが最初の対策になります。

5. ディープフェイクによるなりすまし

生成AIは音声・映像・テキストを高精度で生成でき、これを悪用したなりすまし攻撃が増加しています。経営者の音声を真似た送金指示メールや、なりすまし動画でのSNS情報操作など、企業を狙う攻撃が現実化しています。

6. AIバイアスと差別的アウトプット

生成AIは学習データに含まれる偏見を引き継ぎ、人種・性別・年齢に関する差別的なアウトプットを生成することがあります。採用選考・人事評価・顧客対応に生成AIを使う場合、企業の社会的責任に関わる問題となります。

7. シャドーAIの増加

情シスの管理外で従業員が生成AIを利用する「シャドーAI」が広がっています。個人契約のAIサービスを業務に使うことで、情報漏洩リスクが管理不能な領域で増殖し、ガバナンス上の重大な課題となっています。

シャドーAIが他のリスクと異質なのは、「発生しているかどうかを自社で判定できない」点です。前述のとおり70%の組織が利用状況をほとんど把握できておらず、IBMの2026年調査でも20%超の組織がAIモデル・AIアプリを標的とした侵害を報告しています。定義と発生類型を先に整理しておきたい場合は、シャドーAIとは何かを解説した記事も参考になります。

参考：OWASP — Top 10 for LLM Applications

参考：OWASP — Top 10 for LLM Applications 2025（PDF）

生成AI搭載SaaSのリスクとは｜8つ目の死角

ここまでの7つは、従業員が生成AIサービスを直接開いて使う場面のリスクです。もう一つ、情シスの審査プロセスからこぼれ落ちやすいリスクがあります。すでに社内で使われているSaaSに、あとから生成AI機能が追加されるケースです。

議事録ツールの要約機能、チャットツールのスレッド要約、CRMの商談サマリー、ストレージのファイル横断検索。これらは新規導入ではなくアップデートとして提供されるため、多くの企業で審査を通らずに有効化されます。「導入時に審査したサービスだから安全」という前提が、AI機能の追加によって崩れる点が問題の核心です。

生成AI搭載SaaSが審査を通り抜ける4つの理由

1. 新規契約ではなく既存契約のアップデートとして提供されるため、稟議・申請のトリガーが立たない
2. 管理者の明示的な同意なしに、テナント全体でデフォルト有効になる設定が少なくない
3. 契約時に締結したDPA（データ処理契約）が、AI機能で新たに追加されたLLM提供元をサブプロセッサとして想定していない
4. AI機能の追加が請求明細上は別ライセンス・別課金で発生し、SaaS管理台帳とライセンス台帳の両方から漏れる

アクセス権の付与ミスが一気に露呈する

最も見落とされやすいのは、データ漏洩そのものではなく、既存のアクセス権設計の不備が可視化される現象です。AIによる横断検索や要約は、その利用者が権限上アクセスできるすべてのデータを対象にします。従来は権限が広く付与されていても、本人がフォルダの存在を知らなければ実害は生じませんでした。しかしAIに質問すれば、権限内のデータは要約されて手元に届きます。人事評価や役員会資料が悪意のない質問への回答として出てくる事故は、この構造から生まれます。

生成AI搭載SaaSへの対応は、AI固有の対策よりも、アクセス権の棚卸しという従来のIT統制の宿題を先に片付ける話になります。AI機能を有効化する前に、対象SaaSの権限設計を確認する順序を守ってください。

有効化の前に確認すべき6項目

このうち参照範囲とサブプロセッサは、ベンダーの製品ページに書かれていないことが多く、問い合わせが必要になります。委託先管理の観点からの確認手順は、サードパーティ・ベンダーのセキュリティリスク管理の考え方をそのまま適用できます。

発見の自動化という選択肢

導入済みSaaSが数十から数百種類ある企業では、上記6項目をすべて人手で追うのは現実的ではありません。ジョーシスは、検出されたアプリケーションに対して公開情報とベンダー情報を分析し、セキュリティスコア（0〜100）とリスクレベルを自動で付与する「SaaS Risk Analyzer」を提供しています。そのアプリが第三者の生成AIベンダーとどの程度データを共有しているか、開発元が顧客データをAIモデルの学習に利用するかまでを判定材料として提示するため、「生成AI搭載SaaSかどうか」を調べる作業を審査の前段で自動化できます。

参考：ジョーシス — AI-Powered SaaS Risk Analyzer 

参考：OWASP — Top 10 for LLM Applications

生成AIリスクを放置した場合の被害

生成AIのリスクを放置すると、企業は複数の領域で深刻な被害を受けます。情シスとして経営層に説明する際に役立つ4つの観点を整理します。

機密情報流出による経営インパクト

機密情報の流出は、競争優位の喪失・顧客信頼の毀損・株価への影響と直結します。IBMとPonemon Instituteの「Cost of a Data Breach Report 2026」によれば、データ侵害1件あたりの平均被害額は世界平均で約499万ドルと過去最高を記録しました。AIを活用した侵害はこれを上回り、平均約600万ドルです。差額の約100万ドルは、検知と封じ込めに時間がかかり、そのあいだの事業損失が積み上がることで生じます。生成AIガバナンスへの投資は、事故を100%防ぐためではなく、事故が起きたときの検知と特定を短くするための投資として位置づけると、稟議は通りやすくなります。

法的・コンプライアンス上の責任

GDPR・個人情報保護法・EU AI Act・国内のAI事業者ガイドラインなど、国内外で規制の整備が続いています。国内では、2022年4月施行の改正個人情報保護法で漏えい時の報告義務が法定化され、2026年4月には課徴金制度の新設を盛り込んだ改正法案が国会に提出されました。「報告して終わり」ではなく金銭的制裁が視野に入る段階に移りつつあります。

EU AI Actについては、適用時期の理解が2025年時点の情報のまま止まっている企業が多い点に注意が必要です（詳細は後述の「生成AIガイドラインの活用」で整理します）。生成AI利用が要件を満たさない場合、行政処分・罰金・取引停止のリスクがあり、企業の事業継続に直接影響する可能性があります。

ブランド毀損・信用失墜

生成AIによる差別的アウトプットや誤情報の発信が公になれば、ブランドイメージは大きく損なわれます。SNSで瞬時に拡散する時代、一度失った信用の回復には膨大な時間とコストがかかります。

内部不正の温床

生成AIへの機密情報入力は、内部不正の隠れ蓑にもなりえます。退職予定者が「業務で使った」と称してAIに顧客リストを入力し、外部から再取得する手口が懸念されています。生成AI経由の情報持ち出しは、従来のDLPでは検知しにくい新しいリスク領域です。

検知しにくい理由は3つあります。通信先が業務で正当に使われるドメインであるため宛先ベースの遮断が効かないこと、入力が「ファイルの添付」ではなく「本文への貼り付け」で行われるためファイル単位の監視をすり抜けること、そして個人契約のアカウントで社外の端末から使われた場合、社内ログにそもそも痕跡が残らないことです。3つ目に対しては、監視の強化ではなく企業契約アカウントへの一元化しか有効な手がありません。

参考：IBM — Cost of a Data Breach Report 2026（プレスリリース） 

参考：個人情報保護委員会 — 法令・ガイドライン等

企業がとるべき生成AI対策

生成AIのリスクは「禁止」では解決できません。生産性向上に貢献する側面が大きいため、ガバナンス対象として組み込み、リスクを管理しながら活用するアプローチが現代の主流です。6つの対策を組み合わせて運用します。

対策1：利用ガイドラインの策定

社内で生成AIを使う際のルールを策定します。具体的には、入力可能・禁止のデータ分類、利用可能なサービスのリスト、出力の検証手順、トラブル発生時の報告ルートなどを文書化します。経済産業省や日本ディープラーニング協会が公開しているガイドラインがベースとして活用できます。策定手順と社内合意の取り方は、生成AI利用ポリシーの作り方で工程ごとに整理しています。

対策2：エンタープライズ版AIの導入

ChatGPT Enterprise、Microsoft 365 Copilot、Claude Enterprise、Gemini for Google Workspaceなど、企業向けプランを正式採用します。これらは入力データが学習に使われない、SOC 2やISO/IEC 27001などの第三者認証を取得している、管理者コンソールで利用状況とデータ保持を制御できるといった特徴を備え、個人プランより安全に活用できます。

見落とされやすいのが既存の個人アカウントの扱いです。企業契約を結んでも個人アカウントを無効化しなければ、管理下と管理外のアカウントが並存し、監査ログは片方にしか残りません。契約と同時に、個人アカウントの利用停止と企業アカウントへの移行を運用として組み込んでください。

対策3：DLP・CASBによる情報漏洩対策

DLP（Data Loss Prevention）やCASB（Cloud Access Security Broker）を導入し、機密情報がプロンプトに入力されることを検知・遮断します。Microsoft Defender for Cloud Apps、Netskope、Zscalerなどがこの機能を提供しています。仕組みと製品選定の観点は、DLPとは何かを解説した記事で詳しく扱っています。

対策4：従業員教育とAIリテラシー向上

ガイドラインを文書化するだけでは行動変容は起きません。定期的な研修・eラーニング・実例共有を通じて、生成AIの正しい使い方とリスクの理解を浸透させます。AIリテラシーの底上げが、長期的なリスク削減につながります。

対策5：シャドーAIの可視化と統制

経費精算データやネットワークログから個人契約の生成AIサービスを検出し、企業契約に切り替えます。SaaS統合管理プラットフォームを活用すれば、シャドーAIの発見からアカウント整備までを自動化できます。検出手法ごとに拾える範囲と拾えない範囲が異なるため、シャドーAIの検出方法で自社の環境に合う組み合わせを確認しておくと、抜けが減ります。

対策6：AI利用ログの取得と監査対応

ガイドラインを整備し、企業契約に寄せ、可視化まで進めた企業が次に直面するのが「監査で何を出せばよいか」という問題です。内部監査やISMSの審査で求められるのは方針の存在ではなく、方針が守られている記録です。最低限そろえておきたい記録は4種類あります。

• 承認記録：どのAIサービスを、どの部門に、どの条件で許可したかの申請・承認履歴
• アカウント記録：企業契約AIサービスのアカウント一覧と、入社・異動・退職に伴う発行・変更・削除の履歴
• 利用記録：管理者コンソールから取得できる利用状況ログ（プロンプト本文まで取得するかは、労務・プライバシーの観点から法務と合意してから決めます）
• 例外記録：ガイドラインの例外を認めたケースと、その承認者・期限

保存期間は社内の文書管理規程と、対象となる監査（J-SOX・ISMS・取引先監査）の要求に合わせます。取得の設計を後回しにすると、監査の直前に「ログが残っていない期間」が判明して手戻りが発生します。SaaS横断でのログ集約の考え方は、SaaSの監査ログの取り方を参照してください。

参考：経済産業省・総務省 — AI事業者ガイドライン（第1.2版・2026年3月31日） 参考：経済産業省 — AI事業者ガイドライン検討会

生成AI利用の可否を判断するチェックリスト

ガイドラインを配布しても現場からの問い合わせが減らない理由は、「使ってよいか」の判断が担当者に委ねられている点にあります。判断を属人化させないために、軸を2つに分けます。何を入力するか（データ区分）と、どのサービスに入力するか（サービスの契約条件）です。

入力データの4区分と可否

データ区分を4段階に分け、サービスの種類ごとに可否を決めておくと、現場は表を見るだけで判断できます。

この表を配るときは、区分の判定例を10件程度添えてください。「顧客名を伏せた商談メモは区分2か区分3か」のような具体的な問いに答えられる形になっていないと、表は使われません。

サービス審査の8つの判断軸

新しいAIサービスの利用申請が上がってきたときに確認する項目です。すべてを必須にすると導入が進まないため、区分3以上のデータを扱う場合の必須条件と、区分2までなら許容する条件を分けて運用します。

社内規程の文面例

規程は「入力してはならない」で終わらせると運用されません。禁止の対象・申請の窓口・出力に対する責任の3点を条文として書き切ることが必要です。以下は自社の文書体系に合わせて書き換えて使う想定の例です。

条文例1（入力データの制限） 「従業員は、会社が指定するデータ区分表において区分3以上に分類される情報を、会社が承認していない生成AIサービスに入力してはならない。区分3の情報を承認済みサービスに入力する場合は、事前に所属長の承認を得るものとする。」

条文例2（利用サービスの限定と申請） 「業務における生成AIサービスの利用は、会社が公開する承認済みサービス一覧に掲載されたものに限る。一覧に掲載されていないサービスを業務で利用する必要が生じた場合、従業員は所定の申請書により情報システム部門に申請し、承認を得た後に利用を開始するものとする。既に業務で利用しているサービスに生成AI機能が追加された場合も、本項の申請対象とする。」

条文例3（出力の検証責任） 「生成AIの出力を業務成果物として社外に提供し、または意思決定の根拠として用いる場合、当該業務の担当者は出力内容の正確性および第三者の権利を侵害しないことを自ら確認する責任を負う。生成AIを利用した事実は、当該責任の免除事由とはならない。」

条文例2の後半（既存サービスへのAI機能追加も申請対象とする）は、前述の生成AI搭載SaaSの死角に対応する一文です。この1行があるかどうかで、審査の網の広さが変わります。

参考：日本ディープラーニング協会 — 生成AIの利用ガイドライン

参考：経済産業省・総務省 — AI事業者ガイドライン（第1.2版・2026年3月31日）

情シスがつまずく5つの失敗パターン

ガイドラインもツールも整えたのに機能しない、という相談で繰り返し出てくる型があります。5つに整理しました。

1. 「原則禁止」と書き、例外の窓口を用意しない

原則禁止の方針だけを出すと、現場は使うのをやめるのではなく報告するのをやめます。禁止のルールと同じ文書に、例外申請の窓口・様式・標準の回答日数を書いてください。禁止は可視性を下げる方向に働くという前提で設計する必要があります。

2. 個人アカウントの利用を「個人の責任」で処理する

私物端末や個人契約のアカウントでの利用を「規程違反なので本人の責任」として扱っても、企業としての管理責任は消えません。業務データが外部に出た事実は残り、報告義務の判断も企業側に生じます。責任の所在の明記は対策ではなく前提の整理です。

3. 企業契約を結んだ後も個人アカウントが残る

実務で最も頻発します。移行時にやることは3つです。承認済みサービス一覧の更新、個人アカウントの棚卸しと停止、請求明細での個人課金の消滅確認です。3つ目まで確認しないと、使い続けている人が残ります。

4. AI機能付きSaaSを「既存SaaSだから審査済み」として通す

導入審査は契約の単位で行われ、機能追加の単位では行われないのが通常の運用です。申請対象の定義に「既存サービスへの生成AI機能の追加」を含める一文を入れておくことで、この漏れは構造的に防げます。

5. 退職・異動時にAIサービスのアカウント停止が漏れる

生成AIサービスはSSO連携の対象から外れていたり、部門ごとの個別契約になっていたりすることが多く、退職処理のチェックリストに載っていないケースが目立ちます。対話履歴には社内の機微な情報が蓄積されている可能性があります。退職者アカウントの棚卸しの範囲に、生成AIサービスを明示的に含めてください。

この5つはいずれもAI固有の技術的問題ではなく、既存のIT統制の運用にAIを組み込めていないことから生じています。入退社処理・SaaS棚卸し・アクセス権レビューという既存プロセスの延長で対処できる部分が大きい領域でもあります。

参考：IPA — 情報セキュリティ10大脅威 2026

生成AIガイドラインの活用

企業が生成AI利用ガイドラインを策定する際、ゼロから作る必要はありません。国内外で参考にできるガイドラインが整備されており、これをベースに自社の実情に合わせてカスタマイズするのが効率的です。

経済産業省「AI事業者ガイドライン」

経済産業省と総務省が共同で策定したガイドラインで、AI開発者・提供者・利用者それぞれの責務を整理しています。Living Documentとして継続的に改定されており、2024年4月の第1.0版から第1.01版、2025年3月28日の第1.1版を経て、最新は2026年3月31日公表の第1.2版です。日本企業のAIガバナンス策定の出発点として活用できます。自社の規程が古い版を参照したままになっていないか、版数の確認もあわせて行ってください。

日本ディープラーニング協会（JDLA）「生成AIの利用ガイドライン」

実務担当者向けに具体的な使い方と注意点を整理したガイドラインです。プロンプトに入力すべきでない情報、出力の検証方法など、現場で使える実践的な内容が含まれます。

NIST AI Risk Management Framework

米国NISTが公開するAIリスク管理フレームワークで、AIライフサイクル全体のリスク識別・評価・対策の枠組みを提供します。グローバル展開する企業はこの基準を参照することが推奨されます。

EU AI Act

EU圏で2024年に成立したAI規制法で、リスクレベルに応じた義務を企業に課します。禁止AI・GPAIモデル・高リスクAIなど対象分類別に段階的な義務が適用されます。

適用時期は2026年に変更されました。欧州委員会が2025年11月19日に提出した「Digital Omnibus」による改正が2026年6月16日に欧州議会で可決され、6月29日にEU理事会が最終承認しています。この改正により、附属書III（独立型の高リスクAIシステム）の義務は2027年12月2日から、附属書I（規制対象製品に組み込まれた高リスクAI）の義務は2028年8月2日からの適用に変更されました。当初「2026年8月2日から主要規定が適用される」と説明されていた部分が、高リスクAIについては先送りされた形です。

ただし、すべてが延期されたわけではありません。GPAI（汎用AIモデル）に関する義務は2025年8月から適用済みで、AIとの対話やAI生成コンテンツに関する透明性義務は延期対象に含まれていません。「2027年まで何もしなくてよい」という理解は誤りです。EUに事業展開する企業は、自社が使うAIがどの分類に当たるのかを特定したうえで、分類ごとの適用時期を確認してください。

OWASP Top 10 for LLM Applications

LLMアプリケーション開発における代表的な脆弱性をまとめた資料で、開発側の視点から対策を整理しています。社内でAIアプリを開発する企業に有用です。

参考：NIST AI Risk Management Framework 

参考：EU理事会 — AIルールの簡素化・合理化に最終承認（2026年6月29日） 

参考：経済産業省・総務省 — AI事業者ガイドライン（第1.2版）

対策に役立つ代表的なツール

生成AIのセキュリティ対策には、目的に応じた複数のツールを組み合わせることが効果的です。代表的な6カテゴリ・製品を紹介します。

Microsoft Purview（DSPM for AI）

Microsoft Purviewの「DSPM for AI（Data Security Posture Management for AI）」は、Microsoft 365とCopilotを含む生成AIアプリの利用状況を可視化し、ガバナンスを強化する機能です。生成AIアプリに送られたプロンプトと応答を収集し、機密情報の検出、ポリシー違反の検知、リスク評価と推奨事項の提示などが行えます。以前は「AI Hub」と呼ばれていましたが、現在の名称はDSPM for AIです。

Netskope GenAI Security

Netskope GenAI Securityは、SSEプラットフォーム上で生成AIサービスへのアクセスを制御し、データ漏洩を防止する機能です。多数の生成AIサービスに対応し、リスクベースのアクセス制御を提供します。

Zscaler AI Protection

Zscaler AI Protectionは、生成AIサービスへの通信を検査し、機密情報の送信を遮断する機能です。クラウド型ネットワークセキュリティの一機能として提供され、リモートワーク環境にも対応します。

Lasso Security

Lasso Securityは、生成AI利用に特化したセキュリティ専業のスタートアップです。プロンプトインジェクション対策、機密情報検知、コンプライアンス監査を一元的に提供し、AI特化型のリスク管理を実現します。

Microsoft Defender for Cloud Apps

Microsoft Defender for Cloud Appsは、CASBとして生成AIを含むクラウドアプリの利用を可視化し、リスク評価とポリシー適用を行います。Microsoft 365 E5プランに付属し、シャドーAI対策の起点として活用できます。

ジョーシス

ジョーシスは、AI駆動型アイデンティティガバナンスプラットフォームとして、企業契約の生成AIサービス（ChatGPT Enterprise、Microsoft 365 Copilotなど）のアカウント・ライセンス管理を統合し、シャドーAIの検出からガバナンス組み込みまでを支援します。350以上のSaaSと連携でき（2026年6月時点）、生成AIサービスを全体のSaaS管理に統合する基盤となります。前述のSaaS Risk Analyzerにより、検出されたアプリが第三者の生成AIベンダーとデータを共有しているか、顧客データを学習に利用するかまでを審査材料として提示できる点が、生成AI領域での特徴です。

参考：Microsoft Learn — Microsoft Purview DSPM for AI の展開に関する考慮事項 

参考：ジョーシス — AI-Powered SaaS Risk Analyzer

生成AIリスク関連の重要用語集

生成AIのリスクと対策で頻出する8つの専門用語を整理します。

LLM（Large Language Model）

LLMは、大規模なテキストデータで訓練されたAIモデルで、自然言語の理解・生成を行います。GPT-4、Claude、Geminiなどが代表的で、企業活用の中心となっています。

ハルシネーション

ハルシネーションは、AIが事実と異なる内容を確信を持って生成する現象を指します。生成AIの主要なリスクのひとつとして、業務での精度評価の重要観察点となっています。

プロンプトインジェクション

プロンプトインジェクションは、悪意ある指示をAIに送り、本来の動作を乗っ取る攻撃手法です。OWASP Top 10 for LLMの第1位に位置づけられる代表的脅威です。

シャドーAI

シャドーAIは、情シスの管理外で従業員が利用する生成AIサービスを指します。シャドーITの新形態として、企業ガバナンスの重要テーマとなっています。

AIガバナンス

AIガバナンスは、AI技術の利用に関するポリシー策定・運用統制・モニタリングを統合的に行う仕組みです。企業のAIリスク管理の中核フレームワークとして位置づけられます。

RAG（Retrieval-Augmented Generation）

RAGは、LLMに外部ナレッジベースを参照させながら回答を生成する技術です。社内固有の情報に基づく回答を可能にし、ハルシネーションを抑制する手法として広く利用されます。

AIエージェント

AIエージェントは、目標を与えると自ら手順を決め、外部ツールやAPIを操作してタスクを実行するAIです。従業員に近い権限を持つため、アカウントと権限の管理対象として扱う必要があります。詳細はAIエージェントとIT管理で整理しています。

サブプロセッサ

サブプロセッサは、事業者が個人データや顧客データの処理を再委託する先を指します。SaaSに生成AI機能が追加されるとLLM提供元が新たなサブプロセッサとして加わる場合があり、DPA（データ処理契約）の確認範囲が広がります。

参考：OWASP — Top 10 for LLM Applications

生成AIガバナンスはSaaS統合管理と一体で

生成AIのリスク対策は、ガイドライン策定や個別ツール導入だけでは不十分です。シャドーAIの可視化、企業契約AIサービスのアカウント・ライセンス管理、退職時のアクセス停止といった運用課題は、SaaS統合管理プラットフォームと一体で解決するのが現実的なアプローチとなっています。

SaaS統合管理が解決する3つの領域

• シャドーAIの発見：個人契約のAIサービスを経費・ログから検出
• アカウント整備の自動化：企業契約AIのアカウント発行・削除を自動化
• ライセンス最適化：未使用のAIライセンスを定期検出・削減

これらが揃うことで、生成AIガバナンスの運用基盤を整えやすくなります。

ジョーシスで実現する生成AIを含むSaaS統合管理

ジョーシスは、AI駆動型アイデンティティガバナンスプラットフォームとして、350以上のSaaSと連携し、生成AIサービスを含むアカウント・アクセス権・ライセンス・利用状況を一元管理します。シャドーAIの検出から企業契約の統合管理まで一気通貫で支援しており、事例によってはIT工数を最大50%、ITコストを最大75%削減したケースがあります（効果は個社の状況により異なります）。国内外1,000社以上のお客様にご採用いただいているジョーシスのプラットフォームは、生成AI時代の情シスのガバナンス基盤として機能します。

ポリシーの策定と製品による統制は、どちらか一方では成立しません。規程・体制の整備は自社で進め、その規程が守られている証跡を継続的に残す部分をプラットフォームが担う、という役割分担で考えると設計しやすくなります。

資料ダウンロード：5分でわかるジョーシス

無料デモを予約する

参考：Josys公式サイト

生成AIのセキュリティリスクに関するよくある質問

実務担当者からよく寄せられる質問を7つ取り上げ、実務目線で回答します。

Q1. 生成AIの業務利用は禁止すべきですか

A. 禁止だけでは現場の不満を招き、シャドーAIが増殖するだけです。エンタープライズ版を正式採用し、ガイドラインに沿った許可された利用範囲を提供する「リスクベースの許可」が現代の主流です。生産性向上の機会を逃さず、ガバナンスを保つ両立が可能になります。

Q2. ChatGPTのEnterprise版と通常版の違いは何ですか

A. データが学習に使われない、SOC 2 Type 2認証取得済み、SAMLによるSSO対応、管理コンソール提供、データ保持期間の管理などがEnterprise版の特徴です。通常版（無料・Plus）と比べてエンタープライズ機能が大幅に強化されており、企業利用には必須の選択となります。

Q3. 生成AIの誤情報を防ぐ方法はありますか

A. RAG（社内ナレッジ参照）の活用、出典URLの確認、複数AIによるクロスチェック、人間の最終確認の4つを組み合わせます。完全な誤情報排除はできませんが、運用設計でリスクを許容範囲に抑えることが可能です。重要判断には必ず人間の確認を介在させる設計を貫くことが大切です。

Q4. 中小企業でも生成AIガバナンスは必要ですか

A. 規模を問わず必要です。中小企業の場合、Microsoft 365 Copilotから始めて、軽量なガイドラインを策定するアプローチが現実的です。投資負担を抑えながらガバナンスの基盤を作れます。

Q5. 既存SaaSに生成AI機能が追加された場合も審査は必要ですか

A. 必要です。契約は既存のままでも、データの流れが変わっています。テナントのデータが学習に使われないか、AIが横断参照するデータの範囲、追加されたLLM提供元がサブプロセッサとして開示されているか、AIの入出力が監査ログに残るかの4点を確認してください。申請の定義に「既存サービスへの生成AI機能の追加」を含める一文を規程に入れておくと、運用として拾えるようになります。

Q6. AI利用ログはどこまで取れば監査に耐えますか

A. 承認記録・アカウント記録・利用記録・例外記録の4種類をそろえるのが出発点です。プロンプト本文まで保存するかは労務やプライバシーの論点を含むため、法務と合意した範囲で決めてください。保存期間は社内の文書管理規程と、受ける監査の要求に合わせます。

Q7. EU AI Actの高リスクAIの義務はいつから適用されますか

A. 2026年のDigital Omnibusによる改正で、附属書IIIは2027年12月2日から、附属書Iは2028年8月2日からの適用に変更されました。ただしGPAIモデルに関する義務は2025年8月から適用済みで、透明性義務は延期対象ではありません。自社のAIがどの分類に該当するかを特定してから適用時期を判断してください。

参考：IPA — 中小企業向けセキュリティ対策の解説

まとめ：生成AIリスクは「禁止」ではなく「ガバナンス」で解決する

生成AIは、企業の生産性向上に大きな可能性をもたらす一方で、機密情報漏洩・著作権侵害・ハルシネーション・シャドーAIといった多面的なリスクを生み出しています。IPAの「情報セキュリティ10大脅威 2026」で「AIの利用をめぐるサイバーリスク」が組織向け3位に初選出されたことは、この領域がランサム攻撃やサプライチェーン攻撃と並ぶ標準的な対策項目になったことを意味します。

扱ったリスクは8つです。一般に語られる7つに加え、既存SaaSに後付けされた生成AI機能という8つ目の死角があります。後者は新規導入の審査に乗らないため、規程の申請対象の定義を書き換えないと構造的に漏れ続けます。対策として現実的なのは、「禁止」ではなく、ガイドライン・エンタープライズ版採用・DLP/CASB・従業員教育・シャドーAIの可視化・ログと監査対応の6つを組み合わせるガバナンス型のアプローチです。判断を属人化させないために、データ区分の4段階表とサービス審査の8項目を先に決め、規程は条文の文面まで書き切ってください。

生成AIガバナンスは、シャドーAIの可視化と企業契約AIのアカウント・ライセンス管理という運用面で、SaaS統合管理プラットフォームと一体で運用するのが現実的です。ジョーシスのようなプラットフォームを活用することで、生成AI時代の情シスは「禁止する側」ではなく「安全に活用を支える側」として機能できるようになります。ポリシー面の整備を進める際は、生成AIガバナンスのポリシー設計もあわせて確認してください。

資料ダウンロード：5分でわかるジョーシス