ポリシーなき生成AI利用の3大リスク
ChatGPTをはじめとする生成AIツールが業務に浸透し、文書作成・コード生成・情報調査に日常的に使われる企業が増えています。一方で、機密情報の意図しない外部送信、著作権侵害リスク、誤情報（ハルシネーション1）を含む生成物のそのままの利用といったトラブルが相次いでいます。日本にはまだ生成AI専用の法律は存在しませんが、個人情報保護法・著作権法・不正競争防止法が交差する領域であり、法務・情シスが連携してポリシーを整備することが急務となっています。本記事では、押さえるべき必須条項、業種別の論点、そして今日着手できる4アクションを整理します。
何を定めているのか
本記事は、企業の生成AI利用ポリシーに直接効く以下の3文書を中心に扱います（2026年5月時点）。日本のAI規制全体（AI法・適正性確保指針・AISIドキュメント群・業界別ガイドライン等）の俯瞰は、別記事「いま見るべき日本のAI規制マップ：三層構造と7本の横断文書」に整理しています。
- 経済産業省・総務省「AI事業者ガイドライン」（2024年4月公表）: AIの開発・提供・利活用の各段階における行動規範を示します。「人間中心」「透明性」「セキュリティ確保」など10の原則を掲げ、利活用者には入力データの適切な管理とAI出力の確認責任が求められます。努力義務にとどまりますが、実質的な業界標準として機能しています。
- 個人情報保護委員会「生成AIサービスの利用に関する注意喚起」（2023年6月）: 生成AIへの個人情報入力が第三者提供や目的外利用に該当しうると指摘しています。ベンダーの利用規約でデータの学習利用を拒否できる設定（オプトアウト2）の有無を確認することを求めています。
- 文化庁「AIと著作権に関する考え方について」（2024年3月公表）: 著作権の論点は 学習段階と生成・利用段階の二段階で整理する必要があります。学習段階は著作権法 第30条の4 により情報解析目的での利用が原則として認められる余地がありますが、(a) 著作物の表現的価値を享受する目的での収集は同条適用外、(b) 既存市場代替性がある利用は「不当に害する場合」（同条ただし書）に該当しうる、(c) 文化庁の「AI と著作権に関する考え方について」（2024年3月）で具体的場面の整理が進められています。自社 AI 学習・学習データ構成時は法務確認が必須です。生成・利用段階では、AI出力物が既存著作物に対して依拠性と類似性の両要件を満たせば著作権侵害となりえます。業務利用における出力確認の責任は利用側企業に帰属します。
企業に何を求めているか
法律・ガイドラインを横断して整理すると、求められる対応は3層に分かれます。
- 法的義務（違反すれば責任）: 個人情報を含む入力データの取扱い（個人情報保護法 第17条・第18条 の利用目的特定／変更制限、第23条 の安全管理措置、第27条 の第三者提供規制）。SaaS ベンダーへの提供は 第25条 の「委託」として構成して第27条を回避できる場合がありますが、これには (a) ベンダーが委託元の目的・指示に専属して処理する、(b) 自社学習・サービス改善に利用しないことを契約で確認する、(c) 利用規約または DPA でこの旨を明示するの三条件が必須です。ChatGPT 無料版・Gemini 無料版等の一般向けサービスは典型的にこの条件を満たさず、入力は無断の第三者提供となる可能性があります。委託として整理した場合でも委託元の監督義務が残るため DPA 締結とベンダー監査が必須です。営業秘密については、不正競争防止法第2条第6項 は営業秘密の定義規定（秘密管理性・有用性・非公知性の三要件）であり、要件を満たさなければ営業秘密として保護されなくなります。差止・損害賠償請求権は同法第3条・第4条が根拠です。
- 努力義務（業界標準として実質必須）: 利用ツールのリスク評価・承認プロセスの整備、生成物のファクトチェック体制の確立
- 推奨（ベストプラクティス）: 利用ログの保全（監査証跡）、従業員向けリテラシー研修の定期実施、ベンダーとのデータ処理契約（DPA3）締結
実務対応のポイント
「結局どうすれば良いか」を把握しやすいよう、4軸で整理します。
- 設計: ポリシー文書に「入力禁止情報の定義」（個人情報・機密情報・未公開財務情報・顧客ソースコード）と「承認済みツールリスト」を明記します。汎用ツールと業務特化ツールを区別し、使用可否を一覧で示すことが重要です。
- 運用: 生成AIの利用ログを一定期間保全し、インシデント発生時の追跡を可能にします。出力成果物をそのまま外部提出・公開することを禁止し、必ず人間が確認・承認するプロセスを明文化します。
- ガバナンス: 半年に一度、利用状況と新規ツールのリスク評価を経営層へ報告します。ポリシー違反時の懲戒フロー（就業規則への反映）を法務部門と確認し、対応の抑止力を担保します。
- 契約・法務: 利用SaaSの利用規約を確認し、データの学習利用の有無・保存期間・準拠法を把握します。業務データを大量に連携するケースはDPAの締結を検討することが望ましい状態です。
業種別影響
金融
金融庁が公表した「モデル・リスク管理に関する原則」（主要行向け、2021年11月）との整合も求められます。AIが生成した分析レポートや推奨文書を承認なしに顧客向け資料として使用することは、適合性原則・説明義務の観点でリスクとなります。利用申請・承認フローの整備に一定のコストがかかる見込みです。
医療
患者情報を含む入力は、個人情報保護法の要配慮個人情報として厳格な取り扱いが必要です。電子カルテシステムとの連携では、ベンダーがデータを学習に使用しない旨を契約で担保することが現実的な対応となります。なお「医療では生成AI一切使用不可」という過剰萎縮は不要で、学術研究例外（同法第41条等）や厚生労働省「医療情報システムの安全管理に関するガイドライン」が定める範囲内では利用余地があります。法務・医療情報管理部門と用途別に許容範囲を確認することが現実的です。
IT・SaaS
コード生成AIの利用が最も活発な業種です。出力コードに含まれるOSSライセンス（GPL等）との抵触リスクと、顧客ソースコード入力時の秘密保持義務違反リスクが主な論点です。開発規約へのコード生成AI利用ルール明文化と、出力物のレビュー義務の設定が必要といえます。
国際比較・関連基準
EU AI Act は2024年8月に発効し、段階適用の構造をとっています。禁止AI規定が2025年2月、汎用AI（GPAI）プロバイダー向け義務（透明性・著作権ポリシー・技術文書整備）が2025年8月に既に適用開始されており、Annex IIIに列挙された高リスクAIシステム義務（適合性評価・人間監視・基本権影響評価等）は2026年8月から本格適用されます。記事公開時点で「これから来る話」ではなく「GPAI義務は適用済み、高リスクAI義務は数か月後」というスケジュール感です。
区別が肝になるのが Provider（提供者）と Deployer（業務利用者）です。EU AI ActはAIシステムを開発・市場投入するProviderと、業務に組み込んで使うDeployerで義務が分かれます。日本企業の大多数は Deployer 側に該当し、主に①人間監視の実装（第26条）、②従業員 AI リテラシー確保（第4条）、③技術文書受領（第26条）が義務となります。基本権影響評価（FRIA、第27条）は公的機関・公的サービスを提供する民間事業体に限定の義務で、一般の民間 Deployer には推奨事項です（自主実施は推奨）。「Provider義務が記載されているから自社には関係ない」と読み飛ばすと、Deployer側の義務（特にAnnex IIIの採用選考・与信評価・医療診断支援・教育評価などを業務利用する場合）を見落とします。Annex IIIの8カテゴリに自社のAI利用が該当するかの棚卸しが第一歩です。
また、NIST AI RMF（2023年1月公表）のガバナンス・マッピング・測定・管理の4機能フレームワークは、自社ポリシーの構造設計の参考として広く参照されています。EU向けにAIを提供・展開する企業は、AI Act単独では不十分で、GDPR 第22条（自動化された意思決定への異議・人的審査請求権をデータ主体に付与。法的または重大な影響を及ぼす自動決定が対象）と第13/14/15条（組織の透明性・説明義務の根拠）との重複義務整理も必要です。
ポリシー条項を業務に落とす対応表
生成AI利用ポリシーは、禁止事項を並べるだけでは運用されません。条項ごとに、誰が何を確認し、どの記録を残すかまで決めておくと、法務・情シス・事業部門の認識差を小さくできます。
| 条項 | 確認する場面 | 主担当 | 残す証跡 |
|---|---|---|---|
| 入力禁止情報 | 新しいAIツールの利用申請時 | 情シス・法務 | データ分類、入力禁止リスト、例外承認 |
| 出力物レビュー | 顧客回答、契約文書、コードへ反映する前 | 利用部門 | レビュー者、修正履歴、根拠資料 |
| ログと監査 | 部門展開または本番利用の開始時 | 情シス | ログ保存期間、閲覧権限、削除手順 |
| 権利・ライセンス | 生成物を外部公開または製品組込みする前 | 法務・開発責任者 | 利用モデル、参照素材、OSS/著作権確認 |
例外申請の入口を用意する
実務では、全面禁止よりも「例外申請の入口がない」状態の方が危険です。承認済みツールでは処理できないユースケース、緊急調査、海外拠点の既存契約などは、現場が個人アカウントに流れる理由になります。例外申請では、利用目的、入力データ、保存先、出力の使い道、終了条件を1枚で確認し、期限付きで承認する運用にします。
今日着手できる4アクション
セキュリティ・ガバナンス担当者が当日中に着手できる具体タスクを4つ示します。記事末尾の「補足: 入力禁止情報の定義例」も併読してください。
- 社内利用ツールの棚卸しとCASB分類: 各部署で利用中の生成AIツールをCASB / SSEのAIアプリ分類レポートで列挙し、各ツールの利用規約（Privacy Policy / Terms of Service）でデータの学習利用とオプトアウト設定を確認します。シャドーAI（個人アカウント・ブラウザ拡張・モバイルアプリ経由）も含めて把握し、非承認サービスはalertモードに切り替えてユースケース申請を促します。
- 入力禁止情報の暫定通知: 上記の入力禁止情報リストを全社向けメールで今日中に送付します。正式ポリシー完成前の緊急措置として有効で、後日のインシデント時に「周知済み」として運用責任の所在を明確化できます。
- ログ保全とAIゲートウェイの即日確認: 承認済み生成 AI サービスの入出力ログが 90 日以上保全されているか（金融・PCI DSS v4.0 Req.10.7 は 12 ヶ月、医療・HIPAA は 6 年、FISC 基準は別途確認。業種別規制の保存期間要件が優先される）、自社LLMプロキシまたはCloudflare AI Gateway等のAPIゲートウェイ経由で記録されているかを確認します。HTTPS通信のDLP検査にはTLSインスペクションまたはゲートウェイ集約が前提です。未整備のサービスは暫定的にゲートウェイ経由に切り替える発議を当日中に行います。
- 公式ガイドラインの入手とAnnex III該当性チェック: 経済産業省（経産省サイト内で「AI事業者ガイドライン」を検索）と個人情報保護委員会（PPC生成AI注意喚起 (2023/6/2)）から正本を入手し、法務・情シスで対応状況をマッピングします。EU展開がある場合はAI Act Annex IIIの8カテゴリ（雇用・与信・教育・医療・司法等）に自社AI利用が該当するかの棚卸しも並行します。
AI×セキュリティの観点
生成AIポリシーが未整備のまま業務利用が広がると、3系統の脅威が同時に拡大します。1つ目はソーシャルエンジニアリング。「AIで確認して」という偽指示で社員に機密情報を外部APIへ送信させる手口は現実の脅威です。2つ目は OWASP LLM01「プロンプトインジェクション」です。ユーザーが直接入力する直接型に加え、AIに処理させる外部データ（メール本文、PDF、Webページ、社内RAGのナレッジベース）に攻撃命令を埋め込む間接型が深刻化しています。AI エージェントを業務フローに組み込んだ組織ほど攻撃面が拡大するため、主要防御線として権限最小化と出力の人間確認フローをポリシーに明記する必要があります。入力サニタイズは補強策に位置付け、間接型プロンプトインジェクション（RAG ナレッジベース汚染・外部 PDF 埋め込み等）には「サニタイズだけで防げる」と誤読されないよう階層化して書きます。3つ目は シャドーAIです。個人Googleアカウントやブラウザ拡張、スマホアプリ経由で社員が無承認の生成AIを使うケースは、多くのDLP4 監視を素通りします。
防御側の技術対策として、CASB / SSEのAIアプリ分類ポリシーで非承認サービスをalertまたはblockモードに切り替え、MDMでモバイル端末のAIアプリ利用を制御します。DLPはHTTPS通信を検査するため TLSインスペクションまたはAPIゲートウェイ経由の構成が前提になる点も忘れがちです。コード生成AI利用環境では、APIキー・接続文字列・秘匿トークンの入力禁止をポリシーに明記し、detect-secrets 等のpre-commitフックで補強します。技術的防御を機能させる前提として、ポリシーで「監視対象は何か」を定義することが欠かせません。
一枚要約
生成AIの業務利用に対する専用法律はまだ存在しませんが、個人情報保護法（第17・18・23・25・27条）・著作権法・不正競争防止法が既に適用されます。入力禁止情報の定義・承認ツールリスト・ログ保全の3点を今月中にポリシー化することが最優先です。EU市場に展開する企業は、AI ActのProvider/Deployer区分（GPAI義務は2025年8月適用済み、高リスクAI義務は2026年8月から）とGDPR第22条との重複義務も整理が必要です。四半期ごとの見直しサイクルを確立してください。
補足: 入力禁止情報の定義例
正式ポリシー策定や全社通知に転用できるよう、生成AIへの入力を原則禁止すべき情報の例を5分類で示します。学習利用される可能性のある汎用AIサービスでは以下を禁止し、業務上どうしても必要な場合は学習オフ契約のあるエンタープライズ環境（ChatGPT Enterprise・Azure OpenAI等）に限定します。
- 個人情報・顧客データ（特に要配慮個人情報）
- 未公開の財務情報・経営戦略文書（決算前開示情報、M&A検討資料、買収候補先評価等）
- 秘密保持義務対象のソースコード・設計書（顧客から預かったコード、契約上のNDA対象資料）
- APIキー・接続文字列・秘匿トークン（クラウド認証情報、DB接続情報、署名鍵）
- 係争中の法務情報（人事処分案、訴訟戦略、当局対応中の事案）
用語ミニ解説
- ハルシネーション — AIが事実と異なる情報を自信を持って生成する現象。存在しない法令番号・判例・統計が出力されることがあり、業務文書をそのまま利用すると誤情報拡散につながります。 ↩
- オプトアウト — 生成AIサービスにおいて、入力データをモデルの学習に使用しないよう設定する機能。学習利用の拒否を選択しない場合、入力内容がモデル改善に使われる可能性があります。 ↩
- DPA（Data Processing Agreement） — データ処理契約。個人データの処理を委託する際に、コントローラー（企業）とプロセッサー（SaaSベンダー等）の間で締結する契約。GDPRや個人情報保護法への対応基盤となります。 ↩
- DLP（Data Loss Prevention） — データ損失防止ツール。機密情報が社外へ漏洩しないよう、送信データをリアルタイムで検査・ブロックする仕組み。生成AIへの入力監視の用途への活用も広がっています。 ↩
編集後記
「まだ専用法がないから大丈夫」という判断が最もリスクを高めます。既存法が交差する領域なので、事後の法解釈で責任が問われる構造です。今動ける範囲で暫定ポリシーを作り、定期的に更新する体制を先に整えることが、経営的に最も合理的な対処法だと考えます。
関連記事
- いま見るべき日本のAI規制マップ：三層構造と7本の横断文書 — 本記事の前提となるAI法・適正性確保指針・業界別ガイドライン等の俯瞰
- LLMアプリを狙うプロンプトインジェクション：代表パターン7選と実務対策 — 本記事「AI×セキュリティの観点」で触れた間接型プロンプトインジェクションの掘り下げ
コメント