この記事で分かること／分からないこと
- 分かること: 個人情報保護委員会が指摘する、生成AIの出力段階における個人情報のリスク
- 分かること: 社内文書RAGの削除要求が索引だけでは終わらない構造
- 分かること: 「LLM本体の学習」と「自社RAGの索引・生成物」が別の経路であること
- 分からないこと: 対応にかかる日数や法令上の期限の基準(本稿では扱わない)
- 分からないこと: 自社の社内文書RAGでこの種の削除要求が実際どの程度発生しているかの実測データ(自社データはまだ無い)
編集部は法律の専門家ではなく、本記事は法的な助言ではない。個人情報の取り扱いや削除要求への対応については、必要に応じて弁護士等の専門家に確認してほしい。
個人情報保護委員会は「出力にも」リスクがあると指摘している
個人情報保護委員会が2023年6月2日に公表した「生成AIサービスの利用に関する注意喚起等について」は、入力段階だけでなく出力段階のリスクにも触れている。一般利用者への留意点として、入力された個人情報が生成AIの機械学習に利用されることがあり、他の情報と統計的に結びついた上で、正確または不正確な内容で出力されるリスクがあるとしている(出所: 個人情報保護委員会 別添1 PDF https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/、確認日2026-09-06)。一度入力された個人情報は、入力した本人の意図しない形で後から出力に現れうる、という構造がここで示されている。
社内文書RAGでは、削除要求は索引だけでは終わらない
生成AIサービス本体の学習とは別に、社内文書RAGを自社で運用している場合には、また別の経路の問題がある。ある文書についての削除要求を受けたとき、対象となりうる場所は、投入した原本、検索・生成のために作られた生成物(根拠の全集合や質問のバリエーションなど)、実行時に毎回参照する索引、そして過去に配信された回答文や会話ログという、複数の場所に分かれている。索引から対象の記述を消せば、それ以降の検索や回答には使われなくなるが、索引とは別に保存されている生成物や、過去に配信済みの回答文には、削除前の内容がそのまま残っていることがある。この構造は削除要求はどこから消すかの記事で扱っている。
「入力した個人情報」と「出力に混ざる個人情報」は別の経路
個人情報保護委員会が注意喚起で扱っているのは、主に生成AIサービス本体への入力と、その学習・出力に関するリスクである。一方、社内文書RAGの削除要求で問題になるのは、自社が構築した索引や生成物という、また別の場所に残る内容である。前者はサービス提供事業者側の学習プロセスに関わる論点であり、後者は自社の運用設計に関わる論点であるという違いがある。両者を同じ問題として扱うと、どちらか一方の対策だけで済ませてしまい、もう一方の経路が見落とされることになる。
対応の範囲をあらかじめ決めておく
原本・生成物・索引・会話ログ・監査ログのうち、削除要求に対してどこまでを対象にするかは、要求を受けてから都度判断するのではなく、あらかじめ運用として決めておく必要がある。索引からの削除だけを「削除」と呼ぶのか、生成物や過去の回答文の書き換え・再生成までを含めるのかによって、対応にかかる作業も、削除完了と言える範囲も大きく変わる。対応にかかる日数や法令上の期限といった基準は、本稿では扱っていない。
生成AIに何を入力してよいかという上流の線引きは入力してよい情報の線引きの記事で扱っている。学習段階での著作物の扱いを整理した記事は著作権の扱いの記事を参照してほしい。個人情報・AIガバナンス設計について相談したい方は、お問い合わせから編集部までご連絡いただきたい。
- 関連記事: 生成AIに入力してよい情報の線引き
- 関連記事: 著作権の扱い(学習・生成・利用の段階分け)
よくある質問
Q1. 個人情報保護委員会は出力段階についてどう述べているか
入力された個人情報が生成AIの機械学習に利用されることがあり、他の情報と統計的に結びついた上で、正確または不正確な内容で出力されるリスクがあると指摘している。
Q2. 社内文書RAGの削除要求はなぜ索引だけでは終わらないのか
原本・生成物・索引・会話ログという複数の場所に情報が分かれて存在しており、索引を消しても、別に保存されている生成物や過去の回答文には削除前の内容が残っている場合があるためである。
Q3. 「LLM本体への入力」と「自社RAGの索引・生成物」はどう違うのか
前者はサービス提供事業者側の学習・出力プロセスに関わる論点であり、後者は自社が構築した索引や生成物という別の場所に残る内容に関わる論点である。別の経路の問題として扱う必要がある。
Q4. 削除の対応範囲はいつ決めておくべきか
要求を受けてから都度判断するのではなく、あらかじめ運用として決めておく必要がある。本稿では対応日数や法令上の期限の基準までは扱っていない。