この記事で分かること／分からないこと
- 分かること: 個人情報保護委員会が示した、生成AIへの入力に関する注意喚起の内容
- 分かること: 個人情報取扱事業者・行政機関等・一般利用者で分けられた注意点の違い
- 分かること: 入力段階の線引きと、出力段階で起きる推測漏れが別の問題であること
- 分からないこと: 個別の業務・システムで何が「利用目的の範囲内」と言えるかの判断(本稿では扱わない)
編集部は法律の専門家ではなく、本記事は法的な助言ではない。個人情報の取り扱いについては、必要に応じて弁護士等の専門家に確認してほしい。
個人情報保護委員会は「入力する前に確認せよ」と呼びかけている
個人情報保護委員会は2023年6月2日、「生成AIサービスの利用に関する注意喚起等について」を公表した(出所: 個人情報保護委員会 別添1 PDF https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/、確認日2026-09-06)。この注意喚起は、個人情報取扱事業者、行政機関等、一般の利用者という3つの立場それぞれに向けて、生成AIサービスに情報を入力する際の注意点を分けて示している。
事業者・行政機関等に共通するのは「利用目的の範囲内か」の確認
個人情報取扱事業者向けの注意点として、同資料は「特定された当該個人情報の利用目的を達成するために必要な範囲内であることを十分に確認すること」を挙げている。さらに、本人の同意を得ずに個人データを含むプロンプトを入力し、それが応答結果の出力以外の目的で取り扱われる場合、「個人情報保護法の規定に違反することとなる可能性がある」とし、生成AIサービスを提供する事業者が当該データを機械学習に利用しないことなどを確認するよう求めている(出所: 前掲PDF、確認日2026-09-06)。行政機関等に向けた注意点も、必要最小限の利用・提供であることの確認という、同じ構造で示されている。
一般利用者への留意点は「出力側」にも及んでいる
一般の利用者向けの留意点として、同資料は、入力された個人情報が生成AIの機械学習に利用されることがあり、他の情報と統計的に結びついた上で、正確または不正確な内容で出力されるリスクを挙げている。応答結果に不正確な内容の個人情報が含まれるリスクにも触れており、利用規約やプライバシーポリシーを確認した上で判断することを求めている(出所: 前掲PDF、確認日2026-09-06)。入力する情報の線引きだけでなく、出てくる答えの側にもリスクがあるという構成になっている。
隠しても答えから漏れることがある、という別の論点
入力の線引きとは別に、社内文書RAGでは、権限のある文書とない文書を検索結果でフィルタしても、回答の詳しさや構成の違いから、除外したはずの文書の存在や内容を読者が推測できてしまう場合があるという論点がある。この構造は検索結果を隠しても答えから漏れる記事で扱っている。個人情報保護委員会の注意喚起が扱っているのは主に「入力する前」の判断であり、この推測漏れは「入力した後、答え方の設計」に関わる別の経路の問題である。両者を混同せず、それぞれ別の対策が必要な論点として見ておく必要がある。
入力段階の線引きに加えて、一度入力された個人情報がどこにどう残りうるかという論点は個人情報と生成AIの記事で扱っている。社内のAI利用ガイドラインの作り方は社内ガイドラインの記事を参照してほしい。AIガバナンス設計について相談したい方は、お問い合わせから編集部までご連絡いただきたい。
- 関連記事: 社内のAI利用ガイドラインをどう作るか
- 関連記事: 個人情報と生成AI
よくある質問
Q1. 個人情報保護委員会はいつ、どのような注意喚起を出したのか
2023年6月2日に「生成AIサービスの利用に関する注意喚起等について」を公表し、個人情報取扱事業者・行政機関等・一般利用者の3つの立場に向けて、それぞれ入力時の注意点を示している。
Q2. 個人情報取扱事業者が生成AIに個人情報を入力する際、何を確認すべきとされているか
特定された利用目的を達成するために必要な範囲内であることの確認と、本人の同意なく入力した個人データが応答結果の出力以外の目的で扱われないよう、提供事業者が機械学習に利用しないことなどの確認が挙げられている。
Q3. 一般利用者への留意点には何が含まれるか
入力した個人情報が機械学習に利用され、他の情報と統計的に結びついた上で不正確な内容として出力されるリスクや、応答結果自体に不正確な個人情報が含まれるリスクが挙げられている。
Q4. 入力の線引きと、検索結果を隠しても起きる推測漏れは同じ問題か
別の問題である。入力の線引きは「入力する前」の判断に関わり、推測漏れは「入力した後、答え方をどう設計するか」に関わる別の経路の論点である。