この記事の内容
生成AIを組み込んだサービスで個人情報を扱うときは、まず「利用者が入れた情報が、どこへ送られ、どこに残り、いつ消えるか」を図に描き、そのうえで外部のAIに送る範囲、利用目的の示し方、保存期間を決めます。AIの機能を作る前にこの流れを決めておくと、あとから作り直す手間を減らせます。
受託の開発では、個人情報の扱いはお客さんの方針や社内の規程に沿って進めることが多かったはずです。自社で生成AIのサービスを出すと、その方針を自分で決め、利用者に示す立場になります。AIで試作が速く作れるようになった分、データの扱いを決めないまま公開してしまう危うさも増えています。
この記事では、生成AIを使ったサービスで個人情報を扱うときに、リリース前に決める5つのことを順に整理します。生成AIのサービスでは、作る前にデータの流れを1枚の図にすることが出発点になります。法律の判断が必要な点は、弁護士などの専門家と、個人情報保護委員会が公表している最新の情報で確認してください。
この記事について
書いているのは、作る側です。ハコブネを運営する株式会社Walkersは、受託と自社事業で累計300件の開発に関わり、200社以上の事業づくりを支援してきました。監修は取締役の池田龍一です。
受託と自社事業の両方を回してきた立場から説明します。数字の例のうち、仮の数字には「例えば」と付けています。X投稿の調査の数字は、ハコブネ編集部が2025年10月〜2026年10月の日本語の投稿を集計したものです。
生成AIのサービスでは、データの行き先が増える
通常のWebサービスでは、利用者が入れた情報は自社のサーバーとデータベースに保存されるのが基本です。生成AIを組み込むと、データが通る場所が増えます。
入力した文章は、外部のAIにも送られる
自社でAIのモデルを動かすのでなければ、利用者が入れた文章や画像は、外部のAIの提供元に送られて処理されます。問い合わせ文の要約、議事録の整理、メールの下書きといった機能でも、送る中身には名前や連絡先、取引の内容が含まれることがあります。
送った情報を提供元がどう扱うかは、提供元の規約やデータの方針で決まっています。プランや設定によって扱いが違うこともあるため、使う提供元の最新の規約を確かめてください。
ログや履歴にも、個人情報が残る
見落としやすいのが、ログと履歴です。エラーの調査のために入力内容を丸ごとログに残している、AIとのやり取りの履歴をすべて保存している、という作りはよくあります。データベースの本体だけでなく、ログや分析ツールにも個人情報が残っていないかを確かめます。
まず、データの流れを1枚の図にする
最初にやることは、利用者が情報を入れてから消えるまでの流れを、1枚の図に描くことです。入力画面、自社のサーバー、データベース、外部のAI、ログ、分析ツール、バックアップ。それぞれに矢印を引き、何が送られるかを書き込みます。
図があると、どこで情報を減らせるか、どこで消すかを決めやすくなります。専門家に相談するときにも、この図がそのまま資料になります。
図を描くと、普段の開発で慣れた設定のまま作っていることに気づく場合もあります。例えば、エラーの通知に入力内容をそのまま載せている、分析ツールに画面の文字をすべて送っている、といった設定です。自社サービスでは、こうした初期設定も一つずつ見直します。
外部のAIに送る情報は、必要な分だけに絞る
個人情報の扱いで一番効くのは、そもそも外に出す情報を減らすことです。送らなければ、送った先での扱いを心配する必要もなくなります。
その機能に要らない情報は、送らない
例えば、問い合わせ文の分類をAIに任せる機能なら、分類に必要なのは本文の中身で、送り主の名前やメールアドレスは要りません。送る前に、その機能に本当に必要な項目だけを選び出します。
名前や連絡先は、置き換えてから送る
本文の中に名前や電話番号が混ざる場合は、送る前に別の記号に置き換え、結果が返ってきてから元に戻す方法があります。すべてを完全に取り除くのは難しくても、明らかな個人情報を減らすだけで、外に出る情報は大きく減ります。
提供元の規約と設定を確かめる
外部のAIを使う場合は、送った情報が提供元でどう扱われるかを確かめます。学習に使われるかどうか、どれくらいの期間保存されるか、どの国で処理されるかといった点です。設定で変えられる項目もあるため、本番で使う前に一度確認してください。
海外の事業者に個人情報を預ける場合は、国内とは別の確認や利用者への説明が必要になることがあります。自分のサービスがどれに当たるかは、専門家に確認してください。
利用目的と外部への送信を、利用者に示す
個人情報を扱うサービスでは、何の情報を、何のために使うかを利用者に示す必要があります。生成AIのサービスでは、外部のAIに送ることも含めて説明します。
集める情報と、使う目的を書き出す
プライバシーポリシーを書く前に、サービスで集める情報を一覧にします。登録時のメールアドレス、利用者が入れる文章、アップロードされるファイル、アクセスの記録などです。それぞれについて、何のために使うかを横に書きます。
目的が書けない情報は、集める必要がない情報かもしれません。その場合は、集めるのをやめることも考えます。
外部のAIに送ることを、分かる言葉で書く
入力内容を外部のAIに送って処理する場合は、そのことをプライバシーポリシーに書きます。あわせて、入力画面の近くにも短く表示しておくと、利用者が気づかないまま送ってしまうことを防げます。
方針の文章と、画面の説明をそろえる
プライバシーポリシーに書いたことと、画面に表示する説明、利用規約の中身がずれていると、利用者は何を信じればよいか分からなくなります。書き終えたら、方針、規約、画面の説明を並べて、同じことを言っているかを確かめます。
保存と削除のルールを、技術の構成と一緒に決める
個人情報は、集めることより、持ち続けることのほうが危うさが増します。何をいつまで持つかを決め、その通りに消える作りにします。
項目ごとに、保存する期間を決める
すべての情報を同じ期間持つ必要はありません。アカウントの情報は利用中は必要ですが、AIとのやり取りの履歴は、例えば一定期間を過ぎたら消す、という決め方もできます。期間は例なので、サービスの中身と利用者の期待に合わせて決めてください。
退会したときに消す範囲を決める
利用者が退会したとき、どの情報を消し、どの情報を残すかを決めておきます。請求の記録など、残しておく必要がある情報もあります。残すものは理由とあわせて記録し、それ以外は消します。
削除が本当に動くかを、自分で確かめる
削除の仕組みは、作ったつもりで動いていないことがあります。データベースからは消えたのに、ログやバックアップ、外部のツールに残っている、という状態です。リリース前に、自分でテストの利用者を作って退会し、どこに何が残るかを確かめてください。
AIの出力と利用者どうしの境目にも気を配る
個人情報の扱いというと、入力と保存に目が向きがちです。生成AIのサービスでは、AIが返す出力の側にも確認する点があります。
出力に、別の利用者の情報が混ざらないようにする
複数の利用者の情報を一つの指示文にまとめてAIに渡すと、出力に別の人の名前や取引の内容が混ざることがあります。例えば、過去のやり取りを参考情報として渡す機能で、ほかの利用者の履歴まで含めてしまう作りです。AIに渡す参考情報は、その利用者自身のデータだけに絞ります。
利用者ごとに、データの置き場所を分ける
チームや会社単位で使うサービスでは、どの利用者がどのデータを見られるかを、データベースの設計の段階で決めておきます。AIの機能を後から足すときに、この区切りをまたいで検索してしまう不具合はよく起こります。試作の段階から、2つのアカウントを作って、互いのデータが見えないことを確かめる習慣をつけておくと安心です。
外に出る文章は、人が確かめてから出す
AIが作った文章をそのままメールで送る、公開ページに載せる、といった機能では、出力に個人情報が含まれていないかを確かめる手順を入れます。最初のうちは自動で送らず、利用者が内容を確認してから送る形にしておくと、思わぬ情報が外に出るのを防げます。生成AIの出力は毎回同じとは限らないため、テストで一度確かめただけでは十分ではありません。
問い合わせと事故に備える窓口を用意する
個人情報を扱うサービスでは、利用者からの依頼や、思わぬ事故に答えられる準備が必要です。受託と並行して一人や少人数で運営するなら、なおさら先に決めておきます。
開示や削除の依頼に答える窓口を決める
利用者から「自分のデータを見せてほしい」「消してほしい」と言われたときに、どこで受け付け、誰が、何日以内に対応するかを決めます。問い合わせフォームやサポート用のメールアドレスを、プライバシーポリシーに書いておきます。
漏えいが起きたときの連絡の順番を決める
設定の誤りや不具合で、情報が外に出てしまうことはあり得ます。起きたときに、何を止め、誰に知らせ、どこに報告が必要かを、あらかじめメモにしておきます。報告が必要な場面や期限は、個人情報保護委員会の最新の情報と、専門家の助言で確認してください。
受託で預かった情報は、自社サービスに持ち込まない
受託の仕事では、お客さんの顧客データや社内の資料に触れることがあります。自社の生成AIサービスの試作で、その情報をテストに使ったり、AIへの指示文の例にしたりしてはいけません。自社サービスは、受託とは切り分けて、自分の時間とお金で一から作ります。テストには、自分で用意した架空のデータを使います。架空のデータは、実在しそうな名前や番号を避け、明らかに作ったと分かる値にしておくと、本番のデータと混ざったときにも見分けられます。
ハコブネ式では、リリース前に事業・技術・契約・運用の4つを確かめてから出します。技術の項目には構成とセキュリティ、運用の項目には問い合わせの窓口が入っています。生成AIのサービスでは、この点検の中に個人情報の流れも含めて確認します。
ハコブネでは、受託と自社プロダクトを両方回してきた株式会社Walkersに、10分メンタリングで確認点を相談できます。同じように受託と並行して自社サービスを作っている仲間とも、Discordでやり取りできます。
よくある質問5選

質問1生成AIのAPIに個人情報を送っても大丈夫ですか?
送ること自体が一律に禁じられているわけではありませんが、利用目的の示し方、提供元での扱い、海外で処理される場合の対応など、確認することがあります。まずは送る情報を必要な分だけに絞り、提供元の最新の規約を確かめたうえで、判断に迷う点は弁護士など専門家に相談してください。
質問2生成AIのサービスのプライバシーポリシーには何を書けばいいですか?
集める情報、使う目的、外部のAIの提供元に送ること、保存する期間、問い合わせの窓口が基本です。画面の説明や利用規約と内容がずれないように、並べて確かめてから公開してください。
質問3AIへの入力内容をログに残してもいいですか?
不具合の調査に必要な場合はありますが、入力内容を丸ごと残すと、個人情報がログに溜まり続けます。残す項目を絞る、一定期間で消す、名前や連絡先を置き換えて残す、といった工夫をしてください。
質問4個人で運営する小さなサービスでも、個人情報の対応は必要ですか?
規模が小さくても、利用者の個人情報を扱う以上、扱い方を決めて示す必要があります。何が求められるかは扱う情報の内容によって変わるため、個人情報保護委員会の最新の情報を確認し、迷う点は専門家に相談してください。
質問5受託で扱ったデータを、自社サービスのテストに使ってもいいですか?
使わないでください。受託で預かった情報は、そのお客さんの仕事のためだけに使うものです。自社サービスのテストには、自分で用意した架空のデータを使い、受託とは切り分けて作ります。
今日、自分のサービスのデータの流れを1枚に描く
生成AIのサービスで個人情報を扱う準備は、条文を書くところからではなく、データの流れを描くところから始まります。入力画面から、サーバー、外部のAI、ログ、バックアップまで、矢印を引いて何が送られるかを書き込んでみてください。例えば30分ほどの時間があれば、一通り描けます。
図ができたら、外部のAIに送らなくてよい情報に印を付けます。その印が、最初に直す場所です。
ハコブネは、受託と自社の新規事業を並行してきた株式会社Walkersが運営する、受託業者のためのコミュニティです。生成AIのサービスをリリースする前の確認点や、受託と並行した進め方に迷ったら、オンラインの無料相談会で相談できます。入会を前提にしない相談会なので、公開前の整理に気軽に使ってください。
この記事で触れた事例の出典
最終更新:2026年10月29日
