生成AIに入力した内容は、AIの学習に使われる？

「学習に使われる」とは何が起きることか

生成AIは、大量の文章を学習して作られます。サービスによっては、利用者がチャットに入力した文章やAIの答えを集めて、次のモデルを作るときの学習に使うことがあります。

個人情報保護委員会の生成AIサービスの利用に関する注意喚起等（令和5年6月2日）は、入力された個人情報が機械学習に使われ、ほかの情報と統計的に結びついたうえで、正確または不正確な内容で出力されるおそれがあると説明しています。

そのため同じ注意喚起は、利用者に対して、サービスを提供する会社の利用規約やプライバシーポリシーを十分に確かめ、入力する情報の内容をふまえて使うかを判断するよう求めています。

個人向けと法人向けで、決まりが分かれていることがある

同じ会社の生成AIでも、個人で申し込むプランと、会社で契約するプランやAPI（自社の仕組みからAIを呼び出す窓口）で、適用される規約が別になっていることがあります。例として、当社が2026年10月26日に確認したAnthropic社のClaudeの決まりを整理します。

学習に使わない設定でも、残ることと例外

設定を切り替えても、入力した内容がすぐに消えるわけではありません。Claudeの個人向けの利用規約（2025年10月8日発効）とプライバシーポリシー（2026年9月10日発効）には、次のことが書かれています。

学習に使わない設定にしていても、答えに付いている評価ボタン（高評価・低評価）などで会話を送った場合と、有害な内容の確認のために会話に印が付いた場合は、学習に使われることがあります。評価ボタンを押すと、その会話全体がフィードバックとして保存されます。

会話を削除すると履歴からすぐに消え、30日以内に会社側のシステムからも削除されます。前述のお知らせによると、学習に使うことを選んだ場合の保存期間は5年、選ばない場合は30日です。設定をあとから切った場合も、すでに学習が始まっているモデルや完成したモデルからは取り除かれず、以後の新しい学習に使われなくなります。

使う前に確かめる場所

どのサービスでも、確かめる場所はだいたい同じです。ここからは当社が整理した確かめ方です。

学習に使われなくても、入力しないほうがいいもの

学習に使われない設定や契約でも、入力した内容はサービスの会社に送られ、一定期間保存されます。お客さんの名前や電話番号、取引先との契約の中身のように外に出してはいけない情報は、学習の設定とは別に、そもそも入力するかを決めておきます。

事業者には法律上の注意点もあります。個人情報保護委員会の注意喚起は、事業者が本人の同意なく個人データを含む指示を入力し、そのデータが答えを出す以外の目的で扱われる場合、個人情報保護法に違反するおそれがあるとしています。そのため、サービスの会社がそのデータを機械学習に使わないことなどを十分に確かめるよう求めています。

会社として入力しない情報や確かめる人をどう決めるかは、社員が生成AIを使い始めたら、何を決めておく？にまとめています。自社の仕組みにAIを組み込むときの契約と料金の考え方は生成AIのAPIとは？で説明しています。

いま使っているサービスの設定を、1つ開いてみる

普段使っている生成AIのサービスを1つ選び、設定画面でプライバシーやデータの項目を開いてみてください。学習に使うかを選ぶ項目があれば、いまの状態を確かめます。

あわせて、個人で登録したアカウントか、会社の契約のアカウントかも確かめます。仕事で使っているのに個人向けのアカウントだった場合は、どちらの規約が適用されるかを読み、社内で使い方を決めるきっかけにしてください。