生成AIを安全に使うための基本。入力してはいけない情報とは

AIへ資料を貼る前に、「これ、送っていい情報かな」と一度だけ立ち止まってみてください。

便利に使うために必要なのは、すべてを怖がることではありません。送る情報、返ってきた答え、AIに許可する操作を分けて確認することです。

この記事では、学校の課題やプログラミングの勉強を例に、送信前から公開前までの確認を整理します。法律上の判断を個別に保証するものではありません。学校や所属先にルールがある場合は、そちらも確認してください。

1. 最初に、送らない情報を決める

次の情報は、許可や扱いを確認できないまま、そのまま入力しないでください。

情報	なぜ注意する？	学習の相談での置き換え方
氏名、学生番号、住所、連絡先	個人を特定できる	不要な項目を削除する
パスワード、秘密のAPIキー、認証コード	アカウントの利用につながる	値を送らず、設定名だけ示す
非公開の課題資料、研究データ、顧客資料	自分だけでは公開を決められない	許可を確認し、使える部分だけにする
他人の会話や写真	本人のプライバシーに関わる	無断で送らず、架空の状況で相談する
成績、健康、口座などの情報	漏れた際の影響が大きい	学習に必要な架空データへ変える

APIキーは、サービスの機能をプログラムから使う際の識別や認証などに使う文字列です。秘密のキーは、他人に使われると不正利用や料金の発生につながるおそれがあります。

個人情報保護委員会は、一般利用者に対しても、入力内容の扱いと利用規約・プライバシーポリシーを確認したうえで利用を判断するよう注意を促しています。個人情報保護委員会の注意喚起（PDF）

2. 名前を消すだけで、十分とは限らない

たとえば、成績の平均を計算するコードを相談したいとします。

氏名を「Aさん」に変えても、学部、学年、学生番号、授業名などが残っていれば、誰の情報か推測できることがあります。単に名前を置き換えただけで、法的・技術的に完全な匿名化ができたとは言えません。

第1段階：本当に必要な情報を選ぶ

平均計算の相談に、実在する学生の氏名や成績そのものは必要でしょうか。多くの場合、値の形が分かる少数の架空データで説明できます。

第2段階：架空のデータにする

以下は練習用に作った架空の点数です。
[70, 80, 90]

Pythonで平均を計算したいです。
点数が0件のときは、計算せず「データがありません」と表示したいです。

これなら、計算方法と空のデータの扱いを相談できます。実在する人の成績を使う必要がありません。

第3段階：画面やファイル全体も見直す

スクリーンショットには、別のタブの名前、メールアドレス、通知、フォルダ名などが写り込むことがあります。相談に必要な範囲だけを用意します。

PDFや表計算ファイルでも、本文以外のコメントや別シートに情報が残っていないか注意してください。「目立つ名前だけ消したから大丈夫」と決めつけないのがポイントです。

3. 「学習に使わない」と「保存しない」は別

サービスの設定を見るときは、次を分けて確認します。

入力内容がモデル改善・学習に使われるか
会話やファイルが保存されるか、保存期間はどうか
共有リンクを作ると誰が見られるか
連携する外部サービスへ何が送られるか
学校・会社の管理者が管理する範囲はどこか

ある設定でモデル改善への利用を止められても、会話の保存や外部連携まで、すべて同時に止まるとは限りません。

また、有料だから何を入れても安全、学校のアカウントだから授業資料を自由に送ってよい、という判断もできません。サービス、契約、組織のルールを確認する必要があります。

分からない場合は、機密情報を送らず、「この用途で使ってよいか」を先生や担当者に聞きましょう。ここは推測で進めない方が安心です。

4. AIが示した「根拠」も確かめる

AIは、自然な文章で間違った内容を出すことがあります。これをハルシネーションと呼びます。詳しくはAIの基本用語で説明しています。

答えを確認するときは、次の順に分けると見落としを減らせます。

事実と提案を分ける：「この方法が考えられる」は提案。「料金は○円」は確認できる事実
元の資料を開く：出典のURLが実在し、主張を裏付ける内容があるか
条件をそろえる：地域、契約、製品の版、対象の日付が合っているか
不明な部分を残す：確認できなければ、確定情報として人へ伝えない

たとえば、AIが挙げた論文をレポートの参考文献にするなら、タイトルが実在するかだけでなく、自分が書く主張を本当に裏付けているかまで読みます。

医療、法律、お金、安全に関わる判断は、AIだけで決めず、公的な情報や適切な専門家を利用してください。AIの文章が丁寧でも、責任を持って診断や審査をしたことにはなりません。

5. 他のサイトやファイルにある命令を、勝手に許可しない

外部のページやファイルに、AIの動きを変えようとする指示が紛れ込むことがあります。プロンプトインジェクションと呼ばれる問題です。

「このページを要約して」と頼んだだけなのに、ページ中の指示に影響されて別の操作を始める、といった状況を考えてください。外部の文章は、利用者本人からの許可ではありません。

OWASPの解説では、Webサイトやファイル経由の間接的な指示も扱われています。

利用者側では、影響を小さくするために次を意識します。

要約や調査に不要な、メール送信・ファイル変更などの権限を渡さない
外部送信、削除、公開の前には対象と内容を確認する
「安全確認のために秘密のキーを入力して」など、不自然な要求に応じない
不審な動きがあれば作業を止め、連携や権限を見直す

「不正な指示を無視して」と文章で頼むだけでは、完全な防御にはなりません。渡す情報を絞り、操作できる範囲も制限することが大切です。

6. 生成物を公開するときは、権利とルールを別々に確認する

ライセンスは、文章、画像、音楽、ソフトウェアなどを利用できる条件です。

公開前には、少なくとも3つを分けて確認します。

使ったAIサービスの規約：出力をどう利用できるか
第三者の権利：既存作品、写真に写る人、商標などに問題がないか
提出先・所属先のルール：課題でAIを使えるか、利用の明記が必要か

サービスが商用利用を認めていても、すべての生成物について第三者の権利を侵害しないと保証している、とは限りません。

既存作品に似た出力を公開する場合など、判断に迷うときはそのまま使わず、文化庁の資料や専門家へ確認してください。文化庁のAIと著作権のチェックリスト＆ガイダンスには、AI利用者向けの確認事項もあります。

学習記事を書くなら、他の記事の説明順や一般的な教え方を参考にすることと、特徴的な文章や図を写すことは分けましょう。自分で確かめた内容を、独自の例と言葉で説明する姿勢が大切です。

7. コードは、実行する前に確認する

コードの生成では、文章の間違いが、そのままファイル破損や情報送信につながる場合があります。

最初は、重要なデータのない小さな練習環境を用意します。実行前に、ファイルの削除・上書き、外部への通信、知らないソフトの追加がないか読みます。

「動作の確認」と「公開」は別の段階にしてください。練習で動いたからといって、すぐ本番データを扱わせる必要はありません。

具体的な確認手順と練習問題は、AIが書いたコードのチェックリストで説明しています。

8. 間違って送ってしまったら

焦りますが、まず追加の送信や共有を止めます。何を、どのサービスへ、どの範囲で送ったかを整理してください。

秘密のAPIキーやパスワードなどを漏らした場合は、発行元の手順に従って無効化・変更し、不審な利用がないか確認します。履歴を削除するだけでは、すでにコピーされた秘密情報を無効にはできません。GitHubの秘密情報流出への対応

他人や学校・会社の情報なら、担当者へ早めに報告します。サービス側の削除・問い合わせ手順も確認しますが、「消したので完全に回収できた」とは断定しないでください。

相談先へ状況を伝える際も、秘密の値そのものをもう一度メールやチャットへ貼らないようにしましょう。

確認問題：このまま送っていい？

次の3つの状況で、どうするか考えてみてください。

学生番号を含む成績一覧を、名前だけAさんに変えて送る
エラー画面にAPIキーが写っているが、原因を知りたいのでそのまま送る
自分で作った架空の点数3つを渡し、平均の出し方を聞く

模範解答と解説

1は、そのまま送らず見直します。 学生番号などから個人を特定でき、名前の置き換えだけでは十分ではありません。平均計算の学習なら、架空の数値で相談できます。

2は、キーを含めない相談方法に変えます。 エラーの種類と必要なコードだけを取り出し、秘密を含まないか確認してください。すでに公開したキーは、発行元での対応も必要です。

3は、個人情報を送らずに学習目的を満たせる例です。 ただし、コードの正しさは計算結果と照合します。70・80・90なら平均は80です。データが0件の場合の扱いも確認すると、さらに理解が進みます。

送信前の10秒チェック

本人や組織が分かる情報は、本当に必要？
秘密のキーや認証コードが混ざっていない？
全文ではなく、架空の短い例で相談できない？
AIに許可する操作は、今回の目的に合っている？

便利さを保ちながら、不要な情報と権限を減らす。最初はこの習慣から始めてみてください。