生成AIを安全に使うための基本。入力してはいけない情報とは

生成AIは、質問への回答、文章の整理、プログラミングの補助などに使えます。

ただし、何でも入力してよいわけではありません。送信した内容の扱いはサービスや契約によって異なるため、「見られて困る情報は入力しない」を基本にしましょう。

AIの用語が分からない場合は、AIの基本用語も参考にしてください。

入力しない情報を決める

次の情報は、そのまま入力しないようにします。

文章を相談したいときは、名前を「Aさん」に置き換えるなど、必要な内容だけにします。この処理は匿名化と呼ばれます。ただし、所属や出来事の組み合わせから個人を推測できる場合もあるため、細部も減らします。

入力データをサービス改善へ使うか、履歴を保存するかなどは、サービスやプランで異なります。設定や規約は更新されることもあります。

学校や会社のアカウントでは、個人の判断より組織のルールを優先してください。許可されたサービスと用途が分からないときは、先生や担当者へ確認します。

生成AIは、自然な文章で誤った内容を答えることがあります。この現象はハルシネーションと呼ばれます。

日付、数値、法律、料金、引用元などは、元の資料や公式サイトで確認します。AIが示したURLや書籍が実在するかも確かめてください。

医療、法律、お金、安全に関わる判断は、AIの回答だけで決めず、信頼できる専門家や公的情報を利用します。

文章、画像、音楽、コードを公開するときは、利用したサービスの規約、素材のライセンス、学校や職場のルールを確認します。

ライセンスは、著作物やソフトウェアを使える条件です。AIが出した内容でも、既存作品と似ていないか、第三者の権利を侵害しないかを人が確認する必要があります。

AIが生成したコードには、不具合や危険な処理が含まれることがあります。

何をするコードか読んでから、重要なデータのない環境で実行します。知らないパッケージを追加する指示や、ファイル削除、権限変更、外部送信を行う処理には特に注意してください。

送信ボタンを押す前に、次の3点を確認します。

迷った情報は入力せず、架空の例へ置き換えましょう。

生成AIのリスクを体系的に知りたい場合は、米国国立標準技術研究所のNIST生成AIリスク管理プロファイルも参考になります。