生成AIのセキュリティ対策｜情報漏洩を防ぐ設定と、社内で決めること

社員が、個人のアカウントでChatGPTなどの生成AIを仕事に使い始めている。法人向けの契約に切り替えれば十分なのか、ほかに何を決めればよいのか。AIの導入を任されたDX・情シスの担当者から、こうしたご相談をよく伺います。

法人向けのプランにすれば、もう安全ですよね？

学習と保存期間、記録まで確かめてからだね

契約を切り替えても、社内で誰が何を見られるかまでは決まりません。

生成AIの情報漏えい対策は、ツールの設定を変えるだけでは終わりません。入力する情報、契約の条件、社内の権限と記録、AIを扱う外部の会社まで、確かめる所がいくつかあります。この記事では、入力してよい情報の線引き、法人向け契約で確かめる3つのこと、権限と記録、委託先の確認を順に説明します。

この記事のポイント

生成AIの情報漏えい対策は、入力する情報、契約の条件、社内の権限と記録、委託先の4か所で考える
法人向けの契約では、入力したデータが学習に使われないか、どれだけの期間保存されるか、管理者が利用者と設定を管理できるかを確かめる
社内のAIは、部署・役職ごとに見られる範囲を分け、誰が・いつ・何を聞いたかを記録する。記録を見られる人も先に決める

生成AIのセキュリティ対策は、入力・契約・権限と記録・委託先の4つで考える

生成AIのセキュリティ対策では、どの情報を入れるか、どんな契約で使うか、社内で誰が何を見られるか、外部の誰がデータを扱うかの4つを順に決めます。どれか1つが抜けると、そこから情報が漏れるおそれがあります。

法人向けの契約に切り替えることは、大切な一歩です。ただ、契約で決まるのは、AIを提供する会社がデータをどう扱うかまでです。社内で誰がどの情報を見られるかと、誰が何を聞いたかの記録は、自社で設計して決めます。

生成AIで情報が漏れる主な経路と、対策を打つ場所

生成AIで情報が漏れる経路は、大きく5つに分けられます。経路ごとに、対策を打つ場所が違います。

漏れる経路	起きること	対策
個人のアカウントに社内の情報を入力する	何が入力されたのか、会社から確かめられない	会社が管理する契約や、社内に置いた仕組みを用意する
入力したデータが、AIの学習に使われる	学習した内容が、AIの答えとして外に出るおそれがある	学習に使われない契約や設定になっているかを確かめる
社内のAIが、見てはいけない人に答える	決算や人事評価の情報が、権限のない社員に伝わる	部署・役職ごとに、見られる範囲を分ける
AIを扱う外部の会社で漏れる	委託先や、その先の再委託先から情報が出る	委託先を選ぶときと契約のときに、扱い方を確かめる
使った記録が残っていない	漏れたかどうか、誰が何をしたかを後から追えない	誰が・いつ・何を聞いたかを社内に残す

学習の経路は、個人情報保護委員会の「生成AIサービスの利用に関する注意喚起等」でも挙げられています。入力された個人情報が機械学習に使われ、正確または不正確な内容で出力されるリスクがある、とされています。

当社では、この5つの経路への対策を、契約・設計・運用の3つの層に分けて考えています。契約で外部の会社の扱いを決め、設計で社内の見え方を決め、運用で記録と権限を保ちます。

生成AIで社内の情報を守る3つの層

契約AIを提供する会社と、学習・保存期間・管理者機能の条件を決める。社外での扱いがはっきりする
設計AIに読ませない情報と、部署・役職ごとに見られる範囲を決める。見てはいけない情報が、権限のない人への答えに出なくなる
運用使った記録を残し、異動や退職のときに権限を外す。後から確かめられる状態が続く

入力してよい情報の線引きを、先に決める

最初に決めるのは、AIに入力してよい情報の範囲です。個人情報保護委員会は、事業者が個人情報を生成AIに入力するときの注意点を示しています。まず、その個人情報の利用目的に必要な範囲内かを、十分に確かめることです。

本人の同意なく入力した個人データが、答えを出す以外の目的で扱われると、法律に違反するおそれがあるとも書かれています。個人データを入力するなら、AIを提供する会社がそれを機械学習に使わないことなどを確かめます。

当社では、情報を「そのまま扱う」「伏せてから扱う」「扱わない」の3つに分けて決めています。決算・財務・人事評価・給与・決済の情報などは、AIに読ませない側に入れることの多い情報です。分け方は、お客さまの社内規程に合わせて一緒に決めます。

仕事に必要のない個人情報は、そもそもAIに入れない設計にできます。コールセンターの会社へのご提案では、応対の録音をすべて文字にし、決めた基準で応対の質を評価する仕組みを考えました。それまでは、録音の一部を選んで人が評価していました。

録音には、お客さまの名前や住所が含まれます。そこで、名前・住所・電話番号は、読み込ませる前に外す設計をご提案しました。応対の質を評価するのに、これらの情報は使わないからです。

詳しく解説した記事コラム社内の生成AI利用ガイドラインの作り方｜禁止する前に決めること社内の生成AI利用ガイドラインは、禁止事項だけでなく、使ってよい場面・入力してよい情報・出力の確かめ方・権利の注意まで書…

法人向け契約で確かめる3つのこと

生成AIのサービスを会社で契約するときは、次の3つを確かめます。どれも、サービスの公式ページや契約書、データの利用条件の書面で確かめられます。

確かめること	見るポイント	確かめないと起きること
学習に使われるか	入力した内容とAIの答えが、学習に使われない条件か。利用者が設定で変えられるか	社内の情報が、AIの改良に使われる
保存期間	入力した内容が、どれだけの期間保存されるか。会社として期間を決められるか	消したつもりのデータが、外部に残り続ける
管理者機能	管理者が利用者を追加・停止できるか。役割ごとに権限を分けられるか。社内のログインの仕組みとつなげられるか	退職した人のアカウントが残る。誰が使っているか分からない

ChatGPTの場合で見てみます。OpenAIの公式ページでは、ChatGPT Enterprise・Business・Eduなどの法人向けサービスとAPIが対象です。これらのデータは入力も出力も、初期設定では学習やモデルの改良に使わないとしています。条件を満たす組織は、データを保存する期間を設定できるとも書かれています。

管理者機能には、利用者の役割（メンバー・管理者・オーナー）の設定があります。シングルサインオン（1つのIDで複数のサービスに入れる仕組み）や、多要素認証も挙げられています。

個人のアカウントと、会社が管理する契約の違い（ChatGPTの場合）

個人のアカウント

学習に使うかどうかは、利用者が自分の設定で選ぶ
設定をオフにしても、回答を評価するボタンを押すと、その会話全体が学習に使われることがある
何が入力されたのか、会社から確かめられない

会社が管理する契約

初期設定で、入力した内容を学習に使わない
組織として、保存期間やアクセスの設定を持てる
管理者が、利用者と役割をまとめて管理する

個人のアカウントの扱いは、OpenAIのヘルプページに書かれています。「Improve the model for everyone」という設定をオフにすると、新しい会話は学習に使われません。また、一時チャットは学習に使われませんが、安全のために最大30日保存されることがあります。

学習に使われないことと、保存されないことは、別に確かめる必要があります。サービスの条件は改定されることがあるため、導入の前と契約の更新のときに、最新の公式ページで確かめてください。

学習に使われない契約かどうかは、営業担当者の口頭の説明だけで判断せず、データの利用条件の書面で確かめます。当社のセミナー「Claude Codeで組織はどう変わる？AI時代の組織設計」でも、同じように、学習に使われない契約かどうかは書面で確かめるとお伝えしました。

社内の権限と記録：誰が何を見られ、誰が何を聞いたか

社内のデータをAIに読ませる場合は、契約とは別の対策が必要です。社内のAIは、読ませたデータをもとに答えます。権限を分けておかないと、一部の人しか見られない情報が、質問した社員への答えに出てしまうことがあります。

そこで、部署や役職ごとに、見られる範囲を分けます。AIは、質問した人が見てよいデータだけを使って答える設計にします。権限のない人が質問しても、閲覧できないデータの内容は答えに使われません。

権限のない社員が質問したときの答え（説明例）

来期の部署ごとの予算は、いくらになりましたか？

部署ごとの予算は、経営企画部と部長以上の方だけが見られる情報のため、お答えできません。営業部の予算は、営業部長に確認してください。根拠：見られる範囲の設定「予算：経営企画部・部長以上」

この質問と答えは、誰が・いつ聞いたかとあわせて社内に記録されます

あわせて、誰が・いつ・何を聞いたかを社内に記録します。情報が漏れたおそれがあるときに、後から確かめられるようにするためです。異動や退職のときに権限を外す手順も、運用の決まりに入れておきます。

記録を残すと、社員から「監視されるのでは」という声が出ることがあります。当社では、記録を見られる人と、記録を見る場面を、使い始める前に決めています。私用のやりとりや雑談は記録の対象にしないことも、最初に決めて社員に伝えます。

委託先と再委託先の扱いを確かめる

AIの構築や運用を外部の会社に頼み、その会社が個人データを扱う場合は、委託先の監督も必要です。個人情報保護委員会のガイドライン（通則編）は、委託元に、委託先への必要かつ適切な監督を求めています。

具体的には、適切な委託先を選ぶこと、委託契約を結ぶこと、委託先での扱いを把握することの3つです。委託先がさらに別の会社に任せる（再委託）ときは、相手・業務・扱い方の事前の報告か承認を受けることが望ましい、とされています。

AIの構築や運用を頼む会社に確かめること

データを置く場所と、使っているAIサービスの名前
外部のAIに送るデータの範囲と、送るタイミング
データの保存期間と、契約が終わったときの削除の方法
再委託する会社があるか。あるなら、どこに何を任せるか
問題が起きたときの止め方と、連絡の手順

化粧品・健康食品の通販会社へのご提案では、メールの返信の下書き、データの分析、過去の企画書の検索を、順に作る計画を立てました。書類が部署や個人のフォルダに散らばり、メールの対応にも毎日時間がかかっていた会社です。お客さまからは「クラウドに置くのか」「学習に使われないか」「誰がどう使ったか分かるか」といったご質問をいただきました。

そこで、検討の最初の段階で、お客さまのセキュリティ担当と当社の技術責任者が直接話して確かめる場を設けました。当社の導入支援では、こうした技術面の確認を、情報システム部門の方と直接進めています。

委託先の説明が、実際の設計どおりかどうかも確かめます。当社では「データは一歩も外に出ない」とは言いません。外部のAIに送るのはAIに考えてもらうときだけで、必要な部分の文字だけを暗号化して送る、と設計どおりに説明しています。

マスターブレインを活用した、安全に使える社内AI

マスターブレインは、会社にあるさまざまな情報・業務知識・判断基準を整理し、必要な場面で活用できるように設計する、会社専用のAI基盤です。

置き場所は御社のPCや社内サーバーの中も選べます。通販・EC事業者の社内QAとコールセンターでは、社内に専用機を置き、社内ネットワークから切り離した構成で構築しました。部署や役職ごとに見られる範囲を分け、御社のデータを外部のAIの学習に使わない形を、マスターブレインの仕組みに沿って御社と一緒に設計します。

ここまで読んでいただき、ありがとうございます。