今月、個人情報保護委員会より、「生成AIサービスの利用に関する注意喚起等」（以下「本リリース」といいます。）が公表されております。
Open AI社の生成AIサービス「Chat GPT」について各国で話題となっているところです。先月行われたG7広島首脳コミュニケにおいても、「包括的なAIガバナンス及び相互運用性に関する国際的な議論を進める」とされており、国際的な注目が集まっています。国内においても一部の企業においては導入の動きが見られる一方、イタリア等では一時使用禁止措置がとられるなど、各国における対応が注視されます。
そのような中、国内では個人情報保護委員会が本リリースを公表しました。本リリースは、事業者・行政機関等・一般の利用者に向けた別添1と、Open AI社に向けた別添2の大きく分けて2つの内容から構成されていますが、以下内容を簡単にご紹介させていただきます。
別添1では、まず個人情報取扱事業者における注意点として、以下の2つを挙げています。
① 個人情報取扱事業者が生成 AI サービスに個人情報を含むプロンプトを入力する場合には、特定された当該個人情報の利用目的を達成するために必要な範囲内であることを十分に確認すること。
② 個人情報取扱事業者が、あらかじめ本人の同意を得ることなく生成 AI サービスに個人データを含むプロンプトを入力し、当該個人データが当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合、当該個人情報取扱事業者は個人情報保護法の規定に違反することとなる可能性がある。そのため、このようなプロンプトの入力を行う場合には、当該生成 AI サービスを提供する事業者が、当該個人データを機械学習に利用しないこと等を十分に確認すること。
プロンプトとは、生成AIに対して行う質問や指示を意味しますが、個人情報取扱事業者がこうしたプロンプトとして個人情報を入力する場合、その個人情報の利用が通知・公表している利用目的を達成するために必要な範囲内であることを確認する必要があります（個情法18条1項）。また、本人の同意なく個人データを含むプロンプトを生成AIに入力し、当該プロンプトに含まれる個人データが、生成AIの機械学習に使われてしまう場合、第三者提供にあたるものとして個人情報保護法27条・28条に違反する可能性があります。Chat GPTについてはデフォルトで入力されたデータを機械学習する設定とされていますが、機械学習を行わないオプションが選択できるようになっていますので、この機能を活用することも考えられます。業務に利用する企業としては、個人情報の入力の必要がない場合にはこれを入力しない運用としたり、必要がある場合には機械学習をさせないオプションを選択することを徹底するなどの対策が必要となります。
次に、一般の利用者における留意点として、以下の3つを挙げています。
① 生成 AI サービスでは、入力された個人情報が、生成 AI の機械学習に利用されることがあり、他の情報と統計的に結びついた上で、また、正確又は不正確な内容で、生成 AI サービスから出力されるリスクがある。そのため、生成 AIサービスに個人情報を入力等する際には、このようなリスクを踏まえた上で適切に判断すること。
② 生成 AI サービスでは、入力されたプロンプトに対する応答結果に不正確な内容が含まれることがある。例えば、生成 AI サービスの中には、応答結果として自然な文章を出力することができるものもあるが、当該文章は確率的な相関関係に基づいて生成されるため、その応答結果には不正確な内容の個人情報が含まれるリスクがある。そのため、生成 AI サービスを利用して個人情報を取り扱う際には、このようなリスクを踏まえた上で適切に判断すること。
③ 生成 AI サービスの利用者においては、生成 AI サービスを提供する事業者の利用規約やプライバシーポリシー等を十分に確認し、入力する情報の内容等を踏まえ、生成 AI サービスの利用について適切に判断すること。
②で指摘されるように、生成AIサービスの出力結果に不正確な内容の個人情報が含まれる場合も多くあります。そのため、これをそのまま転記してインターネットに書き込むなどした場合、名誉棄損、信用毀損等の法的問題を生じる可能性もありますので、十分な注意が必要です。
また、別添2として、「Open AI に対する注意喚起の概要」が公表されています。生成AIを提供する企業は他にもありますが、Open AI社のみが注意喚起の対象となっています。その概要は以下のとおりです。
１ 要配慮個人情報の取得
あらかじめ本人の同意を得ないで、ChatGPT の利用者（以下「利用者」という。）及び利用者以外の者を本人とする要配慮個人情報を取得しないこと（法第 20 条第２項各号に該当する場合を除く。）。
２ 利用目的の通知等
利用者及び利用者以外の者を本人とする個人情報の利用目的について、日本語を用いて、利用者及び利用者以外の個人の双方に対して通知し又は公表すること。
このように、要配慮個人情報の取得の禁止及び利用目的の通知の2つの注意喚起が行われています。本注意喚起は、Open AI社宛てのものではありますが、これらの内容は他の生成AIサービスについても妥当するものと考えられます。
ChatGPTをはじめとした生成AIの利用においては、この個人情報の取扱いの他にも、著作権の問題等考えておかなければならない法的論点が存在します。そこで、IT法チームでは7月4日16：30より、「Chat GPT等生成AIのビジネス・法務における活用、法的留意点と対策」と題してセミナーを開催いたします。セミナー後にはディスカッション・意見交換の場も設けさせていただく予定です。ご関心のある皆様は是非ご参加いただければと存じます。
（文責：小寺祐輝・近内京太）