ChatGPTをはじめとする生成AIは、文章の作成や要約、翻訳、アイデア出し、画像生成など、日常生活や仕事のさまざまな場面で利用されるようになりました。

非常に便利な一方で、生成AIが出した回答をそのまま信用したり、個人情報や会社の秘密情報を不用意に入力したり、生成された文章や画像を十分に確認せず公開したりすると、思わぬトラブルにつながることがあります。

生成AIを利用するときに特に注意したいのは、次の点です。

• AIの回答が正しいとは限らない
• 個人情報や他人の情報を安易に入力しない
• 会社や取引先の秘密情報の取扱いに注意する
• AI生成物でも著作権侵害となる可能性がある
• 他人の文章や画像をAIに入力するときも注意する
• AI生成物をSNSなどで公開する前に確認する
• 契約書や法律問題についてAIだけで判断しない
• 利用する生成AIサービスの規約を確認する

生成AIは便利なツールですが、重要な判断までAIに任せることは適切ではありません。

この記事では、一般の方がChatGPTなどの生成AIを利用する際に知っておきたい注意点について、個人情報や著作権など法律上の問題を中心に弁護士が分かりやすく解説します。

そもそも生成AIとは？

生成AIとは、利用者からの質問や指示（プロンプト）などに応じて、文章、画像、音声などのコンテンツを生成するAIをいいます。

例えば文章生成AIに、

「旅行の予定を考えて」

「この文章を分かりやすく要約して」

「取引先に送るメールの案を作って」

などと入力すると、その指示に応じた文章を短時間で作成してくれます。

うまく利用すれば非常に便利ですが、生成AIは「何でも正しく答えてくれる専門家」ではありません。

利用する側がその特徴と限界を理解して使うことが重要です。

注意点1　生成AIの回答が正しいとは限らない

生成AIを利用するうえで、まず知っておきたいのが、もっともらしい回答であっても、内容が正しいとは限らないということです。

生成AIは、不正確な情報を回答したり、実際には存在しない情報を、あたかも存在するかのように示したりすること（ハルシネーション）があります。

例えば、

• 存在しない判例
• 存在しない書籍や論文
• 誤った法律の内容
• 古くなった制度
• 誤った統計
• 実在しないウェブサイト

などを回答する可能性があります。私自身、判例を調べていて、文献まで示してくれたのに、その文献の該当ページに当該判例が載っておらず、結局生成AIのハルシネーションであったこともありました。

そのため、

「AIがそう言っているから正しい」

と考えるのは危険です。

特に、

• 法律、税金、医療、投資、契約、行政手続など、誤った情報によって大きな不利益が生じる可能性がある分野では、AIの回答だけを根拠として重要な判断をすることは避けるべきです。

官公庁などの公的機関が公表している情報や原典を確認し、必要に応じて弁護士、税理士、医師などの専門家に確認することが重要です。

注意点2　個人情報を安易に入力しない

生成AIへ質問するときには、入力する情報にも注意が必要です。

例えば、トラブルについてAIに相談するために、

• 氏名
• 住所
• 電話番号
• メールアドレス
• 生年月日
• 勤務先
• 病歴などの情報

をそのまま入力することが考えられます。

しかし、個人情報保護委員会は、一般の利用者が生成AIサービスを利用する場合について、入力された個人情報が機械学習に利用されたり、他の情報と統計的に結び付いたうえで、正確または不正確な内容として出力されたりするリスクがあるとして、注意を促しています。

もちろん、自分自身の個人情報を生成AIに入力することが直ちに違法になるという意味ではありません。

重要なのは、利用するサービスで入力情報がどのように保存・利用されるのかを確認したうえで、本当に入力する必要があるのかを判断することです。

例えば、

「豊橋市在住のAさん」

「勤務先B社」

などと匿名化しても相談の目的を達成できるのであれば、本人を特定できる情報を入力しない方法を検討するとよいでしょう。

注意点3　家族や知人など他人の個人情報にも注意する

自分自身の情報だけでなく、家族、知人、取引先など、第三者の個人情報を生成AIへ入力する場合には、さらに慎重な判断が必要です。

例えば、

「この人とのトラブルについて分析してほしい」

として、氏名などが分かる状態のLINEやメールのやり取りを大量に入力したり、他人の住所、勤務先、病歴などを入力したりするケースが考えられます。

自分が知っている情報だからといって、外部のサービスへ自由に提供してよいとは限りません。

また、事業者が顧客等の個人データを生成AIへ入力する場合には、個人情報保護法上の問題が生じることがあります。

生成AIへ他人に関する相談をするときは、可能な限り氏名や住所などを削除し、本人を特定できない形で質問できないか検討しましょう。

注意点4　会社や取引先の秘密情報を安易に入力しない

仕事で生成AIを利用するときには、特に注意が必要です。

例えば、

• 未公表の売上情報
• 顧客名簿
• 契約書
• 社内会議の議事録
• 新商品や新サービスの情報
• 営業秘密
• 取引先から秘密として提供された情報
• ID、パスワード、認証情報

などを、安易に外部の生成AIサービスへ入力することは避けるべきです。

もっとも、「会社の情報を生成AIに入力すれば直ちに違法になる」という単純な問題ではありません。

情報の内容、会社の社内規程、取引先との秘密保持契約、利用するAIサービスにおける入力データの取扱いなどによって検討すべき問題は異なります。

会社によっては生成AIの利用について社内ルールを設けている場合もあります。

仕事で生成AIを利用する場合には、勤務先のルールを確認するとともに、営業秘密、個人データ、顧客情報などを入力する必要がある場合には、その情報の性質とAIサービス側での取扱いを十分確認することが重要です。

注意点5　AIが作った文章や画像でも著作権侵害になる可能性がある

「AIが作った文章や画像なら、著作権の問題はない」と思われることがあります。

しかし、そうとは限りません。

AI生成物であっても、既存の著作物との「類似性」と「依拠性」が認められる場合には、著作権侵害となる可能性があります。

例えば、既存のイラストや写真など特定の著作物と非常によく似たものを生成し、それをSNSやウェブサイト、広告などで利用するケースでは注意が必要です。

また、

「AIに入力する行為が適法か」

という問題と、

「AIによって生成されたものを公開・利用することが適法か」

という問題は、分けて考える必要があります。

AIへの入力段階で著作権法上の権利制限規定が適用される場合があったとしても、そのことから、生成されたものをSNSや広告などで自由に利用できると当然に結論付けられるわけではありません。

AIが生成したものだから著作権を気にしなくてよい、と考えないことが重要です。

注意点6　他人の文章や画像をAIに読み込ませるときも注意する

「他人が書いた文章や画像を生成AIに読み込ませることは違法なのか」という疑問を持つ方もいるでしょう。

これについては、他人の著作物を生成AIへ入力することが常に著作権侵害になるわけではありません。

著作権法30条の4では、一定の要件のもとで、著作物に表現された思想または感情を自ら享受し、または他人に享受させることを目的としない場合の利用について、著作権者の許諾を必要としない場合が定められています。

AIによる情報解析などでは、この規定の適用が問題となることがあります。

しかし、どのようなAI利用でも30条の4が適用されるわけではありません。

例えば、入力した著作物と類似した生成物を作らせることを目的として著作物を入力する場合などには、同条が適用されない可能性があります。

また、著作権以外にも、利用するサービスの規約や秘密保持義務、個人情報などの問題が生じることがあります。

そのため、

「AIに入力するだけなら何を使っても大丈夫」

と考えるのは適切ではありません。

AIが作った文章や画像に自分の著作権はある？

これも一律に決まるものではありません。

文化庁が公表している「AIと著作権に関する考え方について」では、AIが自律的に生成したものについては著作物に該当しないと考えられる一方、人がAIを創作のための「道具」として使用し、人の創作意図と創作的寄与が認められる場合には、著作物となり得るという考え方が示されています。

したがって、

「AIを使ったから著作権はない」

とも、

「自分が指示してAIに作らせたから当然に自分の著作物になる」

とも一概にはいえません。

どの程度人が創作的に関与したのかなど、具体的な事情に応じた判断が必要になります。

なお、生成AIと著作権の関係については、現時点で関連する判例・裁判例が十分に蓄積されているわけではありません。

そのため、個別のケースについては、今後の裁判例等によって考え方がより明確になっていく部分もあります。

注意点7　AIで作った情報をSNSなどで公開するときにも注意する

生成AIが作成した文章をSNS、ブログ、動画などで公開する場合にも注意が必要です。

例えば、AIが特定の人物について、実際には存在しない犯罪歴や不祥事を回答したとします。

その内容を事実確認せずにSNSへ投稿すれば、

「AIが作った文章をそのまま載せただけ」

では済まない場合があります。

内容によっては、名誉毀損やプライバシー侵害などの問題が生じる可能性があります。

また、AI生成画像についても、既存の著作物との関係だけでなく、肖像権やプライバシーなど別の問題が生じることがあります。

生成AIは情報を作るための道具であり、最終的にその情報を公開するかどうかは利用者自身が判断する必要があります。

SNSやウェブサイトへ公開する前に、内容の正確性と第三者の権利を侵害していないかを確認しましょう。

注意点8　契約書をAIだけでチェックするのは危険

生成AIに、

「この契約書に問題がないか確認して」

と依頼すると、問題になりそうな条項を指摘したり、契約内容を分かりやすく説明したりすることがあります。

契約書の概要を理解したり、確認すべきポイントを整理したりするための補助として利用することは考えられます。

しかし、契約書の法的リスクは、文言だけで判断できるとは限りません。

• 当事者の立場
• 契約の目的
• 取引の経緯
• 業界の実情
• 他の契約との関係
• 交渉経緯
• 実際に起こり得る紛争

などを踏まえて判断する必要があります。

また、生成AIが法律の内容や判例を誤って回答する可能性もあります。

AIが契約条項の意味を説明できたとしても、それだけで「この契約を締結して問題ない」と判断できるわけではありません。

また、AIはインターネット上の様々な情報を網羅的に拾うため、必ずしも当該契約には必要のない事項を入れてきたり、本来は不要な修正を行ってきたりする場合が多く、弁護士の目から見ると、まとまりのない内容となってしまうケースが多く見受けられます。

金額の大きな契約や事業上重要な契約については、必要に応じて弁護士による確認を受けることをおすすめします。

注意点9　生成AIに法律相談をするときの注意点

生成AIに、

「遺産をどう分ければよい？」

「会社を解雇されたが違法？」

「離婚したら慰謝料はいくら？」

などと質問することもできます。

一般的な法律知識を調べたり、問題点を整理したりするための補助としては役立つ場合があります。

しかし、実際の法律問題では、わずかな事実関係の違いによって法的な結論が変わることがあります。

人は誰しも、自分に有利に物事を見がちですが、生成AIを利用する際に無意識に自分に有利に事実を歪曲して入力してしまうと、全く違った結論が出てしまい、かえって解決の妨げになることがよくあります。

また、

• AIが事実関係を誤って理解する
• 古い法律情報を回答する
• 存在しない判例を示す
• 重要な事情を考慮できていない

といった可能性もあります。

そのため、生成AIは、

「問題点や専門家に確認すべき事項を整理するための補助ツール」

として利用し、重要な法的判断そのものを任せないことが大切です。

実際に紛争が起きている場合や、相続、離婚、労働問題、損害賠償、契約などについて重要な判断をする場合には、必要に応じて弁護士へ相談しましょう。

注意点10　利用する生成AIサービスの利用規約・プライバシーポリシーを確認する

生成AIサービスによって、入力した情報や生成物の取扱いは異なります。

利用する際には、少なくとも、

• 入力した情報がどのように保存・利用されるのか
• 入力情報がAIの学習等に利用される可能性があるのか
• 生成物についてどのような利用条件が定められているのか
• 商用利用についてどのような条件があるのか
• 禁止されている利用方法は何か

などを確認することが重要です。

ここで注意したいのは、「著作権法上許されるか」という問題と、「そのAIサービスとの契約上許されるか」という問題は別であるということです。

法律上問題がない利用方法であっても、サービスの利用規約に反していれば契約上の問題が生じる可能性があります。

特に仕事や商用目的で生成AIを利用する場合には、利用しているサービスの最新の規約を確認しましょう。

生成AIを安全に使うためのチェックリスト

生成AIを利用するときには、次の点を確認しましょう。

生成AIを安全に利用するためには、AIに判断を丸投げするのではなく、人が確認・判断するための補助ツールとして利用することが重要です。

よくある質問

Q. ChatGPTなどに個人情報を入力すること自体が違法なのですか？

自分自身の個人情報を入力したからといって、それだけで直ちに違法になるわけではありません。

ただし、入力した情報がどのように取り扱われるのかはサービスや利用方法などによって異なります。

個人情報保護委員会も、一般の利用者に対して、生成AIへ個人情報を入力する際には、入力した情報が機械学習に利用されたり、正確または不正確な内容で出力されたりするリスクを踏まえて判断するよう注意を促しています。

また、事業者が顧客などの個人データを入力する場合には、個人情報保護法上の問題が生じることがあります。

Q. AIが作った文章をブログにそのまま掲載しても大丈夫ですか？

「AIが作った」という理由だけで、自由に掲載できるとは限りません。

まず、内容に誤りがないか確認する必要があります。

さらに、

• 他人の著作権
• 名誉
• プライバシー
• 肖像権
• 利用するAIサービスの規約

などに問題がないか確認することも重要です。

特に企業サイト、広告、商品など事業目的で利用する場合には、人による確認を行うことをおすすめします。

Q. AI生成画像は著作権侵害になることがありますか？

あります。

AI生成物であっても、既存の著作物との類似性と依拠性が認められる場合には、著作権侵害となる可能性があります。

したがって、生成AIを使ったというだけで、第三者の著作権について確認する必要がなくなるわけではありません。

Q. AIの回答を信じて損害が発生した場合、誰が責任を負いますか？

一概にはいえません。

AIサービスの利用規約、サービス提供者や利用者の行為、具体的な損害発生の経緯などによって、法的な評価は異なります。

少なくとも、

「AIがそう回答した」

という事情だけで、AIを利用した人が当然に責任を免れるわけではありません。

重要な判断についてはAIの回答をそのまま採用せず、情報源を確認することが大切です。

Q. AIに法律相談をしてもよいですか？

一般的な法律知識を調べたり、自分の相談内容や疑問点を整理したりする目的で利用することは考えられます。

ただし、AIの回答が正しいとは限らず、個別の事情を十分に考慮できないこともあります。

実際に紛争が発生している場合や、金銭、契約、相続、離婚、労働問題などについて重要な判断が必要な場合には、AIの回答だけで行動せず、弁護士などの専門家へ相談することをおすすめします。

まとめ｜生成AIは便利だからこそ、最後は人が確認する

ChatGPTなどの生成AIは、文章作成、情報整理、要約、アイデア出しなど、さまざまな場面で役立つ便利なツールです。

一方で、生成AIを利用する際には、

• 回答に誤りが含まれる可能性がある
• 個人情報や秘密情報の入力に注意する
• 他人の著作物を入力するときには利用目的などにも注意する
• AI生成物でも著作権侵害となる可能性がある
• AI生成物を公開する前に内容と第三者の権利を確認する
• 重要な法律問題をAIだけで判断しない
• 利用するサービスの規約を確認する

といった点に注意する必要があります。

大切なのは、生成AIを使わないことではありません。

生成AIの得意なことと限界を理解したうえで活用し、最終的な確認と判断は人が行うことです。

なお、生成AIをめぐる法的な議論は現在も発展途上です。特にAIと著作権の関係については、現時点では関連する判例・裁判例の蓄積が十分ではなく、個別の事案によって判断が異なる可能性があります。

生成AIを利用する中で、著作権、個人情報、秘密情報、契約などについて具体的な法律問題が生じた場合には、個別の事情を踏まえて検討することが重要です。

豊橋・東三河で法律問題にお困りの方へ

弁護士法人柴田・中川法律特許事務所では、豊橋・東三河地域の皆様から、著作権、個人情報、契約その他の法律問題についてご相談を承っています。

「生成AIで作った文章や画像を仕事で使ってもよいのか」「会社の情報をAIへ入力してしまった」「AIを利用して作成したコンテンツについてトラブルになった」など、具体的な法律問題が生じている場合には、お気軽にご相談ください。

中川 彩子

弁護士・公認不正検査士（CFE）