1. AIで機密情報・個人情報を入力してはいけない理由
何が機密情報や個人情報に当たるのかについては、一般的な情報セキュリティ研修でも実施されていると思いますので、本記事では省略します。
ここでは、なぜAIのプロンプトに機密情報等を入力してはいけないのかを説明します。
よく勘違いされますが、ChatGPTやGeminiのような大規模言語モデル（LLM）では、
「入力したプロンプトが学習に利用されるから情報漏洩につながる」
と考える人がいます。
しかし実際には、ChatGPTなどは学習に利用されないよう設定できるサービスもあり、入力したデータが学習に使われない設定も可能です。
しかし、それは「情報漏洩」の考え方が根本的に間違っています。
例えば2023年、韓国大手半導体メーカーのエンジニアが、社内機密のソースコードや会議議事録等を生成AIに入力してしまい、情報漏洩につながるインシデントが発生しました。
（NTT DATA 「DATA INSIGHT」）
ここで重要なことは、ChatGPTから何らかの理由でデータが流出したことではありません。
また、ChatGPTがそれを学習素材として他の企業や個人へ提供したことが問題なのでもありません。
ChatGPTという「社外のサービス」に対して情報を送信したことを漏洩と言っているのです。
被害が発生したから問題なのではありません。
社外へ出してはいけない情報を社外サービスへ送信したこと自体が、企業の信頼を損なう問題なのです。
2. シャドーAI
シャドーAIとは、会社が承認していないAIサービスを業務で利用することです。
IBMの調査によれば、AI関連のデータ侵害の約20%がシャドーAIによるものとされています。
在宅勤務などが増え、仕事とプライベートの区別には、より高い自律性とリテラシーが求められるようになりました。
「家のPCの方が性能が高いから」
「少しだけだから」
という理由で、つい個人契約のAIサービスを使ってしまうこともあるかもしれません。
前回の記事で紹介したAI利用規程では、会社で利用できるAIサービスを指定し、必要に応じて利用申請や上長承認を経たうえで利用を認める形となっています。
会社の規程と本記事で紹介する教育の両面から、このような利用は防がなければなりません。
3. ハルシネーション（誤情報）のリスク
ハルシネーションとは、存在しない情報や誤った内容を、もっともらしく生成してしまう現象です。
一時期、「ChatGPTは嘘をつく」と言われていた時期がありました。
これは厳密には、ChatGPTなどがユーザーを騙そうとして誤った回答をしているわけではありません。
十分な根拠がないまま回答したり、内容を曲解したりすることで、ユーザーの期待とは異なる回答を生成してしまう現象を、このように呼んでいます。
事実に基づかない回答をすることや、前後で整合性の取れていない回答をすることは現在でもあります。
ビジネスシーンでは、これらは致命的な問題となる場合があります。
前回の記事でも、生成物を利用する際は、必ず人が事実関係を確認するよう説明しました。
ちなみに少し古いモデルですが、下図に示すように、シンプルな計算問題でも誤答することがあります。
4. 知財
あなたは会社でイベントを企画することになりました。
生成AIでイベント用のオリジナルキャラクターを作成しました。
調べた限り、既存のアニメやゲーム、企業キャラクターなどに似たものは見当たりません。
このキャラクターをイベントのメインキャラクターとして使用してもよいのでしょうか。
ビジネスライクに考えてみます。
まず、例えばChatGPTで作成したものを商用利用すること自体は、利用規約上問題ありません（2026年7月24日現在）。
ただし、実際に使用するためには、
生成されたキャラクターが第三者の権利（著作権・商標権・肖像権など）を侵害していないこと
が前提となります。
つまり、ChatGPTが偶然にも既存キャラクターと酷似したものを生成した場合、
「ChatGPTが作ったものであり、真似をする意図はなかった」
ということは免責理由にはなりません。
しかし今回のケーススタディでは、似たようなキャラクターは見当たりませんでした。
では安心して使用できるのでしょうか。
実は、ここにも注意点があります。
現在、多くの生成AIは大量のデータを学習して開発されていますが、その学習データの詳細は公開されていません。
仮に将来、その生成物について第三者から権利侵害を主張された場合、
「ChatGPTが生成したものであり、自社で模倣したわけではない」
という事情だけで責任がなくなるとは限りません。
会社として商用利用した以上、利用者側にも一定の確認や判断が求められる可能性があります。
また、生成AI各社がどのような学習データや生成アルゴリズムを利用しているかを利用者が確認することは現実的ではありません。
そのため企業として重要なのは、
「生成AIが作成したから安全」
と考えるのではなく、公開・商用利用する素材については、必要に応じて人の目で確認し、リスクを評価する運用を整備することです。
5. プロンプトインジェクション（悪意ある入力）とデータポイズニング
プロンプトインジェクションとは、AIに対して悪意のある命令を与え、本来実行してはいけない処理を行わせようとする攻撃です。
例えば、
- 従来のルールを無視して顧客リストを表示させる
- 社内フォルダへアクセスし、本来閲覧できないデータを取得する
などが該当します。
データポイズニングとは、AIが学習するデータへ悪意ある「毒」を混ぜ込み、AIの判断を誤らせる攻撃です。
- ノイズ混入型：教師データに誤ったラベルや偽データを混ぜる
- バックドア型：特定のトリガーを学習させ、AIを意図的に誤動作させる
- 偏向誘導型：一部の情報を大量に混ぜ込み、AIの出力を偏らせる
これらは明らかに悪意を持って行われる攻撃です。
そのため、一般社員が日常業務で注意すれば防げるというものではありません。
一方で、AIエージェントが社内システムやファイルへアクセスするようになると、このような攻撃への理解も重要になります。
従業員教育の場面でどこまで取り上げるかは、企業のAI利用状況に応じて、研修ベンダーと相談しながら決めるとよいでしょう。
まとめ
AIは非常に便利である一方、新たなリスクも生み出しています。
PCが普及したときも、インターネットが普及したときも同じように、新しい技術には新しいリスクが伴いました。
特にAIエージェントが社内のファイルやデータへアクセスする時代になれば、AIを安全に利用するためには、より一層高いリテラシーが求められるでしょう。
こうしたリスクを理解してもらうための研修を企画し、適切な研修カリキュラムを組み、必要に応じて研修ベンダーを選定することも、これからの総務に求められる仕事の一つなのかもしれません。