【メモ】業務で生成AIを使う前に知るべきこと
はじめに
生成AIは、要約、文章整理、アイデア出し、調査補助などに役立つ一方で、入力内容、出力の信頼性、著作権や再利用の扱いに注意が必要です。1
特に業務で使い始める段階では、「便利だからまず使ってみる」という流れに入りやすいため、使い方より先に何を入れてよいか、何をそのまま使ってよいかを理解しておく必要があります。
生成AIで最初に意識すべきこと
生成AIの利用では、少なくとも次の3点を切り分けて考える必要があります。
- 何を入力してよいか
- 何を出力として採用してよいか
- 自社で何が許可されているか
この3つを分けずに使うと、機密入力、誤情報の採用、ルール違反が同時に起きます。
入力時の注意
機密情報や顧客情報を安易に入れない
社外サービス型の生成AIでは、入力した内容の扱いを十分理解しないまま使うのは危険です。
顧客情報、個人情報、未公開情報、社内機密は、許可確認なしに入力しないのが基本です。1
ソースコードや設計情報も軽く見ない
技術職でなくても、設定情報、業務フロー、設計資料、社内テンプレートなどは重要な情報資産です。
ソースコードや設定断片も含め、入力可否は自社ルールに従って判断してください。
「匿名化したつもり」で安心しない
名前を消しても、文脈、数値、案件条件、固有表現から推測できることがあります。
一部だけ隠したつもりでも、十分に匿名化できていない場合があります。
出力時の注意
もっともらしくても正しいとは限らない
生成AIの出力は、流暢で自然でも、事実誤認や不適切な推論を含むことがあります。1
そのため、業務で使うときは、次の観点が必要です。
- 事実か推測かを見分ける
- 数値や固有名詞を確認する
- 外部説明に使う前に一次情報で裏取りする
そのまま提出や送信をしない
文章案、要約案、返信案は便利ですが、業務文書として使うなら、自分の責任で読み直す必要があります。
誤解を招く表現、社内外で不適切な表現、会社方針とずれる内容がないかを確認してください。
著作権や再利用も意識する
出力物は自由に使えるとは限りません。
引用、再配布、画像生成物の利用、外部公開の可否などは、利用条件や自社ルール確認が必要です。1
起こしやすい誤り
まず入れてから考える
困ったときにすぐ貼り付ける使い方は危険です。
生成AIは、検索欄やメモ帳ではありません。
出力が整っているので信用してしまう
文章が自然だと、根拠確認を省きやすくなります。
しかし、自然さと正しさは別です。
ルールが曖昧でも便利さを優先する
「みんな使っているらしい」「禁止されていないはず」という感覚で使うと、後からルール違反になることがあります。
判断に迷うときは、利用前に確認するのが正しい順番です。
生成AIを使う前の確認項目
生成AIを業務で使う前に、少なくとも次を確認してください。
- そのサービスは会社で利用可能か
- 入力しようとしている内容は機密ではないか
- 顧客情報や個人情報が含まれていないか
- 出力をそのまま採用せず、自分で確認できるか
- 社外公開や再利用の条件を理解しているか
日常で意識したい原則
- 入力前に、情報の機密性を考える
- 出力前に、正確性と適切性を確認する
- 自社ルールが不明なまま使い始めない
- 便利さより先に、責任ある利用を考える
ミニ確認
- 生成AIで最初に分けて考えるべき3点は何か
- 「匿名化したつもり」が危険なのはなぜか
- 出力が自然でも、そのまま使ってはいけない理由は何か
- ソースコードや社内資料の入力可否は、何で最終確認すべきか