AIに任せてはいけない仕事——情報漏洩と誤答の線引き

この記事で分かること

AI導入の相談で、費用や効果より先に出てくるのが「情報が漏れないか」「間違ったことを答えたら誰の責任になるのか」という不安だ。
本記事では、その二つのリスクが実際にはどういう形で起きるのかを整理し、AIに任せてよい仕事と、人が判断すべき仕事の線引きを示す。
最後に、導入前に確認しておくべき点をまとめる。

不安の正体は二つに分かれる

「AIは怖い」という感覚は、分解すると次の二つになる。

• 入力した情報が外に出てしまうのではないか（情報漏洩）
• AIが間違ったことを言い、それが取引先や顧客に伝わるのではないか（誤答）

この二つは、対処の方法がまったく違う。
情報漏洩は契約と設定で防ぐ話であり、誤答は業務の設計で防ぐ話になる。
一緒くたに「AIは危ない」としてしまうと、どちらも解決しないまま導入が止まる。

情報漏洩：入力した情報はどこへ行くのか

個人向けと法人向けで扱いが違う

同じAIサービスでも、個人で使う無料プランと、法人向けの契約とでは、入力した情報の扱いが異なる場合がある。
法人向けの契約では、入力内容をAIの学習に使わないと定めているサービスが多い。
一方、個人向けの無料プランでは、入力内容が今後の改善に使われる設定になっていることがある。

つまり「AIに入れたら情報が漏れる」のではなく、「どの契約で、どの設定で使っているか」で結果が変わる。
社員が個人のアカウントで業務情報を入力している状態は、会社として把握しておいたほうがよい。

現実に起きやすいのは、社内ルールの不在

外部への流出よりも先に確認したいのは、社内で誰が何をAIに入力しているかが分からない状態だ。
禁止するだけでは、結局は見えないところで使われる。
何を入れてよくて、何を入れてはいけないかを具体的に決めておくほうが、実効性がある。

入力を避けたほうがよい情報の例を挙げる。

• 顧客の氏名・連絡先・住所などが特定できる形の情報
• 取引先との契約書や見積書の原本そのもの
• 従業員の個人情報や人事評価に関する記述
• 未公開の経営数値

これらは、AIに渡さなくても業務が回る形に加工できる場合が多い。
たとえば見積書の作成なら、顧客名を伏せた条件だけを渡しても目的は達成できる。

誤答：AIは自信を持って間違える

AIの厄介な点は、間違えるときに「間違えました」という顔をしないことだ。
分からないことでも、それらしい答えを返してくる。
このため、AIの出力をそのまま外に出す運用は、業種を問わず避けたほうがよい。

特に注意が必要なのは次のような場面だ。

• 金額の提示（見積り・値引き・追加費用の判断）
• 納期の約束
• 法令や制度に関する説明
• 過去の取引経緯を前提にした回答

これらは、間違えたときに相手との関係や契約に直接影響する。
逆に言えば、この四つを人の確認なしにAIへ渡さないだけで、リスクの大半は避けられる。

線引きの基準

任せてよいかどうかは、「間違えたときに取り返しがつくか」で判断すると分かりやすい。

任せやすい仕事

• 社内向けの下書き作成（後で人が直せる）
• 情報の要約・分類・整理
• 定型的な文章の作成
• 過去資料の検索

これらは、間違いがあっても人が気づいた時点で直せる。

人の確認を挟むべき仕事

• 社外へ送る文章の最終確認
• 金額・納期に関わる判断
• 顧客ごとの事情を踏まえた対応

任せるべきでない仕事

• 契約に関する最終判断
• 人事評価や採用の合否判断
• 責任の所在が問われる決定

AIは判断の材料を用意することはできるが、責任を引き受けることはできない。
決定そのものを渡してしまうと、問題が起きたときに説明ができなくなる。

「人の確認を挟む」を仕組みにする

線引きを決めても、忙しくなれば確認は省かれる。
意志の力に頼らず、仕組みとして組み込んでおくほうが続く。

• AIの出力を、そのまま送信できない形にする（下書きとして保存し、人が送信操作をする）
• 金額や納期を含む内容は、担当者に通知が飛ぶようにする
• AIが判断できない場合は、無理に答えず人に引き継ぐ設計にする

三つ目は特に重要になる。
分からないときに「分かりません」と言えるAIのほうが、何でも答えるAIより実務では役に立つ。

SHIKAKERUの場合

弊社が構築するAIには、価格や契約に関わる質問が来た場合、AIが確定回答せずに担当者へ引き継ぐ仕組みを組み込んでいる。
自社の公式LINEでも同じ設計で運用している。

導入のご相談を受ける際も、まず「何を任せないか」から決めることをお勧めしている。
任せない範囲が決まると、任せてよい範囲は自然と見えてくる。
逆の順番で進めると、線引きのないまま運用が始まり、後から止めることになりやすい。

導入前に確認しておくこと

• 使おうとしているサービスは、法人向けの契約になっているか
• 入力内容が学習に使われない設定になっているか
• 社内で「入力してよい情報／いけない情報」が言語化されているか
• AIの出力が、人の確認なしに社外へ出る経路がないか

この四つが確認できていれば、多くの不安は具体的な対処に置き換えられる。

まとめ

AIのリスクは「怖いから使わない」で止めるものではなく、契約と設定、そして業務の設計で管理するものだ。
情報漏洩は契約と社内ルールで、誤答は人の確認を挟む仕組みで対処できる。
判断の基準は「間違えたときに取り返しがつくか」であり、責任が問われる決定はAIに渡さないほうがよい。
自社の場合どこまで任せてよいか判断がつかない場合は、無料診断や実務キットから確認できる。