AIに任せてはいけない仕事——漏洩と誤答の線引き

この記事で分かること

AI導入の相談で、費用や効果より先に出てくるのが「情報が漏れないか」「間違ったことを答えたら誰の責任になるのか」という不安だ。
本記事では、その二つのリスクが実際にはどういう形で起きるのかを整理し、AIに任せてよい仕事と、人が判断すべき仕事の線引きを示す。
最後に、導入前に確認しておくべき点をまとめる。

不安の正体は二つに分かれる

「AIは怖い」という感覚は、分解すると次の二つになる。

• 入力した情報が外に出てしまうのではないか（情報漏洩）
• AIが間違ったことを言い、それが取引先や顧客に伝わるのではないか（誤答）

この二つは、対処の方法がまったく違う。
情報漏洩は契約と設定で防ぐ話であり、誤答は業務の設計で防ぐ話になる。
一緒くたに「AIは危ない」としてしまうと、どちらも解決しないまま導入が止まる。

情報漏洩：入力した情報はどこへ行くのか

個人向けと法人向けで扱いが違う

同じAIサービスでも、個人で使う無料プランと、法人向けの契約とでは、入力した情報の扱いが異なる場合がある。
法人向けの契約では、入力内容をAIの学習に使わないと定めているサービスが多い。
一方、個人向けの無料プランでは、入力内容が今後の改善に使われる設定になっていることがある。

つまり「AIに入れたら情報が漏れる」のではなく、「どの契約で、どの設定で使っているか」で結果が変わる。
社員が個人のアカウントで業務情報を入力している状態は、会社として把握しておいたほうがよい。

現実に起きやすいのは、社内ルールの不在

外部への流出よりも先に確認したいのは、社内で誰が何をAIに入力しているかが分からない状態だ。
禁止するだけでは、結局は見えないところで使われる。
何を入れてよくて、何を入れてはいけないかを具体的に決めておくほうが、実効性がある。

入力を避けたほうがよい情報の例を挙げる。

• 顧客の氏名・連絡先・住所などが特定できる形の情報
• 取引先との契約書や見積書の原本そのもの
• 従業員の個人情報や人事評価に関する記述
• 未公開の経営数値

これらは、AIに渡さなくても業務が回る形に加工できる場合が多い。
たとえば見積書の作成なら、顧客名を伏せた条件だけを渡しても目的は達成できる。

誤答：AIは自信を持って間違える

AIの厄介な点は、間違えるときに「間違えました」という顔をしないことだ。
分からないことでも、それらしい答えを返してくる。
このため、AIの出力をそのまま外に出す運用は、業種を問わず避けたほうがよい。

特に注意が必要なのは次のような場面だ。

• 金額の提示（見積り・値引き・追加費用の判断）
• 納期の約束
• 法令や制度に関する説明
• 過去の取引経緯を前提にした回答

これらは、間違えたときに相手との関係や契約に直接影響する。
逆に言えば、この四つを人の確認なしにAIへ渡さないだけで、リスクの大半は避けられる。

三つ目の失敗：動いているように見えて、最後だけ届かない

漏洩と誤答は、どちらも「起きたことが分かる」失敗である。実際に運用していて一番困るのは、三つ目の型だった。正常に動いているように見えて、最後の一手前で止まっているという失敗である。

当社で起きた例を書く。企業の問い合わせフォームから営業文を送る作業を自動化し、47社分の手順を用意した。いきなり全部は流さず、まず5社で試した。

送信できたのは0社だった。しかも、止まった理由が5社とも違っていた。

• 1社目：入力も確認画面への到達も成功していた。ただし手順に「確認画面のあと、もう一度送信を押す」が入っておらず、ゴールの直前で待機し続けた
• 2社目：確認画面のないフォームだったのに、存在しない確認画面を探し続けた
• 3社目：迷惑送信を捕まえるための、人には見えない項目があった。空欄が正解なのに「未入力です」と判断して停止した
• 4社目・5社目：必須のラジオボタンと同意チェックを拾えなかった。画面には見えているのに、プログラムからは見えないように作られた同意欄もあった

どれも、AIが暴走したのでも、嘘をついたのでもない。指示どおりに、真面目に、間違えていた。

この型が危ない理由

誤答であれば、出てきた答えを読めば間違いに気づける。漏洩であれば、何を入力したかを見れば分かる。しかしこの型は、途中まで完璧に動いている。

もし5社ではなく47社を一度に流していたら、「送信済み」と思い込んだまま、実際には1件も届いていない状態が続いていた。相手には何も届かず、こちらは反応がないことを「反応が悪い」と解釈していたはずである。

だから、任せる範囲より先に決めること

「何を任せるか」の前に、次の2つを決めておいたほうがいい。

• 小さく試す単位——全件流す前に、数件で止めて結果を目で見る
• 出口を確認する方法——「処理した件数」ではなく「相手に届いた件数」を数える

自動化は、AIの賢さではなく最後の1センチで壊れる。当社が導入前に「どこまでできたら成功とするか」を必ず決めるのは、この経験があるためである。

線引きの基準

任せてよいかどうかは、「間違えたときに取り返しがつくか」で判断すると分かりやすい。

任せやすい仕事

• 社内向けの下書き作成（後で人が直せる）
• 情報の要約・分類・整理
• 定型的な文章の作成
• 過去資料の検索

これらは、間違いがあっても人が気づいた時点で直せる。

人の確認を挟むべき仕事

• 社外へ送る文章の最終確認
• 金額・納期に関わる判断
• 顧客ごとの事情を踏まえた対応

任せるべきでない仕事

• 契約に関する最終判断
• 人事評価や採用の合否判断
• 責任の所在が問われる決定

AIは判断の材料を用意することはできるが、責任を引き受けることはできない。
決定そのものを渡してしまうと、問題が起きたときに説明ができなくなる。

「人の確認を挟む」を仕組みにする

線引きを決めても、忙しくなれば確認は省かれる。
意志の力に頼らず、仕組みとして組み込んでおくほうが続く。

• AIの出力を、そのまま送信できない形にする（下書きとして保存し、人が送信操作をする）
• 金額や納期を含む内容は、担当者に通知が飛ぶようにする
• AIが判断できない場合は、無理に答えず人に引き継ぐ設計にする

三つ目は特に重要になる。
分からないときに「分かりません」と言えるAIのほうが、何でも答えるAIより実務では役に立つ。

SHIKAKERUの場合

弊社が構築するAIには、価格や契約に関わる質問が来た場合、AIが確定回答せずに担当者へ引き継ぐ仕組みを組み込んでいる。
自社の公式LINEでも同じ設計で運用している。

導入のご相談を受ける際も、まず「何を任せないか」から決めることをお勧めしている。
任せない範囲が決まると、任せてよい範囲は自然と見えてくる。
逆の順番で進めると、線引きのないまま運用が始まり、後から止めることになりやすい。

導入前に確認しておくこと

• 使おうとしているサービスは、法人向けの契約になっているか
• 入力内容が学習に使われない設定になっているか
• 社内で「入力してよい情報／いけない情報」が言語化されているか
• AIの出力が、人の確認なしに社外へ出る経路がないか

この四つが確認できていれば、多くの不安は具体的な対処に置き換えられる。

任せられる範囲を実例で見るなら「電気工事の見積をAIで作る、任せられる範囲」、守秘義務が絡む業種は「士業事務所の最初のAI化——守秘義務との線引き」が近い。

まとめ

AIのリスクは「怖いから使わない」で止めるものではなく、契約と設定、そして業務の設計で管理するものだ。
情報漏洩は契約と社内ルールで、誤答は人の確認を挟む仕組みで対処できる。
判断の基準は「間違えたときに取り返しがつくか」であり、責任が問われる決定はAIに渡さないほうがよい。
自社の場合どこまで任せてよいか判断がつかない場合は、無料診断や実務キットから確認できる。