T TOTONO業務自動化代行

AIの自動判定は100点を狙わない|月数千件を処理する実案件で固めた3つの設計

「リストの下調べをAIに任せたいが、間違った判定をされたら困る」——弊社が実際にいただいた相談です。結論から言うと、AIの自動判定は100点を狙わず、「間違える前提」で仕組みを設計した方が現場で使えるものになります。本記事では、月数千件規模の判定システムを構築・運用している実案件から、導入前の答え合わせ、「判定不能」カテゴリの設計、運用後の月次照合という3つの設計をお伝えします。

AIによる大量データの自動判定と人の確認を組み合わせるイメージ

実際にあった相談——「営業リストの下調べを、人が1件ずつ見ている」

ご相談いただいたのは、訪問営業のために毎日数百件の店舗リストを下調べしている事業者様でした。店舗名と住所の一覧をもとに、担当者が地図サービスで1件ずつ現地の様子を確認し、「訪問する価値があるか」を仕分けしていく作業です。月に換算すると数千件、目視の作業時間は数百時間規模になっていました。

弊社が構築したのは、公開されている地図の画像をAIが読み取り、建物の条件を数種類に自動分類する仕組みです。1件あたり10〜20秒、並列処理で1,000件を10分前後で判定し、結果は判定理由つきでスプレッドシートに書き込まれます。リストを貼り付ければ自動で判定が走り、担当者は結果を確認して訪問先を決めるだけになりました。

ここまで聞くと順調な導入例に見えますが、本題はここからです。この仕組みが現場で使いものになったのは、AIの精度が高かったからではありません。「間違える前提」の設計を最初から組み込んだからです。

設計1:導入前に過去実績と「答え合わせ」をする

本格導入の前に、先方が持っていた過去の訪問実績66件を使い、AIの判定と実際の結果を突き合わせました。一致率は7割強。この数字だけ見ると「3割も間違えるのか」と感じるかもしれませんが、不一致の中身を1件ずつ確認すると、別の事実が見えてきました。

この答え合わせをしておくと、導入判断が感覚論ではなくなります。「AIだから不安」でも「AIだから大丈夫」でもなく、手元の過去データ数十件で試してから決める——これが最初の設計です。AIの期待と現実のギャップの多くは、この工程を飛ばすことから生まれます。

無料資料:業務自動化スターターキット。自動化できる業務30項目チェックリスト(PDF)+ビジネスChatGPTプロンプト集2100(Excel)を無料配布中。

設計2:「判定不能」を正式なカテゴリにする

この案件で最も効いた設計は、AIに白黒の二択を強制せず、「対象を確認できない」「画像が存在しない」を独立したカテゴリとして持たせたことです。無理に全件を白黒に振り分けると、自信のない判定が正解と同じ顔をして混ざり、あとから見分けられなくなります。

判定不能は「捨てる」のではなく「別ルートに流す」

確認できなかった案件は、電話番号つきの「要確認リスト」として別タブに自動で書き出すようにしました。AIが判定できるものはAIが、できないものは人が電話で確かめる——という分業です。判定不能を認めることは、精度を下げることではなく、人の確認時間を本当に必要な件だけに集中させることです。

境界ケースは「どちらに倒すか」を先に決める

設計3:運用後に実際の結果を書き戻し、毎月照合する

自動判定は作って終わりではありません。この案件では、シートに「訪問結果」の記入列を設け、現場の結果を書き込んでもらい、AIの判定と実際の結果を毎月自動で突き合わせる仕組みを最初から組み込みました。誤判定の傾向が数字で見えるため、判定ルールを翌月には直せます。

実際、運用開始後に「商店街の中の店舗を、独立した店舗と誤判定する」という指摘がありました。原因を調べると、AIの読み取りに使う画像の画角ではアーケードの屋根が写っておらず、AIには本当に普通の2階建て店舗に見えていたことが分かりました。指示文をどれだけ直しても、見えていないものは判定できません。画像の撮り方を変えることで解決しましたが、これは運用後のフィードバックがなければ気づけない種類の問題です。

費用感の目安もお伝えします。判定そのものは既製のAIサービスで小さく試せるため、数十件の検証なら社内でも可能です。一方、月数千件規模の運用(重複防止・再判定の制御・API費用の管理・結果の書き戻し)まで含めた構築は、弊社の経験では開発10万円台〜、運用込みで月数万円が一つの目安です。詳しくは自動化の費用相場も参考にしてください。判定対象のデータを整える工程についてはデータ入力の自動化で解説しています。

まとめ——精度の数字より、間違いに気づける仕組み

AIの自動判定を業務に入れるとき、多くの方が「精度は何%ですか」と質問されます。しかし実案件を通じて言えるのは、導入の成否を分けるのは精度の数字そのものではなく、①導入前の答え合わせ、②判定不能を認める設計、③運用後の月次照合という3つの仕組みだということです。

この構図は営業リストに限らず、書類のチェック、問い合わせの振り分け、写真による検品など、「人が1件ずつ見て仕分けている業務」に共通します。まずは自社で1件ずつ目視している業務を1つ書き出し、過去の結果と答え合わせできるデータが手元にあるかを確認することから始めてください。着手する業務の選び方は最初に自動化すべき業務の見つけ方で解説しています。

その業務、AIでどこまで判定できるか30秒で診断

仕分け・チェック・下調べなど、人手で回している判定業務を1行入力するだけ。自動化できる範囲と人に残すべき範囲、概算費用をその場でお見せします。月額3万円〜・最短2週間で運用開始。

AIに30秒で試す →

よくある質問

Q. AIの判定精度はどのくらいあれば業務に使えますか?

業務によって異なるため、一律の合格ラインはありません。重要なのは「間違えたときの損失」と「人が全件確認する現在のコスト」の比較です。実案件では、迷った案件を人の確認に回す設計にすることで、精度7割台でも目視時間を大きく削減できました。全件をAIに任せるのではなく、確信のある判定だけ任せると考えると導入のハードルは下がります。

Q. どんな業務がAIの自動判定に向いていますか?

①件数が多い(月数百件以上)、②判定基準をある程度言葉にできる、③間違えても後から修正が利く、の3条件がそろう業務です。営業リストの下調べ、書類の一次チェック、問い合わせの振り分けなどが典型です。逆に、1件の間違いが取り返しのつかない業務(契約の最終判断など)は、AIを下調べ役にとどめ、最終判断は人に残すことをおすすめします。

Q. AIが判定を間違えたらどうするのですか?

間違いをゼロにするのではなく、「間違いに気づける仕組み」を組み込みます。実案件では、実際の結果を記入する列を設けて毎月自動で突き合わせ、誤判定の傾向を数字で把握してルールを調整しています。また、判定結果は上書きでなく再計算できる設計にしておくと、原因を直せば過去分もまとめて修正できます。

T
TOTONO編集部 | 運営者・編集方針
株式会社SCコンサルティングが運営する業務自動化メディア「TOTONO Journal」編集部。中小企業の自動化・効率化の受託実績をもとに、現場で使えるノウハウと最新の制度・ニュースをお届けします。