「間違えるAIは使えない」を抜け出す生成AIの業務自動化-"精度100%"を目指さずに専門業務の自動化に道筋をつけた事例
- Daisuke Wakui
- 7月8日
- 読了時間: 9分
生成AIを試してはみた。デモは「すごいね」で沸いた。なのに、現場の仕事は一件も変わらなかった。そんな記憶は、ありませんか。とくに、査定・審査・診断・与信のように、一つの判断ミスが大きな事故につながる仕事では、「どうせ間違えるなら、本業には任せられない」と足が止まります。その慎重さは、正しい。問題は、AIを信じる度胸のあるなしではありませんでした。
これは、私たちLabz.が実際にご支援した、ある保険会社の話です。同社の保険金の査定業務-なかでも、専門医（医長）の判断に頼っていた"医的な見解"の部分――を、生成AIで自動化できるか。本番稼働の前に、"実務で本当に使えるか"を見極める段階に取り組みました。ただし、目指したのは「間違えないAI」ではありません。
先に、結論をお伝えします。突破口になったのは、「精度100%の完璧なAIを作る」ことを、あえて手放したこと。代わりに、AI（速さ）と人（最終チェック）の分担を設計し、AIの精度を44%から80%超まで地道に引き上げて、実務に乗せられることを実証しました。これが、私たちの考える生成AIの業務自動化の勘所です。そしてこの進め方は、保険に限りません。「間違いが許されない、専門家頼みの判断業務」を抱える現場すべてに、同じ形で効きます。
※本記事は、実際のご支援事例をもとにしていますが、クライアント企業の特定につながる情報（社名・財務数値・約款の内容・個別の査定事例など）はすべて伏せ、要点を一般化して構成しています。
支援前の状況-「AIは間違えるから、本業には使えない」
最初に業務を伺うと、専門性の高い判断業務に共通する悩みが見えてきました。
判断が、専門家一人に閉じている。査定の医的な見解は、専門医（医長）でなければ下せない。だからそこが業務のボトルネックになり、時間も人手もかかる。
生成AIを入れたいが、「間違えるから」で二の足を踏む。小さく試した段階（PoC）では動いたものの、「知識を増やしても精度が保てるのか」「件数の多い領域でも本当に回るのか」が分からない。ここが、多くの会社が"試しただけ"で止まってしまう、いちばんの壁でした。
※用語注：PoC（ピーオーシー）は「小さく試して、使えそうかを確かめる」試験導入のこと。ここを越えて"本当に実務で使える"へ進めるかどうかが、生成AI活用の分かれ目になります。
つまり課題は、AIの性能そのものよりも、「完璧じゃないと使えない」という前提にありました。慎重であること自体は、正しいのです。変えるべきだったのは、リスクを前提に、人とAIの役割をどう分けるかという"設計"のほうでした。私たちは、まずそこから始めました。
当社のアプローチ-"完璧なAI"を、あきらめる
私たちが最初にやったのは、高性能なAIをいきなり作り込むことではなく、「AIに、どこまでを・どの精度で任せ、どこから人が受け持つか」を設計することでした。進め方は、3つのステップです。
① 「精度100%」を手放し、人とAIの分担（HITL）を決める
意外に聞こえるかもしれませんが、AI単体で精度100%を目指すのは、筋が悪いのです。生成AIは確率で答えを出す仕組みで、原理的に100%には届きません。最後の数%を追いかけている間に、肝心の「実務で回しながら改善するループ」が、いつまでも立ち上がらない。完璧を待つほど、成果はかえって遠のきます。
そこで私たちは、「精度80%」を一つの基準に置き、こう役割を分けました。AIは"速さ"を担い、人は"最終チェック"で信頼性を担保する。
※用語注：HITL（ヒューマン・イン・ザ・ループ）とは、AIにすべてを任せきらず、要所で人が確認・判断しながら回す運用のこと。AIが得意な部分は任せ、間違うと困る部分は人が受け止める"二人三脚"の考え方です。
大事なのは、AIの答えを人が必ず最終確認するので、「もっともらしい嘘（ハルシネーション）」をそのまま通さずに済むこと。しかも、人が直した内容をAIに反映していけば、現場のノウハウが少しずつAIに溜まっていきます。「完璧じゃなくていい」と決めた瞬間に、プロジェクトは前に進み始めました。
② どこから自動化するかを選ぶ（件数 × 難易度 × 効果）
次に、「どの業務から自動化すれば、いちばん効くか」を見極めます。基準は、処理件数の多さ × 難易度 × 効果。件数が多くて効果の大きい領域と、難しいけれど価値の高い領域を見定め、そこから着手しました。あわせて、「対象業務の工数 × 単価」で削減効果を試算し、「一次査定の工数を、ゆくゆくは8割ほど減らす」という投資対効果（ROI）の目標を立てます。数字でゴールを描くから、経営としても投資の判断ができます。
③ 精度を、地道に上げる（5つの施策＋専門家の"暗黙知"を形式知に）
「44%を80%へ」と聞くと魔法のようですが、種明かしをすれば、5つの地道な施策の積み重ねでした。①領域特有のルールを足す、②「読み解く」工程と「判定する」工程を分ける、③AIへの指示（プロンプト）を磨く、④AIが読みやすいようにデータの形を整える、⑤誤りを専門家に確認してルールにする――。
なかでも、いちばん効いたのはこれです。専門医（医長）の頭の中にある"暗黙の判断基準"を、対話で引き出して、ルールに翻訳する。たとえば「"疑い"と書かれた曖昧な事案は、広めに解釈する」といった、ベテランが無意識にやっている判断を、言葉にしてAIに与える。属人的な判断を明文化することが、そのままAIの精度改善に直結したのです。ちなみに、この"暗黙知をルールにする"やり方は、保険や医療に限りません。たとえば「金額が大きく、情報の薄い取引先は、保守的に見る」というベテラン与信担当の勘所も、まったく同じ手順で言葉にして、AIに載せられます。
そしてもう一つの肝が、「わからないときは、無理に判定させない」設計です。AIが間違える最大の原因は、判断に必要な情報が入力に足りていないこと。だから、参照する資料との一致度に足切りライン（閾値）を設け、自信が持てない事案は「要・専門家確認」に回す。権威ある複数の公開ガイドラインを突き合わせてクロスチェックし、一本の情報源に依存しない。無理に答えを出させないことが、かえって信頼を生みました。
支援の成果-3つのAIすべてで、実務基準の「精度80%超」を達成
検証を終えたとき、成果は明確な数字で表れていました。構築した3種類の判定AIのすべてで、本番運用の品質基準としていた「正解精度80%」を超えたのです。
判定AI | 開始時の精度 | 改善後 |
因果関係の判定（高難易度） | 77% | 81% |
疾病コードの判定 | 44% | 80% |
手術コードの判定 | 45% | 81% |
しかも重要なのは、扱う知識の範囲を大きく広げても、精度が崩れなかったこと（検証の件数を10倍以上に増やしても、約80%を維持）。「小さく試したら動いた」で終わらず、"実務の量でも耐えられる"ことを実証できました。
けれど、いちばん大きく変わったのは、数字ではありません。専門家一人に閉じていた判断が、"誰でも回せて、しかも賢くなり続ける仕組み"として、社内に残ったことです。私たちは、次のような運用まで作り込み、それはもう同社の手元にあります。
AIが一次判定 → 担当者が確認 →（迷えば専門家へ）→ 二次査定、という人とAIの流れ（HITL）。
AI利用ガイドライン（使い方・精度の目安・チェックすべき点）。リスクのある事案を担当者が見抜いて、専門家に回せる。
「AIの判定」と「専門家の見解」がズレた事案を分析し、ルールにできるものはAIへ反映する仕組み。これで、人が判断する範囲が、放っておいても少しずつ縮んでいきます。
よくある「デモはすごいが、現場は変わらない」で終わらせない――その違いは、"モデルが数件で動くか"の確認（PoC）で止めず、"人とAIの運用"と"勝手に賢くなる仕組み"まで作り、クライアントの手元に資産として残したことにあります。
※用語注：この事例は、本番システムに本格的に繋ぐ前に「実務で使えるか」を見極める段階（フィージビリティ検証）です。ここで作った仕組みをもとに、本番運用へと段階的に広げていきます（ROIの狙いは、一次査定の工数を約8割減らすこと）。私たちは、その先にも伴走します。
なお、目に見えて変わったことが、もう一つ。「AIは間違えるから無理だ」という後ろ向きの会議が、「どの範囲を、どの精度で、人とAIでどう分担するか」という前向きな設計の議論に変わりました。
この事例と「共通地図」-専門家の頭の中を、AIで再現できる仕組みに
改めて振り返ると、私たちがやったことの本質は、すごいAIを作ったことではありません。専門家一人の頭の中に閉じていた"判断"を、論点に分解し、暗黙知をルールに翻訳し（形式知化）、生成AIで再現できる仕組みに変えたこと。しかも今回は、その"論点の分解"と"暗黙知の形式知化"が、AIを組み上げる作業そのものを通じて進みました。地図とAIは、別々の二つではなく、一つの成果物だったのです。
これは、私たちの事業「共通地図」そのものです。事例が形になったのは、単体の力ではありません。〈"そもそも完璧を目指さない"と問いを立て直し、どこを・どの精度で自動化するかを見立てる論点設計の力〉×〈専門家の暗黙知を、誰もが使えるルールに整理する力〉×〈それを生成AIで実装し、再現できる形にする力〉――この3つの掛け算があってこそでした。「魚を渡す」のではなく、「魚の釣り方の地図を、AIで描いて渡す」。今回は、まさに文字どおりの実践です。
そして、「AIは間違える。だから人が最終確認する」という考え方は、この案件だけの工夫ではありません。私たちは、価値の重心を"最新AIの性能"ではなく、"論点の設計"と"人のレビュー"に置いています。だから、「全部AIに丸投げ」は、売りません。ここが、精度を競うAIベンダーとも、答えだけ渡すコンサルとも違う、共通地図の立ち位置です。
※用語注：PMO（Project Management Office）は、プロジェクトの進捗・課題・リソースを管理・支援する役割・組織。実行の管理は得意な一方、「そもそもどこを目指すか」の構想は担いにくい立場です。
世の中の支援は、大きく2つに分かれています。経営コンサルは「答えは出すが、やり方は社内に残らない」。PMOは「決まった作業は管理するが、"そもそもどこを目指すか"は描けない」。私たちは、そのどちらでもない第三の場所に立ちます。そして大事なのは、この進め方が"AIを作ること"に閉じないこと。中核は、"どこを・どう解くか"を見立てて論点に分解し、暗黙知を形式知にして、再現できる仕組みに残す――という"方法"であり、生成AIは、それを実現する強力な道具の一つです。だから同じ形は、審査・与信・検査といった専門判断の自動化にも、さらには戦略づくり・新規事業・業務改革といった上流のテーマにも効きます。生成AIの導入は、その一つにすぎません。
まとめ-生成AIの業務自動化は、"人との分担"から
生成AIを本業に活かせないとき、私たちはつい「AIがまだ完璧じゃないから」と考えます。けれど、この事例が示しているのは、壁の正体はAIの不完全さではなく、"完璧を求めるあまり、人とAIの分担を設計していないこと"だということです。
「精度100%」を手放し、人とAIの分担（HITL）で設計する。完璧を待つより、回しながら改善する。
件数 × 難易度 × 効果で、どこから自動化するかを選ぶ。いちばん効くところから。
専門家の暗黙知を形式知にしてAIに載せ、賢くなり続ける仕組みを残す。作って終わりにしない。
「AIは間違えるから使えない」。その慎重さは正しい。足りないのは完璧なAIではなく、まだ描かれていない一枚の"分担の地図"なのかもしれません。
株式会社Labz.の「共通地図」は、経営コンサルとPMOの"間"にある白地――明確な答えのない上流テーマ（生成AI導入・業務改革・新規事業・事業戦略など）のプロジェクト推進を、論点設計から、動けるタスク・判断への分解、そして生成AIで再現できる"仕組み"づくりまで支援し、その後の検証・実行にも伴走するサービスです。 「うちのこの専門業務も、AIに任せられるだろうか?」――もしそう感じられたら、下記より、まずは30分お聞かせください。売り込みではなく、"どこまでをAIに、どこからを人に"を、一緒に見立てるところから始めます。
コメント