業務自動化とAI｜自動化の効果は、人に残った作業で測る

去年、家に食洗機を買いました。（この話は以前しましたが…。）

皿とコップは、たしかに洗わなくてよくなりました。ただ、フライパンと包丁と木のまな板は入りません。流しに残るのは、いちばん洗いたくないものばかりになりました。

しかも、作業は減ったはずなのに、洗う前に「これは食洗機に入るのか」を1枚ずつ決める、考える手間が増えました。半年たっても、流しに立っている時間は変わっていません。

AIで業務を自動化する会社が増えてきました。ただ、機械に任せた量のぶんだけ現場が軽くなるとはかぎりません。自動化したあとに人へ何が残るかで、結果が分かれます。

僕も、どの工程をAIで自動化するかの決め方を外しました。いちばん自動化しやすい工程を選んだ結果、人の手元に残った仕事のほうが、前より難しくなっています。

先に一行だけ置きます。AIで業務を自動化した効果は、機械が引き受けた仕事ではなく、人に残った仕事で測ります。 易しいところから順に自動化されるので、人の手元には難しいところだけが残るからです。

この話に出てくる事業

大企業と僕の会社の共創事業として、まず小さく作って現場で使ってみる形のプロダクト（MVP）をいくつか立ち上げています。そのひとつが、自動車部品のプレス加工をしている会社で、出荷前の検品をAIで自動化する仕組みです。

この会社は、完成車メーカーに直接納めているわけではありません。完成車メーカーへ納める会社（一次サプライヤー）に、その手前で部品を納めています。この立場を二次サプライヤーと呼びます。作っているのは、自動車のドアヒンジを留める補強プレートです。手のひらほどの鋼板を、プレス機で抜いて、曲げます。

納め先はその一次サプライヤー1社だけで、通い箱に決まった枚数を詰めて、毎日トラックで運びます。

出荷の前に、人が1枚ずつ目で見ています。見ているのは、打痕、バリ（切った縁に残る出っぱり）、曲げ角のずれ、めっきのかすれ、面のキズ、刻印の欠け。この6件です。はねた分は通い箱から抜いて、枚数を数え直して、詰め直します。検品と再梱包と呼ばれている工程で、担当は3名です。

この検品を、AIで自動化することにしました。作ったのは、通い箱から出したプレートをコンベアに載せ、上下のカメラで撮って、AIが良品か不良かをその場で判定する仕組みです。判定が出たプレートは、仕分けの腕でそのまま良品側と不良側に振り分けられます。

いちばん自動化しやすい工程で、いちばん効くはずでした。

今日は、AIで自動化する範囲の決め方がなぜ外れたのか、という話をしていこうと思います。

前置きはさておき、本題に入ります。

① 教科書どおりに、いちばん自動化しやすい工程をAIで自動化した

どの工程からAIで業務を自動化するかは、素直に教科書どおりに決めました。

教科書に載っている選び方は3件あります。繰り返しが多い工程、判断の基準が言葉にできる工程、1日の件数が多い工程。この3件のどれかに当てはまるところから自動化しろ、と書いてあります。3件全部で絞ると、候補は出荷前の検品しか残りませんでした。

検品を担当している3名に聞いても、挙がったのは同じ工程でした。「一日中これをやっているのが一番きついです」と即答されています。

最初の判定が出た日のことは、よく覚えています。

打痕のあるプレートを1枚わざと混ぜてコンベアに流すと、仕分けの腕が動いて、不良側の箱に落ちました。バリの立った1枚も落ちました。担当の1名は、自分がいつもはねている見本を10枚ほど持ってきて、その場で流しています。その10枚も、ほとんどが正しく不良側に落ちました。

教科書が間違っていたわけではありません。 この段階では、外した感覚はまったくありませんでした。

② 半年後、不良0件のまま、はねるべき1枚が納め先に届いた

ところが、判定の精度を上げる調整を続けて半年ほど経ったころ、納め先の一次サプライヤーから、打痕のあるプレートが1枚返ってきました。返ってきた1枚は、はねられないまま通い箱に入っていました。

そのとき手元の画面に出ていた数字は、不良0件です。赤い表示は、1件も出ていませんでした。

判定の記録を開いて分かったのは、「不良0件」と「全部を見終えた」が別物だということでした。カメラの画角から外れたもの、治具（プレートを決まった向きで載せる台）に載せ損ねて傾いたもの、撮影の露出が飛んで白くなったもの。これらは不良と判定されたのではなく、判定そのものが行われないまま、良品側へ流れていました。

AIに判定させた検査項目は6件です。半年ぶんの記録を数え直すと、6件すべてを最後まで自動で判定できたプレートは、0枚でした。どのプレートも、6件のうちどれか1件は、機械が判定できないまま残しています。残った項目は、人が目で見て埋める決まりでした。

それでも画面は、ずっと不良0件のままでした。判定していないものは、不良にも良品にも数えられていなかったからです。人が埋めそこねた1枚が良品側へ流れても、画面の上では何も起きません。

③ 気づいたのは、検品の手順書の半分が、機械の言い訳で埋まっていたときでした

返品が1件出ただけなら、まだ「たまたま混ざったのだろう」で済ませていたかもしれません。

引っかかったのは、検品を担当している3名が自分で書き足していた手順書です。AIで自動化する前は、A4で2枚に収まっていました。半年後に印刷し直すと、A4で2枚にはとても収まらない量になっていて、行数にして258行あります。増えたぶんが何なのかを見たくて、書かれている中身で分けてみました。

何が書いてあるか	量
検品と再梱包のやり方そのもの	130行
機械が判定できなかったときの理由と対処	128行

ちょうど半分です。手順書の半分が、AIが判定できなかったときの話で埋まっていました。

しかも、その128行は減りません。露出が飛ぶ条件、治具に載せ損ねる形、めっきが光って白く映る角度。判定できない理由は、増えることはあっても消えないからです。

そして手順書の末尾には、人が目で見て確かめる項目が並んでいました。数えると18件あります。AIで自動化する前、この一覧は存在していませんでした。

ここで初めて、AIで自動化する範囲の決め方が悪かったのではないか、と思いはじめました。

④ 原因を1件に絞る

外した理由として思い当たることは、いくつもあります。カメラの位置が悪かったこと、治具を作り直さなかったこと、検品の担当を巻き込むのが遅かったこと。

ただ、原因を絞ると1件でした。

いちばん自動化しやすい工程を、AIで自動化したこと。

自動化しやすい工程とは、判断が易しい工程のことです。まっすぐ載った、きれいに撮れた、傷がはっきり写っている。そういうプレートだけが、機械にとっては易しいものです。

その易しい部分を機械が引き受けると、人の手元には、まっすぐ載らなかったもの、きれいに撮れなかったもの、傷かどうか際どいものだけが残ります。

自動化する前は、易しいプレートと難しいプレートが混ざって流れてきていました。混ざっていたので、目が慣れる時間がありました。

いまは、難しいプレートだけが連続して来ます。 人が1枚を見終えるまでにかかる時間は、AIで自動化する前より長くなっています。

⑤ 直したのは1箇所だけ

やったことは、AIに判定させる中身を、良品か不良かの二択から外すことだけです。

良品か不良かを機械に決めさせるのをやめました。代わりに、撮れた画像がどの型に当てはまるかだけを分類させるようにしました。型は8件です。打痕、バリ、曲げ角のずれ、めっきのかすれ、面のキズ、刻印の欠け。この6件のどれにも当たらず、面がはっきり写っているものは「傷なし」。6件のどれとも傷なしとも決めきれないものが「どれでもない」です。最後の1件が要でした。

「どれでもない」に落ちたプレートは、機械が良品側にも不良側にも振りません。仕分けの腕を素通りして、人の手元にそのまま回ります。判定できなかったプレートの行き先が、ここで初めて決まったことになります。

この分類の規則には、検品の担当が普段使っている呼び分けを30件ぶん書き込みました。「かすれ」と「くもり」と「白飛び」を別のものとして扱うような、現場の言い方をそのまま入れています。「どれでもない」に落ちた1枚を最後にどちらへ入れるかは、この30件の呼び分けが頭に入っている人が決めます。

⑥ あとで知った ── 40年以上前に、同じことが論文になっていました

しばらくして、自動化の研究を読んでいて、手が止まりました。

Lisanne Bainbridge という研究者が1983年に書いた「Ironies of Automation」という論文です。載ったのは制御工学の学術誌 Automatica の19巻6号で、たった5ページしかありません。扱っているのは、化学プラントの運転員と航空機のコックピットです。AIという言葉は、どこにも出てきません。

そこに、こう書いてありました。「By taking away the easy parts of his task, automation can make the difficult parts of the human operator’s task more difficult」。易しい部分を取り去ることによって、自動化は、人に残った難しい部分をさらに難しくしうる、という意味です。

同じ論文には、こうも書かれています。「the designer who tries to eliminate the operator still leaves the operator to do the tasks which the designer cannot think how to automate … the operator can be left with an arbitrary collection of tasks, and little thought may have been given to providing support for them」。人を外そうとした設計者は、自分が自動化のしかたを思いつけなかった仕事を、そのまま人に残す。残されるのはばらばらの寄せ集めで、それを支える手立てはほとんど考えられていない。

手順書の128行と、18件の目視項目は、まさにこれでした。ばらばらの寄せ集めが、機械の判定から漏れた順に積み上がっていたわけです。

新しい理屈は、ひとつも要りませんでした。

⑦ 変えてみて、何が良くなって、何を失ったか

AIに判定させる中身を変えてから、検品の現場で変わったことがあります。

まず、「不良0件」という表示が消えました。 代わりに出るのは、良品の枚数、不良の枚数、そして「どれでもない」の枚数の3件です。「どれでもない」の枚数が毎日出るので、機械が見ていない分がどれだけあるかを、朝いちばんに読めます。

次に、納め先からの返品が減りました。理由ははっきりしていて、判定されていないプレートが良品側に混ざらなくなったからです。

ただ、代償があります。3件書いておきます。

1件目。1日にさばける枚数が落ちました。 「どれでもない」に落ちた分だけ、人の手が要ります。機械が全部さばいていたころの見かけの速さは、二度と出ません。

2件目。「AIで業務を自動化した」と言いづらくなりました。 良品か不良かを機械が決めていないので、説明すると必ず「それは自動化と呼べるのか」と聞かれます。

3件目。難しい判断だけが人に残る構図そのものは、直っていません。 「どれでもない」の箱に入るのは、際どいプレートばかりです。そこで月に一度、機械が良品と判定したものからも数十枚を抜いて、担当が目で見る手順を足しました。易しいものを人の目に戻すためだけの手順で、生産の役には立っていません。先に人へ残る側から決めていれば、払わずに済んだ代償でした。

⑧ 現場でAIに任せる範囲を決めるなら、この3つの問い

どこまでをAIで自動化するかを決めるとき、使っている問いはこれだけです。

問い	はい	いいえ
機械が判定できなかったものの行き先を、いま言えるか	進めてよい	まだ自動化しない
易しいものと難しいものが、いま混ざって流れているか	要注意。分けると難しい側だけが人に残る	自動化してよい
画面に出る「0件」を、全部を見終えた結果だと言い切れるか	進めてよい	数え方を先に直す

3件のうち、いちばん効くのは真ん中です。易しいものと難しいものが混ざって流れている工程をAIで自動化すると、人の手元には難しいものだけが連続して届きます。 1件あたりの負荷は、自動化する前より上がります。この上がり方は、決める時点では見えません。

逆に、もともと難しいものだけが集まっている工程は狙い目です。すでに人が難しさを引き受けているので、機械が何を持っていっても、残る側の中身が変わらないからです。

この3件の問いは、扱っているものには依存しません。鋼板でも、書類でも、問い合わせでも同じ形で使えます。

⑨ この見方が効き続ける理由

モデルが賢くなっても、人に残る側から先に見るという順番は変わらないと考えています。

賢さが伸びると、機械がさばける範囲は広がります。ただ、広がるのは易しい側の境界です。境界が動くたびに、人に残るのは、そのときの機械にとって難しいものだけになります。残る側の中身は、機械が賢くなるほど難しくなっていきます。

Bainbridge の論文は、最後にもう1件の皮肉を置いています。「it is the most successful automated systems, with rare need for manual intervention, which may need the greatest investment in human operator training」。人が手を出す場面がめったにない、最もうまくいった自動化ほど、人の訓練にいちばん大きな投資が要る。1983年に化学プラントの運転員へ向けて書かれた一文が、そのまま当てはまりました。

だから、AIで業務を自動化する計画を立てるときは、機械が引き受ける工程の一覧より先に、人に残る工程の一覧を作ったほうが早いと思っています。残る側の一覧が書けない自動化は、たいてい、残る側を見ていません。

このあたりの範囲の切り方を実際の工程に落とす話は、AIによる業務自動化のページに整理しています。どこまでをAIで自動化するか決めかねている工程があれば、こちらからご相談ください。

食洗機は、いまも毎晩回しています。フライパンは、今日も流しに残っています。

入るか入らないかは、そろそろ覚えてもよさそうなものですが、いまだに毎回、扉を開けて確かめています。

以上です。

▶ この記事のテーマを実務で相談する: AI業務自動化