生成AIの導入と課題|AIができない作業を誰が引き取る?

小中学生向けの個別指導塾で、講師の採用と初期研修に生成AIを導入した記録です。動くところまでは1日で終わったのに、人がやらないと先へ進めない作業が6件残り、本番で1回通す確認が4回持ち越されました。内製と外注の線を引き直した話を書きます。

食器を洗うのは料理をしてくれる妻への礼儀と思い、僕は食器洗い担当をしています。しかし、念願の食洗機を買った日から、皿を洗うのをやめました。

洗い物の時間がまるごと消えるはずでした。丸い皿とコップは、放り込んでボタンを押せば本当に終わります。

ただ、食洗機に入らないものが毎日出ます。フライパンと包丁と、弁当箱のゴムのパッキン。この3点は手で洗うしかありません。

そして、洗い終わった食器をカゴから棚に戻す係を、家の中で決めていませんでした。

半年たって、台所は買う前より散らかっています。カゴには乾いた食器が積まれたまま、シンクにはフライパンと包丁とパッキンが置いてあります。

機械にできることを全部やらせた結果、残ったのは誰の担当でもない皿でした。

生成AIを導入する会社が増えました。ただ、導入したのに使われていない、という話も同じくらい増えています。動くところまでは作れたのに、本番で1回も通っていない。そういう止まり方が目立ちます。

止まった理由を、内製にしなかったからだと説明する人がいます。逆に、外注しなかったからだと言う人もいます。ただ、止まっている場所を実際に見にいくと、どちらでもありませんでした。

先に一行だけ置きます。生成AIを導入して止まるのは、技術力の差ではなく、生成AIができなかった作業を誰が引き取るかを決めていないからです。

僕も、引き取る人を決めないまま導入して外しました。個別指導塾で講師を採用する仕事に生成AIを入れて、動くところまで1日で作ってから、半年ちかく1回も本番で通せていません。

今日は、生成AIを導入する範囲を「作れるかどうか」で切ると何が起きるか、という話をしていこうと思います。

前置きはさておき、本題に入ります。

naisei-gaichu-dare-ga-hikitoru リード図解

この話に出てくる事業

僕の会社が生成AIの導入を請けている先のひとつに、小中学生向けの個別指導塾があります。校舎は10。1コマ80分で、講師1名が生徒2名までを見る形です。

講師の大半は大学生です。だから3月と9月にまとまって辞め、まとまって入ります。年間で入れ替わるのは、10校舎あわせて60名前後です。

採用と初期研修は、各校舎の教室長が兼務しています。応募書類を読み、面接し、受かった人に教科ごとの模擬授業をさせ、保護者への言い回しを教える。この一連を、授業の合間にやっています。

だから、この講師の採用と初期研修に生成AIを導入することにしました。作ったのは、応募書類を読んで要点を5行にまとめ、その人向けの面接の質問を10問作り、採用後の初期研修テキストを教科別に書き出すソフトウェアです。

教室長が触るのは、応募者の名前を選んで1回押すところだけ。あとは全部、生成AIが書きます。

① 教科書どおりに、作れるところから生成AIを導入した

naisei-gaichu-dare-ga-hikitoru 図解 1

範囲の切り方は、素直に教科書どおりにしました。

教科書に載っている基準は3つです。小さく始めること、効果が測れるところを選ぶこと、人が繰り返している作業から生成AIを導入すること。この3つで絞ると、応募書類の下読みと面接の質問作りが残りました。作り始めると、研修テキストの書き出しも同じ延長で作れたので、そこまで足しています。

作るのは速かったです。作り始めてから、動くところまで1日。書いたコードは1,529行になりました。応募書類を読むところから、研修テキストを教科別に書き出すところまで、必要な処理はその日のうちに一通り揃っています。

試しに、去年の応募書類を1件流してみます。返ってきたのは、経歴の要点が5行と、質問が10問。その中に「集団授業と個別指導のどちらを見学したことがありますか」という一問が混ざっていて、これは教室長が普段から聞いている質問でした。

見せたときの反応は、いま思うと出来すぎです。教室長の1名は「これ、いつから使えますか」と聞いています。

教科書が間違っていたわけではありません。 この時点では、外した感覚はまったくありませんでした。

② 動いたのに、半年ちかく本番で1回も通っていない

naisei-gaichu-dare-ga-hikitoru 図解 2

ところが、動いたソフトウェアは、そのまま止まりました。

実際の応募者1名で、書類の受け取りから研修テキストの配布まで通す。この1周が、半年ちかく終わっていません。

止まった理由は、生成AIの精度ではありませんでした。動かす前に人がやる作業が6件残っていたからです。全部あわせて40分から60分。

6件はどれも、作ったソフトウェアの中ではなく、その外側で行う設定でした。応募者の情報が入っている採用管理サービスの側に、作ったソフトウェアへ通知を送る受け口を1つ作る。受け口を作ると合言葉が1本発行されるので、それを控えてソフトウェアの設定に入れ直す。塾の登記上の所在地と事業区分を、そのサービスの側に登録する。そういう類のものです。

そして6件には順番があります。2件目は1件目で発行された合言葉が要るので、飛ばせません。

40分から60分です。授業の合間に、教室長が取れない長さではありません。

でも、終わりませんでした。

③ 気づいたのは、「本番で1回通す」が4回持ち越されていたときでした

naisei-gaichu-dare-ga-hikitoru 図解 3

止まっていること自体は、途中から分かっていました。分からなかったのは、40分で終わる作業が半年残り続ける理由のほうです。

引っかかったのは、これまでの進め方を書いた紙を、日付順に並べ直したときです。このソフトウェアは区切りをつけながら作っていて、区切りごとに「次はここまでやる」と書き出した紙が1枚ずつ残っています。その2枚目に、こう書いてありました。「実際の応募者1名で最初から最後まで1回通す」。

3枚目にも、同じ一行がありました。4枚目にも、5枚目にもあります。文言まで同じで、持ち越しは4回。

毎回、持ち越した理由の欄には同じことが書いてあります。人がやる作業の完了待ち。

そして、7枚目まで来ると、その一行は消えていました。代わりに入っていたのが「手順書を作る」です。実際、手順書ができています。人がやる作業を、準備から本番の切り替えまで7段階に分けて全部書き出したもので、182行ありました。最後に確認する項目が8件ついています。

確信に変わったのは、その1週間後に作られた1枚の表を見たときです。手順書とは別に、通しで実施した記録をつける表が1枚あります。列は4つ。日付、担当者、試しに通したときの結果、本番で通したときの結果。

その表に入っている行は1行だけです。日付の欄には「YYYY-MM-DD」、担当者の欄には「name」。書式の見本が、そのまま残っています。

誰も1行も足していませんでした。

④ 原因を1件に絞る

naisei-gaichu-dare-ga-hikitoru 図解 4

止まった理由として思い当たることは、いくつもあります。教室長が忙しすぎたこと、着手の時期が年度替わりと重なったこと、外注の契約に運用が入っていなかったこと。

ただ、絞ると1件でした。

生成AIに任せる範囲を、「作れるかどうか」で切ったことです。

作れるかどうかで切ると、線は必ず「作れないものの手前」に引かれます。生成AIは、書類を読むのも、質問を作るのも、テキストを書き出すのもできます。できないのは、外部のサービスに受け口を作ることと、合言葉を控えて設定に入れることと、塾の登記上の所在地を打ち込むことでした。

つまり残ったのは、「生成AIにできなかったもの」だけを集めた6件です。共通点は1つもありません。難易度も、必要な権限も、かかる時間もばらばらです。

そういう集まりには、担当が付きません。1件ずつ見れば5分から10分で終わるのに、6件まとめて引き取る人が誰なのかを、はじめから決めていないからです。だから、誰の予定表にも入りませんでした。

⑤ 直したのは1箇所だけ

naisei-gaichu-dare-ga-hikitoru 図解 5

やったことは、線を引く基準を変えることだけです。

「生成AIに作れるか」で切るのをやめて、「1人が1回で終わらせられるか」で切り直しました。

具体的には、着手する前に3つの欄を埋めることにしました。引き取る人の実名、引き取りにかかる分数、引き取る日付。この3つが埋まらない範囲には、生成AIを導入しません。

埋めてみると、人がやる6件のうち、3つの欄が全部埋まったのは2件だけでした。教室長が自分の権限だけで終えられる2件です。

残りの4件に触れるのは、塾の代表と、採用管理サービスの契約者だけです。だから、いったん範囲から落としました。この4件の先にあった処理も、一緒に落ちます。生成AIが書き出す初期研修テキストが、それにあたりました。

生成AIに残ったのは、応募書類の下読みと、面接の質問作りです。人が引き取る作業は6件から2件になり、範囲は3分の1になりました。

⑥ あとで知った ── 簡単なものから持っていかれる、この形には名前がありました

naisei-gaichu-dare-ga-hikitoru 図解 6

しばらくして、生成AIと人がどう作業を分け合うかを調べた「Ironies of Generative AI」という研究論文を読み、手が止まりました。

その論文には、こう書かれています。「automation tends to make easy tasks easier and hard tasks harder when implemented in practice」。実際に入れてみると、自動化は簡単な作業をより簡単にし、難しい作業をより難しくする、という意味です。

著者らはこの現象に task-complexity polarization という名前を付けています。作業の難しさが、両極に開くということです。

理由の説明も、そのまま当てはまりました。「easy tasks are easier to automate, and so the more difficult tasks tend to remain under manual control」。簡単な作業のほうが自動化しやすいので、難しい作業のほうが手作業の側に残る。

残った6件が寄せ集めだったのは、当然でした。簡単なものから順に持っていかれた、その残りだからです。

そして対策として挙げられていたのが「clear task allocation」、作業の割り当てをはっきり決めることでした。いまどの作業を生成AIが持っていて、どこから先が人の手元にあるのかを、使う側が分かっている状態にしておく、という話です。

しかもこの歪み方は、生成AIから始まったものではありません。論文が引いているのは30年以上前からの人間工学の研究で、同じ形が操縦席で先に観測されています。自動操縦は、水平飛行中のパイロットの負荷を下げました。ただ、着陸のときの負荷はむしろ上げています。手が空いた分を難しいほうへ回せなかった、という記録です。

新しい理屈は、ひとつも要りませんでした。

⑦ 変えてみて、何が良くなって、何を失ったか

naisei-gaichu-dare-ga-hikitoru 図解 7

範囲を絞ってから変わったのは、手順書の書き方でした。落とした4件は落としたままなので、本番で1回通すほうは、この時点でもまだ終わっていません。

6週後に、このソフトウェアの別の工程で、同じ形の手順書が作られています。182行が92行になりました。ただ、短くなったことより効いたのは順番のほうです。前の手順書は、コードを全部書き終えてから、人がやる作業を末尾に並べていました。新しいほうは、いちばん上に条件が2行あります。人が中身を見て、出してよいと言っていること。言っていなければ、そこから先の手順は実行しないこと。

つまり、人が引き取る行が、最後ではなく最初に来ました。

ただ、代償があります。3件書いておきます。

1件目。着手が遅くなりました。 実名と日付が埋まるまで動かさないので、決まるまでの数日は1行も進みません。前は、決まるのを待たずに書き始めて、1日で1,529行が出来ていました。

2件目。「生成AIを導入した」と言いづらくなりました。 範囲が3分の1なので、見せられるものが減ります。役員会や、教室長を集めた会議で実物を出せないのは、地味に効きます。

3件目。書き終えたものを出せない期間ができました。 新しい手順書の冒頭には、作るところは終わっている、ただしまだ出していない、と書いてあります。人が中身を見て、出してよいと言うのを待っている状態です。書き上がっているのに出せない期間は、前には無かったものでした。

前は、書き上がったものをそのまま出して、あとの40分を誰も引き取りませんでした。どちらかを選ぶ話です。

⑧ 現場で使うなら、この3つの欄

naisei-gaichu-dare-ga-hikitoru 図解 8

生成AIを導入する範囲を決めるとき、使っているのはこの表だけです。

書くこと空のままなら
引き取る人役割名ではなく実名。「運用チームが随時対応します」は不可生成AIを導入しない
かかる分数実測の見積。10分か40分かで扱いが変わる範囲を切り直す
引き取る日付予定表に入る日。「決まり次第すぐやります」は不可予定表に入るまで着手しない

3つのうち、いちばん効くのは1つ目です。役割名が書けてしまう欄は、空欄と同じでした。実名を書く欄にすると、書けない範囲がその場で見えます。分数の欄も効きます。40分と書かれた仕事は、40分の予定として予定表に入りますが、「そのうちやります」と書かれた仕事は、いつまでも入りません。

この見方は、扱っているものには依存しません。塾でも、工場でも、店舗でも同じです。

⑨ この切り方が効き続ける理由

naisei-gaichu-dare-ga-hikitoru 図解 9

モデルが賢くなっても、この切り方は変わらないと考えています。

賢くなるほど、生成AIに作れる範囲は広がります。広がるほど、線は先へ動きます。そして線の向こうに残るのは、その時点で作れなかったものだけです。

残りは減りません。純度が上がります。5年前なら、残りの中に「文章を整える」のような、誰でも引き取れる作業が混ざっていました。いまはもう混ざりません。残るのは、権限が要るもの、契約が要るもの、身体を動かす必要があるものだけです。

だから、生成AIが賢くなるほど、引き取り手の実名を書く欄のほうが重くなります。作れる範囲は広がり、引き取れる人は増えないからです。

内製と外注の線も、同じところで引けます。作れるかどうかで分けるのではなく、生成AIができなかった作業を引き取る人が、社内と社外のどちら側にいるかで分ける。外に出すなら、見積書に項目が1件増えます。作る費用とは別に、その残りを人が引き取る時間を、費用の項目として立てるからです。塾で言えば、40分から60分の6件がその項目にあたります。そして、いちばん高くついたのがこの項目です。 触れるのが塾の代表と採用管理サービスの契約者だけで、代わりが利かないからです。

この線の引き方を実際の業務に落とす話は、生成AIコンサルティングのページに整理しています。どこまでを生成AIに任せて、どこから人が引き取るかを分けたい業務があれば、こちらからご相談ください。

食洗機は、いまも毎晩回しています。

カゴから棚に戻す係は、まだ決まっていません。今朝も、乾いた食器をカゴから直接取って使いました。フライパンと包丁とパッキンは、シンクに置いたままです。

以上です。

▶ この記事のテーマを実務で相談する: 生成AI導入支援

You May Also Like

“AIエージェントを作れるコンサル”を信じてはいけない ― 分厚い提案書に、つい安心してしまう私たちへ

流暢に動くデモほど、本番で使われない。なぜなんでしょう。「分厚い資料ほど安心する」――そのよく知った感覚の正体から、「動くデモ」を「毎日使われる業務」に変える手順までを、一つのプロジェクトを最後まで追いかけて書きました。
View Post

「AI戦略コンサル」の多くがパワポで終わる理由 ― 立派な提案書が現場を1ミリも動かさないとき

立派なAI戦略レポートが、なぜ現場を1ミリも動かさないのか。「計画を作ること」が目的になってしまう構造を、棚で埃をかぶった中期経営計画の話から、今日から動かせるやり方まで、一つのプロジェクトを追いかけて書きました。
View Post

社内RAGが“使われない”本当の理由 ― 精度を上げても誰も使わないシステムの正体

社内GPT・RAGを作ったのに使われない――その原因は、実は検索精度ではありません。「マニュアルより、あの先輩に聞いたほうが早い」。人がそう動く理由から、使われるRAGの作り方までを、一つのプロジェクトを追いかけて書きました。
View Post