生成AIの社内活用｜先に、書き換えさせない情報を決める

押し入れを片付けるとき、「1年触っていないものは捨てる」という決まりを作りました。僕はADHDなので断捨離が苦手です。迷う時間が消えるので、手が一気に進みます。半日で、段ボール3個ぶんを外に出しました。

ところが、7日ほどして車の合鍵が要るようになり、どこにも見当たりませんでした。3か月後には、洗濯機の保証書も無くなっています。どちらも、1年触っていないという条件に、きれいに当てはまっていました。

結局、捨てる基準ではなく、「これは捨てない」と書いた紙を1枚つくることになりました。紙に並んだのは、当たり前ですが合鍵、保証書、印鑑証明、確定申告の控えです。（僕はなぜか大切な物を捨ててしまう…。）

生成AIを社内で活用する会社が増えました。最初に選ばれる仕事は、たいてい翻訳です。英語の商談メールも、海外向けの仕様書も、その場で出てくるようになったからです。

ただ、同じように翻訳を任せても、結果は2つに割れます。そのまま売上につながる会社と、翻訳とは関係のない場所が静かに壊れる会社。壊れるのは、その日本語を読み物としてではなく、データを照らし合わせる目印や、社外へ出す書類の正本として使っていた会社です。正本というのは、そのまま提出される正式な文面のことです。

先に一行だけ置きます。生成AIを社内で活用するときに決めるのは、何を任せるかではなく、どこを書き換えさせないかです。

この話に出てくる事業

中古の油圧ショベルとホイールローダーを、東南アジアとアフリカのバイヤーへ売る輸出商社があります。年に600台ほどを船に載せて出しています。バイヤーは現地の建設会社と、その先へ転売する業者です。

この商社と僕の会社は、共創事業としてMVPをいくつか立ち上げています。MVPというのは、まず小さく作って現場で使ってみる試作のことです。そのひとつが、この商社の商談まわりを1つにまとめた画面でした。在庫の機械を探し、書類を作り、バイヤーへ送るところまでを、この画面の中でやります。

商談は、ほぼ英語のメールで進みます。バイヤーは現物を見ずに決めるので、機械の状態をどれだけ細かく書けるかで値段が変わります。

画面から送るものは3種類あります。機械1台ごとの状態を書いたスペック表、値段と船積みの条件を書いた見積書、そして商談のやり取りそのもの。書いているのは日本の営業担当者なので、元はすべて日本語です。

だから、この海外商談と翻訳に生成AIを導入することにしました。やったのは、画面が出す日本語を1か所に集めておいて、表示を英語に切り替えたらまとめて英文に差し替える、という作りかえです。

今日は、生成AIを社内で活用するときに、訳す範囲をどう決めるか、という話をしていこうと思います。

前置きはさておき、本題に入ります。

① 教科書どおりに、社内の日本語をまとめて英語にした

訳す範囲の決め方は、素直に教科書どおりにしました。

教科書に載っている手順は3件あります。訳す文言を1か所に集めること、1回のやり取りでまとめて訳すこと、一度訳したものを保存して二度と訳さないこと。どれも、同じ日本語をAIへ何度も渡して料金を払わないための手順です。

集めた文言は2,201件でした。スペック表の項目名、見積書の但し書き、商談で毎回出てくる言い回し。集めた日本語をAIへ渡して英文を受け取る処理が192行、画面からそれを呼ぶ処理が129行。合わせて300行あまりで、集めることと訳すことは片が付いています。

中古の建設機械は、稼働時間を計るアワーメーターの数字で値段が決まります。車でいう走行距離計です。試しに、在庫の1台を選んで表示を英語に切り替えてみました。その欄の「実働3,200時間／アワーメーター交換歴なし」が、そのまま読める英文になって出てきます。

営業担当者に見せたら、その場で、いま商談を進めている3台を打ち込みはじめました。3台とも英文が返っています。いま思うと、この滑り出しは少し出来すぎでした。

教科書が間違っていたわけではありません。 この段階で、失敗した感覚はまったくありませんでした。

② 英語に切り替えると、同じ機械が2件に割れて出てきた

ところが、表示を英語にした状態で在庫を検索すると、同じ機械が2件に割れて出るようになりました。逆に、1件も出てこない機種もあります。

再現の条件は、はっきりしていました。日本語のまま検索すれば、正しく1件です。英語に切り替えた瞬間だけ壊れます。

原因は、検索そのものではなく、その手前で走っている突合にありました。突合というのは、別々のところに出てくる機械が同じ1台かどうかを、名前を見比べて決める処理のことです。在庫のデータに載っている機種名と、バイヤーからの引き合いに書かれた機種名は、表記がそろいません。だから、日本語の文字の重なりを見て、同じ機械かどうかを判定していました。

その判定に使う文字が英語になると、重なりが消えます。「バックホウ」と「Backhoe」は、文字としては1つも重なりません。

同じことが、輸出書類でも起きています。荷物を送る側、つまりこの商社自身の住所を英語に直したところ、通関に出す書類の表記と、社内に残る記録の表記が別物になりました。通関に出す書類では、日本語で登録した住所のほうが正しい表記だからです。

③ 気づいたのは、除外の指定が増え続けていたときでした

最初は、壊れるたびに1件ずつ「ここは訳さない」と指定して直していました。1件で終わると思っていたからです。

ただ、指定は止まりませんでした。積出港の地域区分、船会社の名前、荷姿の分類、それに、突合のためだけに前もって保存してあった機種名の控え。壊れ方が違うのに、指定を足す手当てだけが同じです。

そこで、指定した語を数え直しました。訳さないと指定した語は423件あり、スペック表から輸出書類まで33本の書式にまたがっています。壊れている場所が、1つの機能に固まっていませんでした。

指定を書いた台帳は546行で、そのうち84行は「なぜ訳さないか」を書いた注記です。6行に1行あまりが理由書きでした。理由を書き添えておかないと、あとから見て判断のつかない指定が、それだけ多かったということです。

集めた文言は2,201件でしたから、そのうち423件、5件に1件近くが、触らせてはいけない語だったことになります。

ここではっきりしました。1件ずつ潰していく話ではありません。最初の線引きのほうが間違っていました。

④ 原因を1件に絞る

思い当たることは、いくつもあります。集め方が雑だったこと、確かめる順番を間違えたこと、営業担当者に見せるのが遅かったこと。

ただ、原因を絞ると1件でした。

訳す対象を、文字が日本語かどうかで決めていたこと。

集めた2,201件は、「日本語で書かれているもの」を集めた結果です。日本語で書かれてさえいれば、画面に出る説明文も、突合に使う機種名も、書類に載る住所も、同じ箱に入ります。

とはいえ、この3件は用途がまったく違います。画面に出る説明文は、人が読むための文字です。突合に使う機種名は、データどうしを照らし合わせるための値です。書類に載る住所は、通関を通すための正本です。

このうち、突合に使う機種名と、書類に載る住所は、正しく訳した瞬間に別のものになります。

⑤ 直したのは1箇所だけ

やったことは、訳すかどうかの判定を1つ入れ替えることだけです。

「日本語で書かれているか」をやめて、「人が読む画面に出るか」に変えました。

そのうえで、増え続けていた指定の台帳を、載せる条件を決めて引き直しました。載せてよいのは1種類だけです。「表示される文言ではないと確認できたもの」に限ります。

台帳は、人が読むためではなく、機械が読むために置いてあります。画面に新しい日本語が増えたとき、その語が訳す一覧にも台帳にも載っていなければ、英語への切り替えはそこで止まり、人に判断が回ります。

止まった語を1件ずつ見て、画面に出るなら訳す一覧へ、突合や書類に使うなら台帳へ振り分けます。判定の一行を変えただけで、増える語が自動的に仕分けの列に並ぶようになりました。

⑥ あとで知った ── その線引きには、すでに名前がありました

しばらくして、スタンフォード大の研究チームが2025年に出した論文を読み、手が止まりました。原題は「Future of Work with AI Agents」といいます。

やっていることは単純です。1,500人の働き手に、自分の仕事のどの作業をAIに任せたいかを聞く。そして別に、AIの専門家へ「いまの技術でその作業をどこまでやれるか」を聞く。対象は104の職種、844件の作業です。

この2つの答えを、そのまま2本の軸に置いていました。やれるかどうかと、やらせたいかどうかです。

この2軸で、論文は作業を4つの区画に分けています。ここで効いてくるのは、そのうち3つです。技術も届いていて、働き手も任せたい作業。任せたい気持ちはあるが、技術がまだ届かない作業。

問題は3つ目でした。技術は届いているのに、働き手のほうがやらせたくない作業です。原文の言い方は「Tasks with high capability but low desire.」です。論文はこの区画を「Automation “Red Light” Zone」と名付け、ここへの導入は慎重にすべきだと書いています（「Deployment here warrants caution」）。

さらに、この2本の軸がどれくらい連動するかも測っていました。出た値は0.17です（「no strong correlation … Spearman ρ=0.17, p<1e−6」）。1に近いほど2つが揃って動き、0に近いほど互いに無関係だ、という目盛りでの0.17です。技術が届くほど任せたくなる、という関係は成り立っていません。

論文はもう1つ、任せ方の度合いを5段階の物差しにしています。上の端は、AIが作業を丸ごと一人でやってしまう状態。下の端は、人がつきっきりでいないとAIが動かない状態。104の職種のうち47で、働き手が望んだのは、まん中の段でした。翻訳を丸ごと任せるか、まったく任せないか。その二択で考えているあいだは、どこを書き換えさせないか、という問いが出てきません。

台帳に書き出していた423件は、3つ目の区画——技術は届いているのに、やらせてはいけないほう——そのものです。翻訳の精度が足りないから訳さなかったのではありません。正しく訳せるからこそ、訳させてはいけませんでした。

新しい理屈は、ひとつも要りませんでした。

⑦ 入れ替えてみて、何が良くなって、何を失ったか

判定を入れ替えてから、営業の手元で変わったことがあります。

英語に切り替えても、在庫の検索が1件で返るようになりました。集めた文言は2,201件から増えていません。そのうち訳さないと決めた423件は、台帳で固定してあります。新しい日本語が入るたびに、その語が仕分けの列へ並びます。

ただ、代償があります。3件書いておきます。

1件目。台帳の書き方は、粗いままです。 台帳の1行に書いてあるのは、書式の名前と、語の一部だけです。あとから足された表示用の文言に、たまたま同じ文字列が含まれていると、それも訳されないまま黙って通ります。書式の何番目の項目か、と位置で名指しすれば取り違えは起きませんが、項目の並びを1つ入れ替えるたびに台帳が全部ずれます。粗いほうを選びました。

2件目。英語の画面に、日本語が混ざったままの場所が残りました。 バイヤーの引き合いに合う機械を探すところは、いまも日本語で検索しています。ここを英語に直すと、あの突合がまた壊れて、同じ機械が2件に割れて出てくるからです。日本語で引いてから表示だけ英語に直す二段構えが要りますが、そこまでは手が回っていません。

3件目。輸出書類の住所欄は、英語の画面でも日本語のままです。 保存する値が日本語の住所を正としているので、表示だけ英語にすると、見えているものと送られるものが食い違います。見た目をそろえるより、食い違わないほうを取りました。

どれも、先に用途で線を引いていれば、ここまで散らばらずに済んだ代償です。

⑧ 現場で決めるなら、この3つの問い

訳すか訳さないかを決めるとき、使っているのはこれだけです。

問い	はい	いいえ
その文字は、人の目に入るか	訳す	訳さない
その文字で、別のデータと照らし合わせるか	訳さない（突合が壊れる）	訳してよい
その文字は、社外に出す正本になるか	訳さない（正本の言語を固定する）	訳してよい