AIの導入が成功するほど、社員はその仕事が下手になります。使わない腕は衰えるからです。そして皮肉なことに、腕が衰えた人にこそ、AIの誤りを見抜くという一番難しい役が残ります。この構造は根性や注意喚起では解けません。任せる範囲を広げるなら、腕を保つ仕掛けを同じ日に設計することです。それを怠った会社は、任せた分だけ静かに脆くなっていきます。本稿では、四十年以上前に定式化されたこの「自動化の皮肉」を出発点に、任せながら腕を保つ三つの仕掛けと、腕が落ち始めたサインの見分け方を示します。
この皮肉は、四十年以上前に指摘されていました
出発点はAI以前の研究です。心理学者のリサンヌ・ベインブリッジは、1983年に学術誌Automaticaへ「Ironies of Automation（自動化の皮肉）」という論文を発表しました。対象は化学プラントや航空機のような自動制御システムです。主旨はこうです。自動化を進めると、人には自動化できない仕事、すなわち監視と異常時の介入だけが残ります。ところが手動で操作する技能は、使わなければ衰えていきます。その結果、熟練の運転員が実質的に未経験者へ戻ってしまいます。しかも異常時とは、最も高い技能が要求される場面です。ここからベインブリッジは「制御システムが高度になるほど、人間の運転員の貢献はかえって重要になり得る」と述べました。
この論文の射程は、あくまで制御室での連続的な操作でした。見積や経理のような判断業務で腕がどの速さで衰えるかは、まだ研究が積み上がっている途中です。ただ、使わない技能は維持されないという骨格は、業務の種類を選びません。同じ構造は、判断業務をAIに任せた会社の一社単位でも起きます。
「見逃す心理」ではなく「見抜く腕」の話です
当サイトの既存記事では、人がAIの誤りをつい信じてしまう「自動化バイアス」に触れました。本稿はその繰り返しではなく、同じ自動化研究が残したもう一つの警告です。両者は似て非なるものです。バイアスは、見抜く腕を持っている人が、注意を怠って見逃してしまう「心理」の問題です。本稿が扱うのは、見抜く腕そのものが衰えていく「技能」の問題です。心理は、確認の手順や複数人のチェックである程度まで補正できます。しかし腕は、注意しても戻りません。使うことでしか維持できないのです。そして二つが重なったとき、つまり衰えた腕でAIを信じ込んだとき、会社は誤りを止める最後の関門を失います。
会社の中では、静かに、都合のよい顔で進みます
腕の衰えは音を立てません。見積業務なら、AIが積算のたたき台を作る体制に変わった後、若手は単価と工数の根拠を自分で組み立てる経験を失います。数年後、AIが出した数字の違和感に気づける人が誰もいない、という形で表面化します。与信でも同じです。決算書を最初から読み込む機会が消えれば、要注意先の兆候を拾う勘所は育ちません。採用でも、書類選考をAIに任せきりにすれば、候補者を見立てる目は実際に見立てた数だけしか鍛えられません。
厄介なのは、この衰えが短期的には良い数字の顔をして進むことです。導入の現場で繰り返し見てきたのは、時間が経つほどAIの出力への修正がゼロに近づいていく光景です。それは精度が上がった証拠かもしれません。しかし、見る側の腕が落ちた兆候かもしれないのです。多くの会社は、この二つを区別する手段を持っていません。修正ゼロを成果として報告しながら、実際には検査の機能が消えている場合があります。
ここで「いずれAIの精度が上がれば、人の確認そのものが不要になるのでは」という疑問が出ます。確認を減らせる業務は、確かに今後も増えるでしょう。ただし「どこまで任せてよいか」を判断する仕事は最後まで残ります。その線引きは、業務の中身を知る腕がなければ引けません。確認を卒業するという判断にすら、腕が要るのです。
任せながら腕を保つ、三つの仕掛けがあります
対策は「任せるな」ではありません。任せながら腕を保つ設計です。一つ目は「手作りの一件」です。月に一件だけ、AIを使わずに人が最初から仕上げ、その後でAIの出力と突き合わせます。全件の二度手間ではなく、月一件の訓練です。差分を見ることで、AIの癖と自分の腕の両方を測れます。二つ目は「添削当番」です。AIの出力をそのまま流さず、必ず誰かが添削して差し戻す当番を交代で置きます。重要なのは、直した箇所を記録に残すことです。修正の記録は、次節で述べる腕の健康診断の材料になります。三つ目は「新人のAIなし期間」です。型が身につく前にAIを渡された人は、添削する側に一生回れません。最初の数か月はAIなしで基本の型を作らせ、それから解禁します。契約書の確認のような専門業務ほど、この順序が効いてきます。
腕が落ち始めたサインは、四つの質問で見分けられます
腕の衰えは本人には自覚できません。だからこそ、外から測る質問が要ります。AIに任せている業務ごとに、次の四つを問うてみてください。
「AIなしで、明日この仕事を仕上げられる人を名前で挙げられますか」。名前が挙がらなければ、その業務の検査機能はすでに空洞になっています。「直近一か月で、AIの出力を直した記録は残っていますか」。修正率を把握していないなら、精度の向上と腕の低下の区別がついていない状態です。「AIの出力のどこを疑うべきかを、新人に説明できる人がいますか」。疑いどころを言葉にできないのは、検査が個人の勘に依存している証拠です。「異常時の手順書は、AIが止まった前提で書かれていますか」。AIが動いている前提の手順しかない会社には、一番難しい日への備えがありません。二つ以上で答えに詰まったなら、前節の仕掛けを入れる時期に来ています。
「二度手間で効率化の意味が消える」という反論に答えます
最も多い反論は、腕を保つ工数がAI導入の効果を食い潰すのではないか、というものです。数えてみると、そうはなりません。手作りの一件も添削当番も、対象は業務全体のごく一部です。効率化で浮いた時間の一部を訓練に戻す設計であり、効果の大半は手元に残ります。一方、仕掛けを省いた会社が賭けているのは、誤った見積や与信判断を誰も止められないまま外に出す事態です。頻度は低くても、一件の重みがまるで違います。さらに見落とされがちな点として、衰えた腕は採用では買い戻しにくくなります。多くの会社で同じ空洞化が進めば、経験者の供給そのものが細るからです。腕の維持にかかる費用は、削れる経費ではなく、設備の保全費と同じ性質の投資として予算に置くべきものです。
最初の三十分で、ここまで進められます
最初の三十分は、経営者か部門の責任者が一人で完了できます。初めの十分で、AIに任せている業務を三つ書き出し、それぞれに「AIなしで明日仕上げられる人」の名前を書き込みます。次の十分で、名前が書けなかった業務について、来月の「手作りの一件」の担当者と実施日を決め、自分と担当者の予定表に入れます。最後の十分で、その担当者に趣旨を伝える文面を送ってください。あなたの腕を疑っているのではなく、会社の腕を資産として守る訓練だと明記します。ここを伝え損ねると、仕掛けは査察と受け取られて形骸化します。
AIへの委任そのものは、進めるべきです。本稿の結論は「任せるな」ではなく、「任せ方の中に腕の保全を組み込め」です。次にAI活用の範囲を広げる会議があるなら、同じ議題の中で三点を決めてください。手作りの一件を誰が担うか、添削当番をどう回すか、新人のAIなし期間を何か月にするか。任せる範囲を決めることと、任せない一件を残すことは、同じ設計の表と裏です。四十年前の警告に、今度は設計で答えましょう。
（本文の「自動化の皮肉」に関する記述は、リサンヌ・ベインブリッジの論文「Ironies of Automation」（Automatica誌19巻6号、1983年）に基づきます。化学プラント等の自動制御を対象に、自動化が進むほど運転員の手動技能が衰える一方で、最も難しい異常時の介入が人間に残るという逆説を定式化した論文です。「制御システムが高度になるほど、人間の運転員の貢献はかえって重要になり得る」という指摘は、自動化研究で最も広く引用される命題の一つになっています。）