AI投資は、二つの層に分けて考える必要があります。モデルが賢くなるほど価値が下がる投資と、賢くなるほど価値が上がる投資です。前者の代表は、今のモデルの弱点を埋めるための複雑な作り込みです。数か月後のモデル更新でその弱点自体が消えれば、作り込みは資産ではなく、撤去費のかかる仮設物になります。後者は、言語化された業務、整った自社データ、使いこなせる人、自社の評価基準です。これらはモデルが良くなるほど、そのまま効き続けます。厚く張るべきは後者です。本稿では、この二層を見分ける三つの問いを示します。
AI研究の七十年は、人の知恵の作り込みが計算力に負け続けた歴史です
二〇一九年、強化学習研究の第一人者リチャード・サットンは、自身のサイトに「苦い教訓（The Bitter Lesson）」と題した短いエッセイを公開しました。七十年のAI研究から読み取れる最大の教訓は、人間の知識を丁寧に作り込む手法が、計算量を活かす汎用的な手法に繰り返し敗れてきたことだ、という主張です。チェスでも囲碁でも音声認識でも、専門家の知恵を組み込んだ設計は短期的には成果を上げました。しかし計算力と学習に任せる素朴な手法が、時間とともにそれを追い抜いていきます。研究者にとって、自分の知恵の出番が減っていくこの結論は苦いものです。だから苦い教訓と呼ばれます。
ここで一つ、援用の限界を断っておきます。このエッセイはAI研究の方法論を論じたもので、企業のIT投資を論じたものではありません。研究の法則がそのまま御社の稟議に当てはまる保証は、どこにもありません。それでも、一つの力学だけは共通しています。土台のエンジンが賢くなり続けるとき、その時点の弱点に合わせた手作りの工夫は、エンジンの進化に洗い流されやすい、という力学です。そしていま、生成AIのモデルは数か月単位で更新されています。この環境で投資を考えるなら、洗い流される側と残る側を、あらかじめ分けておくべきです。
目減りする層は、今のモデルの弱点を埋めるための作り込みです
目減りする層の典型は、弱点補正の作り込みです。長い文書を読み切れないから、細かく刻んで渡す前処理を組みます。計算を間違えるから、数字の部分だけ別の仕組みへ逃がす分岐を作ります。出力の形式が安定しないから、崩れた出力を整え直す長大な補正処理を書き足します。見積の自動作成でも、経理の仕訳でも、与信の下調べでも、こうした工夫は現場を確かに助けます。問題は、その工夫の寿命です。
次のモデル更新で長文がそのまま読めるようになれば、刻む前処理は不要になります。不要になるだけなら、まだ良い方です。厄介なのは、補正処理が新しいモデルの足を引っ張る場合です。弱点が消えたのに弱点対策だけが動き続け、かえって出力を悪くします。作った本人が異動していれば、なぜその処理があるのか誰も説明できません。導入の現場で繰り返し見てきたのは、一年前の弱点対策が、今のモデルの性能を殺している光景です。こうなると作り込みは資産ではありません。使われなくなった後も維持費がかかり、外すにも調査と検証の手間がかかる、撤去費付きの仮設物です。
増価する層は、モデルが賢くなっても効き続ける自社側の資産です
一方で、モデルが賢くなるほど値打ちが上がる投資があります。代表は四つです。
まず業務の言語化です。手順と判断基準が言葉になっていれば、賢くなったモデルはその言葉をより深く理解し、より正確に実行します。以前、AIに任せられない本当の原因は業務が言葉になっていないことだ、と論じました。言語化への投資は、モデルが何代替わっても目減りしません。
次に自社データの整備です。現場でばらばらに使われる言葉を突き合わせる翻訳表や、選び抜いた良い見本は、どのモデルに載せ替えても効きます。賢いモデルほど、整った材料から多くを引き出します。
三つ目は人の育成です。AIに何をどう頼み、返ってきたものをどう検証するか。この技能はツールを替えても人の中に残ります。モデルが賢くなるほど、同じ技能で引き出せる成果は大きくなります。
最後が自社の評価基準です。AIの実力は、世間の順位表ではなく自社の実仕事から作った十問でしか測れない、と別稿で述べました。この十問は、新しいモデルが出るたびに価値を増します。乗り換えるかどうかの判断を、評判ではなく自社の物差しで下せるようになるからです。
なお本稿は、ツールは出口で選ぶ、つまり最良のツールを当てる必要をなくす、と論じた別稿と同じ前提に立つ姉妹稿です。モデルの優劣は数か月で入れ替わる、という前提です。あちらが扱ったのは契約と乗り換えの設計でした。本稿が扱うのは、投資の中身の仕分けです。
三つの「十倍の問い」で、見積書を二つの層に仕分けられます
仕分けには、三つの問いを使います。名付けるなら「十倍の問い」です。
第一の問いはこうです。モデルが今の十倍賢くなったら、この投資は不要になるか、もっと効くか。弱点補正は不要になります。言語化された業務や整ったデータは、もっと効きます。見積書のどの項目にも、この問いは当てられます。
第二の問いはこうです。この投資の成果は、来年ツールを替えても持ち出せるか。特定ツールの画面の中だけで動く作り込みは持ち出せません。文書になった手順、整えられたデータ、人の技能は持ち出せます。
第三の問いはこうです。AIをすべてやめたとしても、これは会社の役に立つか。言語化された業務は新人教育に効きます。整ったデータは経営判断に効きます。答えが「はい」の投資は、AIの進化がどちらへ転んでも無駄になりません。
三問とも目減り側に落ちる項目は、ゼロにする必要はありません。ただし、軽く薄くが原則です。既製の機能で済ませ、作り込みは最小にし、いつでも外せる形にとどめます。三問とも増価側に立つ項目には、時間と人を厚く投じます。
作り込みが悪いのではありません。仮設物と知らずに建てるのが問題です
ここで当然の反論があります。今のモデルの弱点を放置したら、今の業務が回らない。作り込みは必要ではないか、という反論です。
そのとおりです。仮設物そのものは悪ではありません。建設現場の足場と同じで、無ければ工事が進みません。問題は、足場を建物と取り違えることです。足場だと分かって建てるなら、やることが三つ変わります。安く建てます。何のための足場かを書き残します。撤去を前提に点検の日を決めます。具体的には、補正処理には「どのモデルの、どの弱点への対策か」を一行添えます。そしてモデルが更新されるたびに、その処理を外した状態で自社の十問を解かせ、成績が落ちなければ撤去します。仮設物は、撤去されて初めて役目を全うします。
まず、三十分でできることがあります。 直近のAI関連の見積書か、社内で作った仕組みの一覧を開いてください。経営者と担当者の二人で、項目ごとに十倍の問いを当て、目減りする層か増価する層かの印を付けます。三十分で終わります。金額の大半が目減り層に張られていたら、それが配分を見直す合図です。
モデルの進化は止められませんし、予約もできません。経営にできるのは、進化がどちらに転んでも価値の残る側へ、投資の重心を置くことだけです。次の稟議の前に、仕分けを済ませてください。弱点補正は軽く薄く、撤去の予定付きにとどめてください。言語化と、データと、人と、自社の物差しには、厚く投じてください。モデルが賢くなる日を、費用の発生日ではなく、投資の回収日に変えてください。
（出典注：リチャード・サットン「The Bitter Lesson（苦い教訓）」2019年。強化学習研究の第一人者である著者が、自身のウェブサイトincompleteideas.netに公開したエッセイです。七十年のAI研究において、人間の知識を作り込む手法は、計算量を活かす探索と学習という汎用手法に繰り返し敗れてきた、と論じています。AI研究の方法論に関する文章であり、企業のIT投資論ではないため、本稿ではその力学を投資判断の視点として限定的に援用しています。）