AIは必ず間違えます。精度がどれほど上がっても、誤りはゼロになりません。ただし、導入がつまずく本当の原因は誤りそのものではありません。誤りが起きたとき、誰が気づき、誰が直し、誰が謝り、どこで再発を防ぐのか。この四つを、誰も決めていないことです。決まっていない責任は、事故の瞬間にいちばん弱い立場の人へ落ちます。だから現場は萎縮し、活用が止まります。責任の割当は導入の後に整える仕事ではなく、導入の前に済ませる仕事です。本稿では、その割当を三十分で始める手順まで示します。
導入の議論から「間違えた後」が抜け落ちています
AI導入の検討会議で話されるのは、どこまでできるか、どれだけ速くなるか、いくらかかるか、です。導入の現場で繰り返し見てきたのは、精度の議論に何時間も使いながら、間違えた後の段取りには一分も使わない検討の風景です。AIが下書きした見積が顧客に届いた後で単価の誤りが見つかったら、直すのは営業担当でしょうか、任せた上司でしょうか。AIが提案した仕訳の誤りが月次決算まで残っていたら、謝る相手は誰で、謝るのは誰でしょうか。決めていなければ、その場の空気で決まります。そして空気で決まった責任は、たいてい操作した本人に落ちます。
これは、AIにどの仕事を任せてよいかという能力の境界の話ではありません。誤りをどれだけ許容するかという量の合意の話とも違います。任せる範囲と許す量を決めた後でもなお残る、起きた一件を誰が処理するのかという「所在」の問題です。
EUは「用途の重さ」で管理の重さを変えました
手がかりになる公的な設計図があります。EUのAI規制法（EU AI Act）です。2024年8月に発効した世界初の包括的なAI規制で、骨格は「リスクベースアプローチ」と呼ばれます。AIの用途を四段階に分け、義務の重さを変えました。社会的スコアリングのような許容できない用途は全面禁止。採用や与信など人の処遇に関わる高リスク用途には、記録の保持や人による監督といった厳格な義務。対話AIのような限定リスクには、AIであることを知らせる表示義務。それ以外の大多数の最小リスクには、義務を課しません。禁止規定は2025年2月に適用が始まっています。高リスク用途の義務は段階的に適用される設計ですが、その適用時期は延期を含む見直しの議論が続いており、特定の期日はまだ固まっていません（2026年時点）。
一点だけ正確に補います。この法律はEU市場でAIを提供・利用する事業者に向けたもので、EUと接点のない日本の会社に直接の義務はありません。借りるべきは条文ではなく発想です。すべての用途に同じ管理をかけるのではなく、用途の重さに応じて管理の厚みを変える。国の規制を成り立たせているこの発想は、一社のルール作りでもそのまま機能します。
誤り一件の処理には、四つの役が要ります
誤りが一件起きたとき、その処理には必ず四つの役が登場します。逆に言えば、この四つが埋まっていれば、誤りは事故ではなく手続きになります。埋まっているかどうかは、それぞれ一問で判定できます。一人目は、気づく人です。この業務でAIの出力は、世に出る前に誰の目を必ず通りますか。二人目は、直す人です。誤りを正しい状態に戻す権限と手順を持つのは誰ですか。三人目は、謝る人です。影響が社外に及んだとき、相手に頭を下げるのは誰ですか。四つ目は、学ぶ場です。同じ誤りを防ぐための変更は、どの会議で決まりますか。
たとえば顧客向けの見積で単価の誤りが起きた一件を、この四役で追ってみます。気づく人が決まっていれば、誤りは送信前に止まります。直す人が決まっていれば、訂正版は当日中に出ます。謝る人が決まっていれば、顧客への説明は一度で済みます。学ぶ場が決まっていれば、単価表の参照方法が翌週には変わります。四役は抽象論ではなく、一件の誤りの寿命を決める仕組みです。
四つのうち一つでも答えに詰まるなら、その業務のAI活用は「事故が起きたら空気で決める」状態です。とくに「学ぶ場」は忘れられがちです。気づいて、直して、謝って終わりでは、同じ誤りが来月も起きます。誤りを一件ごとに消費するのではなく、仕組みの改善に変換する場所を、あらかじめ決めておく必要があります。
なお、四役は四人である必要はありません。小さな組織なら、気づく人と直す人を同じ人が兼ねても構いません。決めるべきは人数ではなく、欄が埋まっているという事実です。兼ねるなら兼ねると書いてください。それだけで、事故の瞬間の迷いが消えます。
用途の重さで、表の厚みを変えます
すべての業務で四役を厳密に埋める必要はありません。ここがEUの発想の借りどころです。用途の重さは三つの問いで判定できます。誤りは社外に届きますか。金額や人の処遇に直結しますか。発覚した後に取り消せますか。
三つとも「いいえ」なら軽い用途です。社内向けの下書きや要約、調べものが典型で、気づく人は使う本人、と一行書けば足ります。社外には出ないが数字に直結するなら中程度です。経理の仕訳候補や与信の下調べ、受注データの転記などがここに入ります。気づく人と直す人を別の人にし、学ぶ場を月次の定例に置きます。作った本人は自分の誤りに気づきにくいからこそ、目を分けるのです。一つでも重い「はい」があるなら重い用途です。顧客に出る見積、契約書の文面、採用の選考補助などが典型です。四役すべてを役職名ではなく個人名で埋め、謝る人には対外的な権限のある役職者を当ててください。役職名で書かれた表は、異動のたびに空欄へ戻ります。
「使った本人の責任」は、いちばん危険な割当です
ここで当然の反論が出ます。道具を使ったのは本人なのだから、本人の責任でよいのではないか、と。一見筋が通っていますが、これがいちばん危険な割当です。誤りの発見が罰につながる仕組みでは、誤りは報告されず、隠れます。隠れた誤りは学ぶ場に届かず、同じ誤りが別の担当者のところで繰り返されます。責任の割当とは罰の割当ではなく、役割の割当です。むしろ、誤りに最初に気づいた人が評価される形にしてください。
もう一つの反論、「うちの規模でそんな表は大げさだ」にも答えておきます。軽い用途は一行、重い用途でも数行です。AIが関わる業務が五つなら、表全体でA4一枚に収まります。管理の重さを用途の重さに合わせる方式なので、身軽な会社の表は自然に軽くなります。
まず三十分で、ここまでできます
最初の三十分の使い方を示します。はじめの十分で、いまAIが関わっている業務を三つ書き出します。経営者が知らない利用も拾うため、部門の責任者に直接聞いてください。次の十分で、三つの問い、社外に届くか、金額や処遇に直結するか、取り消せるか、を使って軽い・中・重いに振り分けます。最後の十分で、いちばん重い一つだけを選び、四役表を個人名で埋めます。
埋まらない欄が出たら、無理に埋めず空欄のまま残してください。その空欄こそ、いま会社が抱えているリスクの正体です。精度の数字をいくら眺めても見えなかったものが、表の空欄という形で初めて目に見えるようになります。次の定例会議の議題に「この欄を埋める」と一行で載せれば、三十分の仕事は完了です。
結び：割り当ててから、広げてください
誤りの責任を事前に決める目的は、導入に慎重になることではありません。安心して広げることです。四役が決まっている組織では、誤りは糾弾の種ではなく改善の入力になり、現場は萎縮せずにAIを使えます。精度の検証は外部の専門家にも任せられますが、誰が謝るかを決めることだけは経営者にしか任せられません。今週、いちばん重い用途を一つ選び、四役表をご自身の手で埋めてください。広げるのは、その後です。
（本文のEUのAI規制法に関する記述は、2024年8月1日に発効した同法〈EU AI Act、Regulation (EU) 2024/1689〉の公表内容に基づきます。同法はAIの用途を禁止・高リスク・限定リスク・最小リスクの四段階に分けて義務を段階化する「リスクベースアプローチ」を採用しています。禁止規定は2025年2月から適用されていますが、高リスク用途の義務は段階的に適用される設計で、適用時期は延期を含む見直しが続いています（2026年時点）。EU市場でAIを提供・利用しない日本企業への直接の義務はありません。）