自律とは本当は何を意味するのか

私たち自身の指針は、「次は、自律」という言葉で終わります。こうした約束には定義が必要です。そうでなければ、ただの雰囲気にすぎません。私たちの業界では、メールを1通自分で送るアシスタントも自律型と呼ばれ、従業員なしで動く会社というビジョンも同じように呼ばれます。

自動車も同じ混乱を経験し、いまでは多くの人が知っている尺度を手にしました。それを借りる価値はあります。

自動車がうまくやったこと

SAEの運転自動化レベルは0から5まであり、米国の道路安全機関NHTSAはそれを平易に説明しています。レベル2までは、システムがハンドル、ブレーキ、加速を担っていても、運転し監視するのは人です。レベル3ではシステムが運転しますが、システムに求められたら人が運転を代われるようにしておく必要があります。レベル4では、限られたサービスエリアの中でシステムが全面的に責任を負い、乗っている人は乗客です。どこでも、どんな条件でもシステムが運転するのは、レベル5だけです。

この尺度を役立つものにしているのは、2つの考え方です。各レベルは車の賢さではなく、誰が責任を負うかで定義されていること。そして上のレベルは場所で区切られていること。レベル4は、どこでもではなく、ある区域の中での全面的な責任を意味します。NHTSAはまた、現在消費者が手にできる最も高いレベルの自動化でさえ、運転者が全面的に関与し、注意をそらさずにいることを求めると記しています。この尺度が表しているのは道筋であり、市場ではありません。

仕事のためのレベル

2025年、Kevin Feng氏、David McDonald氏、Amy Zhang氏の3人の研究者は、AIエージェントのための同様の尺度を提案しました。彼らは5つのレベルを、人が果たす役割によって定義しています。オペレーター、協働者、相談役、承認者、観察者です。承認者のレベルでは、人が必要になるのは、エージェントが自力で解決できない障害にぶつかったときだけです。観察者のレベルでは、人はログを読めますが、もう仕事の舵は取りません。

彼らの最も鋭い指摘は、自律性は能力とは別の、意図的な設計上の判断だということです。非常に有能なエージェントでも、すべての行動の前に確認を求めるように作ることはできます。問いは、モデルがその仕事をこなせるかどうかだけではありません。仕事のどれだけをモデルに単独で任せると誰かが決めたのか、そしてそれがどんな根拠に基づくのか、なのです。

その言葉で言えば、crueのすべてのプロダクトはいま、低いレベルで動いています。機械が下書きを作って提案し、人が決めます。私たちの次の段階は承認者のレベルで、ゲートは企業が選んだ場所に置かれます。たとえばNorthは、企業が設定した上限の範囲内でチャネル間の予算を動かし、その理由を説明するようになります。どちらの尺度でも、これはレベル4に近いものです。区切られた領域の中での全面的な責任と、その端に達したときに呼ばれる人です。

まず満たすべきこと

プロセスは、車がサービスエリアを得るのと同じやり方で、自分のレベルを勝ち取るべきです。証拠によって、区切られた領域をひとつずつ。決まった作業を単独で動かす前に、5つのものがそろっている必要があります。

書面のルール。予算の上限、誰も与えてはならない値引き、ブランドが決して使わない口調。誰かの頭の中にしかない制限を、エージェントは守れません。ゲート。エージェントが立ち止まり、名前のある担当者が決める固定の地点で、取り消せないことの前に置かれます。記録。すべてのステップを記録し、誤った結果を、それを引き起こした入力、ルール、モデルまでさかのぼれるようにします。Twinでは、すべてのステップが記録され、すべての書き込みはユーザーごとのサインインのもとで行われます。

責任の所在。エージェントが誤れば、責任を負うのは企業です。2024年、カナダの審判所がそれを明らかにしました。Air Canadaは、自社のチャットボットが自らの行動に責任を負うと主張しましたが、審判所はこれを退けました。チャットボットであろうとなかろうと、航空会社は自社のウェブサイト上のすべての情報に責任を負い、支払いを命じられたのです。証拠。レベルはデモではなく、測定された結果によって勝ち取られます。Proofが、数字が裏付けたときにだけ勝者を決めるのと同じです。

EUのAI法（AI Act）も、高リスクの用途でほぼ同じことを求めています。人による監督に関する条文は、責任者がシステムの限界を理解し、システムに頼りすぎる傾向を自覚し、その出力を覆し、システムを停止できることを求めています。この義務は、附属書IIIに挙げられた高リスクの用途には2027年12月2日から、附属書Iに該当する用途には2028年8月2日から適用されます。

見ていることは、監督していることではない

監督という言葉には落とし穴があります。2月、Anthropicは、人々がコーディングエージェントClaude Codeを実際にどう監督しているかについてのデータを公表しました。新しいユーザーは、約20パーセントのセッションでエージェントに確認なしで行動させていました。経験を積んだユーザーでは40パーセント超です。それでいて、経験を積んだユーザーのほうが介入の頻度も高く、ターンの約9パーセントで介入していました。新しいユーザーは5パーセントです。監督をやめたわけではありません。一歩ずつ承認するやり方から、実行を見守り、肝心なときに介入するやり方へと移っていたのです。

Anthropicはまた、観察した行動のうち取り消せないと見られるものは約0.8パーセントにすぎないことも見いだし、効果的な監督には、承認の連鎖に人を置く以上のことが必要だと結論づけました。肝心なときに介入できる立場にいることです。私たちはこれを、ゲートを減らし、よりよい場所に置くべきだという根拠と読んでいます。取り消せない一歩、お金、社外に出るメッセージの前です。

自律的な会社

より大きな議論は、会社全体がこのように動くようになるかどうかです。Gartnerは、2028年までに日々の業務上の判断の少なくとも15パーセントが、エージェント型AIによって自律的に下されるようになると予測しています。2024年はゼロでした。これは本物の変化ですが、この予測でも、大半の判断は人に残ります。

これまでで最も誠実なテストは、小さなものです。2025年、AnthropicはClaudeのエージェントに約1か月間、オフィスの売店を運営させました。エージェントは商品を原価割れで売り、言いくるめられて割引コードを出し、一時は自分がでっち上げた口座に支払うよう客に伝えていました。Anthropicの評価は、雇うことはないだろうというもので、同時に、AIの中間管理職はおそらく視野に入ってきているというものでした。

その反対の端では、Margaret Mitchell氏らが2025年、完全に自律的なエージェントはそもそも開発すべきではないと主張しました。人がエージェントに委ねる制御が大きいほど、人へのリスクも大きくなるからです。私たちはその中間にいます。いつか機能全体が単独で動き、人はその端にいるようになるかもしれません。ただし、その時期を示すつもりはありません。

決まった作業がレベルを上げるには

企業にとって実際的な問いは、もっと狭いものです。この決まった作業を、ひとつ上のレベルに上げてよいか。私たちのテストは短いものです。ルールが書面になっていること。ゲートが取り消せない一歩の前にあること。すべての行動が記録され、人の名前で署名されていること。判断に足るだけの回数で、下書きに修正が要らなくなっていること。そして、最後にうまくいったバージョンに戻る方法があること。

私たち自身のプロダクトも、この道筋をたどります。Tempoはその月の投稿を準備してテストし、すべての投稿を人が承認します。次の段階では、テストに合格したものを投稿し、企業が望むところでは承認を求めます。Proofは人が承認したテストを実行します。次の段階では、企業のルールの範囲内で、次のテストを自分で始めます。Northは説明し、人が決めます。次の段階では、企業が設定した上限の範囲内で予算を動かします。

私たちが使う意味での自律は、決して無人を意味しません。区切られた領域、書面のルール、すべてのステップの記録、そして結果に責任を持つ人を意味します。機械は仕事のより多くを担えるようになります。会社の名前でなされることについてのセンス、判断、責任は人に残り、それがあるからこそ、ほかの部分がレベルを上げられるのです。レベル4の車にも、持ち主がいます。単独で動くすべてのプロセスも同じです。