知能はどこに置かれるのか
組織でAIを語るとき、議論の多くはモデルの選択から始まります。どれが最もよく推論し、どれが最も安く、会社としてどれに揃えるべきか。問いとしては妥当ですが、その答えは変わり続けます。今年採用したモデルは、それが関わった判断の結果が出そろう前に、置き換えられ、更新され、他のモデルと組み合わされる。それも一度では済まないでしょう。
この変化の速さは、より手前の問いを立てさせます。組織の知能は、どこに置かれるべきか。ここで言う知能は、回答を生成する能力のことではありません。それは借りることができる。問題は、回答をこの組織のものにしている部分です。言葉が何を意味するか、誰が何を決めてよいか、以前に何をし、その結果どうなったか。それらが特定のモデルの内側にあるなら、モデルが交換されるたびに、組織の知能も交換されてしまいます。
私の答えは、持続する層はモデルではなく、OSに近いものだということです。モデルを越えて、意味、因果、権限、記憶を保持する層。これは、Foundation Modelを自社でつくるべきだという主張ではありません。何を借りものにしてはいけないか、についての主張です。
モデルは生成し、エージェントは行動する
一つにまとめられがちな三つの役割を分けておきます。モデルは生成する。文脈を受け取り、文章、コード、計画、分類を出力する。エージェントは行動する。目的を受け取り、道具を使い、世界の何かを変える。しかしどちらも、そのままでは、組織が時間を越えて自分であり続けるために必要なものを保持しません。扱う対象の同一性、判断がなされた文脈、その後に続いた結果です。
三つ目の役割には、OSという比喩が役に立ちます。ただし正確に使う必要があります。OSはプログラムの答えを計算しません。プログラムに安定した環境を与えます。識別、権限、処理が終わった後も残る記憶、そしてハードウェアやプログラムが変わっても他のすべてを書き直さずに済むインターフェース。OSの価値は、部品が入れ替わる間に何を一定に保つかにあります。
同じ分担がここにも当てはまります。モデルはプロセッサに近い。不可欠で、急速に良くなり、原理的には交換可能です。エージェントはプログラムに近い。多くの組織に欠けているのは、その両方の下にある層、つまり、何が何であり、誰が何をしてよく、何が起きたかを示す層です。それがなければ、新しいモデルも新しいエージェントもプロンプトから始まり、プロンプトが知らないうちに組織の意味の保管場所になっていきます。
交換の試験
組織の知能がいまどこにあるかは、簡単な試験で分かります。すべての業務の下にあるモデルを、明日、同程度の能力を持つ別のモデルへ入れ替えたとします。何が変わらずに残るでしょうか。主要な言葉の定義、権限の境界、過去の判断とその結果の記録は残るのか。それとも、そのすべてを新しいモデルの振る舞いから探り直さなければならないのか。
架空の会社が、契約更新の準備にエージェントを使っているとします。一年のあいだに、何を「更新準備完了」と呼ぶか、管理者が単独で承認できる値引きはどこまでか、どの値引きの後に顧客が離れたか。それらがすべて、一つのモデルに合わせて試行錯誤で調整された長いプロンプトに書き込まれていきます。そしてモデルが入れ替わる。新しいモデルは同じプロンプトを読み、値引きの規則をわずかに違って解釈する。大きく壊れるものはありません。提案は変わり、承認は続き、どの意味が動いたのかを誰も言えない。意味は、一つのプロンプトと一つのモデルの相互作用の中にしか保存されていなかったからです。
今度は、同じ会社がそれらを、エージェントが吸収する指示ではなく、エージェントが参照する記録として持っていたとします。更新準備という定義された状態、値引きについての明示的な権限の境界、過去の更新とその結果を結んだ履歴。するとモデルの交換は、やり直しではなく実験になります。問うべきは、新しいモデルを古いモデルのように振る舞わせられるかではありません。同じ意味と同じ権限を与えたとき、より良い更新を提案できるかです。組織が知っていることがモデルと一緒に動かなかったから、比較ができるのです。
OSが保持するもの
この層が保持すべきものは四つあり、それぞれがこのサイトの論考の主題でした。一つ目は意味です。業務上の結果を持つ実体、関係、状態、証拠。「自動化の前に、意味を」は、それが完全な概念体系ではなく、小さく生きた合意であるべきだと論じました。OSの中では、その合意は、プロンプトごとに言い直される段落ではなく、すべてのモデルが参照する環境になります。
二つ目は権限です。どの行為が観測だけでき、準備まででき、可逆的に実行でき、指名された人の承認を要するか。「AIエージェント時代の人間の権限」は、権限はボタンではなく仕組みだと論じました。権限の仕組みは、その時に動いているモデルから導き直せるものではありません。どのモデルの外にも置かれ、すべてのモデルに適用される必要があります。三つ目は記憶です。理由、所有者、実行、結果を伴った判断と、まだ開いている問い。「学習する会社をつくる」は、これを結果を持つ記憶と呼びました。
四つ目は因果です。何が起きたかだけでなく、それがどの行動の後に起き、その行動が観測されたものをどう形づくった可能性があるか。「配分する予測は、未来を観測しているのか」は、配分が、後に精度として数えられる証拠そのものをつくり得ることを示しました。モデルは、学習データや文脈だけからそれを見分けられません。OSは少なくとも、どの判断がどの配分を変えたかを記録できます。そうすれば次のモデルは、前のモデルの介入を、世界そのものとして学習せずに済みます。
モデルで足りるとき
最も強い反論は、モデルの提供者がこの層を取り込んでいくというものです。モデルはすでに長い文脈、持続する記憶、組み込みの道具を備えつつあります。それが続くなら、独立したOS層は重複した基盤に見えるかもしれません。つくるには費用がかかり、提供者が出すものに遅れをとる可能性も高い。
この反論が勝つ場面はあります。業務の結果が小さいとき、扱う意味が一つの組織に固有ではなく一般的なとき、モデルを替える見込みが低いとき、誤りを安く戻せるとき。そこではモデルと、その組み込みの記憶で足ります。OS層をつくることは、儀式にしかなりません。
しかし、この議論はデータをどこに保存するかについてのものではありません。意味を誰が所有し、それを検査し、訂正し、別の場所へ持ち出せるかについてのものです。もし提供者の記憶が、組織に保持内容を見せ、意図して変えさせ、権限を結びつけさせ、離れるときに持ち出させるなら、その記憶はすでにOS層として機能しています。単に他者がホストしているだけです。どの基盤についても問うべきは、どれだけ多くを覚えているかではなく、覚えているものが組織自身のものであり続けるかです。
訂正できるOS
OS層にも固有の失敗があります。誰も更新しない官僚的な概念体系へ固まり、組織の公式な意味が実際の仕事から離れていくことがある。モデルの提供者からOS層へ場所を移しただけの、新しい囲い込みになることもある。そして意味を中央に集めることで、共有された定義が見落とすものに人が気づく、その場ごとの違いを消してしまうことがある。「機械の進化と、人間の向かう未来」は、同じであることを求めるのではなく、独自性を可能にする共通性を描きました。一つの意味をすべてのチームに押しつけるOSは、それに逆らいます。
だからこの層は、訂正されることを前提につくる必要があります。それぞれの意味は、どこから来て、誰が変えてよいかを記録する。不一致は初期値で片づけず、不一致として見えるようにする。結果が異なる場所では、その場の変種を認める。そして層そのものを観測可能にし、モデルと同じ誠実さで試し、置き換えられるようにする。
モデルは良くなり続けるでしょうし、それを使う組織は、その改善を一つひとつ歓迎すればよい。だからこそ、モデルと一緒に変わってはならない部分は、意図してつくるべきです。組織が何を意味し、誰が決め、何をし、それが何を引き起こしたか。それはモデルの機能ではありません。組織自身の知能であり、その上で動くどのモデルよりも長く残る層に置かれるべきものです。