出発点

機械の進化は、人間が自分の人生をつくる余地を広げるために使いたい。機械の能力から人間の未来を逆算するだけでは、私たちがどのように生きたいのかが、議論の外へ押し出されてしまいます。私は、未来がどうなるかを予測して嘆くよりも、どうあるべきかを議論し、実現していきたい。

このサイトの文章はすべて、この確信を精密にする試みです。そこから、より具体的な問いが生まれます。組織は自動化の前に、実際には何を意味しているのか。エージェントが行動するとき、権限は誰にあるのか。組織は自らの行為からどう学べるのか。予測はいつ世界の観測をやめ、世界をつくり始めるのか。モデルが変わり続けるなかで、それらをどこに置くべきか。そして、これらのシステムの総体は、どのような文明になるのか。

六つの段階で見る議論

各段階は、それぞれ一本の論考で詳しく論じています。この順に読むと、文明という大きな問いから、意味、権限、学習、因果という日々の仕組み、そしてそれらを保持する層までが、一つの思考としてつながります。

  1. 独自性と共通性

    進歩は循環です。再現不能な視点が、社会の共有できる基盤へ安全に還元され、その基盤が次の違いを育む余地を広げる。還元は徴収ではありません。独自性には、共有する自由と、共有せずに保持する自由の両方が必要です。機械は、その循環の中にいる人を置き換えるためではなく、循環を加速するためにある。

    論考機械の進化と、人間の向かう未来

  2. インフラとしての意味

    あらゆる自動化は、隠れた入力の上で動いています。何を顧客と呼び、いつ完了とし、どの情報源を正本とするか。意味を暗黙のままにすると、自動化は曖昧さをインフラに変えます。必要なのは、業務上の結果を持つ意味についての、小さく生きた合意です。

    論考自動化の前に、意味を

  3. 仕組みとしての権限

    エージェントによって、AIはインターフェースから委任へ変わり、委任は責任の所在を動かします。承認ボタンは権限ではありません。権限には、目的、根拠、制約、退けた選択肢、そして取り返しのつかない選択の所有者が必要です。誤りをまだ戻せる場所では、エージェントへ余地を渡す。

    論考AIエージェント時代の人間の権限

  4. 結果につながる学習

    組織が学ぶのは、意思決定、権限、実行、観測された結果が、次の判断を変えられるほど強く接続されているときだけです。結果が遅れて届くときや雑音が多いときには、教訓を製造するのではなく、開いた問いを記録しておく。

    論考学習する会社をつくる

  5. 介入としての予測

    予測が人員、融資、監視を配った瞬間、予測は自らが評価される未来をつくり始めます。配分後の精度は、独立した未来の読み取りではなく、意思決定の循環の記録であり得る。問うべきは、未来を正しく読めたかだけでなく、どの未来を起こしやすくしたかです。

    論考配分する予測は、未来を観測しているのか

  6. モデルを越えて残る意味

    モデルは生成し、エージェントは行動する。しかしどちらも、組織が自分であり続けるために必要なものを保持しません。持続する層はOSに近い。意味、権限、記憶、因果をモデルを越えて保持し、モデルの交換をやり直しではなく実験に変える。

    論考モデルではなく、OSをつくる

原則

仕組みより先に意味を。
意味は、システム完成後に付け足す文書ではありません。信頼できるシステムを構築可能にする基盤そのものです。
自動化より先にモデルを。
速く動くことを求める前に、システムは、自分が何を知り、何をしてよく、どの証拠を残し、いつ人の前で止まるべきかを言えなければならない。
確信より先に根拠を。
遅れて届く結果や雑音の多い証拠へ無理に教訓を載せることは、確信を製造することです。何がまだ分からないかを記録し、似た選択が戻ったとき、その問いを取り出せるようにしておく。
現実に結果を生む判断には、人間の権限を残す。
ある仕事が得意であることは、その仕事を任せる理由にはなります。しかし、それだけで他者が何のために生きるかを決める権限までは得られません。

採らない前提

  • 人間の価値は、機械に対する能力の優位にあるという前提。そうであれば、機械が進歩するたびに、その価値は縮んでしまう。
  • 機械がより多くをできるようになるほど、人間が何を望むかを問う必要はなくなるという前提。実現できることが増えるほど、どの未来を選ぶかが重要になる。
  • 作業の流れの最後に置いた承認ボタンが、人間の権限と同じだという前提。
  • 導入後に精度が上がれば、モデルが未来を読めたことの証明になるという前提。
  • 組織の知能とは、いま使っているモデルのことだという前提。
  • 共通性とは、全員が同じ価値観を持つことだという前提。共通性は、価値観が違うまま共に生きるための条件であるべきだ。

開かれた問い

これらは、まだ閉じていない問いです。いま取り組んでいる問いと、論考が名指ししながら解決していない限界とがあります。

現在の問い

  • 意味は計算機上でどう表現できるか。
  • エージェントの自律性が高まるなかで、何を人間の権限として残すべきか。
  • 組織はどうすれば学習するシステムになれるか。
  • 人間の独自性を、失うことなく社会の共通基盤へ還元するには何が必要か。

論考の中で未解決の問い

  • 独自性を共通性へ還元するとき、安全を誰が決めるのか。安全を、既存の秩序を守るための別名にしないためには何が必要か。
  • 将来のAIを、独自の経験や利害を持つ主体として扱うべきか。その可能性は否定しないが、まだ答えは出していない。
  • 何年も後に届く結果、複数の判断が混ざる結果、原因を切り出せないほど雑音の多い結果から、組織はどう学べるか。
  • 共有された意味の層は、互いに通じない定義へ分裂することなく、どうすればその場ごとの変種を認められるか。

実験としてのシステム

思想が先にあります。システムは思想が現実と出会う場所であり、会社はそれを構築するための現在の手段です。以下のシステムはそれぞれ一つの主張を検証するものであって、このサイトの正体ではありません。

問いの扱い方

現実の問いから始めること。観測、仮説、主張、原則を区別すること。結果を左右する前提を見えるようにし、主張が成り立たなくなる条件を残しておくこと。

ここにあるのは完成した教義ではなく、作業中の立場です。証拠や議論によって考えが変われば、このページは守られるのではなく、改訂されます。