相変わらずAIのことを考えている。「AI」と呼ばれる技術や製品や概念が、私が暮らすこの世界の秩序をどう組み替えつつあるのか。半分は好奇心から、もう半分はその変革に身を置く個人としての身に迫った必要性から、気になって仕方がない。

最近思うのは、いよいよAIは「知」から「行」への段階に入っているのではないかということだ。「知行合一」という陽明学に由来する言葉がある。いくら知識をため込み深く考えても、その知識・思考が実際の行動を伴わなければ意味がない……みたいな意味だったと思う（ちょっと違うかも）。ともあれこれを聞いたとき、「知＝知識」と「行＝行動」が対になるのが面白いと思った。

「知」の領域では、AIは行くところまで行ったのかもしれない。プログラミング、数学、翻訳など、およそ人間が頭でこなす多くのタスクのベンチマークテストで、AIは（少なくとも平均的な）人間レベルを超えてしまった。少し前まで、私は「生成AIにファクトに関する質問をするなんて危うい」と思っていた。でもここ1，2か月で、ChatGPTやGrokは「知りたいことを本当に教えてくれる」存在になった。これまで、Web上のどこかにある情報を探し出し、用途に応じて適切に取りまとめるというのは、スキルのある人間にしかできないことだった。今は違う。知識の量と質、知識への的確なアクセスの面で、AIは一線を超え始めた。

AIが知識・思考の領域で行くところまで行ったら※、そこで終わりなのかといえば、全くそうではない。いよいよAI開発者と利用者は、AIが「行」の領域に入ること、つまり世界で実際に何かをすることを求め始めている。人間の補助として何かを「調べる・考える」だけでなく、AIがPCを操作し、メールを打ち、決定ボタンを押し、自ら判断して行動することが期待されている。そこまでできて初めて多くの労働が代替でき、経済的な利得につながるからだ。その意味で、「AIの知行合一」へのインセンティブとプレッシャーがかつてなく強まっているのが2025年春だと言ってみてもいいかもしれない。

※私は、「知」の領域でAIの能力が際限なく高まっていくのではなくある種「飽和」するイメージを持っている。なぜなら、人間のトップレベルの能力を超えた後、AIの能力向上を測る指標を創ることが難しくなるのではと思うからだ（参考）。

「知」の能力を測るのが「賢さ」だとすると、「行」の能力を測るのは何だろうか。人間の世界では「パワー＝（権）力」と呼ばれるものかもしれない。パワーがある人は、そうでない人に比べて、世界をより大きく変えることができる。AIの理論研究の分野では「エンパワメント」という量が20年ほど前に提案されているという。これは、AIの行動と未来の世界の状態の相互情報量として定義され、要するにAIが自分の行動でどれだけ世界に影響力を持てるかに関する尺度となっている※。

※なお、AIアライメントネットワークの林さん・高橋さんはこのほど「知」を目指す強化学習エージェントも、理論的にはエンパワメントの最大化をもたらすという理論研究を発表した。知の追求に付随するパワー追求行動の創発を理論的に示したものだとされている。

この意味での「パワー／エンパワメント」は、必ずしもたくさんAIに持たせたいものではないかもしれない。パワーを持ちすぎたAIは、人間を部下に従える上司のような存在になってしまうかもしれない。とはいえある程度のパワーがないと、自律的に「何かができるAI」と呼べるものにはならないだろう。なので、一定のレベルに制御されたパワーを持つAIが人間の職場に入り、人間を超えたパフォーマンスで人間の労働を代替していく――ひとまずはこんなイメージを持つことができる。

そのうえで、私はこのイメージはミスリーディングではないだろうかと言ってみたい。問題にしたいのは、人間なりAIなりが何かを「できる」能力を、その個人・個体に帰属させる発想の部分だ。ためしに、人間の世界で最もパワーを持っているのは誰か、と考えてみる。米国大統領？テック企業のCEO？　独裁国家の元首？　一見、絶大なパワーがありそうな人たちだが、ちょっと考えてみると、こうした人たちはたぶん分刻みでスケジュールを決められているだろうし、意思決定や財産の使途にもいろいろな制約がありそうだ。国や企業として大きな影響力を行使できるのは確かだが、そのパワーは個人によるものではないだろう。

そういうふうに考えていくと、これから起こるのは「制御された一定のパワーを持つAIが、人間を置き換えていく」というだけのことではなさそうに思えてくる。社会現象のレベルにおいては、パワーはおそらく個人が発揮するものというよりも、人の集団、さらにはそこに関わる技術とか外部環境込みで発揮されるものとして考えなければあまり意味をなさないのではないだろうか。そう考えると、「行」の領域でのAIは、「一定のベンチマークをクリアするAIをつくる」といった「知」の領域での方法論はそぐわず、むしろAIを行動させたい組織そのものをAI込みでパワーが発揮できるものに作り変えるという、システムデザイン的な工学の方法論（そんなものがあるとして）がメインになっていくのではないだろうか。

このままだと、そういう「システム変更」が全く計画的ではない形で、アドホックに試されていく可能性が高い。AIでパワーアップした企業なり国に所属することが個人にとって幸せとも限らない。そうしたすべてを少しでも見通し良く理解できる視座が欲しい。