第2回：理解の価値とは何か

本記事は、ブログ連載「AIと生きる時代の〈理解〉考」の第2回です。前回から2か月以上開いてしまいましたが、この間もずっと本記事のことを考えていました。ようやくストーリーが固まってきたので、書いてみます。

第1回はこちら⇩

【AIと生きる時代の〈理解〉考】第1回：LLMは理解しているのか？

• なぜ、AIが理解していると言いたくないのか
• なぜ理解に価値があるのか
• 理解は単なる知識ではない
• 「できる」につながらない理解？
• 理解していなくても「できる」こと
• ここまでのまとめ
• おわりに
• 謝辞
• 参考文献

＊＊＊

なぜ、AIが理解していると言いたくないのか

この連載の第0回では、次の問いを立てた。

昨今のLLM（大規模言語モデル）の能力を所与の事実として踏まえたときに、私たちはどのような新しい理解観を持つことができるか？

数年前に、LLMという装置が現れた。これは言葉を操るAIであり、いままでは人間にしかできないと思われていたような能力をもつ。まるで理解しているかのようだ。このことは、私たち人間が何かを理解する理由や方法にどのような影響があるだろうか。そもそも理解とはなんだったのだろうか。AIと生きる時代に適した「理解についての理解」が必要とされているのではないか。そう考えて、本連載を始めたのだった。

前回は「LLMは理解しているのか？」と題して、LLMを中核としたAI自体が、文章を理解しているように見える現象について扱った。AI研究者たちの多様な意見からは、次のことが確認できた。

• AIは、人々がイメージする「理解する機械」に、予想以上の早さで近づいた。
• それでも、人間の理解と同じとは言えない、あるいは言いたくない感覚も残る。

AIはあたかも理解しているかのように言葉を操るが、それだけをもって「理解している」と言うのも違う気がする。この躊躇の最大の理由は、AIが言葉を処理する仕組みにあると思われた。今日の生成AIは、与えられた文字列（トークン列）に対して、次にどのような単語が統計的に出てきやすいか、あるいはユーザーが求めているかに関する確率分布に基づいて文を生成する。このような文章生成は、私たちの感覚では「理解したうえでの言語運用」とはまったく異なるもののように思われる。私たちは決して確率分布から単語をとってきているのではなく、理解したうえで言葉を選んでいるんだと言いたくなる。

AIはどこまでも理解している「ふり」をしているだけだ。そのはずなのに、AIは流暢に言葉を返してくるし、その思考力は月日を経るごとに深くなっている。岡野原大輔氏が「現象論的には」AIは理解していると書いたように、振る舞いのうえでAIは理解しているとしか思えない。

前回はそのように考えてきて、次のことに思い至った。私たちが向き合っているのは「理解とは何か？」という問いではなく、むしろ「私たちはどのように理解という概念を使いたいのか？」という問いなのではないか。AIの理解は本当の理解ではないと言いたくなるとき、私たちは理解の何を守ろうとしているのだろうか、それを先に考えるべきではないだろうか。

そこで今回は、理解と私たちが呼ぶものの価値について考える¹。なぜ理解が大事な気がするのか。それを考えることを通して、今回と次回では、AIと生きる時代の理解の暫定的な作業モデル（working model）をつくっていきたい。

なぜ理解に価値があるのか

「AIは本当は理解していない」と言いたくなるのは、人間のなかにもそういう人がいるからかもしれない。「理解が浅い」「理解を装っているだけ」の人が私たちの周りには多くいる。SNSでは専門家風の人の理解が、実は表面的であることが露呈する。専門性を期待して採用された中途社員が、実は期待した理解をもっていないことにだんだん気づく…。こういう経験からわかるように、理解は「見せかける」ことができる。

理解を試すための仕組みとして、学校教育のなかで実施されている定期テストや入学試験がある。しかし、テストは理解の完全なリトマス試験紙ではない。理解していればテストが解けるが、テスト問題が解ければ理解しているとは限らないからだ。筆者が中学生のときに、筆者のことを「ペーパーテスト人間」と呼んだ友人がいた。テストに最適化された薄い知識しか持っていないと言いたかったのだろう。腹が立ったが、当たらずとも遠からずだったような気もする。テストで100点をとれたとしても、その科目を100％理解していたわけではないからだ。

ペーパーテストを解く能力は理解とイコールではない。科目の内容を理解せずに、ヒューリスティック、つまり何らかのルールやテクニックを使ってテストで高得点を取ることはできる。これは、中国語を全く理解していないにもかかわらず、マニュアルに従うことで理解しているかのように振る舞うことができた、ジョン・サールの「中国語の部屋」の状況そのものだろう（第1回参照）。

学校教育は当然、テストで良い点数を取る能力ではなく、科目の内容を生徒が理解するようになることを目指している²。理解に価値があるのは、テストを解ける以上のことができるようになるからだ。ラジオの仕組みを理解していれば、ラジオが壊れたときに直せる。線形代数を理解していれば、機械学習のアルゴリズムを設計できる。簿記を理解していれば、経理の仕事を回すことができる。友人の気持ちを理解していれば、悩み相談に乗ることができる。ペーパーテストを解ける「だけ」の人には、どれもできないだろう。

理解は単なる知識ではない

こう考えると、理解とは単なる知識ではない。私が知っているものごとのうち、理解しているものごとはその一部だ（下図）。

理解していることは知っていることの一部分

文献を紐解くと、この理解と知識の違いというトピックは、近年の哲学的認識論でもよく議論されている³。その代表的な論者の一人である、スティーブン・グリム（Stephen Grimm）は「理解の価値」という論考の中で、単に知っていること（命題的知識と言われる）と理解していることの違いをニュートンの第2法則（F=ma）を使って説明している⁴。

まず、私がニュートンの第二法則を先生の言葉を頼りに受け取る場合を考えてみよう。そのとき、私の心は世界を正確に反映（mirror）している——つまり正しく把握している——が、その反映はきわめて表面的なものにとどまる。私は世界のあり方に関する正確な情報を含む命題に同意してはいるものの、私の心は作業を実際に引き受け（take on）、やって（do）はいないのだ。では、私の心が現実をより深いレベルで反映し、実際にそのはたらきを引き受けるとはどういうことか。…必要なのは、その法則が記述する要素や性質が互いにどのように依存し合っているかを把握すること——すなわち、ある要素の値が変化したとき、他の要素の値がどのように変化する（あるいは変化しない）かを把握することだと思われる。そうなったとき、心は以前よりも深く世界を反映するようになる。なぜなら心は今や世界の法則的構造を引き受けたことになるからであり、把握した構造が、単に命題に同意していたときにはできなかった仕方で、心に情報を提供するようになる。（Grimm 2012、筆者訳）

一見難しいが、ゆっくり読めば理解できる。この世界の物体がF=maという法則に従うことを教わったとする。それだけでは、ニュートンの第2法則を理解したことにはならない。理解したと言えるためには、F=maを使えなければならない。F=maを使うというのは、鉄球が落ちるとか振り子が触れるとか惑星が周転するとか、いろいろな設定でこの法則を適用し、実際にその帰結を導くことができるということ。まさに、高校物理の「力学」の単元で私たちがさんざん練習してきたことだ。

F=maの例に限らず、何かを理解するというのは、単に知識をもつことではなく、動かせるモデルを自分のなかにもち、そのモデルの変数がどう変わったらその帰結がどうなるかをシミュレートできる状態になることだと言える。ある命題を暗記しているだけでは十分ではない。それは「なぜそうなのか」「もし条件が異なったらどうなるか」という反実仮想的な思考を可能にするものでなければならない⁵。たとえば、「鎌倉幕府の第一代将軍は源頼朝である」という知識を持っているだけでは理解とは言えず、「なぜ源頼朝は鎌倉に幕府を開いたのか」といった理由を問う質問（why question）に答えたり、「もし鎌倉以外の地が選ばれたらどうなっていたか」（what-if question）に対する推論ができるとき、鎌倉時代について理解していると言われる。

理解している人は、できることが増える。友人の誕生日パーティを企画することになったとする。どのお店を予約するか、誰を呼ぶか、どんな機材が必要で、余興の準備は誰に頼むか。良いお店を知っているというだけではなく、パーティを企画するとはどういうことかに関するよいモデルを持つ人は、自分の選択の結果をあらかじめイメージし、先回りしてトラブルシュートし、大体思い描いた通りのプランを実行できる。理解というモデルを持つことによって、私たちは自分で行動を行う前に、自分たちの行動の帰結を推論することができる。理解がなければ、人生は無鉄砲な試行の連続になってしまう。

ここまでの話をもとに「理解の価値とは？」という最初の問いに答れば

理解に価値があるのは、できることが増えるから（★）

となる。これ以上ない、常識的な結論だ。しかし、本連載の目的からすると、ここで終わるわけにはいかない。なぜなら、この「できることが増えるから理解には価値がある」というこれまでの理解観が、ぐらついているように思われるからだ。だから、この先をこそ考えなければいけない。

★に対して、すぐに二つの疑問が浮かんでくる。

• Q1. 理解の価値は本当に「できるようになること」だけなのか？
• Q2. 理解しなくてもできることはあるのではないか？

ここまでは、「できる」こと、つまりある種の能力（ability）につながる知識として理解を捉えてきた。しかし、「理解している」と「できる」ということは、完全には重ならずこの二つのギャップがあるように思われる（下図）。以下ではこれらについて考える。そこから見えてくるのは、理解には理解する主体である「私」にとっての固有の価値があるということだ。

理解とできるの間の二つのギャップ

「できる」につながらない理解？

理解の価値は、何かができるようになることだけではない気がする。認識論の教科書を紐解いても、知識の価値として非道具的価値が出てくる⁶。道具的というのは、何か他のことの手段としての価値という意味である。理解や知識の非道具的価値というのは、何か別のことに役立つからだけでなく、それ自体としての価値のことだ。

理解にいつも道具的な価値を求めるのは、「その研究は何の役に立つんですか？」という問いに通じるある種の了見の狭さが漂う。ブラックホールの仕組みや数億年前に絶滅した生物の生態など、私たちは生涯に「使う」当てのない物事の理解を求め、それに価値をおいているようにも思える。

このことを考える時にいつも思い出すのが、漫才コンビ・オードリーの若林正恭さんのエピソードだ。2017年のエッセイ書『表参道のセレブ犬とカバーニャ要塞の野良犬』によれば、若林さんは（おそらく40歳に近い年齢で）大学院生の家庭教師を雇っていた。その家庭教師に若林さんは世界経済について学び、さまざまな疑問を投げかけていたという。

「…「なぜブラック企業が増えたのか？」「なぜ交際相手にスペックという言葉が使われるようになったのか？」…それらの疑問を投げかけたぼくに家庭教師は「若林さん、世界史の教科書の産業革命以降を読んでください。あと、経済学入門と日本史の教科書の戦後以降も…」と言った」（若林 2020, p. 26）

このエッセイで、若林さんは自分が埋め込まれた世界の仕組みを「理解」しようと世界を旅する。自身が生活する東京と真逆の社会システムを見学するため、社会主義の影響が色濃く残るキューバへの一人旅も実行する。自分の人生の背景にあるシステムの構造を理解したいと希求し実際に行動する若林さんの態度が、私は素敵だと思う。

若林さんに限らず、私たち人間はこのような一見なんの現世的な「役に立つ」にも還元されない理解を目指してきたように思われる。自分たちがどこからきたのか、世界はどのように今のような姿になったのかという、ある種のストーリーを求めている。

知りたいから知りたい。理解したいから理解したい。知識の哲学（認識論）では認識的価値（epistemic value）とも言われるこうした価値は、「できることが増えるから」という現世的な価値とは質の違うもののように思われる。しかし筆者は、これをプラクティカルな理解と連続したものと捉えたい。

私たちは、たとえばF=maや線形代数や簿記を理解することで、自らの目的（aim）に沿って行動（action）をとることができる。しかしこの目的というのも、私たちの生活のなかで変わる。6歳のころの人生の目標を、30歳になっても持ち続けている人はほとんどいないだろう。私たちは生きるなかで「やりたいこと」を変えていく。この変化をもたらすのが、一見非道具的に見える理解の機能とは言えないだろうか。つまり、理解というのは「できることを増やす」だけでなく、「何をやりたいかと思うかを変える」作用をもつ。

若林さんが、家庭教師からグローバル経済を学び、キューバに足を運んで異なる社会制度のもとで暮らす人々のことを知りたいと思ったのは、自身の人生の進む方向性を見直すというメタな目的があったのだと思う。理解には、壊れた機械をなおすとか、事業を成功させるといった直近の目的達成に役立つだけではない。そもそもその機械がなんのためにあるのか、達成すべき事業はなんなのかという自身の行動を意味づけることでもある。宇宙の銀河系の離合集散についての理解も、数億年スパンの生命進化についての理解も、その意味では、広義の「役にたつ」に含まれる。私の理解は、私に何かをできるようにしてくれることに加えて、今はできるようになりたい／理解したいとさえ思わないことを含め、できること／理解できることの範囲をさらに広げてくれる。

理解していなくても「できる」こと

理解と「できる」を同一視する見方（★）へのもう一つの疑問として、何かができるために必ず理解が必要なわけではないだろう、というものがある。たとえば、理解していなくても、身体が勝手に動くということがある。一輪車に乗っている小学生は、一輪車の乗り方を「理解している」のだろうか。これは身体に身についた技能ではあるが、狭い意味での「理解している」というカテゴリーからは外してよいだろう。これもある種のモデルを学習することに当たるが、知らず知らずに身につく身体知⁷と、F=maを理解する場合とはひとまず区別すべきように思われる⁸。

一方で、本稿にとってより重要なのは、理解を持たなくても「できる」ようになっていることが増えているようにみえることだ。たとえば、私はWebサイトづくりのためのコーディングをやったことなどなかったが、最近のClaude Codeおよびそのノーコード版のClaude Coworkによって半日でつくることができてしまった⁹。エンジニアとしてOpenAIやテスラの中核的な役割を担ったアンドレ・カーパシー（Andrej Karpathy）はこれをVibe Codingと呼んだ。

Vibe Codingをしている私はプログラミングを理解したのかといえば、明らかにしていない。しかし、私の行動を外から見ている人からは、理解しているように見えるかもしれない。サールは中国語を理解していないが、サールが入った中国語の部屋は中国語を理解しているように見えるのと同じだ。私やサールには理解というモデルがないにもかかわらず、Claude+私、あるいは中国語のマニュアル＋サールは、プログラミングや中国語を理解しているように見える。

ここで起こっているのは、外部モデルの利用である、ということができる。自分の中にないモデルを、外にあるモデルに頼っているということだ。Claudeはプログラミングについて、中国語マニュアルは中国語について正しいモデルを持っているだろう、という信用のもとに、それらに頼っている。いわば、理解のアウトソースがなされている。これは、人と機械の間だけでなく、人の間でもつねに起こることだ。経理担当者が持っている経理についての理解を信用して任せる、など。このように、理解を他者や機械という外部モデルに依存しあうことで、私たち人間は集団として個人では到底できないことができるようになる（湖をせき止めてダムをつくる、1億人から税金を徴収する、etc.）。

したがって、「理解してなくてもできる」ということには、重要な留保がつく。それは「頼っている外部モデルが信用できる限りにおいて」という留保だ。考えてみれば、中国語マニュアルに一言一句従って動くサールは異常なまでにそのマニュアルを信用している。私もかなりの程度、Claude Codeを信じている。この信用が裏切られない限りにおいて、「理解していなくてもできる」という状況が維持される¹⁰。他者や道具やAIを介した理解のアウトソースは、その他者や道具やAIが信用できる場合にのみ自分の「できる」につながる。

ただし、内部モデルと外部モデルは密接にリンクしている。先生から何かを教わるというのは、先生の外部モデルを自分の内部モデルに取り込むことだ。こうした内部モデルと外部モデルの相互作用は、次回以降の課題としたい。ここで言えるのは、前節でみたような「自分が何をしたいのか／理解したいのか」を見つけるための理解は、決して外部モデルにはアウトソースできないということだ。

ここまでのまとめ

ここまで見てきたことを振り返ろう。本稿は、「理解の価値とは何か？」という問いから出発し、いったんは「対象のモデルを自分の中に持つことで、何かができるようになるからだ」という答えを得た。単なる知識（下図のA）とは異なり、理解していることで、私たちは何かができるようになる（図のB1）。

しかし、何かをできるようになるということを超えた理解の価値として、そもそも何をやりたいのかを見つけることにも理解はつながる（B2）。また、理解とは異なるが「できる」につながる身体知（D）の存在に軽く触れた後、外部モデルを信頼することで私たちは知っていないこともできる（C）ことを見た。ただし、その場合にも自分が何をしたいのか／理解したいのかを探すという理解は代替できない。

「知っている」「理解している」「できる」の関係

このように、私の理解というのは世界の中で生き、何かを知ったり理解したり、知らなかったり理解しなかったりしながら、この世界で行為する主体である私にとって固有の価値を持つ。こうした、世界のなかで知り、理解し、行動する主体を、科学哲学者のハソク・チャンは認識エージェント（epistemic agent）と呼ぶ（Chang 2022）¹¹。この言葉を使えば、本稿の結論は以下のようになる。

理解とは、認識エージェントが世界についてのモデルを内部に持つことであり、それは認識エージェントに自分のやりたいことを発見し、実行する（＝できる）能力を与える。

おわりに

前回は「AIは本当に理解しているのか？」という問いを扱った。この問いの背景にあるのは、「人間の理解」というものがあり、それとは「AIの理解（っぽいもの）」があり、それらを比較しようという発想だろう（下図の左）。当然、脳と人工ニューラルネットワークの仕組みの違いを考えれば、両者に大きな違いはあるだろう。

しかし、本稿で扱ってきた理解の「価値」の議論からすれば、人間の理解とAIの理解の違いよりも、自分の理解と自分以外の理解の違いの方が大きいことに気づく（下図の右）。なぜなら、自分にとっては、自分の理解とは本稿でいう「内部モデル」であり、自分以外の認識エージェント（epistemic agent）であるところの他者やAIの理解は「外部モデル」であり、その意味では同列にみなすことができる。このように問題を捉え直すことが、AI時代の理解考ではとても重要なことだと考えている。

より根本的な区別は自分と自分以外？

本稿では内部モデルの獲得として理解を捉えたが、実際にこのモデルはどのようなものなのか。その獲得と更新はどのように起こるのか。それを考えることが次回のテーマとなる。そこでは、機械学習の「世界モデル（world model）」の概念を中心におきながら、理解の作業モデルをつくってみたい。内部モデルと外部モデルがどのように関係し合うのか、また理解は個人的なものでありかつ公共的なものであるとはどういうことかについて、手触りのある理解の理解をつくることを目指したい。

謝辞

公開前の原稿に目を通しコメントをいただいた皆様に御礼申し上げます。

参考文献

• Gopnik, A. (2000). Explanation as orgasm and the drive for causal understanding: The evolution, function and phenomenology of the theory-formation system. In F. Keil & R. Wilson (Eds.), Cognition and explanation. Cambridge, MA: MIT Press. pp. 299–323.
• Wiggins, G., & McTighe, J. 西岡加名恵訳（2012）『理解をもたらすカリキュラム設計：「逆向き設計」の理論と方法』日本標準.
• Grimm, S. (Winter 2025 Edition). Understanding. In E. N. Zalta & U. Nodelman (Eds.), The Stanford Encyclopedia of Philosophy. https://plato.stanford.edu/archives/win2025/entries/understanding/
• 森田邦久（2025）『理系人のための科学哲学（文庫版）』講談社学術文庫.
• Grimm, S. R. (2012). The value of understanding. Philosophy Compass, 7(2), 103–117.
• Barman, K. G., Caron, S., Claassen, T., et al. (2024). Towards a benchmark for scientific understanding in humans and machines. Minds & Machines, 34, 6. https://doi.org/10.1007/s11023-024-09657-1
• プリチャード, D. 笠木雅史訳（2022）『知識とは何だろうか：認識論入門』勁草書房.
• 若林正恭（2020）『表参道のセレブ犬とカバーニャ要塞の野良犬』文藝春秋.
• ポランニー, M. 高橋勇夫訳（2009）『暗黙知の次元』筑摩書房（ちくま学芸文庫）.
• 大屋雄裕（2024）「信用・信頼・信託 ―責任と説明に関する概念整理―」『人工知能』39(3). https://www.jstage.jst.go.jp/article/jjsai/39/3/39_409/_article/-char/ja/
• 山田圭一（2023）『フェイクニュースを哲学する』筑摩書房.
• Chang, H. (2022). Realism for Realistic People: A New Pragmatist Philosophy of Science. Cambridge University Press.

Neural Computers「Neural Computers」というのは、なんだか1960年代の論文といわれても違和感のないような古風なタイトルだが、中身はAIエージェント全盛の現代の次の計算機を構想する最先端のものとなっている。このギャップも刺激的だ。

ラストオーサーは、1990年代から「世界モデル」や「AIの自己改善」などに関する先駆的なアイディアを次々と提唱していたことで知られるJürgen Schmidhuberである。今はKAUSTの教授職とIDSIA（スイスAI研究所）のScientific Directorを務めている。

SchmidhuberとDavid Haが2018年に共同発表した「World Models」という論文があるが、両者に共通するのは、手元で実装できた面白い結果を報告しつつも、その先に広がる世界を、「World Model」や「Neural Computer」といった極めてシンプルな概念とともに構想してみせている点だ。世界観提示型論文とでも呼べるだろうか。

この論文が非常に面白く、かつ自分がこの間、記号創発システム論などとの関連で考えてきたことに関連が深いため、簡単に感想文を書いてみる。

Neural Computerとは何か

この論文が提案するNeural Computer（NC）とは、一言で言えば「モデル自体がコンピュータになる」という構想である。

論文はSection 4の冒頭（Figure 9）で、人間とコンピュータの関係が歴史的にどう変化してきたかを図示している。従来型コンピュータ時代には人間がコンピュータを直接使い、エージェント時代にはエージェントがコンピュータを仲介し、予測のための世界モデル（world model）が参照される。これがNCの時代になると、エージェント、世界モデル、コンピュータという機能が一つのモデル（「学習済みランタイム」）に統合されるという。

出所：Mingchen Zhuge et al., “Neural Computers,” arXiv:2604.06425 (2026). https://arxiv.org/abs/2604.06425 Fig.9

この図を見ると、NCが「エージェントの強化版」でも「コンピュータの上に乗る賢いレイヤー」でもないことがわかる。論文の言葉を借りれば、NCは外側から既存の構造を置き換えるのではなく、分かれている機能を一つの学習機械の内側に取り込む。

なお、この論文はニューラルネットワークのハードウェアについての提案ではない。実際、この研究でのNCの実装も普通のGPUを用いて行われている。David Marrの三階層（計算論／アルゴリズム／実装）でいえば、実装は何でもよい。そのうえで、同じ計算を実現するために今までと異なるアルゴリズムを提示している、という捉え方ができるだろう。

このビジョンのもと、本論文ではその第一歩となるNCを作って見せている。具体的には、ビデオ生成モデルを転用してコンピュータの画面動作を再現する、二つのモデルを作っている：

• NC_CLIGen：ターミナル操作をテキストプロンプトと初期フレームから動画として生成。
• NC_GUIWorld：デスクトップ環境でのマウス・キーボード操作を入力として受け取り、次の画面フレームを生成

どちらも、コンピュータの「見た目の動作」をニューラルネットが内部化できるかの実験となっている。

出所：Mingchen Zhuge et al., “Neural Computers,” arXiv:2604.06425 (2026). https://arxiv.org/abs/2604.06425 Fig.1

これらはNCの構想の中ではあくまで第一歩にすぎず、将来的には、計算・メモリ・I/Oのすべてを学習されたランタイム状態の中に統合した「Completely Neural Computer（CNC）」の実現を目指すという。

私がこの論文を読んで最初に思ったのは、「とても面白い」けど、「すぐには役に立たなそう」だということだった。その理由を、以下で書いてみたい。

計算パラダイムの三段階

谷口忠大は近著『現代社会を生きるための AI×哲学』（ブログ筆者も共著者として加わった）において、3段階の計算パラダイムという整理を発案した。それによると、AIがどのように情報を処理してきたかという観点から、その歴史を大きく三つの段階に分けて捉えることができる。

出所：『現代社会を生きるための AI×哲学』p.53

• 第一段階：記号的AI（1950年代〜）： AIは、チューリングマシンや数理論理学に端を発する「記号的AI」から始まった。デジタルコンピュータが扱う情報は、メモリに格納された0と1のビット列、つまり離散的で曖昧さのない「固いトークン」だ。記号的AIはこの仕組みを直接知能の実現に応用しようとした。人間がルールと知識を明示的に与え、コンピュータはそれに従って推論する。強力なアプローチだったが、現実世界の不確実性や曖昧さを前に壁に突き当たった。記号接地問題、フレーム問題、知識獲得のボトルネックといった根本的な課題が、その限界を示すことになった。
• 第二段階：機械学習（2010年代〜）：その限界を乗り越えようとしたのが機械学習だった。知識を人間が直接プログラムするのではなく、大量のデータから統計的なパターンを帰納的に学習する。情報は固いトークンではなく高次元のベクトルとして表現され、処理は連続的な数学空間の中で行われる。不確実性や曖昧さを許容する「柔らかい情報処理」のパラダイムだ。2010年代の深層学習がこの流れを決定づけた。もっとも、この「柔らかい情報処理」も、その実行基盤は第一段階のデジタルコンピュータの計算能力に依拠している。
• 第三段階：生成AI（2020年代〜）： 2020年代に本格普及した生成AIは、深層学習の延長線上にありながら、質的な飛躍を遂げている。特徴は、自然言語のような「柔らかいトークン」を柔軟に処理・生成できる点にある。「柔らかいトークン」とは、単語やその一部を、文脈に応じて意味が動的に変化する高次元ベクトルとして表現したものだ。少しでも構文が違えばエラーを起こす固いトークンとは対照的に、多少の曖昧さや誤りを含む自然言語を柔軟に解釈できる。チューリングマシンのテープに書かれた「固いトークン」が、人間の言語のような「柔らかいトークン」に置き換わったとも言える。

Neural Computersが目指すのは、固いトークンでの情報処理を、柔らかい情報処理でエミュレートしようという逆転の発想に見える。

なぜ、直近ではNCは役に立たないように思えるのか

谷口はAIの歴史的発展に沿った「段階」として3つの計算パラダイムを描いたが、2026年現在のAIの世界を席巻しているのは、むしろ「柔らかいトークンと固いトークンの両刀使い」であるように見える。固いトークンも依然として有用なのだ。

固いトークンの強さは、その安定性にある。これは、デジタルのビットがノイズに強いという意味での物理的な安定性だけでなく、トークンの「意味」が揺らがないという意味論的な安定性を含む。つまり、従来型のコンピュータでは与えた指示は「水も漏らさぬ」精度で実行される。別の言い方をすれば、ある符合（コード）があらわす意味を定める符号表（コードブック）が確定している。だから、信頼できる。

一方で、固いトークンの弱みはその融通の利かなさにある。一度「バグ」が生じると、思った通りに動かず、システムは失敗する。また、プログラムそのものに新しいプログラムを生み出す能力はふつうはない。だからこそ、「柔らかい」知能の持ち主である人間がプログラムを書き、書いたプログラムのデバッグを行う。自然言語というのは意味が確定しておらず、その意味論的な揺らぎが想像力のもとともなる。この固い符号の世界と柔らかい記号の世界の橋渡しをする専門職としてのソフトウェアエンジニアリングが、一大産業となってきた。

そして今、大流行のClaude Codeなどのコーディングエージェントは、まさにこの柔らかいトークンと固いトークンを使いこなすハイブリッドであると言える。私は昨年末にCursorに触り始めて、このある種の「自然言語と形式言語のミルフィーユ構造」の威力を感じている。自然言語での思考がめぐって形式言語でのプログラムを書き、それが走って実行し、何らかのドツボにはまり込むと、再び自然言語のリーズニングがそこから救出する。それによってどこまでも行ける感覚がある。

これまで「人間＋コンピュータ」が、そして今では「コーディングエージェント＋コンピュータ」が実現してきた知的能力の本質は、固い符号と柔らかい記号のサンドイッチないしミルフィーユ構造にあると私は思っている。デジタルコンピュータの離散的・決定論的なシンボルと、ニューラルネットの連続的・確率的な表現が組み合わさることで、初めて強力な知的システムが成立してきた。

ここで、Neural Computerの話に戻ろう。言ってみれば、NCとは固いトークン使いの部分も含めて、ニューラルネットワークという柔らかい情報処理に取り込んでしまおうという企てである。人間の脳がコンピュータにアウトソースしていた「水も漏らさぬ符号操作」を、自由度が高いが不安定な潜在空間の中でエミュレートしようというのだ。これは果たしてうまくいくのだろうか。

前掲のFigure 9は現在のエージェント＋コンピュータという構造を「分かれている（split）機能」として描き、それをNCが統合するというビジョンを提示している。しかしそのsplitは乗り越えるべきものではなく、固い記号と柔らかいトークンのサンドイッチ構造という積極的な強みに見える。この図では左端には常にHumanが残されているが、むしろ世界モデルを備えたエージェントがコンピュータとの二者結合の中で完結してしまう未来のほうが想像しやすいと思ってしまう。

ブログ筆者により想像しやすい未来

本論文は、Neural Computersが本当の意味でのCNCになるうえでの未解決課題の一つとして「Symbolic Stability」を挙げる。実際に、CLIの実験でも、普通の訓練をしたNCモデルは単純な算術も「CLIもどき」の中で間違える。NC_CLIGenの算術プローブ精度は4%であり、ベースのWan2.1が0%だからわずかに改善はしているが、人間が瞬時に解ける問題をほぼ全滅している。これはそれはそうなるだろうという結果だ¹。人間がコンピュータの力を借りないとできないような論理的・手続き的な情報処理が、NCだけでできるようになるとは俄かには思えない。

しかし主著者のZhuge氏はブログにて、「実際のNeural Computerはまだ3年先だろう」との攻めた予想をしている。どうなるかとても楽しみだ。

Completely Neural Computerという概念が問うもの

本当にNC的なものが使われるようんあるかはともかくとして、科学的なアイディアとしては非常に発想を掻き立てられるものがある。NCがCNCに至るために何が必要か、と考えることには、無数の研究テーマが詰まっているように思われる。

論文はCNC（Completely Neural Computer）だと言えるための要件を四つ挙げている。①チューリング完全であること（特定タスクに限定されず一般的な計算を表現できる）、②普遍的にプログラム可能であること（入力が単発の動作トリガーではなく、後から再呼び出し可能なルーチンとしてランタイムに「インストール」できる）、③明示的に再プログラムされない限り挙動が一貫していること（暗黙のうちに機械が変化しない）、そして④従来型コンピュータを模倣するのではなく、NCに固有のマシン意味論を持つこと。この論文で示した二つのプロトタイプに対しては、著者たちは、①チューリング完全には端緒に触れた程度、②普遍的プログラマビリティはほぼ未到達、③挙動の一貫性は限定的な設定のみで成立、④マシンネイティブな意味論もまだまだこれから、と評価している。

この意味でのCNCが一つのモデルの中にできるためには、従来型コンピュータが使っているような固いトークン、なかでもプログラミング言語のような固い意味（コードブック）が確定したコードがないといけないように思われる。しかもそれを「外」から与えるわけにはいかない以上、それは中から「創発」しなければいけない。加えて、記号創発システム論が言う意味での記号も創発しなければならないだろう。

記号創発システム論（概略は記号創発スタディノートを参照）が主張してきたのは、記号の安定性、つまりある記号が特定の意味を安定して担い続けられるという性質は、個体の内的表象と社会的な相互作用のループの中で生まれるある種のプロセスであるということだ。これは、一個の認知システムが単体で達成できるものではなく、コミュニティとしての集団的なダイナミクスによって担保される。

こう考えると、CNCの中で起こらなければならないのは、人間の技術者コミュニティのようなものが立ち現れ、一定の合意のもとにプログラミング言語をつくり、それをロバストに動かしていくような社会的なダイナミクスではないだろうか。それがNCのなかでできて初めて、「Symbolic Stability」が担保されるのではないか。

こう考えると、CNCというのは、人間と機械のインタラクションを包含するある種の「社会」を一つのニューラルネットワークの中に取り込めるか、という問いに帰結するように思われる。

参考文献

• Mingchen Zhuge et al., “Neural Computers,” arXiv:2604.06425 (2026). https://arxiv.org/abs/2604.06425
• Mingchen Zhuge, “Neural Computer: A New Machine Form Is Emerging,” metauto.ai, April 7, 2026. https://metauto.ai/neuralcomputer/index_eng.html
• 谷口忠大（編）『記号創発システム論』新曜社、2024年
• 記号創発スタディノート、note（連載） https://note.com/symbol_emerg/
• 谷口忠大・鈴木貴之・丸山隆一『現代社会を生きるための AI×哲学』講談社、2026年2月 https://www.kodansha.co.jp/book/products/0000423344

合宿のレポートは、以下の通り公開した。

https://sites.google.com/view/cpc-spring-camp-2026/report

個人用アーカイブの意味で、以下、開催趣旨と編集後記を転記する。

開催の背景

背景

合宿の詳報に入る前に、本合宿の中心的な概念であるCPCとは何か、そしてなぜこの学際的な研究合宿が開催されたのかについて触れておきたい。

記号創発システム論と集合的予測符号化（CPC）

記号創発システム論とは、かつてステファン・ハーナッドが提起した記号接地問題を出発点にしつつ、より根本的な問題としての記号創発問題を問う学理である。人間が用いる記号は誰かが脳に与えたのではなく、成長と他者とのやりとりのなかで獲得され、社会によって意味が作られ変化する。それがどのように起こるのかを問うのが記号創発問題であり、それにシステム的な解を与えようとするのが記号創発システム論である。この分野は2010年ころに谷口忠大によって提唱され、ロボット実装や数理モデルで構成論、つまり「つくって理解する」アプローチをとることを特徴としてきた。

集合的予測符号化（CPC） は、記号創発問題に関する具体的な仮説である。CPCは、脳科学・機械学習で発展した予測符号化（Predictive Coding: PC）と、カール・フリストンらの自由エネルギー原理（FEP）が述べる個体内の予測誤差最小化を、複数エージェントが記号やメッセージを交換しながら分散的なベイズ推論を行う描像へ拡張する。つまりCPCによれば、各主体が身体・感覚運動を通じて世界を内的に表象し、コミュニケーションで互いの予測を更新するとき、集団としてベイズ推論を行うある種のエージェントとして立ち現れる。ここでは、シャノン流の通信モデルが前提とする「あらかじめ共有された符号表（codebook）」を前提とせずに記号を扱い、意味の対応関係そのものが相互作用のなかでいかに創発するかの機序の説明を目指す点で、新しい情報理論でもある。

前回のCPC Camp以降の進展

この集合的予測符号化（CPC）仮説が登場したことにより、記号創発システム論は一気に学際的な展開を加速している。CPC仮説を初めて提唱した2024年論文のOutstanding Article Award受賞、「CPC as a Model of Science」論文の Royal Society Open Science 掲載、カール・フリストンらが展開するActive Inferenceのコミュニティへの接続、ALIFE・IEEE SIIなど国際的な舞台への露出も相次ぎ、海外からの関心が具体的に動き始めた。合宿の開始前日（2026年3月20日）には台湾のオードリー・タン氏やA-LIFE Instituteのメンバーとの共著論文 Symbiotic Alignment via Collective Predictive Codingがプレプリントとして公開された。

谷口が直接関わっていない活動も活発化している。前回のCPC Spring Camp 2025 では、分野をまたいだ濃密な議論が行われたが、そこからさまざまな勉強会・読書会・若手ワークショップや共同研究も生まれている。他方、昨年のCampは「密度が高すぎた」という感想も残した。深い学際対話が始まりかけたところで、時間切れになったような感覚もあった。理論を議論し、成果や計画を具体的に持ち帰るには時間がかかる。かつての重要な学術ムーブメントは対面型の、時間をかけた議論から生まれている。谷口は今年のオープニングで「ダートマス会議は約2か月だった、今の日本でこうした時間が取れないとすれば、その時点で負けている」と述べた。そうした折、Google社による個別の研究ではなくエコシステム構築を支えるグラントの公募を知り、谷口が応募したところ採択された。この資金的バックアップを得て、前回のCampの経験も踏まえ、前回の倍以上となる5泊6日での開催が決まった。

時代的な文脈と合宿の射程

Camp参加者にとっての参加へのモチベーションや背景はさまざまだろう。しかし共有されていた文脈として、昨今のAIの進化が引き続きあったことは間違いない。2025年、生成AIは汎用的な情報処理ツールの段階を超え、自律的に行動するエージェント（Agentic AI）へと急速に転じた。ロボティクスではVLA（Vision-Language-Action Model）が広がってPhysical AIやヒューマノイドへの注目が一気に高まった。同年にはChatGPTのモデル更新を契機に「#keep4o」運動が起き、AIが人間の情動面に与える影響や、人間とAIの「関係性」「意味づけ」が実際的な社会問題として浮上した。2026年に入ると、自律性の高いAIエージェントシステムの普及や、マルチエージェントシステムの実装が進んでいる。個人がつかう便利なツールや対話相手としてのAIから、私たちが属する組織の構成員でもあり、社会に大混乱をもたらしかねない存在になりつつある。異質な知能たちが織りなす社会の安定性と、記号・言語がそこで果たす役割、身体・認知・行動との相互作用を理解することは、社会にとってリアルな課題であるとともに、あらゆる学問領域に対して、それをどう扱うかを問うものとなっている。

この状況に対して、記号創発システム論、そしてCPCは、シャノン＝ウィーバーの通信モデルが置き去りにした「意味」の問題を正面に据え、人間がもつ個人の知能と集団の知能をつなぐ新しい学理を提供しうる。少なくとも、その議論を異分野間で開始するための土台となる。本Campでは、必ずしもCPC仮説に賛同しない参加者も含めて、AIに代表される外部環境の変化の中で必要とされる学際的な対話が目指された。こうした実験的な試みとして、CPC Spring Camp 2026が開幕した。

編集後記

以上、CPC Campの様子を見てきた。本合宿では、記号創発システム論と集合的予測符号化（CPC）がもつ理論的展開と応用の可能性が、学際的に検討された。生命記号論・文化心理学・言語獲得・自由エネルギー原理・社会学・経済学・記号論・メディアアート・音楽・創造性・哲学・ロボティクスという多彩な分野をホームグラウンドに持つ参加者が、CPCという旗のもとで議論に明け暮れた。メイン会場で行われた、いわば「オンレコード」の議論以外にも、自由時間に自発的に生まれた小グループでの議論、琵琶湖のほとりで動画撮影を回しながら行われた討論、夜中まで続けられた懇談、そしてトピックごとに建てられた60近くのSlackチャンネルでも、パラレルに議論が進められた。

CPC Campの開催は昨年に続き2回目となる。前回との最大の違いは、何といっても6日間という会期の長さだろう。実行委員長の谷口から「今年は5泊6日でいく」と聞いたとき、筆者を含めスタッフ一同は驚いた。各自多忙な研究者たちにとって、これだけの時間を捻出するのは容易ではない。それもあり、今回は途中参加・途中離脱の参加者がほとんどであり、相当な苦労を伴う細かい調整のもと、実行された。なかには、滋賀から東京などに戻って用務を済ませ、また滋賀に戻ってくるという往復を敢行した参加者もいた。途中離脱メンバーが持ち込んでくれた議論を受け継ぎ、途中参加のメンバーがまた新たな視点を持ち込む。この長丁場の合宿ならではの新陳代謝を感じることもできた。

終わってみれば、Day 1に谷口が述べた「この時間をとれない時点で負けている」という言葉には説得力がある。この時間をかけたことにより深まった議論が確かにあったと思う。ビジネス系カンファレンスに出たあとにCPC Campに参加したあるメンバーは、いかにこのCampが社交辞令などの儀礼的なコミュニケーションの場の対極にあるかを語っていた。これはそのとおりで、Campで打ち解けたメンバーとは、朝も晩もゼロ秒でお互いが最も知的に関心のある議論を開始できる。そのインタラクションがそのまま自分の「世界モデル」の更新につながる。そして、そのような時間が半日ではなく6日間続いたこと、そのような場は今日の学術コミュニケーションの中では得がたいものになっているように思われる。

具体的に、このようなCampは何を生んでいるのだろうか。冒頭のあいさつで、谷口はCampの成功は「参加者一人一人が何を得たかの総和で決まる」と述べた。つまり、Campのために参加者が呼ばれたのではなく、参加者のためにCampがある、ということだろう。当然、CPCへの関心のありようは参加者ごとにかなり異なっていた。CPC自体を数理的に探究したい人、自身のディシプリンに新しい説明をもたらす科学的理論としての期待を寄せる人、工学的応用の原理と考える人、AIとの共生を考える際の社会の設計原理の手がかりを見出そうとする人、自身の生き方や組織の在り方の指針を求める人。こうした多様な期待に、今後CPCがどこまで答えられるかは未知である。しかし2回目のCampでは同じ課題も再浮上したが、1回目と比べて着実に先へ進んでいる感覚があった。とりわけ、大学院生の方々が、1年を経て研究成果を携え、また新しい問題意識を携えて成長した姿でCampに戻ってきていること、さらに強力な同世代の新しい仲間を連れてネットワークを広げていることが印象的だった。

今回のCampにはAIも参加した。Slackに接続されたClaudeが議論を要約し、人間のやりとりを視聴してリアルタイムにコメントするボットが動き、やがてボット同士の会話が始まり、それを人間が横から観測するという事態が現れた。いまAIは単なるチャットボットにとどまらず、自律的に動くエージェントとして人間の集団のなかへ入り込みつつある。そうした時代に、CPCや記号創発システム論は現実を捉え直す学理として、ますますその威力を増していくだろう。合宿を通じて、そうした手応えを強く感じた。普通の研究合宿なら「新しいAIツールを活用した先進的な会議運営」で終わるところ、CPC Campでは、そのAIの振る舞い自体が、理論が説明しようとしている現象そのものに触れている。人間の議論のなかにAIを招き入れるとは何を意味するのか。説明すべき対象を場のなかで生成し、同時に、新しい技術的存在によって集合的知性を組み替える。そのように議論が進んでいったように見えた。

2回目のCampを経て、このコミュニティの活動はどこへ向かうのだろうか。招待制をとった本Campは、人数の制約や各人の予定により参加いただけなかった方も多い。今後はCamp以外にも、より開かれた形での学術発信や議論の場づくりが予定されている。たとえば、自由エネルギー原理に関する国際学会IWAI 2026との連携深化やIEEE ICDL 2026への発表が計画されており、アウトリーチ面でもCPCチュートリアル動画のYouTube公開やCPC若手の会の発足が話に出た。そのほか、CPCに直接・間接に関連した活動が、各参加者の研究・実践のなかで動き始めている。

そうした活動が、Campのなかでも議論した「学術的ムーブメント」として、どのように花開いていくことになるかは分からない。しかし、CPCというアイディアの周りに今日稀に見る超学際対話の場が開かれていること、そして、この5泊6日の間に次の展開に向けた多くの種が蒔かれたことは間違いない。

＊＊＊

前回、1年前のCPC Campは自分にとっても大きな経験だったため、今年もとても期待して参加した。ただ、業務受託先の仕事が佳境であったこと、参加当日の体調が思わしくなかったこともありかなり不安だったが、始まってみれば会議のバイブスに何となくなじみはじめ、体調も最後まで大きく崩すことがなく参加できた。

以上に書いたように、とても充実した合宿であり、このような学際対話の場がほかにどれくらいあるのかはわからないが、非常に大事な場になっているのではないかと感じた。そのうえで、以下では、Campを経て私自身が得た非常に個人的な気づきを書きたい。

とても個人的な感想

CPC Campでしか味わえない体験がある。それはSlackというコミュニケーションツールによるところが大きい。CPC Campでは、全員が注意を向けている「番組」としてのメイントークの裏で、複線的にSlack上で議論が流れる。トークが行われていない時間にも、60近く存在しているチャンネルで、誰かが議論を続けているのである。それに自分自身加わりながら、全体として誰が何を考え、誰と議論しているのかを追う。もちろん、Slackに書き込まれることは、60名の参加者が6日間の間に行ったインタラクションのうちのごく一部が記録されているに過ぎないだろうが、それでも、自分が直接見聞きできることの数倍ないし数十倍のインプットがある。これを追うのはものすごく疲労するのだが、私にとっては非常に楽しいことでもある。

複線的な学術的な議論を追いかけるのが、私にとってなぜこんなに楽しいのか。今回のCampで、その理由が割とはっきりわかったような気がしており、それが私にとっての個人的な収穫となった。自分が何かを学ぶのが好きだと思っていたのだが、それと同時に、「人が集団として何を学習したのかを知りたい」という欲求を持っているようだ。

思い当たる節がたくさんある。たとえば私は大学2年生くらいから、かなりの頻度で講義で質問する学生だった。それは純粋に知りたいことを聞いているという面もあったが、その講義で生じているであろう集合的な学びを確かに受け取ったことを表明したいという意図もあった。講師が授業で強調したかったと思われるような重要ポイントに絡めた質問をすることで、確かにそれを受け取った学生がいることを講師に伝えつつ、他の学生たちのアテンションもそのポイントに向けてみる。これによって、その講義がよりよい学びの時間として、成立する。そんなイメージがあったかもしれない。もちろん、その成否はわからない。

あるいは、大人になってから参加した数多くの対談イベント、パネルディスカッション、シンポジウム等では、私はプレゼンターAが述べたこととプレゼンターBが述べたことに絡めた質問をする傾向がある。これは、AとBの話に、自分の質問が補助線として機能し、「その会全体として」何が議論されたのかを把握しやすくなるのではないかとの思いからである。もちろん、それがうまくいっている保証はない。また、普段の仕事でも私は議事録を作るのが好きなのだが、これもまた、「その場」で生まれた知的成果を丸ごと把握したいという欲求がなせることだと思われる。

CPC Campに臨むにあたり、私は「生活者のためのCPC」という15分のトークを用意した。その中では、CPCや記号創発システム論の枠組みを使うと、「私にとっての理解」と、「集団としての理解」を、AI／機械学習の用語を援用して、My World Model（MWM）とCollective World Model（CWM）という二つの階層に分けて理解することができるのではないか、という提案をした。そのうえで、「My World Modelの世話ができるのは自分だけ」という、AI時代の自己啓発的な標語を提示してみた。一方で、MWMとCWMの区別は、意図したわけではないのだが、CPC Campにおける自分の行動、そして自分の20年来の志向性を理解するためにも役に立つものであった。

どういうことかといえば、私には「自分のMWMの世話をする」だけでなく、昔から「CWM（collective world model）を掴みたい」という欲望があるらしい。会議に参加しながら、可能な限りすべてのSlackでのやり取りを眺め、それらに自分なりの脈絡をつくりたい。何とか小さな自分の頭で、「この会に参加した”みんな”が総体として何を理解し得たのか」を捉えたいという欲求である。個人の認知能力では到底不可能な欲求ではあるものの、これが強いことが、自分のこれまでの物事への関心の持ち方を説明するように思った。そしてこれが、「講義」や「シンポジウム」や「合宿」を超えて、科学コミュニティ全体でみたいな話になると、私のメタサイエンスへの関心につながる。

この、CWMとMWM、そして「理解」の問題については、「AI時代を生きるための〈理解〉考」でじっくりと書いていかなければいけないと思っている（時間をなんとかとらねば…）。

自分の頭という器に入れなければならないちっぽけなMWMで、人々の集合的な知であるCWMを捉えるという課題におけるAIの可能性は、今回のCPC Campで個人的にも一つ大きなテーマとなった。具体的には、昨年のCampと違って、自分の手元でもClaudeを目いっぱい動かし、Slackや手元のメモをコンテキストに入れながらまとめを生成し続けた。ブロードリスニングのように、AIをある種の記号処理能力の拡張のために使う可能性を肌で感じることができた。MWMとCWMの接合部分にAIが差し込まれた時に何が起こるのかというのは、実践的にも、CPCの理論的にも、これから大変興味深いところだと思う。

以上、とても局所的な、自分自身についての学びについて備忘的に書いてみた。CPC／記号創発システム論には、このようにある種の自分自身、あるいは集合知を発揮する集団としての「われわれ」自身について教えてくれる自己啓発／われわれ啓発としての使い方があると思っており、今後はあくまで学術的に健全に発展していくことが第一義であることは押さえつつ、そのような「生活者のための」含意についても個人的には掘り下げていきたい。

＊＊＊

最後に、この合宿を構想し、入念に企画し、当日もリードし続けてくださった谷口忠大さん、そして数か月前からロジスティクスを統括された林祐輔さんをはじめとするコアスタッフの皆様に深く感謝申し上げます。また、お忙しいなかCampにご参加いただいた皆様にも、重ねて御礼申し上げます。

麦とTwitter: 情報技術がもたらすコミュニケーションの変容

• 作者:久木田 水生
• 共立出版

Amazon

本書には、本書を要約するようなわかりやすいアーギュメントはない。それが、本書の特長であるように思われた。なぜなら今、AIなりSNSなり、技術を語る言葉には、常に明確なポジションがこびりついているからだ。それは、「AIを使え」といった推進側のポジションであったり、逆に技術がもたらす危険に警鐘を鳴らすポジションであったり、あるいは著者独自の学術的コンセプト（例：「監視資本主義」）を売り出すポジションであったりする。

対して本書『麦とTwitter』は、極めて淡々と、ゲーム依存が子供にもたらすかもしれない影響について、AIによる意思決定が社会全体にもたらすかもしれない影響について、バーチャル化するコミュニケーションの可能性と影響について、事例や学説を道案内してくれる。そしてそこには、研究者としての著者とともに、現代社会を情報技術とともに生きる生活者としての著者が顔を出す。生活者として悩みながら、自分自身の問題として向き合っていることが伝わってくる。このスタンスで書かれているからこそ、多くの人の参考になる、と私は思った。

この本を通しての一つの重要なテーマは、情報技術を使うことで、自分たち自身の価値観が「変容」するということだ。これはよくわかる。Twitterが出たばかりの頃、それにのめり込む周りの友人の気が知れなかった。しかし数年経てば自分もすっかりのめり込み、10年以上、ヘビーユーザーとなった。Twitterは自分のコミュニケーションの主なツールの一つとなり、Twitterをきっかけに出会った知人も多いし、私のキャリア自体がTwitterを軸に作られてきたような気がする。本書のタイトルに準えて言えば、Twitterは私にとって米や「麦」を食すことと同じくらい、自分の生活や人格形成の一部となっている。

こうした、技術と自己の絡み合いのなかで、「客観的」に技術の影響を見つめ語ることは難しい。だからこそ、得てして、もしかしたら自分自身も信じていないような極端なポジションをとり、ある種イキりながら語られる言葉が増えてくるのだと思う（ビジネス的にも、学術的にも）。著者はこの本を2019年から書き始めたというから、構想・執筆に6年はかけていることになる。それだけ落ち着いて、こうしたテーマについて言葉を発せる人は稀だろう。

情報技術によって変わりゆく私たちが少しでもマシな方向に変わっていけるようにするすべを一度冷静に考えてみたい人に、広く読まれて欲しいと思う。

明日からまた本務で忙殺されるため、感想を書きなぐってしまおうと思います。

＊＊＊

二日間のプログラムでは3つの基調講演と5つのセッションが組まれ、メタサイエンス運動の国際動向、科学の計量的な分析であるScience of Science、私がオーガナイザーを務めたAI for Science、多様な分野におけるオープンサイエンスの批判的検討などに関するセッションに、20〜30名の登壇者が話題提供を行いました。

メタサイエンス研究会のコアメンバーの尽力（資金提供を含む後援は広島大学）で実現したイベント。予想を超えて充実した2日間でした。メタサイエンス運動とは何か、ということを私は2023年くらいから折に触れて紹介してきたのですが、「メタサイエンス」を冠するイベントに、学術界、官庁、産業界から100人以上の方が集まる状況になったことには感慨がありました。

個別の発表については、手元の速記メモをまとめる余力がないため、ここでは個人的なtake homeをメモしておくことにします。極めて抽象的な内容になります。

＊＊＊

なぜ「メタサイエンス」（現代的なメタサイエンス運動における意味でのメタサイエンス）の議論をする必要があるのか。それは端的に言えば、①科学というのが本質的に社会的な営みであり、しかも②変化するから、だろうと思います。

科学は知識を生み出す活動ですが、それを人間集団が集合的に行います。だからおのおのが自分ルールでやるわけにいかず、科学の「やり方」についての合意がいる。妥当な知識とは何か、どのような知識に価値があるか、集団としてどのようにそれを追求するとよいのか、各個人の貢献をどのように評価するのか、誰がどのようにその活動にリソースを提供するのかといった、「営みとしての科学のやり方」のそれぞれの部分においてコンセンサスが必要になります。しかも、科学はその都度変化するので、一回合意を見たやり方を続ければよいということではなく、常に新しい技術的・社会的環境に合わせてアップデートが必要になります。

科学哲学などの伝統的メタサイエンスはそれ自体を探究の興味対象として行ってきたわけですが、それ以外の、科学や研究に関わる人々も、それを淡々と「やる」だけではなく、それをどう「集団としてやるべきなのか」について考えるという「メタ」な視点に立つことを求められるし、促される。それが現代的なメタサイエンス運動なのだろう。ここまでが、私を含め「なぜメタサイエンスにかかわるのだろう？」 という問いに対する、私がこの二日間で得た暫定的な答えでした。

＊＊＊

その上で思ったのは、このコンセンサスをつくる「単位」についてでした。当然、科学・学術は多様であり、異なる分野にはそれぞれの事情があります。国や文化によっても理想的な科学者像が違っているかもしれないという話も、2日間のあいだに数回聞かれました。

しかし私が感じたのは、分野や国といった境界よりもさらに細かく、「科学のやり方」を共有するコミュニティのサイズが小さくなるのかもしれない、ということでした。

一例を挙げれば、AIエージェントに研究を行わせて研究論文も書かせ、自身は「研究の責任者」としての役割を果たす、そうしたスタイルの研究者像が現実のものとなるなかで、研究者の中にはそのような働き方にシフトする人もいます。一方で、あくまで自分で論文を書くことを旨とする人もいます。そうなってくると、人によって研究論文の意味も読み方も変わってくるはずです。

これはあくまで一例で、科学に対する社会的な期待の変化や、AIを代表とする研究の基盤的技術の進展、世界的な研究者数の増加など、さまざまな要因が絡み合うなかで、「科学とは何か」「科学は何を目指す営みなのか」という「価値観」が細分化するとしたら、同一基準で研究を評価することも難しくなっていきます。いま、科学にはそうした遠心力が働いているように私の目には見えます。

今回のミートアップには科学技術行政の関係者（文科省やJST）の方が多く来ており、それはものすごくエンカレッジングなことだと思ったのですが、行政にとってはものすごく難しい事態だとも感じます。なぜなら、これまで分野に多様性はあれど、「科学」「技術」「学術」というものがあり、それに対して資金配分をはじめとする制度を作っていくということになっていたわけですが、科学・学術が「価値観」のレベルで細分化していくことは、特に中央省庁の政策づくりにおいて、問題自体を確定することができないというような難しい事態につながるのではないかと思います。

最後に林和弘さんが、移ろいゆく科学を捉えるという困難と面白さに触れ、「創りながら理解する所作がこれからのメタサイエンスに求められている」とおっしゃいました。その必要性は「科学が多元化する状況」という理由からもいえることだと思います。つまり、一つ、ないし少数の科学という考え方が保持できないのであれば、それをカタログのように集めるのではなく、自分たちが求める科学を作ってしまうほうが速いのかもしれません。

そこで問題になるのは、私が会期中に高木志郎さんとDiscordで少し議論していたように、どれくらいの規模でやるのが良いのだろうか、ということです。科学は社会的な営みである以上、一人で「新しい科学のやり方」をつくることはできません。せいぜい50人くらいでしょうか。それくらいの単位で「自分たちが思う科学のやり方」を提案し、資金を集め、試してみる。これが、アカデミスト柴藤さんがいう、研究者のビジョンを起点にもつ研究活動が分散的に起こっていくという研究エコシステム像とも呼応するように思います。

こう考えると、メタサイエンスの議論や科学政策に求められることも見えてきます。新しい科学のモードが百出することを「前提」に、そこに「大きなコンセンサス」をもたらそうとするのではなく、多様化を促しつつ、よりよいものを伸ばす土壌をどう作るかということこそが、分野横断的なメタサイエンスや政策の目線で求められることではないでしょうか。初日には、英国の科学政策の実験精神や、日本の文科省でも無謬主義を脱して失敗を許容し試してみるという話が出ていました。

＊＊＊

以上、書きなぐりのハイパー抽象的な感想です。参加された方からすると、「そんなことになるの？」という感想になるかもしれませんが、ひとまずこの二日間で私が考えたことは以上です。

「これが私たちがやりたい科学のやり方だ」という科学のモードを作ってみせる運動に関わりつつ、その相互の翻訳や比較を行う俯瞰的な視座を持つこと。そしてそれがどのように展開しているのかを見渡しながら、できるだけ異なるモードの科学同士、あるいは科学の外のコミュニティとのあいだに対話可能な空間をつくること。それが、目いっぱい抽象的に言った場合の「メタサイエンス・コミュニケーター（たる私）」のこれからの役割なのだろうと思いました。

第0回で述べたように、本連載では、生成AI時代に「理解」という営みを理解し直すことを目指す。今回は「LLMは理解しているのだろうか？」という問いを取り上げ、生成AIブームの前後の議論を概観する。

第0回はこちら⇩

【AIと生きる時代の〈理解〉考】第0回：連載を始めるにあたって - 重ね描き日記（rmaruy_blogあらため）

【目次】

• 「LLMによる理解」に驚き直す
• 大規模言語モデルとは何か
• 言語モデルは「理解」しているように見える
• AIは「本当の理解」ではない論（1）生成AI以前
• AIは「本当の理解」ではない論（2）生成AI初期
• 2026年、もはや「理解していない」と言いにくいが…
• 直観を更新する
• まとめ
• 謝辞
• 参考文献

「LLMによる理解」に驚き直す

大規模言語モデル（LLM）は言語を理解しているのだろうか。

これは2022年のChatGPTの登場以来、盛んに繰り返された問いだ。日常的にLLMを使っている人にとっては、何をいまさらと響くかもしれない。自然な対話ができるAIはもうここにある。いまさらそれが「理解しているか」など考えても意味がないようにも思われる。

そこで、感覚を2022年以前に戻してみよう。

LLMのようなニューラルネットワークがChatGPTのような能力をもてるようになるとは、当時はほぼ誰も予想していなかった。2011年から十年間行われた、AIに日本の大学入試問題を解かせる「ロボットは東大に入れるか」プロジェクトがある。プロジェクト期間中、「東ロボ」は着実に点数を伸ばしていったが、当の開発者たちも東大入試に実際に合格できるレベルまではいかないとみていたようだ。プロジェクトを率いていた国立情報学研究所の新井紀子氏は、2019年11月に次のようにTwitterに投稿している。

私自身の意見としては、「さすがに東大は無理だろう」と思ってはいます。だって、意味がわかってないから。でも、人も意外に意味がわかってないのに解いているっぽいので、もしかするともしかするかもしれないな、という気はします。

―—新井紀子氏ツイート：https://x.com/noricoco/status/1196351966714060801　（太字は引用者）

「意味がわかってないから」と新井教授は書いたが、AIは言葉の意味を理解しないというこの想定は、当時は全く普通のものだったはずだ（2010年代に理工書の研究者として多くの情報系研究者とも話す機会があった筆者の感覚による）。

なお、このツイートで東大合格について「もしかしたらするともしかするかも」という留保がついているのは慧眼だった。実際に、その後AIはゆうに東大に合格できるレベルの実力を獲得したからだ¹。では今日のAIは、「理解」できるようになったから東大の試験を解けるようになったのか。あるいは上記ツイートにあるように「意味がわかってない」にもかかわらず解けるようになったのか。これは「わかる」ことと「できる」ことの異同という、この連載で何度か考えることになるテーマにつながる。

ともかく、無理だと思われていたAIの能力の実現は、2010年代末からの大規模言語モデルの発展によるものだった。その驚きが一つのピークとなるのが、2022年11月のChatGPTの登場だった。

ChatGPTのデビューまもない2023年3月14日、沖縄で言語処理学会第29回年次大会（NLP2023）が開催された。そこでは「緊急パネル：ChatGPTで自然言語処理は終わるのか？」というセッションが設けられ、日本を代表する自然言語処理の研究者たちが、ChatGPT登場のインパクトについて熱く議論を交わした。LLMによってそれまでの自然言語処理の研究の多くは乗り越えられ、これから時代が始まるという意識が共有されていた。その議論を振り返ると、当の研究者たちにとってもChatGPTの性能が驚くべきものだったことがうかがえる。たとえば「なぜ英語で主に訓練したLLMが日本語でうまくいくのか」という「謎」が提示されている（例：鈴木潤氏スライド）。

それから3年たち、驚きは薄れたように見える。では当初の「謎」は解消されたのか。この間にもLLMは大きく進歩し、ChatGPTやGeminiはこちらの指示を理解していると言っても全く違和感がないレベルになった。一方で、あらためて「LLMは理解の能力を持ったと考えているんですね？」と問われると、Yesと答えることにはまだ躊躇も残るのではないだろうか。本連載としては、この躊躇を大事にしたい。そこに、AI時代に個人として理解という営みと向き合うヒントがあると考えるからだ。

そこで、本稿では、LLMの理解を巡る過去数年の議論や、それより前からある「AIの理解］を巡る哲学的な議論を振り返る。それを通して、

• あらためて「LLMは理解しているように見える」という事実に驚き直しつつ、
• LLMは「本当の意味で理解していない」と言いたくなる理由について理解を深める

ことを目指す。

その前で二点ほど注記しておく。まず、本稿では「理解」を定義しないで話を進める。「LLMは言語を理解しているのだろうか」への答えは当然「何をもって理解とするか」による。それで話が終わってしまっては面白くない。むしろ定義論に立ち入らなくても、いろいろと考えることはできる。本稿では、理解の定義はいったん宙に浮かせておいて、日常的な「理解」の語感に頼る。

また、これから扱うのは「LLMは言語を理解しているのか？」という問いであり、「AIは理解しているのか？」ではない。厳密に言えば、LLMはAI技術の一つにすぎないし、理解は言語理解よりも広い。とはいえ、2020年代の「AIの理解」という問題の中心的な部分が「LLMによる言語理解」にあることは間違いと考える。なお、本稿におけるLLMとは、厳密には「LLMを中核に据えたAIシステム」のことである。たとえばChatGPTは厳密にはGPT3.5などのLLMを内蔵したサービス／システムである。事前・事後学習済みの「生」のLLMには「理解」と言えるような能力はなくても、それを含むサービス／システムになると理解の能力が発現するということは十分に考えられる。本稿の「LLMは理解しているのか？」という問いは、厳密には「LLMを中核に据えたAIシステムは理解しているのか？」と読み替えてもらってもよい²。

大規模言語モデルとは何か

LLMの能力に「驚き直す」ために、その仕組みをごく簡単に振り返る。

大規模言語モデル（LLM）とは、大きな言語モデルのことであり、言語モデルとは、言葉（単語や文など）の出現確率を表す確率分布を意味する。言語モデルがあれば、私がこれまでに書いた文をもとに、その続きにどんな文字が並ぶ確率が高いかを計算できる。たとえば、「この文章にはどんな文字が続くだろ＿＿」という文字列のあとには、「うか？」という3文字が続く可能性が高いという推論が可能になる。言語モデルとは、膨大な言語のデータを使って学習したこの確率分布のことだ。

文の末尾の3文字を当てる言語モデルを作ることは、2000年代の自然言語処理の手法で十分可能だった。しかしそれでは、短いプロンプトからその続きを丸ごと生成することなどはできない。それを可能にしたのは、2010年代の終盤に提案されたTransformerというニューラルネットワークのアーキテクチャーと、大規模コーパスを「答えのある穴埋め問題」にして解く自己教師あり学習（self-supervised learning）の方法だった。これらの手法によって、非常に大きな言語モデルを効果的につくれるようになった。

Transformerにおいて、長い文脈（context）を扱えるようにした一つのブレイクスルーが自己注意機構（self attention mechanism）だった。自己注意機構は「過去の自分の途中処理結果」に注意を向けることであり³、これにより文章の遠く離れた情報も活用して次の単語を予測するようになった。さらに、単語を予測するだけでなく、プロンプトに書かれた指示に応じて自身の応答を変えるin-context learning⁴ができるようになった。同じニューラルネットワークなのに、あたかも入力に応じて学習し直しているかのような、柔軟な対応ができるようになったのだ。

すると、単に文末を補完するだけでなく、ある一行の文から、それに続きそうな文章全体を生成できるようになった。たとえば「昔々あるところにしがない会社員がいました。」というプロンプトを打ち込んでみると、LLMは、

「その会社員の名は佐藤。毎日、満員電車に揺られては「承知いたしました」と「申し訳ございません」を交互に繰り返す、絵に描いたような「平均的サラリーマン」でした。しかし、彼にはひとつだけ、誰にも言えない秘密がありました。」

などという続きを返してくれる（2026年1月のGemini 3.0 Pro）。

LLMはこのままでは「人が書きそうなことを出力する」装置にとどまる。書類や物語の「続き」を作るには使えても、今日のような対話システムにはならない。そこで、入力と応答のセットを教え込むインストラクション・チューニングや、LLMが生成した文章に対して有用性などの観点から人間が評価してニューラルネットワークを再訓練するRLHFといった手法が、事後的に組み合わされるようになった。これらはまとめて事後学習（post-training）と呼ばれる。事後学習により、LLMは「人が書きそうなこと」に加えて、「人が書いてほしいこと」を書けるようになった。

言語モデルは「理解」しているように見える

巨大な確率分布を体現したニューラルネットワークであるLLMは、「人が書きそう」かつ「人が書いてほしい」ことを書けるようになった。では、それは言葉を理解しているのだろうか。

専門家たちの意見も分かれている。

2022年に自然言語処理研究者を対象に行われたサーベイ（Michael et al. 2023）では、LLMが理解できるようになるかを尋ねている。具体的には、「テキストデータのみで学習した生成モデルでも、十分なデータ量と計算リソースがあれば、ある程度の実質的な意味において自然言語を理解できるようになる可能性がある⁵」かどうか尋ねる項目に対して、480人の回答者のうち51％が同意し（agree/weakly agree）、49％が反対（disagree/weakly disagree）だと回答した。自然言語処理の研究者でも、見解が分かれていることがわかる。

2026年現在に同じアンケートを行ったらどうなるかは興味深いところではある。筆者の予想では同意は4年前より増える一方で、依然として同意しない研究者もいるのではないか、というものだ。

これだけ流暢にAIが言葉を操る時代に、それが言葉の意味を理解していないと考える理由はどこにあるのだろうか。LLMの登場以前から存在している「AIは理解していない」論を振り返ろう。

AIは「本当の理解」ではない論（1）生成AI以前

LLMの遥か前から、AIの研究者や哲学者は「AIは理解できるか」を検討してきた。

その代表例が、現代を代表する言語哲学／心の哲学者のジョン・サール（2025年に死去）による有名な1980年の論文「Minds, brains, and programs」である（Searle 1980）。この論文でサールは、プログラミングによってつくられた計算機が「考える（think）能力」を持つとする、いわゆる「強いAI（strong AI）」の想定に反駁するために、有名な「中国語の部屋」の思考実験（Chinese room argument）を提起する。

サールは、中国語を理解していない自分⁶が、ある部屋に閉じ込められている状況を想像してほしいという。そこには、いくつかの中国語のスクリプトと、英語マニュアルが投げ込まれる。サールは自分が読めない中国語を、英語のマニュアルに対照させながら中国語の出力に変換する。この部屋を外からみれば、中にいるサールは中国語の指示を理解して中国語で応答しているように見える。しかし、サール自身は全く中国語を理解していない。この比喩によってSearleは、プログラム（〜マニュアル）を与えて指示を実行するコンピュータ（〜中国語の部屋の中のオペレーターに過ぎないサール）は、決して言語を理解していないのだ、と主張する⁷。

一見、これは現在のLLMにも使える論法のようにも思える。LLMは中国語の部屋のようなもので、そのなかにあるのは巨大なマニュアルのみであり、そこには誰も「理解」の主体はいないのかもしれない。ただし、サールがターゲットにしていたのはあくまで記号を操作する形式的なプログラミングに基づく人工知能であったことには注意が必要だ。仮に中国語の部屋の論証が成功していたとしても、それがLLMが理解していないことの論証にはつながらない⁸。

中国語の部屋と並んで常に持ち出されるのが記号接地問題である⁹。

この問題の前提には、20世紀に主流であった記号的AI（symbolic AI）の想定がある。記号的AIは、人間が扱う概念を「記号」としてコンピュータに与え、その記号の操作によって、人工知能が実現できるという考え方である。たとえば「りんご」という記号に「果物である」という属性を結び付け、さらに「果物」に「食べられる」という属性を結び付ければ、AIは「りんごは食べられる」と推論できる。より複雑な推論もすべて、こうした記号操作で実現できるのではないかという想定である。

そうした中、ハンガリー出身カナダ在住の認知科学者ステヴァン・ハーナッドは、1990年の論文にて、記号接地問題（symbol grounding problem）を提起する（Harnad 1990）。彼が指摘したのは、コンピュータが扱う「記号」は、別の「記号」と連結しているだけで現実世界とつながっていないということだった。それは赤ちゃんに中国語の辞書だけを与えて、言葉の意味を学べというようなものではないかと（ここでも中国語が登場する）。「記号」同士でしかつながっていないコンピュータの「記号」を、どう現実世界に立脚させるか、すなわち「接地」するかが難題だというのが、ハーナッドが提起した記号接地問題であった。

今日の大規模言語モデルは、しばしば「記号接地していない」と言われる。たとえば、認知科学者の今井むつみ氏と言語学者の秋田喜美氏は、今日のAIを、

「記号接地をせずに、ことばや数字という記号それぞれの「意味」を本来的に理解しなくても、ビッグデータの中の記号を漂流し続けて「学習」できるAI」
―—今井・秋田 （2023）

と特徴づけている。いくら流暢に言葉を使い、かつそれを学習できたとしても、それは記号の世界の中で学んだものであって、現実世界に「接地」していないために「理解」はしていないという議論だ。

一方で、記号接地問題を、記号的AIの時代の問題と位置付ける見方もできる。21世紀は、記号的AIに代わりニューラルネットワークの時代となった。そこでは人間のプログラマが「記号」を明示的に与えるのではなく、AIに与えた種々のデータからAIが表現を学習していく。その過程では、ある意味では記号接地ができているといえる。ハーナッド自身も、ニューラルネットワークによるアプローチ（コネクショニズムとも呼ばれる）を、記号接地問題を解く方法の一つの有力候補として挙げていた。

たしかに、自然言語だけで学習した大規模言語モデルは、「リンゴの赤さ」を見たことも「リンゴの味」も知らない。しかし、大規模言語モデルが出力する「リンゴ」という単語は、私たち人間にとっては現実世界に立脚したものである。AIが処理する「リンゴ」という記号はそもそも私たち人間が作ったものであり、AIに学習データを提供した私たちを通して世界に接地しているとみることもできる。この観点から、AI・ロボット研究者として記号創発システム論を掲げる谷口忠大は、ハーナッドの意味での記号接地問題は乗り越えられており、本当に問うべきは人間（やロボット）はどう集団的に記号を作り出し、個として記号のプロセスに参加するようになるのかという「記号創発問題」だと述べている（谷口 2016）。

「中国語の部屋」と「記号接地問題」という、20世紀からある「AIが理解していない」議論で持ち出される概念の代表格についてみてきた。もっとストレートに計算機が理解できるわけがない、という人もいる。前述の新井紀子氏は、2018年の著書で、計算機にできるのは四則演算だけであり、それに基づくAIは「意味を理解してない」と述べている（新井 2018）。新井氏のこの記述に対して、言語哲学を専門にする次田瞬氏は2023年の著書にて、AIの処理が単純な四則演算に還元できることは、AIが意味を理解しないと断じる決定的な理由にはならないのではないか、と指摘している（次田 2023）¹⁰。

AIは「本当の理解」ではない論（2）生成AI初期

実際にLLMが登場して以降は、どのような理由で「AIは理解していない」と言われてきたのだろうか。

ChatGPT登場前後によく言われていたのは、どんなに巨大な言語モデルも、その実体は「人が書きそうな言葉を生成する確率分布」にすぎないということだった。LLMは「洗練されたオートコンプリート（自動補完）」装置であるといった言い方がよくされた。やっていることはワープロソフトの機能の延長上にある。GPTが示すオートコンプリート能力はそれ自体驚くべきものだが、何かを「理解」したうえで言葉を発する私たち人間の言語運用とは別物だというわけだ。

実際、「LLMが理解していない」ことを示す具体的な証拠もあった。たとえば、2020年くらいのLLMは簡単な算術計算ができなかった。GPT-3を分析したOpenAIの論文は、二桁の足し算は100％の近いものの、3桁、4桁、5桁となるにつれて正答率がガクンと落ちる（Brown et al. 2020）。これは足し算という算術処理を「理解」していれば起こらない間違え方だ。ただし、その後、LLMの算術計算の誤りは急速に下がっていった。それはChain-of-thoughtと呼ばれる長期的な思考、強化学習を使った数学的推論の教え込み、Pythonなどの外部ツールを活用する学習など、さまざまな機能がLLMに追加されたことによる。

あるいは、深層学習の立役者の一人であるヤン・ルカン（Yann LeCun）は、言語データだけから学習した言語モデルの理解の能力には限界がある、という論を「AI and the limits of language」と題したエッセイで展開している（Browning & LeCun 2022）。

これらの［LLMにもとづくAI］システムは、人間が持つ血の通った思考（full-bodied thinking）には決して及ばない、浅薄な理解に留まるのは明らかだ。これは、LLM（大規模言語モデル）の言語理解が、目覚ましいものではあるものの、結局は浅いからである。こうした「浅い理解」は馴染み深いものだ。自分が何を話しているのかも理解しないまま専門用語を使う生徒は、教授やテキストの物まねをしているに過ぎない。

―—Browning & LeCun 2022（翻訳は筆者）

このエッセイでルカンらは、「言語のみで学習したシステムは、たとえ今この瞬間から宇宙の熱的死に至るまで学習を続けたとしても、人間の知能に近づくことは決してない¹¹」とまで言っている。このAIは「物まね（mimicking）」しているだけという感覚は、LLM普及初期にはよく用いられていた。「確率論的なオウム（Stochastic Parrots）」や、「巨大な参照表（giant lookup table）」といった表現もなされた。

2026年、もはや「理解していない」と言いにくいが…

しかし2026年の現在になってみると、威勢よく「LLMは理解していない」という人は少なくなってきたように見える。一つには、ルカンがいっていたような「言語の限界」を超えるべく、LLMがどんどんマルチモーダル化したことがあるだろう。Gemini 3.0に至って、LLMは将棋を指せるようになった¹²。また、Webサーチ機能をはじめとするツール利用機能を備えるなど、できることがどんどん増えていった結果、「理解していない」ないしは「理解が浅い」ことをわかりやすく示す例も減ってきた。それでも、一部はLLMはまだハリボテのような理解しか示さないという議論もある（例：Mancoridis et al. 2025）。

サンタフェ研究所のメラニー・ミッチェルとデイヴィッド・クラカウアーは、「LLMの理解をめぐる論争」という2023年の展望論文にて、この論争において専門家が異なる直観を表明している状況を受けて、ありうる三つの考え方を提示している（Mitchell & Krakauer 2023）。

• 1) 言語トークンのみで学んだLLMが何かを理解しうるというのは単純にカテゴリーエラーである。つまり、理解という概念を間違って帰属させているだけである。
• 2）LLMは近いうちに、人間の理解にとって中心的な役割を果たす「概念に基づく心的モデル」を獲得し、人間のように理解できるようになる
• 3）そうした概念をもたずしても、LLMは人間の理解と機能的な等価な能力を獲得する

そのうえで、彼女らは、AIの理解というものを扱うために、知能の科学を拡張していく必要があるだろうと提起している。

日本を代表する機械学習研究者で経営者の岡野原大輔氏は、AIが理解しているように見える状況を、以下のように丁寧に記述している（岡野原 2023）。

…もう一つの問題は、たとえ言語モデルが訓練データ以外の単語も正しく予測できるようになったからといって、人が言語を理解するのと同じように、機械学習のモデルも理解しているのか、という問題である。

これについては、単語予測によって獲得された内部表現が言語に関する様々なタスクで有効であることから、間接的に立証されている。また、言語モデルが実際にどのような内部表現を獲得しているのかを分析した結果、単語や句単位に対応する内部表現が、人が言語を処理する際に使う概念とよく似ていることが示されている。さらには、人が言語処理を明示的に扱う際に用いる構文構造や、意味の合成ルールなども、学習の結果、獲得していることがわかっている。 

―—岡野原大輔（2023）『大規模言語モデルは新たな知能か』p.64-65

そのうえで、岡野原氏は「機械学習のモデルも理解しているのか」という問いに対しては、次のように慎重に答えている。

しかし、このような方法で、予測モデルが本当に文や言語を理解しているのか、まだよくわかっていない。今の時点では、現象的に人が文や言語を理解しているのと似た効果を言語モデルは発揮しており、現象論的には意味を理解しているという見方が適切だろう。

そもそも人がどのようにして言語の意味をとらえ、処理しているのか、わかっていない。 そのため、今後は予測モデルの内部状態を調べて、人間がどのように言語を理解しているのか仮説を立てて調べるなど、計算機側からと人間側からの双方向で、言語処理の理解を進めていく必要があると思われる。

―—岡野原大輔（2023）『大規模言語モデルは新たな知能か』p.64-65（太字は引用者）

人間とAIが同じ方法で理解しているのかはわからない、なんなら人間もどうやって理解しているのかわからないのだからそちらも研究しなければいけない、と岡野原氏はいう。人間の理解については、本連載では次回考える。そして、第3回では、AIと人間の両方に成り立つような筆者なりの理解のモデル（のラフスケッチ）を示したいと思っている。

直観を更新する

現象論的には理解している。そういわれても、次の単語を予測する「だけ」の言語モデル（を中核としたシステム）が、言語を理解しているとはどうしても思えない──その直観を消し去ることもまた簡単ではない。しかしLLMはまさにそうした直観のアップデートを求めているのかもしれない。

GoogleのLLMの開発にも中心的に関わってきた研究者、 ブレイズ・アグエラ・イ・アルカス氏は、AIに関する考え方が2019年くらいに変わったと述べている¹³。それは、次単語予測マシン（Next word predictor）であるはずのLLMが、高度な推論能力を持つようになってきたからだった。LLMは本物の知能ではないという人もいるが、これは「茹でガエル現象」だと彼はいう。私たち自身も、巨大計算による予測マシン（massively computationally-scaled predictor）なのだ。

同氏の2025年の著書What Is Intelligence?では、実はテキスト予測というのは「AI完全（AI complete）」な問題であるという考え方を打ち出している。AI完全とはつまり、「その問題を解くには、人工知能の全問題を解く必要がある」ような問題のことで、裏返せば、それさえ解ければAIの全問題が解けたことになる。なぜそう言えるのといえば、どんな難問も「（超難しい数学の難問）の答えは__」のようなプロンプトの形で提示できるからである。ここまではよい、とアグエラ・イ・アルカス氏は言う。真の驚きは、実際に次単語予測の訓練によりそうした能力が出てくることにあったという。こうした理路により、アグエラ・イ・アルカス氏はすでに我々はAGI（汎用人工知能）を手にしているという立場をとる。

計算機はつまるところ、四則演算をしている「にすぎない」。LLMはつまるところ、次単語予測をしている「にすぎない」。しかしだからといって、「コンピュータ／LLM／AIは言葉を理解しない」という直観はもはや成り立たない。岡野原氏やアグエラ・イ・アルカス氏などのAI研究者たちは、理解や知能の仕組みと能力に関する、自らの直観を更新しようとしている。このこと自体は、AI研究者ではない私たちにもこれから求められてくるだろう。

まとめ

冒頭で述べたように、本稿では「理解とは何か」のの定義を宙に浮かせたまま、LLM／AIは理解しているのかという問いにまつわる様々な立場を見てきた。LLMの仕組みを考えれば、それが何かを「理解」などできないように思える（ルカン）。しかしその能力をみれば「現象論的には」理解している（岡野原）。

「LLMが理解しているのか？」という問いへの答えは、理解の意味による。理解という言葉に託したい内容が人によって大きく異なる。しかし、次のことは理解の定義論にかかわらずコンセンサスと言えるのではないだろうか。

• 1）LLM登場前に人々が抱いていた「理解する機械」のイメージに、予想以上の早さで近づいた。
• 2）しかし、それは全く人間の理解と同じかというと、違う

そして後者に関して「ほぼ同じ」「大体同じ」「全然違う」といったグラデーションがある。次単語予測を含む予測こそが知能の本質だというように直観をアップデートしたアグエラ・イ・アルカス氏にとっては、LLMの示す理解と人間の理解はかなり近い。一方で、LLMを「オートコンプリート装置」などと呼びたくなる人たちの中ではまだ遠い。

こうした「LLMは理解しているか？」という論争から私たちが見るべきは、どちらが正しいかではなく、賛成する人と反対する人が、どのような直観をもち、どのような価値観をその立場に反映しているのかだろう。

本稿で見てきた現状認識を踏まえたうえで、私たちはここからは何を考えればいいだろうか。理解しているっぽい機械の登場により、私たちは全く新しい知的生産の道具を手にしている。同時に、第0回で書いたように、自分たちに固有だった理解の能力を備えた新たな存在に実存的な危機感も抱えている。あるいは、理解をすることへの努力の虚しさも覚え始めている。

そこで次に考えるべきは「そもそもなぜ私たちは理解のことが気になるのか」である。理解という能力、あるいは状態、あるいは行動に、どんな価値があるのだろうか。これが次の第2回のテーマになる。

謝辞

公開前の原稿に目を通しコメントをいただいた皆様に御礼申し上げます。

参考文献

• Michael, J., Holtzman, A., Parrish, A., et al. (2023). What Do NLP Researchers Believe? Results of the NLP Community Metasurvey. Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics (ACL), 10720–10743.https://aclanthology.org/2023.acl-long.903/
• Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417–424.
• Harnad, S. (1990) The Symbol Grounding Problem. Physica D 42: 335-346.https://arxiv.org/html/cs/9906002
• 今井むつみ・秋田喜美（2023）『言語の本質』中央公論新社.
• 谷口忠大「記号創発問題─記号創発ロボティクスによる記号接地問題の本質的解決に向けて─」『人工知能』31巻1号（2016）
• 新井紀子（2018）『AI vs. 教科書が読めない子どもたち』東洋経済新報社.
• 次田瞬（2023）『意味がわかるＡＩ入門』筑摩書房.
• Brown, T. B., Mann, B., Ryder, N., et al. (2020). Language models are few-shot learners. Advances in Neural Information Processing Systems, 33, 1877–1901.https://papers.nips.cc/paper/2020/hash/1457c0d6bfcb4967418bfb8ac142f64a-Abstract.html
• Browning, J., & LeCun, Y. (2022). AI and the limits of language. Noema Magazine.https://www.noemamag.com/ai-and-the-limits-of-language/
• Mancoridis, M., Vafa, K., Weeks, B., & Mullainathan, S. (2025). Potemkin Understanding in Large Language Models. arXiv:2506.21521.https://arxiv.org/abs/2506.21521
• Mitchell, M., & Krakauer, D. C. (2023). The debate over understanding in AI’s large language models. Proceedings of the National Academy of Sciences of the United States of America, 120(13), e2215907120.https://doi.org/10.1073/pnas.2215907120
• Mitchell, M. (2024). AI’s challenge of understanding the world. Science.https://www.science.org/doi/full/10.1126/science.adm8175
• 岡野原大輔（2023）『大規模言語モデルは新たな知能か：ChatGPTが変えた世界』岩波書店.
• 筆者の聴講録：https://rmaruy3.github.io/blog/2025/10/12/post.html（Blaise Agüera y Arcas氏 2025年10月講演）
• Agüera y Arcas, B. (2025). What Is Intelligence?: Lessons from AI about Evolution, Computing, and Minds. MIT Press.https://mitpress.mit.edu/9780262049955/what-is-intelligence/

生成AIがこれほど賢くなった今、私たちはなぜ、そしてどのように「理解」しようとするのでしょうか？　これから4～5回にわたり、「AIと生きる時代の〈理解〉考」と題したブログ連載を行いたいと考えています。初回となる第0回は、なぜこのテーマでブログを書くのかについて説明します。

＊＊＊

「理解とは何か」という問い

AIの話を先にするか、理解の話を先にするか迷うが、ひとまず「理解」から始めてみる。

「私は死ぬまでにどれほどのことを理解できるのだろうか」。20年くらい前、大学に進学したての私はそんなことを日々考えていた。自分にとって世界は謎だらけであり、そのすべてを分かることは到底無理であるとしても、少しでも多くを理解してみたい。大学には人文・社会科学・芸術・工学・自然科学など広い分野の科目が用意されていたので手当たり次第に受講した。高学年で主に学ぶ学問としては、悩んだすえに物理学にした。世界の一番の根っこの理解につながっていそうな気がしたからだ。その後、興味が神経科学や科学論に移り、会社員生活が始まったが、生活の真ん中にものごとの理解というゴールがあることは変わらず、本を読んで勉強したり、自分の関心がある分野の専門家を追いかけたりしてきた。

生きている間に、できるだけ多くを理解したい。そのためにはどうすればよいのか。広く浅く本を読むか、ある分野を集中的に掘り下げるべきか。自分の人生という限られた時間の戦略的配分を考えるわけだが、そこで気になるのは、そもそも「多く理解する」というのはどういうことなのだろうか、ということだった。理解というのは何か量的に測れるようなものなのだろうか。理解とは何らかの脳の状態なのだろうか。「ない状態」と「ある状態」で白黒つけられるのか。私の「理解したい」という漠然とした欲望は、理解そのものをどう理解するか、という思考ループに陥った¹。

こうして、「理解とは何だろう？」という問いを巡って悶々としているのが、過去10年の自分であり、ある種の個人的な問題として捉えてきた。しかし、ここにきて俄かに、「理解とは何か」が、多くの人が直面する問いになったように思う。言うまでもなく、生成AIのせいだ。

生成AIと理解

今日のAIチャットシステムに何かを問いかけると、ものごとを理解しているとしか思えない回答が得られる。つい最近まで、幅広いジャンルについて見識をもつ人は「博識」と呼ばれ、尊敬されてきた。しかし今日のAIチャットシステムの博識さはどんな人間も絶対にかなわないレベルになっている。しかもそんな博識なAIを携帯電話から呼び出し、何時間でも質問攻めにすることができる。たとえば今この瞬間、私の頭には「博識」と似た言葉に「博学」があるけど、どう意味が違うんだろう、という疑問が浮かんだ。ChatGPTは、前者には知識の幅、後者は幅に加えて深さのニュアンスがあることに加えて、英語では博識はknowledgeable、博学はlearned/scholarlyといった訳語がしっくりくることまで教えてくれた。あらゆる問いは、それが生じた瞬間にAIによって回答が与えられるようになった。

知識や理解の広さを意味する「博識さ」だけでなく、ある特定の分野における理解の深さに私たちは大きな価値を置いてきた。医師や弁護士、経営コンサルタントや料理人やイラストレーターなどの「専門家」は、医療行為や法律体系、企業経営や調理や絵画表現に関する他の人にはない深さの理解を持つために、専門職としての尊敬と対価を得てきた。しかし今は専門家ですらAIに頼っている。長年尊敬してきた大学教授に久しぶりにこの前会ったら、「ChatGPTはこういっていた」というChatGPTからの伝聞が多くて驚いた（当然、それを鵜呑みにしているわけではないが、自身の専門家としての理解形成におけるパートナーとしてChatGPTを活用している様子だった）。

生成AIの存在は、二つの意味で、理解の価値を揺るがしている。一つは、いま述べたように能力の面で、AIは各領域において人間による理解を超え始めているように見えることだ。今はまだ専門家に一日の長があるように見えても、今後の能力の発展により、AIは数学者よりも数学を理解し、医者よりも人体や病気について理解するようになるかもしれない。しかもあらゆるジャンルでそれが起こるかもしれない。どうせAIにはかなわないのに、なぜ理解を目指すのか。理解に要する長年の努力が愚かしく思えても不思議ではない。

しかし、もう一つ重要な意味で私たちの理解への意欲をくじき始めているように思える。それは、AIが理解する仕組みが思いのほか単純に見えることだ。AIが人間並みもしくは人間を超える理解に到達している仕組みを見ると、とにかく大量の文章表現の穴埋め問題を解かせて、単語の出現確率を予測させるニューラルネットワークの訓練（自己教師あり学習）がその主要な方法となっている。人間にとって理解に見えるものの基本にある仕組みが、「次の単語の出現確率を計算する」といった単純な仕掛けで実現できるなどということは、2010年代には誰も信じなかっただろう。実際に大規模言語モデルが作られ、こうした能力が現れて初めて、皆が信じられるようになることがらだ。AIはどうやら「種も仕掛けもない」方法で「理解」を実現している。

AIは能力面では人間の理解力を超え、しかもそれを予想外に素朴に見える仕組みで成し遂げている。このことは私たちに、自分たちが誇りにしてきた理解という能力の価値を毀損されたような、ある種の実存的な怒りや恐れの感覚を抱かせる。この状況にどう向き合えばいいのだろうか。

ここでは、二つの態度がありうる。一つは、あくまで私たち人間の理解と、AIが示している見かけ上の「理解」は違うという態度である。一見似ているけれど本質的に違うものである。人間的な理解には、AIによる疑似的理解にはない価値や意義がある。だからこそ、それを育み続けるべきだという立場がありうる。一方で、もう一つは両者に同一性を認め、AIは「本当に」理解している、もしくは理解し始めているのだ、と考えることである。私がみるところ、いま、人々の考え方はその両極端に振れているように思える²。

理解観を更新する

本連載では、その間で考える道を探りたい。大規模言語モデル（LLM）を中心とする今のAIがここまで「理解しているように見える」ことを所与の重要事実として受け取る。それを出発点に、私たちの理解観を更新する機会とする。

したがって、問うべきは「LLMは本当に理解しているのか？」ということ以上に、

• LLMの能力を所与の事実として踏まえたときに、私たちはどのような新しい理解観を持つことができるか？

になる。そして新しい理解観を持つことができた暁には、さらに一歩進んで次のような問いを問いたい。

• あらためて、AI時代に人間としての理解の価値とは何か？
• 理解のために生成AIをどのように活用することができるか？

冒頭で述べたように、このようなことが自分個人の関心を超えて多くの人々の関心事になり始めている。そこで、今後半年～1年くらいにわたって考え、「AIと生きる時代の〈理解〉考」と題したブログ連載をしてみたいと考えた。

執筆の方針

AIと生きる時代の〈理解〉考を書き進めるにあたり、以下のような方針をとりたい。

1. 筆者自身が納得し、理解できる理解観を目指す。本連載での重要なポイントの一つに、理解は個人的なものでありかつ公共的なものである、ということがある。まずは各人に個別化されたものとして理解を捉えるならば、私が理解をどう理解するかと、あなたが理解をどう理解するかは異なりうる。私には私の理解の理解を提示してみることしかできないが、それでも、なにがしか読んでいただく人の参考になる見方があればと考えている。
2. AI・機械学習の語彙を積極的に使う。生成AIの台頭がこの理解考の発端になっている以上、できるだけ人間とAIに共通する概念を使って、両者の共通点（もしかしたら相違点）を表現してみたい。とくに「世界モデル（world model）」という心理学から機械学習に転用された概念が、中心的な役割を果たすことになる。
3. 理解の概念を広げたり狭めたりする。AIの理解と人間の理解が同じなのかどうかは、理解の概念をどこまで広くとるかによる。そこで、広義の理解と狭義の理解を行ったり来たりすることになる。とりわけ、AIの理解を捉える上では、人間の個人としての理解と集団としての理解を同時に扱うことが大事になる。後者は科学という営みとも密接につながっていると考えられる。個人の理解と集団の理解の相互作用を考える上では、谷口忠大教授が推進する記号創発システム論の考え方を援用することになるだろう。
4. 本ブログの執筆そのものに生成AIを使わない。普段、私は仕事では執筆に生成AIを多用しているが、ここでは使わないことにする。なぜなら、あくまで自分なりの「理解についての理解」を積み上げることが目的だからだ。すべてのブロックを自分で積み上げないと、あとから見たときに、そのブロックがAIが持ってきたものなのか、自分の世界モデルに属していたものなのかがわからなくなる。だから、このブログに関しては、すべての言葉は自分の中から出てきたものであるという状態にしたい³。一方で、調べ物や文章校正（誤植のチェックなど）ではAIの力を大いに借りることにしたい。

＊＊＊

以上の心得のもとで、連載を開始します。できれば月に一回くらいの更新で、4回くらい書きたいと思います。同じような関心のある方々と一緒に、少しずつ考えていければと思いますので、ぜひよろしくお願いいたします。

目次案（変更の可能性あり）

第1回：LLMは理解しているのか？　— AI理解を巡る議論の近況報告  
第2回：なぜそもそも理解したいのか？　— 理解の価値論  
第3回：世界モデルと理解　— 理解を理解するための試行的モデル  
第4回：AIとともに理解する　— 生成AI時代の理解の技法に向けて

第1回はこちら⇩

【AIと生きる時代の〈理解〉考】第1回：LLMは理解しているのか？ - 重ね描き日記（rmaruy_blogあらため）

スタートアップで働くことに

2025年がどう始まったかを1年前の記事を見ながら思い出してみると、未来への展望がほとんどなかったことがわかる。京都大学の谷口忠大さんのアウトリーチ活動を3月までやらせていただくことが決まっていたが、4月以降の予定は白紙だった。その状態でお正月を迎えた。

しかし、正月休み中に転機が訪れた。昨年とある場所でお会いしたAIスタートアップの創業者からSNSでメッセージをもらい、うちで働いてみないかとの打診をもらったのだ。得難い機会に思われたので二つ返事でお受けし、4月以降、フルタイムに近い形でその会社で働くことになった。

そして9ヶ月ここで働かせていただいた。何をしているのか。もらった名刺のタイトルは「Writer」だった。このタイトルはしっくりきている。社内の人と話し、社外の情報を集め、社内外に向けて文章を「書く」。既存の職種だと広報（PR）になると思うが、最近読んだ記事で「Storyteller」という職種が米国で増えているというのがあって、自分がやっていることに近いと思った。¹割と自分が得意な役回りだと感じる。

ともかくも、創業半世紀以上の中小企業と、国の外郭機関でしか働いたことがない私にとって、スタートアップ企業で働く経験はとても新鮮だった。裁量が大きく、フラットで、すべてが早い。Andrew McAfeeの『ギーク思考』という本には、米国の新興IT企業に代表されるようなスタートアップが、いかに伝統的な官僚型組織と異なるかが描かれているが、それを中から体験できて、とても刺激的である。もう一つこの仕事の大きな魅力として、国際性があり、そのことは最後に書く。

なぜ（今は）就職しないのか

この会社にはフルタイムに近い時間を使って仕事をしているものの、社員にはならず、業務委託契約で働くことを選んだ。その理由としては、前職であるJSTを辞めた時に、数年は「個人活動」をしたいと思ったことがある。人生・キャリアの折り返しを迎えるこの数年には、組織に属さずにものを考えてみたいと思っている。

というのも、いかに自分が考えていると思っても、その都度のポジションに私の思考は方向づけられる。出版社に勤めていた時には出版業界を背負って考えていたし、JSTにいた時は「日本の研究エコシステム」を案じていた。その時にはそれは自分の内発的な問題関心のように思われるのだが、一旦辞めてみると、急に自分が生まれ変わったような感覚にもなった。

一回きりの人生で何を考え、何を理解するか。これは、何かの業界に雇用されていたり、特定の会社のシェアホルダーになっていたりすると、どうしても暗にその思考が引きずられる。もちろん、フリーランスでいればあらゆる利害関係から自由であるわけではないし、そもそも何の文脈も背負わずに「真空」で考えることなどできない。それでも、いったん、状況が許すのであれば組織に属さずものを考える数年間を作りたいと思った。このいささかself-indulgentな期間が終わったら、また組織人に戻るだろう。

何を考えたいのか

40歳を手前に自らモラトリアム期間を作ってまで、何を考えたいのだろうか。煎じ詰めると、私は何かを理解することに興味があり、その興味が「理解するということ」そのものにますます向かっている。理解するとはどういうことかを理解したい。

これが単なる自己言及ループのようになってしまうと、何の出口もない「思考のための思考」に陥ってしまいそうなのだが、今新鮮な一つの風がこの「理解を理解する」ということのループに吹き込んでいる。それがAIである（こういうAIの持ち出し方にそろそろみんなうんざりしているかもしれませんが）。

AIというものが日常の知的生産活動の中に当たり前のように入ってくるなかで、また人間の専売特許だと思っていた知的能力をAIが易々とこなしているように見えるのを目の当たりにする中で、「理解」という営為の方法も、その営為の意味そのものも揺さぶられている。その変化を、どう「理解」できるかということに最近は強い興味がある。

そして、それをマクロに広げると「メタサイエンス」の関心になる。私たちが集団として何かを理解しようとする営みが「科学」であるならば、その在り方自体を探求の対象としてまなざす「メタサイエンス」に私の関心は自然に向く。

昨年末に、自分の役割を表す言葉として「メタサイエンス・コミュニケーター」というのを思いついた。科学のなかでも、科学を対象とする科学、つまりメタサイエンスに特化した科学コミュニケーター、という意味合いのつもりだ。科学が社会的にどう営まれているのかについて、科学技術政策／行政などに携わる人たちの「外」に認識が広がることには、一定の公共的な意義があると、前職での経験を通じて感じている。

A Case for Becoming a “Metascience Communicator”

AIの科学への影響を超えて、AIの社会や思想全般への影響についての興味も高まっている。ここ数年感じ続けていることだが、「すごいAI技術」が主に海外から舶来することに対する一つの恐れというより諦観のような空気が気になっている。欧米の一部で根強い「AI破滅論（AI doomerism）」ならぬ「AIニヒリズム」とでも呼ぶべきような空気感である。AIは「人間を助ける技術」であると喧伝されながら、一部の開発者やアーリーアダプターを除けば、AIという観念そのものが人々を精神的にdisempowerしているのではないだろうか。このことが腹立たしい。これに自分はささやかに抵抗を続けたい。そのためにはAIという「観念」を、あの手この手で飼い慣らす試行錯誤が重要であるように思える。記号創発システム論に惹かれる背景の一つも、それがAIと人間の関わり方をより見通しよく考える枠組みになってくれるのではないかという期待があるためだ。

メタサイエンス・コミュニケーション活動（およびAIニヒリズム抵抗活動）

ということで、私は「メタサイエンス・コミュニケーター」として「メタサイエンス・コミュニケーション」の実践をしていると、少なくとも言えるようになりたい。残念ながら大したことはできていない。以下、今年やったことをリスト化しておく。

• メタサイエンス運動に関する報告
  • 5月20日大阪大学ELSIセンター「ELSIセンターをメタサイエンスする！」にて報告「メタサイエンス運動とは何か」
  • Metascience 2025（@ロンドン）簡易報告：メタサイエンス運動/連合の現在地(2025-07-19)
  • メタサイエンス研究会のワークショップ等運営補助
• AI科学に関するメタサイエンス観点からの報告
  • 2025年11月14日、第4回AIロボット駆動科学研究会　報告「（メタ）科学コミュニケーターからみたAI for Scienceの同床異夢」
  • 2025年9月5日、日本心理学会「「AI for 心理学」のすすめ」　報告「AI in/for Scienceを概観する」
• 研究エコシステムをよりよく変える実践について
  • 全10回のレクチャー開催と、それに基づくOpen Academia Vision Book執筆。
• AI関連（”AIニヒリズム抵抗活動”）
  • 教科書の執筆活動にこの2年間関わらせていただいた（2026年に刊行予定）
  • 5月29日、人工知能学会のセッション「希望ある未来に向けたAGIの安全性とアライメント」にて報告「AIの電力問題を概観する」
  • その他、noteにスケッチ的なAI論を書き綴り、思考を前に進めた
    • これからのAIの経済的インパクトを考えるための「タスクの哲学」試論
    • AIがあるのに自分で書く意味と、記憶
    • AIエージェント時代の人間の役割は（ひとまず）「タスクの外」にある
    • 思考整理メモ：なぜ（まだ）AIには専門家の目利き力がないのか
• 記号創発システム論のアウトリーチ：
  • 2月〜4月：「記号創発スタディノート」
  • 2月～12月：「記号創発クロストーク」全12回＋α
  • 3月：CPC Campの記録執筆

キャリア選択上のヒューリスティック

今年起こった変化で一つ特筆すべきものに、年間を通して「英語で仕事をした」というものがある。海外出張にも2回いくことができた。

• 6月：Metascience Conference ＠ロンドン
• 12月：NeurIPS ＠サンディエゴ

薄々感じてきたこととして、英語で話すと元気が出てくる。英語自体が原因ではなく、そこには英語で話す状況に関係する交絡因子が控えている可能性もあるが、それでも「英語で仕事ができる状況に身を置き続ける」というのは自分の精神的健康にとって有益なヒューリスティックである。今年、この思いを新たにした。

なので、この環境を手放したくない。残念ながら自分には「英語だけ」でWriterの仕事ができる語学力がない。しかし、そこは生成AIの力を借りることもできる。2026年は、もっと英語で文章を出していくことを心がけたい。

2026に向けて

また新しい一年がやってくる。1年後にどうなっているかわからないのは今年のはじめと変わらないが、だいぶやることは見えてきているように思う。

2025年に細々と続けてきた以下は継続したい。

• AIで科学が変わっていく様をメタサイエンスの視点からフォローする
• AIの社会受容を俯瞰的に眺めながら、「AIニヒリズム」への抵抗を試みる

それに加えて、

• 今年は本格的に、「AIブームのさなかに個人として理解するということ」についての考察を深めたい。

以上を、日本語に閉じずに英語発信も行いたい。

興味を持っていただける方と双方向に議論できるようになっていったら素晴らしい。こうした活動を通して、self-indulgentなフリーランス期間を、できるだけ実りあるものとしていきたい。

創設者のビジョン、現チームのコンピテンス、外部の人々の関心と価値観、技術的・社会的趨勢を横目で見ながら、そのチームが現環境のなかで最大限のびのび進めるようにするためのナラティブを紡ぎポンチ絵を描く役割

などと表現してみたりもした。

内在的多様性批判: ポストモダン人類学から存在論的転回へ

• 作者:久保 明教
• 作品社

Amazon

久保明教さんの本は全て読んできたが、最新刊である本書『内在的多様性批判』は読まなくてよいかもしれない、と思っていた。いままでの著作にも増して、プロの人類学者に向けて書かれた本のように見えたからだ。副題に「ポストモダン人類学から存在論的転回へ」とあるように、本書は20世紀、そしてとくに20世紀終盤から21世紀にかけて人類学（anthropology）という学問がどのように自らを捉え直してきたか、その学説史的な展開を辿る専門書である。門外漢としては、そもそも「人類学入門」のようなものを経たうえでないと読んでも仕方がないのではないかと思えた。

しかし、一応買ってはみた。そして、やはり読んでみた。著者のこれまでの本がそうであったように、本書もまた、人類学の「外」の読者に開かれ、学問的準備がない読者の問題意識に引っかかるように書かれていた。この本に関しては、「多様性」がその引っ掛かり、つまり分野外に開かれたキーワードとなっている。著者は本書で、人類学という学問そのものを、多様性にとことん向き合ってきた学問として提示する。人類学とは「経験の多様性に内在しながらその多様性を捉える枠組を産出する実践的な思考」（p.303）、つまり「内在的多様性批判」の学なのだという。

これはどういうことなのだろうか。本書のメインパートでは、ロイ・ワグナー、マリリン・ストラザーン、ブリュノ・ラトゥール、フィリップ・デスコラ、エドゥアルド・ヴィヴェイロス・デ・カストロ、アルフレッド・ジェルといった20世紀後半以降の人類学を代表する学者が取り上げられる。そして、2010年台に「存在論的転回」という運動としてまとめ上げられた人類学の成り行きについて、著者は独自の「学説史的読解として」の「やりなおし」（p.271）を提案している。しかし、その辺りをブログ筆者に要約する力はない。ここでは、そうした専門的な部分を全てすっ飛ばして、

• 人類学が内在的多様性批判の学であるとはどういうことなのか
• それが人類学に従事しない我々にとってどんな意味があるのか

について、自分の現時点での理解をもとにメモにしていきたい。

＊＊＊

まず、人類学が「多様性」を扱う学問であったというのはわかりやすい。自分が生まれ育ったコミュニティを離れ、異郷の地に出向けば自分とは全く異なる人々がいる。しかし、皆同じ「人類」であるからには、そこには共通性もあるはずだ。文化や社会の「多様性」を記述しながら、人類の普遍性に目を向けるーーこうした「社会／文化人類学」のイメージは、レヴィ=ストロースの「構造主義」などについて聞き齧ったことのある多くの人が持つものだろうし、自分もその一人だった。

しかし、「自然種としては単一の「ヒト」が多様な文化／社会をもった「人間」となる普遍的なあり方を解明できる」という「一般的な人類学のイメージ」（p.51）が、人類学の中では早々に崩れ去ったのだという。

世界各地の文化／社会の民族学誌的調査を通して人類の普遍を解明するという20世紀人類学の基本フォーマットは、1980年代のポストモダン人類学までの人類学的思考の軌跡において学問内部の共通了解としての地位を失うに至った　p.250

多様性を扱うには、多様なものを並べる軸、何らかの基準が必要になる。多様性を語るために人類学者たちが使う「文化」「社会」あるいはその普遍的な背景としての「自然」という概念そのものが、人類学者たちの埋め込まれたローカルな場からでてきたものであり、人類学者がフィールドワークの対象となる人々を記述する時に作り上げているという側面があることへの気づきだ。

＊＊＊

（なお、ここで「自然」に関する見方を多様性の側に入れる思考は、私の体感上、「理系」を自認する90％以上の人々が忌避するものではないかと思っている。そのことについて、著者の前著『ブルーノ・ラトゥールの取説』の読書メモにおいて書いた。しかし、必ずしもすべての「理系」がそうではなく、むしろ最前線で自然科学の探究を行う研究者のなかには、ラトゥールのような考え方に親和性をもつのだというのが、理論物理学者の鹿野豊さんと久保明教さんとの対話で、私が驚きとともに学んだことだった。）

＊＊＊

このように、人類学は我々が普段多様性について語るときよりも1段階ドラスティックな多様性に挑んできたと言える。それはつまり、多様性を語る基準自体の多様性である。そして、人類学の「存在論的転回」（この読書メモではそれが何かを説明しない）とまとめ上げられた展開が示しているのは、多様性を語る基準を一つに収束させる唯一の普遍的な視点をつくることの無謀さである。私たちは、多様性の中からしか多様性を見ることができない。しかし、そのことについて「批判」的に思考することができる。

「何らかの共通項によって多様性を統制すべきだとする規範的な発想をとらなければ私たちはいかに思考することができるのか？」という序論で提示した問いに対して、内在的多様性批判の立場からは、まずもって多様性を捉える枠組（ないし基準）自体の多様性、多様性の多様性に目を向けることが提案される。p.305　（太字は引用者）

それでは、内在的多様性批判の学としての人類学の道行きから、人類学の「外」にいる私たちが学べることがあるとしたら何なのだろうか。

一つは、本書のそこここに登場する、技術への向き合い方、とりわけAIやロボットについて考えるときに、多様性に内在していることを意識することが、ある種の思考の隘路から抜けだす道筋になる予感がある。AIやロボットは果たして人間と同じステータスをもつものなのかというのは、今多くの現代人にとってリアルな問いになっていると思うが、この問いの扱いにくさそのものが、自分たちが埋め込まれている（たとえば自然主義的な）ものの見方によって生じている可能性がある。「内在的多様性批判」は、そのことに気づき、AIについて別の仕方で語る方法を考えることを可能にしてくれるかもしれないし、またAI自体が現代の人類学の対象にもなる。これは主に『機械カニバリズム』で扱われているテーマだが、本書を読んでなぜ『機械カニバリズム』がどのような意味で人類学なのかが、本書を読んだことで少しわかった気がする。

しかし、AIにせよ何にせよ、異なるものの見方の可能性に気づき、新しい視点を取り入れればよい、といって済む話ではない。その「ものの見方の多様性」を見る私自身がある一つの見方に内在しており、ものの見方を俯瞰したり、自由に着脱したりできるものではないというのが、人類学が過去数十年の歴史の中で導いてきた結論だからだ。

ではどうすればいいのか？　倫理にせよ価値観にせよ、この世界が何がどのようにあるのかという存在論にせよ、確たることは何も言えないということになるのか？　あるいは一つの視点にとどまって、私はこれと居直って、その中で考え続けるしかないのか？

本書の最後で、著者から以下の言葉が届く。

普遍的な図式化が可能にする世界を外側から俯瞰できる視点の心地よさは、彼我の部分的連接に伴う鋭い通約不可能性の内側に閉じ込められた息苦しさとは対照的であり、部分的連接における自己の視界が根底から覆されていくことの興奮は、普遍的図式化における普遍的ではあるがゆえの主張の曖昧さに伴う退屈さとは対照的である。内在的多様性批判は、このうちどちらか一方に思考を定位させない立場をとる。p.306（太字は引用者）

視界が開けない「息苦しさ」にも、多様性を見る視点を一つに固定する「退屈さ」にも「思考を定位させない」で考える方法があるということ。そのことを、人類学の学説史から本書が伝えてくれているのだと思った。そのことが、「多様性をめぐる私たちの思考の可動域を広げる試み」（p.15）なのだと。

この世界は多様であり、多様であるべきだ。このように言えば否定すべきことは何もないように思えるだろう。だが、それはこの世界がバラバラであり矛盾や対立に満ちているということに他ならない、と言いかえれば、とたんに雲行きがあやしくなる。バラバラな世界をまとめてくれる客観的な知識や倫理的な基準が欲しくなるし、そうした多様性に外在する共通項が存在する限りにおいて多様性を肯定できるように思えてくる。私はそのような発想を否定するつもりはない。だが、互いに噛みあわない枠組に依拠する諸存在が互いにすれ違いながらも関わりあう営みを捉えうる手立てを練ることもまた必要ではないだろうか。本書で探求されるのは、私たちが生きるこのバラバラな世界をバラバラなままつなぐための基礎となりうる思考の道筋であり、その困難とその可能性である。 p.19

【10月11日開催／参加無料】「惑星規模のコンピュテーション」を前提とした時代の“新しい哲学”を構築する「Antikythera Tokyo」が日本初開催

Antikythera Tokyoとは

Antikythera（アンティキテラ）は、哲学者のBenjamin Bratton氏が展開するプロジェクトで、Bratton氏の哲学を軸に、出版活動や研究活動に加え、今回のようなトークイベントを世界各国で行っているらしい。私は昨年この人の記事を読み、その視点の面白さに関心を持っていた。

この動画も全編見てみた。これはやられる。しばらくはまりそう。AIはExistentialなテクノロジーだが、それは人間を殺す存亡（existential）リスクのためではなく、人間の自己像を塗り替える実存的（existential）なリスクと可能性を突き付けるためである、と。https://t.co/EqLQoxgvBo

— R. Maruyama (@rmaruy) 2024年6月24日

Antikytheraのウェブサイトを見ると、まず気づくのはデザインへのこだわりの強さだ。Benjamin Brattonの講演動画も、暗く広大なステージの中央のスポットライトの中でモノローグを繰り広げるスタイルだ。個人的には、若干このような演出には警戒してしまうところもあるが、彼の語るスケールの大きな技術哲学を伝えるため、空間と時間の設計に細心を払っていることがわかる。

では、中身について。

Benjamin Bratton氏 Keynote  “Convergent Artificialization: Life, Intelligence, Planet”

まずはBratton氏の1時間のキーノートトークがあった。面白かったが、正直、Bratton氏が何を話したのかの全貌は理解しきれていない。

このトークの主題は「テクノロジーとは何か？」そして「artificialであるとはどういうことか？」という問いに、自身なりのオルタナティブな答えを出す、というものだったと思う。一般に思われているようなテクノロジーの定義を広げる。とりわけそれを進化の視点で捉える。

「artificialなものも進化する」というのが大きなテーゼだ。生物が進化するように、人工的な技術も、そのニッチを見つけて進化する。そして、生物進化と技術進化は絡み合う。技術を生み出せるような種を、生物進化が生み出した、というように。そして、全てのテクノロジーはそれ以前のテクノロジーから作られる。つまり、前のテクノロジーを足場（scaffold）とする。そして技術進化の末に今起こっているのが、人工化するプロセスを人工化するテクノロジーとしてのAIの登場である。

Bratton氏はまた、テクノロジーが、それを生み出した人間を変えるプロセスにも着目する。AIについていえば、「我々がAIに思考することを教えるのではなく、AIは思考するとはどういうことかを我々に教える」のだ、という。最後にBratton氏は、AIという技術が何のscaffoldになっていくのかは誰にもわからない、広大な可能性があると語った。その行く末をコントロールしようとするのではなく、「長期的に見て適応的であるにはどうすればよいか」が問うべき問いだ、というコメントで結んだ。

以上がBratton氏のトークの良い要約である自信はまったくない。また、この話のどこが現代の技術哲学に照らしてオリジナルなのかを判断する力は私にはない。それでも、連綿と続く技術進化の中にAIを位置付け、常識的なモラルを介在させずにそのありうる展開を見通すBratton氏の話には引き込まれるものがある。と同時に、どこかこれについていって良いのかという警戒心も募る。

Blaise Agüera y Arcas氏 Keynote “What is Intelligence?”

二つ目のBlaise Agüera y Arcas氏のキーノートが、このイベントで最も楽しみにしていたものだった。y Arcas氏はGoogleのLLMの開発にも関わってきた研究者で、最近出したWhat is Intelligence?という本が非常に良かったからだ。

“What Is Intelligence?” by Blaise Agüera y Arcas、一読了。LLM以降でAIについて書かれた本として、個人的にはベスト。細部への同意不同意はあれど、次の四半世紀の世界観・知能観の土台を与えてくれる本ではないだろうか。
この土台の上で、いろいろな方と話してみたい。https://t.co/Yb5ZEZHB19

— R. Maruyama (@rmaruy) 2025年9月25日

今回のトークは、この本のごく一部をかいつまんで話すという感じの内容だった。

y Arcas氏の話で最も私が重要だと思うのが、彼の「コアAGI仮説」についての考え方が変わった、というところである。「コアAGI仮説」とは、Generalな知能は狭いタスクが解ける知能とは質的に違う、というもので、多くのAI研究者はそう思ってきた。自身もこれを信じていたが、2019年くらいになると信じられなくなってきた、とy Arcas氏はいう。それは、Next word predictorであるはずのLLMが、高度な推論能力を持つようになってきたことだった。LLMは本物の知能ではないという人もいるが、これは「茹でガエル現象」だと彼はいう。私たち自身も、massively computationally-scaled predictorなのだ。

人間もLLMも同じであるという人はそれなりにいる。しかしy Arcas氏がすごいのはここからで、人間もAIも予測マシンであり、それが知能だという認識から逆算して、生命と知能を「初めから」語り出すことにある。非生命から生命が誕生し、そしてそれが人間に至り、AIが出てきた流れを、極めて足早ではあるものの一つのビッグヒストリーとして語ったのがWhat is Intelligence?だ。

このなかでは、フォン・ノイマンの『自己増殖オートマトンの理論』に依拠した、「生命は初めから計算である」という見方、ミトコンドリアの細胞内共生に代表されるSymbiogenesisのプロセス、そしてSymbiogenesisのプロセスとして技術進化を捉える視点などがキーコンセプトとして提示される。ここでも、y Arcas氏の語る一つ一つの話の学問的な妥当性は私は判断できない。しかし、「LLMという機械をつくり得た」という驚きから出発して生命や知能の歴史を辿り直すというプログラムそのものは、今自分が求めていたものだという強い感覚がある。

Talk Session

2つのキーノートに続き、日本語のパネルディスカッションが二つ続いた。一つ目では、池上高志氏、谷口忠大氏、清水知子氏が登壇し、川崎和也さんが司会を務めた。

池上氏と谷口氏がこの場に招かれたのは、企画者の慧眼だと思う。なぜなら、両名は、Brattonやy Arcasが描いたビッグヒストリーに対して、その具体的なステップを記述するのに欠けている学理そのものを生み出すことに長年を費やしてきた日本有数の研究者と言えるからだ。つまり、池上氏は人工生命という分野で、いかにnaturalisticな世界像の中に生命という現象を語る新しい言語をつくれるのか、そして新しい生命や知能を生み出すことができるのか、に関わってきた方。対して谷口氏は、BrattonのいうScaffoldの階層性のなかで、言語などの記号が生まれてくるダイナミクスと、記号システムがそれを使うエージェントのシステムとどうカップリングしているのかに関する学理構築を目指してきた（いずれも粗雑すぎるまとめですがご容赦を）。

このような2名であるから当然Brattonやy Arcasのトークに共鳴しつつも、disagreementも含めて深い応答がなされていたと思う。その具体的な応酬について行けなかったのは完全に私自身の力不足に尽きる。

二つ目のトークセッションでは、藤倉麻子氏、小林恵吾氏、篠原雅武氏、柳澤田実氏が登壇し、司会を代表理事の岡田弘太郎さんが務めた。ここでは、芸術家、建築家、人文学研究者の立場からキーノートへの応答がなされた。このセッションでは、どちらかというと、Bratton氏らの話をある種の戸惑いや留保を含めて、自らの思考や実践にどのように落とし込めばいいのかを慎重に語る姿が見られたように思う。たとえば、柳澤氏は、Brattonのように「進化」として技術を捉えるだけだとその評価が難しくなるのでは、というコメントをした。これは自分自身感じたところで、Bratton氏の技術哲学が、ある種の宿命論、人間も巻き込んだ形にアップデートされた技術決定論的に聞こえるところがあった（よく議論すればそうではない、ということになるのかもしれない）。

所感

すでに自分の所感を交えて書いてきてしまってはいるが、改めてイベント全体の感想を書くとするとどうなるだろうか。

まず、繰り返してきたように、LLM時代の新たな技術哲学、生命・知能のビッグヒストリーを語るという、Brattonとy Arcasの挑戦は非常に重要なものだと思う。それは純粋な知的な課題としてもそうだし、今後のAIのある世界をどう生きていくのかという実践的な意味でも、技術を捉える枠組みの再構築が求められているように思う。

一方で、最後のセッションで強く感じたように、そういう「大きな絵」を持ち得たとしても、私たちは今までの身体で、脳で、場所で、時代で、生活する時空間的に限局された存在である。いかに人間とAIの共進化がある「絵」のなかで納得的に描かれたとしても、「今日自分は何分ChatGPTと会話するか？」とか、「日本に来年データセンターを何GW分作るか？」といった足元の問いは残る。しかしだからと言って哲学的な「大きな話」に全くプラグマティックな含意がないかというとそうではなく、むしろそうしたナラティブが、イマココの判断を規定する（priorとして作用する）という意味で非常に重要である。

私たちは、今日のキーノートのように惑星的な空間スケール、地質学的な時間スケールで生命や技術の発展を語ることもできるが、同時にある限られた時間スケールと場所に埋め込まれた存在でもある。そのギャップが、今日の一連のプログラムからは鮮やかに浮かび上がる。

— R. Maruyama (@rmaruy) 2025年10月11日

このギャップをどう繋ぐかということが、哲学者だけでない、すべての人の課題になっているのが、AIが社会の変化を加速する現代なのではないだろうか。

＊＊＊

とても断片的な感想になってしまったが、昨日のイベントで何が話されたのかを完璧に理解した人は、登壇者や企画者も含めていなかった、と言ってもあながち間違っていないのではと思う。エンディングで企画者の川崎さんが述べていたように、Benjamin Brattonの哲学は日本にまだ入ってきていない。私もちゃんと読むまでは、その魅力と、もしかしたらあるかもしれない受け入れがたさを判断することはできない。今後、Benjamin Bratton氏の活動に限らず、こうしたポストLLMの哲学の国を超えた紹介と、分野を跨いだ議論の応酬が活発になることを期待したい。Antikythera Tokyoはそういう近未来を予感させてくれる、素晴らしい企画だった。