【AIと生きる時代の〈理解〉考】第0回：連載を始めるにあたって

生成AIがこれほど賢くなった今、私たちはなぜ、そしてどのように「理解」しようとするのでしょうか？　これから4～5回にわたり、「AIと生きる時代の〈理解〉考」と題したブログ連載を行いたいと考えています。初回となる第0回は、なぜこのテーマでブログを書くのかについて説明します。

＊＊＊

「理解とは何か」という問い

AIの話を先にするか、理解の話を先にするか迷うが、ひとまず「理解」から始めてみる。

「私は死ぬまでにどれほどのことを理解できるのだろうか」。20年くらい前、大学に進学したての私はそんなことを日々考えていた。自分にとって世界は謎だらけであり、そのすべてを分かることは到底無理であるとしても、少しでも多くを理解してみたい。大学には人文・社会科学・芸術・工学・自然科学など広い分野の科目が用意されていたので手当たり次第に受講した。高学年で主に学ぶ学問としては、悩んだすえに物理学にした。世界の一番の根っこの理解につながっていそうな気がしたからだ。その後、興味が神経科学や科学論に移り、会社員生活が始まったが、生活の真ん中にものごとの理解というゴールがあることは変わらず、本を読んで勉強したり、自分の関心がある分野の専門家を追いかけたりしてきた。

生きている間に、できるだけ多くを理解したい。そのためにはどうすればよいのか。広く浅く本を読むか、ある分野を集中的に掘り下げるべきか。自分の人生という限られた時間の戦略的配分を考えるわけだが、そこで気になるのは、そもそも「多く理解する」というのはどういうことなのだろうか、ということだった。理解というのは何か量的に測れるようなものなのだろうか。理解とは何らかの脳の状態なのだろうか。「ない状態」と「ある状態」で白黒つけられるのか。私の「理解したい」という漠然とした欲望は、理解そのものをどう理解するか、という思考ループに陥った¹。

こうして、「理解とは何だろう？」という問いを巡って悶々としているのが、過去10年の自分であり、ある種の個人的な問題として捉えてきた。しかし、ここにきて俄かに、「理解とは何か」が、多くの人が直面する問いになったように思う。言うまでもなく、生成AIのせいだ。

生成AIと理解

今日のAIチャットシステムに何かを問いかけると、ものごとを理解しているとしか思えない回答が得られる。つい最近まで、幅広いジャンルについて見識をもつ人は「博識」と呼ばれ、尊敬されてきた。しかし今日のAIチャットシステムの博識さはどんな人間も絶対にかなわないレベルになっている。しかもそんな博識なAIを携帯電話から呼び出し、何時間でも質問攻めにすることができる。たとえば今この瞬間、私の頭には「博識」と似た言葉に「博学」があるけど、どう意味が違うんだろう、という疑問が浮かんだ。ChatGPTは、前者には知識の幅、後者は幅に加えて深さのニュアンスがあることに加えて、英語では博識はknowledgeable、博学はlearned/scholarlyといった訳語がしっくりくることまで教えてくれた。あらゆる問いは、それが生じた瞬間にAIによって回答が与えられるようになった。

知識や理解の広さを意味する「博識さ」だけでなく、ある特定の分野における理解の深さに私たちは大きな価値を置いてきた。医師や弁護士、経営コンサルタントや料理人やイラストレーターなどの「専門家」は、医療行為や法律体系、企業経営や調理や絵画表現に関する他の人にはない深さの理解を持つために、専門職としての尊敬と対価を得てきた。しかし今は専門家ですらAIに頼っている。長年尊敬してきた大学教授に久しぶりにこの前会ったら、「ChatGPTはこういっていた」というChatGPTからの伝聞が多くて驚いた（当然、それを鵜呑みにしているわけではないが、自身の専門家としての理解形成におけるパートナーとしてChatGPTを活用している様子だった）。

生成AIの存在は、二つの意味で、理解の価値を揺るがしている。一つは、いま述べたように能力の面で、AIは各領域において人間による理解を超え始めているように見えることだ。今はまだ専門家に一日の長があるように見えても、今後の能力の発展により、AIは数学者よりも数学を理解し、医者よりも人体や病気について理解するようになるかもしれない。しかもあらゆるジャンルでそれが起こるかもしれない。どうせAIにはかなわないのに、なぜ理解を目指すのか。理解に要する長年の努力が愚かしく思えても不思議ではない。

しかし、もう一つ重要な意味で私たちの理解への意欲をくじき始めているように思える。それは、AIが理解する仕組みが思いのほか単純に見えることだ。AIが人間並みもしくは人間を超える理解に到達している仕組みを見ると、とにかく大量の文章表現の穴埋め問題を解かせて、単語の出現確率を予測させるニューラルネットワークの訓練（自己教師あり学習）がその主要な方法となっている。人間にとって理解に見えるものの基本にある仕組みが、「次の単語の出現確率を計算する」といった単純な仕掛けで実現できるなどということは、2010年代には誰も信じなかっただろう。実際に大規模言語モデルが作られ、こうした能力が現れて初めて、皆が信じられるようになることがらだ。AIはどうやら「種も仕掛けもない」方法で「理解」を実現している。

AIは能力面では人間の理解力を超え、しかもそれを予想外に素朴に見える仕組みで成し遂げている。このことは私たちに、自分たちが誇りにしてきた理解という能力の価値を毀損されたような、ある種の実存的な怒りや恐れの感覚を抱かせる。この状況にどう向き合えばいいのだろうか。

ここでは、二つの態度がありうる。一つは、あくまで私たち人間の理解と、AIが示している見かけ上の「理解」は違うという態度である。一見似ているけれど本質的に違うものである。人間的な理解には、AIによる疑似的理解にはない価値や意義がある。だからこそ、それを育み続けるべきだという立場がありうる。一方で、もう一つは両者に同一性を認め、AIは「本当に」理解している、もしくは理解し始めているのだ、と考えることである。私がみるところ、いま、人々の考え方はその両極端に振れているように思える² e2215907120, https://doi.org/10.1073/pnas.2215907120”)。

理解観を更新する

本連載では、その間で考える道を探りたい。大規模言語モデル（LLM）を中心とする今のAIがここまで「理解しているように見える」ことを所与の重要事実として受け取る。それを出発点に、私たちの理解観を更新する機会とする。

したがって、問うべきは「LLMは本当に理解しているのか？」ということ以上に、

• LLMの能力を所与の事実として踏まえたときに、私たちはどのような新しい理解観を持つことができるか？

になる。そして新しい理解観を持つことができた暁には、さらに一歩進んで次のような問いを問いたい。

• あらためて、AI時代に人間としての理解の価値とは何か？
• 理解のために生成AIをどのように活用することができるか？

冒頭で述べたように、このようなことが自分個人の関心を超えて多くの人々の関心事になり始めている。そこで、今後半年～1年くらいにわたって考え、「AIと生きる時代の〈理解〉考」と題したブログ連載をしてみたいと考えた。

執筆の方針

AIと生きる時代の〈理解〉考を書き進めるにあたり、以下のような方針をとりたい。

1. 筆者自身が納得し、理解できる理解観を目指す。本連載での重要なポイントの一つに、理解は個人的なものでありかつ公共的なものである、ということがある。まずは各人に個別化されたものとして理解を捉えるならば、私が理解をどう理解するかと、あなたが理解をどう理解するかは異なりうる。私には私の理解の理解を提示してみることしかできないが、それでも、なにがしか読んでいただく人の参考になる見方があればと考えている。
2. AI・機械学習の語彙を積極的に使う。生成AIの台頭がこの理解考の発端になっている以上、できるだけ人間とAIに共通する概念を使って、両者の共通点（もしかしたら相違点）を表現してみたい。とくに「世界モデル（world model）」という心理学から機械学習に転用された概念が、中心的な役割を果たすことになる。
3. 理解の概念を広げたり狭めたりする。AIの理解と人間の理解が同じなのかどうかは、理解の概念をどこまで広くとるかによる。そこで、広義の理解と狭義の理解を行ったり来たりすることになる。とりわけ、AIの理解を捉える上では、人間の個人としての理解と集団としての理解を同時に扱うことが大事になる。後者は科学という営みとも密接につながっていると考えられる。個人の理解と集団の理解の相互作用を考える上では、谷口忠大教授が推進する記号創発システム論の考え方を援用することになるだろう。
4. 本ブログの執筆そのものに生成AIを使わない。普段、私は仕事では執筆に生成AIを多用しているが、ここでは使わないことにする。なぜなら、あくまで自分なりの「理解についての理解」を積み上げることが目的だからだ。すべてのブロックを自分で積み上げないと、あとから見たときに、そのブロックがAIが持ってきたものなのか、自分の世界モデルに属していたものなのかがわからなくなる。だから、このブログに関しては、すべての言葉は自分の中から出てきたものであるという状態にしたい³。一方で、調べ物や文章校正（誤植のチェックなど）ではAIの力を大いに借りることにしたい。

＊＊＊

以上の心得のもとで、連載を開始します。できれば月に一回くらいの更新で、4回くらい書きたいと思います。同じような関心のある方々と一緒に、少しずつ考えていければと思いますので、ぜひよろしくお願いいたします。

目次案（変更の可能性あり）

第1回：LLMは理解しているのか？　— AI理解を巡る議論の近況報告  
第2回：なぜそもそも理解したいのか？　— 理解の価値論  
第3回：世界モデルと理解　— 理解を理解するための試行的モデル  
第4回：AIとともに理解する　— 生成AI時代の理解の技法に向けて

第1回はこちら⇩

【AIと生きる時代の〈理解〉考】第1回：LLMは理解しているのか？ - 重ね描き日記（rmaruy_blogあらため）

[なぜ「生成AIを使わずに書きました」と