こんにちは。長津です。

年末ジャンボ宝くじをすこしだけ買うのが、我が家の年末年始の恒例行事なのですが、いつもどおり7等の300円だけが当たりました。いつもどおりほんのすこしだけがっかりしながら「ChatGPTに聞いたら宝くじ当てる方法とか教えてくれないかな？」と息子と話していて、あぁ…これって「透明人間になれる薬がもしあったらどうする？」とアホな質問をされて「まずは女風呂に行って…」みたいな、しょーもない会話と変わらないなぁと思いました。

すごく便利な技術を手に入れても、どーしょーもない欲望を満たすことにしか使えない人間ってやつは…ほんと…いや、ぼくだけの問題か。ぼくだけが子どもの頃からしょうもなかったという話なのに、主語を大きくして人間全体を憂いてしまいそうになり失礼しました。

人間を超える知能を持ったAIをどう使うかが問題

前回の記事「AI狂想曲2023」では、営利企業が収益のためだけにAI技術でビジネスを続け、とどまることない開発競争をおこなった結果、人間の能力を超えた人工知能（AGI）が生まれ、仕事を奪われ最後には滅亡するのかもしれないという話を描きました。

AI企業は、いまのところとりあえず「人間の業務を代わりにやる」AIプロダクトを開発しています。たくさんの労働者が必要で多くの人件費がかかっていた業務をAIが人件費より格安に実現しちゃう→企業の経営者はリストラして人件費を削ってサービス利用をする→AI企業はそのお金を再投資して、もっとAIを高性能化→AIができる領域がさらに増える。いずれ、AIが「なんでもできる」ようになって、AGI完成！という流れが加速していっています。

そうなっていくのは必然の流れだとは思うけれど、2030年代の人たちは、AGIにもずっとそれやらせるのかな？という素朴の疑問が湧いてきます。せっかく人間を超えた能力が手に入ったっていうのに、人間と同じような業務をやって金を稼がせることばっかりに終始しちゃっていいもんなのかな〜？という種類の漠然とした疑問です。

僕にとっては、この疑問も冒頭の「透明人間ぐすり女風呂問題」と同種のつまらなさのように思えました。そんなことを思いながら、黙々と男風呂に入るしかないそんな日々を過ごす中、ある一冊のめちゃめちゃ面白い本に出会いました。

『脳は世界をどのように見ているのか』 ジェフ・ホーキンス著

『脳は世界をどのように見ているのか 知能の謎を解く「1000の脳」理論』という本は、2023年に読んだ本の中で一番面白かった本でした。

原書である「A Thousand Brains: A New Theory of Inteligence」が刊行されたのが2021年、その翌年に日本語訳されました。

3部構成になっていて、第1部では「1000の脳」理論（Thousand Brains Theory）という、脳についての新しい理解の枠組みについて。第2部でAGIについて。第3部では、人間の知能と機械の知能が融合した未来について書かれてあります。

序文は『利己的な遺伝子』のリチャード・ドーキンスが寄せていて、刺激的なアイデアが散りばめられた本書を通じた自身の読書体験を、ダーウィンの進化論と重ねて紹介しています。

著者について

著者のジェフ・ホーキンスは、神経科学者でありAI研究を行うヌメンタという会社の創業者。脳科学者としてバークレー校で研究を行っていたが、研究に挫折して（あの）パーム・コンピューティングを設立し、90年代にすでにスマホの原型みたいなものを作っていた方ですが、2005年に再度脳研究の道に戻ったという異能すぎる経歴の持ち主。

彼が経営するヌメンタ社の目的は、大脳新皮質の仕組みの理論を構築し、脳についてわかったことをAIの機械学習に応用することだといいます。

「1000の脳」理論とはなにか

AI研究の分野ではニューラルネットワークという「機械の知能」に関する知能の論理体系が既に確立されていて、多くのAIが採用する原理として採用されています。でも、意外なことに脳科学の分野では、まだ現在も「人間の知能」について一般に認められる論理体系が存在していませんでした。

個別のテーマによる研究はたくさんあるのに、それを体系立てる論理が存在していなかったため、人間の知能について総合的にわかるということができない状態だったということです。

ホーキンスの「1000の脳」理論は人間の脳の構造と機能に関する理論で、人間の知性の基礎を理解するための仮説です。もちろん機械の知能の理解に対しても新しい枠組みを提供していてAI研究にも影響しています。

ぼくの粗削りな理解で「1000の脳」理論を要約すると以下のような感じになります。

1. 古い脳と新しい脳
2. • 人間の脳は、感覚器官と直接つながっている古い脳（脳幹や辺縁系）の部分と、思考・意識・意思決定・言語・創造などにつながる新しい脳の部分がある。
   • 古い脳は生存のための基本的な機能と感情を担当し、人間の本能的な反応や感情や反射などに深く関与している。
   • 新しい脳は、より複雑な思考、理解、計画などの高度な認知機能を提供し、人間の意識的な活動と判断に関わる。
   • 新しい脳は、感覚器官とは直接つながっていないが、古い脳を通して刺激が伝わってくるようになっている。
2. 皮質コラム
3. • 脳の神経細胞であるニューロンがシナプスで繋がっていて、感覚刺激があると、電気信号と化学物質で情報を伝達している。
   • 新しい脳におけるニューロンの層のような構造（皮質コラム）が、人間の高次認知に関係している。
   • 皮質コラムの縦の層構造は、ニューロンによって、横方向にもつながっていて、コラム同士で刺激を伝達し合う
   • 皮質コラムは脳の基本的な情報処理単位になっていて、つながっている感覚基幹からの刺激の入力から、それぞれが独立して情報を処理して学習している。
   • 目とつながってるコラムは、視覚情報を処理していて、舌につながってるコラムは味覚を処理していて…というように、つながっている神経によって刺激入力の違いはあるけれど、それぞれの皮質コラムは共通の機能で同じことをやっている。
3. 座標系と空間認識
4. • 皮質コラムは物体の空間的な位置や動きを理解するために、「座標系」にマッピングして入力刺激を認知している。
4. 動きに基づく予測
5. • 皮質コラムでは、過去の経験と現在の感覚入力に基づいて、座標系の中での次の動きを常にあらかじめ予測している。
   • それは空間内でのものの挙動を理解して、適応する能力に寄与している。
5. モデルの分散学習
6. • それぞれの皮質コラムは、それぞれ独立して学習しているためそれぞれ全てが独自の世界モデルを持っている
6. 複数の感覚入力との統合
7. • 皮質コラムごとの世界モデルでの知覚が横方向の繋がりで共有されて、投票の結果統合されたひとつの世界像を感じることができる。

今、あなたの目の前にコーヒーカップがあるとする。それをつかもうと手を伸ばすとき、コーヒーカップのモデルを持つ何千ものコラムが、次にどんな入力があるかを予測している。手ざわり、重さ、温度、机に戻した時に立てる音…。あなたの知覚とは、コラム間の「投票」によってたどり着いた合意である。

ジェフ・ホーキンス

めちゃめちゃ読んでる

AIが採用するニューラルネットワークとのちがい

ホーキンスが示す知能の論理に基づくと、既存の人工のニューラルネットワークと脳のニューロンのネットワークは別物であると言います。

ChatGPTは役に立つし、ビジネス的にも意味があるが、統計や大量のデータに頼っていることで「真に知的な機械を作る」という課題の中心を完全に避けている。

スティーブン・ホーキンス

出版のタイミングを考えると、2020年5月に公開されたGPT-3ごろのAIに対して言及しているのではないかと思われますが、基本的な考え方は変わっていないはずなので、この本の立場からするとこのままではAGIは完成しないということになりそうです。

ChatGPTをはじめ、現行のほとんどのAI企業はTransformerネットワークの大規模言語モデル（LLM＝Large Language Model）という設計を採用していますが、この設計は人間の脳を模倣したモデルだとよく語られています。

GPUを繋げまくって、人間の脳のような仕組みを搭載したニューラルネットワークを構築し、「前の単語に続く言葉を統計的に推測する」仕組みを作ったら、書籍やwebから莫大な知識を学習させて人間がパラメータを調整。そしたら、ある日機械が人間の言葉を生成することができるようになってしまったという「発見」のようなものが実態です。

ChatGPTは力わざで大量のデータから統計的に推測する力がものすごいだけ（「だけ」というには語弊があるぐらいすごいけど）、人間のように知覚してるわけではないし、会話している内容の意味を理解していなくて感情も持ち合わせていません。

何年も前に囲碁の世界チャンピオンにAIが勝った時のように、マーケティングやデザインやスライド作成などからはじめて人間のトップクラスの知能を持つ人を凌駕する結果を出す場面が増えていくのは明らかだとはいえ、「なんでもできる（汎用）」という境地に辿り着くのはかなり難しいように思いました。

人工知能に意識と感情を持たせるために

ホーキンスは、人間の脳と同じ原理で動くAGIが開発できれば、それは「意識を持つ」と確信しています。なんでもかんでも自分から動いて、柔軟に対応できる人工知能が誕生するわけです。

難易度はめちゃめちゃ高いけれど、意識を持って自分で考えることができるAGIを作れないという技術的な理由はなさそうだとも言っています。

人間の脳が既に持っている特性で、AGIも持っているべきだと考えるべき特性は以下の4つに集約されます。

1. たえず学習する
2. 動きによって学習する
3. たくさんのモデルを持つ
4. 知識を保存するのに座標系をつかう

既存のAI企業の設計とアプローチでは、真に知的な汎用人工知能ができるかどうかはまだわかりません。現状では全ての要件を満たしていないように思えてきます。

出版されてからの時間の中で、研究と開発は進んでいます。今の開発の延長でホーキンスが考える特性を得られるようになるのかもしれないし、根本的な設計変更を求められるのかもしれない。現在地がどうなのかはちょっとわからないのですが、大いに参考になるような気がします。

それではAGIをどのように使うか？

さて、ここまで長い旅路でしたが、冒頭の「透明人間ぐすり女風呂問題」に戻りましょう。

真に知的なAGIができたとして、人間に代わってお金を稼がせることばかりに使うのではなくて、どのように使うのがいいんだろうか？というお話でした。

実は、新しい脳理論やAIとの違いなんかよりも、本書の第三部に書いてある真に知的な機械知能の使いみちが、ぼくにとってはこの本を通じて一番面白いところでした。

現在、地球は深刻な気候変動に見舞われています。地球に住む人口が増え過ぎていることと、ひとりひとりが起こす汚染の量が増えていることが原因です。

1960年に30億人だったものが、現在は80億人。これだけのひとがよってたかって環境を汚染することで、今後もさらに気候変動の勢いが増していくことが予想されています。20億人ぐらいだったら、地球はまぁ持続可能かなという試算もあるらしく、いわば乗車率400%の満員状態になっているというわけです。

普通に考えたら、人口を減らさなくてはどうもならないというのは自明なのにも関わらず、そうならないのには「人間の古い脳の構造とそれに仕える遺伝子」がそうさせているために他なりません。

私は現在の人間の状況を、二大勢力の闘いとみている。一方の陣営には遺伝子と進化があって、何十億年ものあいだ、生命を支配してきた。
（中略）
もう一方の陣営で遺伝子と争うのは、新たに出現した私たちの知能だ。脳内に存在する知的な「私」は、遺伝子への隷属から解放されたい、私たち全員をここまで到達させた進化のプロセスに拘束されたくない、と思っている。知的な個人としての私たちは、永遠に生きて、社会を維持したい。

ジェフ・ホーキンス

ホーキンスは、第三部で脳の中の新しい部分を使って、理性的に物事を考えながら、機械の脳をはじめとする科学技術を協力させて、人類の絶滅リスクを減らす方法を模索しはじめます。

ひとつには「脳をアップロードしてコンピューターと融合させる」方法（これはあんまり面白く無さそうと書いてある）。あるいは、知的な地球外生命体に対して「人類という知的な生命体がいたことを遺産として残す」方法（これは生き延びることをほとんど諦めている）。最後に「多惑星種になる」方法などを検討します。

「多惑星種になる」ということは、つまり、一部のひとが地球を捨てて火星に住めるようにして、絶滅のリスクを減らそうという考え方です。

火星には、大気がない。太陽からの強い放射から身を守らなくてはならないし、土壌は有毒、水もない。人類が火星で住める環境を構築してもらうために、真に知的なAGIを搭載したロボットを先遣隊として送るのがいいというアイデアを示します。

ぼくは、それを読んで、おぉ〜なるほどと膝を打ちました。便利というだけで、結局のところなぜAGIが必要なのか腑に落ちていなかったけど、人類が火星に移住するために必要なものなんだ！

やっとぼくのくだらない疑問に確信を持つことができました。ぼくも他惑星種になりたい！