人工知能はなぜ椅子に座れないのか ～情報化社会における「知」と「生命」
松田雄馬著 ２０１８年 新潮選書
以前、同じ著者の「人工知能の哲学」を読んで、その参考文献の多さに感銘を受けたものである。今回は脳神経学で名前を良く聞くダマシオが多く引用されている。
予め断っておくが、松田氏は本来なら一介のブログ筆者が言及して良いような方では無く、この文章に変なところがあれば、それはブログ筆者が松田氏の主張を理解出来ていないためであろうと思うので、原著をあたられたい。
松田氏がこのような著作を多く書かれる原動力は、現在の人工知能ブームへの違和感と、シンギュラリティへの懐疑である。人工知能は過去にも多くブームを起こしたが、人類の知能を上回るかのように喧伝され、やがて期待がしぼむ、ということを繰り返している。松田氏によれば、今回の第３次人工知能ブームもまた同じ恐れがあり、まして、シンギュラリティを迎えることはない。なぜなら、今の人工知能ブームでもてはやされている機械学習、ディープラーニングもまた弱い人工知能であり、人間の知性とは本質的に違っている。従って、カーツワイルの言うようにいくらシステムの進歩が「収穫加速の法則」に則っていても、本質が異なる以上強い人工知能は実現しないのである。その本質の違いは、松田氏によれば、人間がコンピュータと異なり「生命」であること、に依る。
本書は ５章＋終章で構成されている。また、序章において「あらゆる労働がコンピュータによって代替され人間には生きることだけが残された未来」について疑問を投げかけ、「科学技術と生命との対話の中にこそ科学技術文明の未来がある」と宣言されている。
第１章 人工生命、そして人工社会とはなにか
生命への工学的アプローチとして、人工生命というジャンルがある。本書では、いわゆるＬＩＦＥゲームのようなセルオートマトン、群知能、過去に一世を風靡した遺伝的アルゴリズム（ＧＡ）、が紹介されている。しかし、セルオートマトンでは「カオス」や「カオスの縁」という概念が生まれたものの、群知能で高度な最適化問題を解くにしても問題設定は人間（プログラマ）がやる必要があり、ＧＡもまた最適解探索手法であり、いずれも「生命」の本質に迫る研究とは別の方向になった、とまとめられている。また、人工生命をエンジニアリングに応用した人工社会とは、例えば災害時のシミュレーションで効率の良い避難誘導等をシミュレーションモデルで解くものであり、その有用性は疑いようのないものだが、個々の人をモデル化しているため、「生命」とはまたちょっと違っているとのこと。
上記の状況から、人をモデルでは無くて「生命」として扱うために、次章で人工知能そのものを取り上げる。
余談だが、ブログ筆者は大学時代に群知能を扱っており、単純なルールで例えば最適搬送経路が創発される、かのようなシミュレーションを研究していた。３０年ほど前だが、個々のエージェントがＱラーニングを実装し、環境内でうろうろしていると、自然と最適な搬送形態（バケツリレー方式とか）が形成されるというものである。創発は面白い。
第２章 人工知能の研究はどのように始まったのか
人工知能の歴史について、興味深い見方をしている。すなわち、人工知能は想定外のことに対処することが苦手であり、その想定外への対処方法には次の３つがある。
- 環境の変化を起こさないようにする
- 環境の変化をすべて予測する
- 環境の変化に対しシステム自らが対処する
最初の例は産業用ロボットが成功した理由になっている。
次の環境の変化を全て予測するのは、大量のデータを用いる機械学習でも用いられており、第３次人工知能ブームを牽引しているわけであるが、松田氏は、学習にニューラルネットワークを用いているからと言って人間のように予測が出来る訳では無いと警鐘を鳴らしている。特に、グーグルがyoutubeで教師無しで猫を認識したという有名な件は、決して、人間のように猫を学習した訳では無い。むしろ、１０００台のコンピュータを３日間フル稼働させたその計算能力が特色であり、「これまでにない、脳のような情報処理を実現した研究では無い」とのこと。例えば、ワインをワイングラスに注ぐ写真を身体の無い弱い人工知能に見せたところで、人間のように、ワインを楽しむ空間を想うことは決して出来ないのである。
第３章 脳はどのようにして世界を知覚するのか
では、人間のような情報処理を実現するにはどうすれば良いのか。前著でも錯覚について注目されていたが、本書がより分かりやすかった。私たちの見ている世界は「主観的に作り出された世界」であり、赤ちゃんは最初視覚が弱いが、自らの体を動かして主観的な世界を構築できるような視覚を学習していく。大胆な書き方であるが、前章で問題になった「想定外の環境の変化＝無限定空間」において自らが対処できるよう、環境との相互作用により自己を確立するのが生命だ、という見解を披露している。その証左として、ゴンドラ猫の実験結果があげられている。自分が動くと風景が連動して動く猫と、自分が動けないが同じく風景が動く猫を育てると、前者は普通に動けるが後者は動けなくなるとのこと。
第４章 意識にみる人工知能の限界と可能性
自己の確立においては、意識という考え方が欠かせない。本ブログでも良く出てくるが、「強い人工知能」を最初に定義したサールによれば、「強い人工知能は精神を宿す」としている。Wikipedia等では、意識を持つ、ということになっている。そして、意識を持たせるには人間の精神を研究することが重要だが、脳神経学の権威であるダマシオによれば「半導体に感情は生み出せない」。美しい風景を見た時には、美しい風景を見て美しいと感じている自己も認識しており、来てよかった等の感情が生まれる。「自己を認識する」ということそのものが、「意識を持ち精神を宿すこと」なのかもしれない。そして、プログラムとして埋め込まれた結果として物事を認識しているだけでは、自己の認識は出来ないのである。
ダマシオによれば、身体が環境に適応した状態を維持することを目的に「心」が存在する。内部状態を維持するための生理的反応をホメオスタシス（恒常性）を呼ぶ。ホメオスタシスは、自律神経系、内分泌系、免疫系等の研究が盛んであり、脳や心については論じてこなかったとダマシオは指摘する。この心のホメオスタシスが、自己確立の鍵となるかもしれない。そして、弱い人工知能が直面する無限定問題に対する解答が、自己確立、あるいは、自分と環境の相互作用で自己を作り出す自己言及サイクルにあるかもしれないと松田氏は述べる。すなわち、身体と脳は有機体として一体であり、環境と相互作用しながら内部状態を維持する中で「自己感」を持ち続け、無限定な環境の中を生きていくことができる。生きようとする「意思」を持つものが「生命体」であると言える。ここで、有名なフレーム問題が紹介される。上記から、自己感こそがフレーム問題を解くカギになりそうなことが分かるであろう。
第５章 シンギュラリティの喧騒を超えて
本章では、現代の情報社会と比較し「生命」に立脚したこれからの社会のあり方についての提言が述べられている。
ダートマス会議については本書でも何回が言及されているが、当会議以降、主流派が楽観的に人の知能を越えることについて発言したことと裏腹に、同時期に「人間とコンピュータとの共生」という観点で発言をしたリックライダーの貢献が紹介される。リックライダーにとっては、計算機はあくまでルーチン化された仕事をするものであり、そのアウトプットは人間の思考の材料に過ぎない。リックライダーはインターネットの先駆けであるＡＲＦＡＮＥＴに関わっており、現代の情報社会は、まさしくリックライダーの予見通りに発展してきている。これは情報科学の歴史を学んでいる専門家には広く受け入れられている思想だが、シンギュラリティのような一見派手な「人間を超えるコンピュータがすぐにでも実現するのではないか」という幻想が広まっていることを松田氏は憂いている。弱い人工知能では無限定の状況に対応できず、人間の知性を超えるというよりは、共生こそが計算機の役割なのだ。
以降、人間と計算機の共生を考えるに当たり、人間、すなわち生命とは何かを理解することが不可欠であると松田氏は考えている。それは物質の循環であったり、環境との相互作用による動的秩序の形成（受動歩行機械のような）であったり、魚の模様を作り出すチューリングパターンであったりする。また、動的秩序だけではなく、シャノンの情報理論から、①記号を正確に伝える②意図を伝える③受信者の行為に作用するという観点で、人間においては意図のやり取りも重要だとする。最後、弱い人工知能との共生において、まことしやかにささやかれるコンピュータに人間が支配される、などということは、人間が生命として意図をもってコンピュータに対峙していれば、そのようなことはなく、生命を理解することにより、計算機と共生していく社会はより豊かになるであろうとしている。
前著と比較して本書では、
- 人間も細胞の集まりであり群知能かもしれない
- リックライダーはダートマス会議の時期から、コンピュータは（人の知能の代替では無く）人と共生することで発展すると予測しており、インターネットの前進であるARPANETに関わっていた
との２点に言及していることが目立った。人工知能ブームに踊る科学者のアンチテーゼなのか、リックライダーを情報科学の真の発展の寄与者として取り上げている。
また著者の松田氏はシンギュラリティ騒動とともに「この情報社会は何かがおかしいのではないか」と感じており、人間が主体性を失わないこと、それには生命への理解を深めることが大事であると述べている。
結論としては、情報工学の歴史上、計算機は人間と共生して発展してきており、弱い人工知能と違い人間の知性は本質的に生命である。生命に対する理解が無いまま、弱い人工知能がシンギュラリティを迎えるというような過度な期待はおかしく、強い人工知能は全く目途が立っていない、ということであろう。
さて、本ブログの趣旨は、「強い人工知能を作るにはどうすれば良いか」ということである。松田氏はシンギュラリティ懐疑派であり、弱い人工知能が発展していくだけではシンギュラリティを迎えることは無く、むしろ、計算機と人間の共生をより豊かにしていくために、生命への理解を深めていくべきというご指摘にはうなずける部分も多くある。
一方、人間の知性を計算機で越えるというのは人類の夢である。また、ブルックスの言うように、地動説、進化論に次ぐ規模のパラダイムシフトになる。だからこそ、多くの人工研究者が、リックライダーの現実的な提言もありながら、夢を実現しようと努力をしてきたのではないか。
また、カーツワイル、シャナハンの著書からは、なんとしてもシンギュラリティを超える、それについての工学的アプローチはこうである、という気概を感じた。論理、合理性のパワーのもと工学の発展を信じ、今でも人類は果てしない成長の途中にいて今後も発展していくであろう、自らがその牽引車になろうという、西洋人の力がそこにはあると思う。
なお本書でも、知能のあり方として環境、身体、脳の相互作用ということが繰り返し述べられていたが、この概念はブルックスがもたらし、 ファイファーらが「人工知能には身体が必要である」としてまとめた。このように新しい概念をもたらす著書を、本ブログでは必読書として扱っている。本書ではブログ筆者は、自己の確立ということ、強い人工知能の要件が無限定環境で動作できるということを学んだと思うが、まずは関連書としておく。
