「シンギュラリティは近い 人類が生命を超越するとき」 人工知能関連書評

「シンギュラリティは近い　人類が生命を超越するとき」　レイ・カーツワイル著　2016年 NHK出版

　もともとは、2005年の著書。日本でも2007年には紹介されていた。ただし、シンギュラリティといって話題になったのはつい最近のことである。言わずと知れた、2045年に人類の知性を越えたシステムが誕生するというものである。

　この本の本質は、システムの発達速度は加速するということにある。
　つまり、コンピュータに限らず、例えば人類の生活のあり方が、狩猟→農業→工業→情報というように発達していくスピードがだんだん速くなっていくということだ。なぜなら、より高度なシステムを手にすることで、進歩の速度があがるためである。インターネットを手にし、クラウドを手にし、ディープラーニングを手にし、IoTの世界は典型的だ。生物の歴史でも、大雑把には似たことが言えるであろう（ただ、案外、多細胞生物の誕生が早かったイメージはある）。
　従って、重要な結論として、米国のテクノロジー進歩に追いつくのであれば、まずは、自分たちが使用しているシステムを高度にしなくてはならない。でないと勝負にならないのである。向こうは加速しているのだから。

　この法則は普遍的であり、クラシック音楽の歴史でも、偉大な作曲家の出てくる間隔が、バロック時代は長かったりする。身の回りの事象でも、いろいろ当てはまるものが出てくるのではないか。

　2045年という値が正確かどうかはおいておいて、シンギュラリティの予測として、システム発達の加速原理により、コンピュータの計算能力が脳の計算能力を超えること、知能を実現するソフトウェアが生まれることは確実だとしている。ただし、本ブログのテーマである、強いAIの実践的な実現方法は記載されていない。そのため、懐疑派はまだ安心しているが、加速の原理そのものが正しければ、いずれ計算能力自体が超えることは確かであり、ソフトウェアについても私は楽観的である。強いAIは実現できる、その実現方法はこれだ、というのがブログのテーマなので。

　人工知能以外にも、ナノテクノロジー、生命工学に大きく期待がもたれている。本書が書かれてから１０年以上経過しており、ナノテクノロジーは、本書で予測されたような威力は発揮されていないように見える。生命工学については、グーグルが１５００億を延命治療開発に投資したり、iPS細胞など、寿命を乗り越え不死の存在になる気配が感じられ、今の時代の動きは大変興味深い。

「知能の原理」 －身体性に基づく構成論的アプローチ－ 人工知能関連書評

「知能の原理」　R.ファイファー著　2010年　共立出版

　私の手元にあるのは、ファイファー教授のサイン本である。２０１３年、ドイツで開かれたロボット学会にて、自分の研究を見て頂いた際にサインを頂いたのだ。一応自分も、ロボット研究者としての仕事をしているのである。

　サブタイトルが示すように、人工知能には身体が必要である、ということを貫いている著作である。その根拠として、環境との相互作用により知的な振る舞いを行う実験成果等がふんだんに解説されている。そしてそれらの集大成として、人工知能には身体が必要であるということが導かれている。いくつか、印象に残っているトピックを紹介する。

1. 受動歩行
   　坂道を、動力無しで２足歩行で歩いて下って行く機械のことである。著者の主張する知能の原理の一つ、チープデザイン、すなわち単純であることの例として紹介されている。モータで平面を歩いたりする例もある。環境との相互作用により知的に振る舞う例である。ちなみに、受動歩行機械の動き方が自然に見えるのは、私は、自然が動かしているからだと思う。
   
   
2. 四足歩行ロボット　パピー
   　ランニングマシーンに四足歩行ロボットを載せて、ベルトの速度を変えると、自律的に四足歩行のモードが例えばトロットとかギャロップに変わる、ということが説明されている。各脚には単純なバネと、足の先の圧力センサ、そのセンサを入力としてモータへ出力を出す単純なニューロンがあるだけである。
   　動物の歩容は、環境との相互作用によりエネルギー状態が相対的に小さい幾つかのアトラクタに収束するのであり、それをロボットで証明した研究である。馬がトロットにしようとかゆっくり歩こうと思って意識的に制御パターンを変えているのではない。速く移動しようと思ったり遅く移動しようと思ったら、最もエネルギー状態が低い状態に自然に収束する。骨折して松葉づえを使う時には、松葉づえを使って上手く歩けるようになるが、同じ原理を使っているのだ。
   
   
3. ＣＰＧ　中枢パターンジェネレータ　あるいは除脳ネコ
   　パピーの例は、脊椎動物に共通するＣＰＧの作用である。脊髄に埋め込まれたニューロンが、筋肉に対しリズム的に収縮や弛緩の指令を出しており、四肢はそれに基づいて動いているのだ。だから、人間はリズム運動が得意である。人間が階段を高速で降りることが出来るのは、まさしくＣＰＧの作用である。途中で段が違っているとものすごく歩きにくいだろうが、幸いそういう階段はないので、リズム運動で降りていける。
   　その直接的な例が除脳ネコといい、中脳より上の脳を切断してしまった猫をベルトコンベアにおいても、４足歩行が出来るという実験結果である。人間も、脳が無くても２足歩行が出来るのかもしれない。
   
   
4. ボイド（Boids）
   　群知能と言えばボイドであるわけで、本書でもマルチエージェント（群知能）による創発の例として紹介されている。鳥の群れが、極めて単純な３つのアルゴリズムにて再現できるというものだ。映画でも、鳥の群れをＣＧで再現する時などに使われているそうである。ロードオブザリングとか。

　以上は、環境との相互作用により知的な振る舞いがある例として挙げられているが、では最終的に、強いAIの作り方がこうだ！というわけではない。記号接地問題についても触れられているが、アトラクタが概念ではないかとか、仮説に留まっている。

　ファイファー氏は、近年はソフトロボティクス等、興味の対象を変えられてしまった。2014年にチューリヒ大学の職を退職され、大阪大学等で活動されているとのこと。

　ロドニーブルックスも産業用ロボットに取り組むなど、お２人とも人工知能から軸足を移されてしまい、残念でならない。成果が出なかったからであろうか…

「ブルックスの知能ロボット論」 人工知能関連書評

「ブルックスの知能ロボット論」ロドニーブルックス著 2006年　オーム社

　ブルックスの著作で、唯一訳されているものだと思う。
　MITのコンピュータ科学人工知能研究所（CSAIL）所長を務め、ルンバを開発したiRobot社を創業、今はRethink Roboticsにて、顔のある産業用ロボットを開発している。

　そのブルックスの、少年時代からＭＩＴ時代を経てiRobot社時代のエピソード、自身の考え方が述べられている。探知⇒行動が生物の本質である、というのは、タイのどっかにこもっている時に思いついたとか（タイじゃなかったかな）。

　ルンバは地図を作らないという話があり、ブルックスの手を離れてからは分からないが、もともとはブルックスが庭で使っていた芝刈り機が地図を使うタイプであまりにバカであり、絶対に地図は作らないと決めたとか。

　また、有名なロボット学者であるハンス・モラベックとシェーキーの開発に従事し、カメラで画像を取得してじっくり考えてからもっそり動く動作を見て、考え方が間違えていることに気付いたとか、ホンダのアシモは操り人形だとか述べている。ホンダに対しては、頼まれて講演に行ったのに、ホンダが自分達の研究を一切紹介しなかったことで嫌いになったとのこと。最近は知らないが、アシモのショーでお別れで手を振ったりするとあたかも知能があるかのように見えるが、実態は操り人形であるのに一般人に誤解を与えよろしくないとのこと。

　読み物としても面白いが、本書を読むことで、知能とは環境との相互作用である、ということが、分かりたい人には分かってくる。もともとの発想は、１９５０年代のグレイ・ウォルターのタートルロボットがヒントになっており、単純な赤外線センサとモーターだけで、バックして巣に入れたりして、モラベックのロボットより知的に振る舞っているのである。

　ブルックスの名を有名にした６本足の昆虫ロボットのゲンギスは、６本の足が勝手バラバラに動きながら、障害物を乗り越えていく。障害物を立体視とかレーザスキャンで形状を認識し、６本足それぞれの関節について連携させた動作計画を作ってから動いたりしていない。それでいながら、１９９１年のロボットなのにきびきびと動く。

　記号論的アプローチによる人工知能に道が開けないことから、本書で紹介された、探知⇒行動を徹底することが知能への道だと筆者は信じている。常識的なロボット学者は、どうしても間に「判断」を入れたくなってしまい、この「判断」の箱を外すことが出来ない。

　アシモを例に出して申し訳ないが、２足歩行で偉大なブレークスルーを成し遂げたものの、それ以降がいけなかった。まさしく、ブルックスが採用しなかった、階段をスキャンしてマッピングし、行動計画を立てて動く研究をしていたと聞く。

　なお、この本の書評で、日本のロボット業界はブルックスのはるか先を行ってしまったという書評がネットに残っているが、非常な勘違いであることを申し添えておこう。

「ロボットの心 7つの哲学物語」 人工知能関連書評

「ロボットの心 ７つの哲学物語」 柴田正良著　2001年　講談社現代新書　

　ロボットに心を持たせることは可能か、という疑問に対し、可能であるという立場から、人工知能関連の基本的なトピックをまとめている。各章の冒頭にＳＦ的な読み物があり、各章のトピックが分かりやすく紹介されている。チューリングテスト、中国語の部屋、フレーム問題、コネクショニズム、クオリア等。フレーム問題は、例の、爆弾の下の宝物を取ろうとして動けなくなるロボットの話だ。

　著者の柴田正良氏は哲学者であり、ロボット工学者、人工知能の専門家とは味の違う著作になっている。

　2001年の書籍であり、深層学習等最近のトピックは取り上げられていないが、チューリングテストと中国語の部屋の考察において、

• 思考には身体が必要である
• なぜなら、身体を通してロボット（ようはAI）が環境世界の中に住み込むのだ
• 意味は外界にある！

と宣言している。

　ブログ筆者の主張の一つである、意味は環境－身体－AIの三位一体システムで取り扱われるということは、この本で学んだ。この本を読んで、AIを作るには身体が必要だろうと思い、次に読んだのが身体性を取り扱った「知能の原理」である。

　チューリングテストに意味はあるのか、その反論である中国語の部屋の主張は的を得ているのか、中国語の部屋への反論である、部屋全体としては意味を理解しているという主張は正しいのか等、人工知能の基本的なトピックについて理解が深まる良書であり、私にとっては必読書である。記号接地問題についてもご意見を伺いたかった。

6 はじめに言葉ありき －考え方のまとめ－

　主張していることを簡単にまとめる。

身体性、構成論的アプローチは実世界でロボットを動かすことに主眼を置いているが、外界、身体ともソフトウェアで再現して良い。実現性に優れる利点がある。

人間は言葉で世界を理解しているのだから、言葉レベルで世界と身体を再現し、AIソフトウェアを複数投入していけば、強いAIへの扉が開かれるであろう。これは有限の努力で出来る。

　今までは脳を記号化しようとしていたが、実は、外界と身体を記号化するべきなのだ、人間の知性を再現するには。
　少なくとも、今まで上手く行っていないのだから、試してみる価値は十分あると考える。

　外界と身体が知能に必要であることをイメージするために、以下を考えてみる。
　真っ白な床、真っ白な空しかない世界で、自分が一人だけ、言葉を習わない状況で置かれてみる。食欲、排せつなどの生理的現象が無いとした場合、何が起こるだろうか。何も起こらないだろう。その人が言葉をしゃべることはなく、車を発明するどころか、棒を道具として使うことも無く、ただただ在るだけの存在にしかならないと思う。
　知能には他者を含む複雑な環境が必要であり、また、ものを認識するため、知的活動をするために言葉が必要なのだ。だから、外界と身体を言葉レベルで構築し、その中でAIソフトウェアを動かしてみるのである。

　ヨハネの福音書の冒頭に「はじめに言葉ありき」とあるが、まさしく、知性の元は言葉であることが示唆されており大変興味深い。あるいは、ゲド戦記においては、創造神セゴイが真の言葉を話し世界が出来たとされている。筆者の主張は、真の言葉で世界を構築するようなものである。

　実際にソフトウェアを作る場合、辞書にある言葉として、例えば友情、努力、勝利みたいな抽象的な概念、社会性を伴う概念も盛り込まなくてはならない。そのため、AI側のエージェントは複数必要であるし、階級社会、雌雄の区別等が必要となる。

　同様の主張をしている例を紹介する。

　マレー・シャハナンの「シンギュラリティ　人工知能から超知能へ」では、筆者が主張しているのに近い「バーチャルな身体化」という提案をしている。脳、身体、世界もバーチャルで良いということである。ただし、脳側も全脳シミュレーションしているとともに、世界側にも「本物と実際上見分けがつかないほどの高分解能」を要求している。その点、筆者の主張はハードルが低く、より実践的な提案になっていると考える。この違いが生じるのは、ソシュール記号論により、人間による世界の認識が、言語ベースであるというところにある。

この違いが生じるのは、ソシュール記号論により、世界の認識を言語を通しているというところにある。

　さらに言えば、外界－身体ーAIの組み合わせは、実は人類が直面している状況を完全に再現する必要は無い。例えば２次元の世界でも、世界－身体ーAIが存在し、言語活動があり、世界が十分に複雑であれば、その世界に準じた知性が生まれるであろう。既知の知性の存在する状況が、人類の状況しかないため、人類の状況を模擬していくのは良い手法ではあるが、例えば辞書の言葉全てを模擬しなくても、十分に複雑であれば知性は生まれると考えられるし、さらに複雑な、例えば性別が３種類ある世界でも構わない。

　ここで分かるのは、筆者が主張しているのは人工生命の手法の一つであるということだ。人工生命は、進化させることで知性が生まれるかと期待されたが、知性の発現には至らなかった。筆者の主張は、外界－身体－AIの組み合わせを用意すればAIが意味を扱えるようになること、言語能力が必要であること等を用いた人工生命の提案でもある。

5 実践的な強いＡＩの作り方と、他アプローチの比較

今までの検討をまとめると以下のようになる。

1. 外界（世界）－身体を模擬するソフトウェアを、辞書レベルで差異が分かるような状態で用意する。
2. ＡＩを身体へ搭載したソフトウェアエージェントを複数用意し、外界ソフトウェア内で自由に動き回らせ、知能が発現するようＡＩソフトウェアをチューニングしていく。

ＡＩに必要な能力は分からないが、いろいろ試すことが出来る。ここで試しまくることで、何らかのブレークスルーが見つかり、強いＡＩへの扉が開かれることが期待できる。
従来の研究からの新規性としては、身体性アプローチを取りつつ、外界－身体もソフトウェアで用意すれば良い、点があげられる。

なお、ＡＩに恐らく必要であろうと思われる機能を列記しておく。

• 欲求
• 感覚（センサ処理結果の解釈。甘いとか痛いとか）
• 認知機能（言語能力と一体かもしれない。椅子を見て、椅子だと発話する等）
• ＲＮＮを含む大規模深層学習
• 言語能力…発話能力、聴力と深層学習だけで身につくかもしれない
• ミラーニューロン
• 感情

あえて、クオリアとは書いていない。

他のアプローチとの比較を示す。
この比較表から、問題は、外界や身体を再現する模擬ソフトウェアをどこまで実世界や人間に近づければ良いのかという点にあることが分かる。提案手法の主張は、辞書レベルで差異を表現すれば良く、それは有限の実践可能な範囲であろう、ということである。また、身体性アプローチの問題は、ロボットが身体として貧弱であること、実験に苦労するため実験性が悪い、というところにある。

目次にかえて

以下に分けてエントリーしていきます。ほんとはＨＰが良いのですが、取り急ぎブログで。

簡単にまとめると、
①弱いAIは意味が分からない。ＡＩの出力結果に意味を与えているのは観測者の人間である。
②人工知能を作るには身体が必要という身体性のアプローチがあるが、実世界でロボットを動かしても、ブレークスルーには至っていない
③意味は外界にあり、ＡＩが意味を扱うには、外界-身体-ＡＩのシステムが必要である
④人間は意味を言語で扱っており、言語はソシュールによれば差異の体系であるから、ソフトウェアで外界-身体を作り差異を表現すれば、ロボットを実世界で動かさずともＡＩが意味を取り扱えるようになる。
⑤人工知能を作るには身体が必要との主張は正しいと思うが、実世界でロボットを動かすことにこだわらず、外界-身体をソフトウェアで作っても意義があり、かつ実験性が飛躍的に向上することで、強いＡＩへの道が開けるであろう。
⑥人間は言葉で世界を認識しているのだから、外界-身体も言葉レベルで再現し、その中で深層学習を始めとしたＡＩ手法をいろいろ試せばよい。ヨハネの福音書のごとく「はじめに言葉ありき」である。

1. 意味が分からない弱いＡＩたち

2. 人工知能には身体と外界が必要である（１）
　－ロボット工学における身体の必要性－

3. 人工知能には身体と外界が必要である（２）
　－意味は外界にある－

4. ソシュールの記号論による、AIが意味を取り扱う実践的な方法

5. 本項の主張による実践的な強いＡＩの作り方と、他アプローチの比較

6. －はじめに言葉ありき－　考え方のまとめ

7.  後記　事業化に向けて。参考文献等

4 ソシュールの記号論による、ＡＩが意味を取り扱う実践的な方法

前項において、意味を取り扱うには、外界－身体－脳のシステムが必要であることを示した。意味を取り扱うことは、強いＡＩ実現のブレークスルーとなりうるものと考える。
本項では、ソシュールの記号論を元に、実践的に外界などを表現する方法を示す。

結論：

意味は差異の体系であり、外界－身体は、差異の表現ができれば良く、従来の身体性アプローチのようにロボットで身体を作る必要は無い。
代わりに必要なのは、外界－身体ソフトウェアであり、かつ、実世界の詳細なシミュレーションではなく、辞書レベルの精緻さがあれば良い。

「ソシュールの思想」1981岩波書店によれば、意味とは差異である、とソシュールは主張している。ビールであれば、世界の他のあらゆるものとは、炭酸のアルコール飲料で色が黄色、麦で出来ている等の違いがビールの意味である。味の違いが分かれば、キリン一番搾りとかスーパードライ等の違いが出てくる。

この主張から、以下のことが導かれる。
すなわち、身体性アプローチにおいてロボットを使って実世界で動かしていたが、意味を扱うためであれば、必要なのは実世界そのものではない。外界は身体を通し差異を認識出来れば良いため、差異さえ表現できれば、外界と身体はソフトウェアで構築しても良い。

また、ソシュールは、「人は名前を知っているものしか認識でない」と言っている。知らないものを見た時、これ何？と聞いて、名前を聞いて満足するのは、まさしくこの原理であろう。
ここから、前段で構築しようとした外界－身体ソフトウェアにおいて、辞書レベルの内容を表現できれば、ＡＩが人間と同じように意味を扱うのに十分であることが分かる。辞書の語彙は数万から１０数万個であり、これは有限の努力で実現できるであろう。

この、有限の努力で外界ー身体ソフトウェアが実現できるというところが、筆者の主張する強いＡＩの実現方法が実践的であるゆえんである。

※文章で表現される事象は、組み合わせになってしまい、有限と言い難い可能性はある

なお、意味は差異の体系であるということから、外界は正しくは世界としなくてはならない。意味を扱うシステムとは、世界-身体-脳（ＡＩ）の三位一体のシステムである。

また、話がそれるが、ソシュールの二番目の主張は、記号こそが概念を作るということである。すなわち、記号接地問題は無い、ということを言っていると思われる。ビールという記号を知ることで、人の中にビールという概念が出来るのである。

より分かりやすい結論：
意味をＡＩが取り扱うには、外界ー身体ソフトウェアを、辞書レベルの精緻さで構築すれば良く、これは有限の努力で実現できる＝実践的であろう。

3 人工知能には身体と外界が必要である（2） 意味は外界にある

以下の二つの観点から、強いＡＩを作ろうした際には、脳にあたる部分だけではなく、外界と身体の準備が必要であると考える。今回はその（２）

（１）ロボティクス分野からみた身体の重要性
（２）意味は外界にある

結論：

人工知能が人間と同じように意味を扱うには、「外界」、および外界との相互作用をつかさどる「身体」が必要。すなわち、外界ー身体ーＡＩのシステムである。

（２）意味は外界にある

講談社現代新書「ロボットの心」において、チューリングテストの反論である中国語の部屋への反論として、柴田氏が以下の指摘をしている。

・ビールの意味は、ビール本体が持っており、中国語で呼ぼうがなんだろうが関係ない。すなわち、意味は外界にある

弱いＡＩが決して強いＡＩになれない原因の一つに、意味を扱えないということがある。例えば、ワトソンがクイズ番組で優勝したとしても、ワトソンは入力に対する出力を提示しただけであり、その出力が正解であるとか、クイズ王を倒したというようなことは、周りの人間の解釈であり、クイズに勝ったという意味は周りの人間が与えている。クイズに対する答えについても、意味を考えて答えたわけではなく、機械学習を含むプログラミングの成果であり、ワトソンが意味を扱っている訳では無い。

柴田氏の主張は、チューリングテストでビールの話をしてまともに受け答えをしたとしても、実態としてＡＩがビールを飲んで酔っ払ったり苦いと思ったわけでは無いので、ＡＩはビールの意味を分かっていないということである（単純化し過ぎているかもしれず、その責は筆者にあり、柴田氏にはありません）。
すなわち、ＡＩがビールの意味を理解するには、ビールを飲んで酔っ払うというか、人間と同じ相互作用をビールとの間で確立できる身体と、ビール本体＝外界が必要であるということだ。
まとめると、意味を扱うシステムは外界－身体ー脳の３つで成り立っているということである。これは、文部省特定領域研究「移動知」で、環境－身体－脳の相互作用がテーマだったことにも通じる。

（１）ではＡＩには身体が必要と述べたが、身体は外界との相互作用に必要な要素であり、正確には、外界－身体－ＡＩが必要である。
ブルックスは身体の必要性について環境との相互作用のためと言っており、まさしく上記の事を主張している。

2 人工知能には身体と外界が必要である（１）ロボット工学からみた身体の必要性

以下の二つの観点から、強いＡＩを作ろうした際には、脳にあたる部分だけではなく、外界と身体の準備が必要であると考える。今回はその（１）

（１）ロボティクス分野からみた身体の重要性

（２）意味は外界にある

結論：
ブルックス等の著名なロボット工学者を含め、ロボティクス分野においては、人工知能には身体が必要だとの主張がある。
 

（１）ロボット工学からみた身体の必要性
ブルックス、及びファイアーは、その著作において、記号論的な人工知能のアプローチを否定し、人工知能には身体が必要であると主張した。環境と身体との相互作用が知能を生むという主張である。

特にブルックスは、以下の明快な主張をしている。

①表象無き知性という論文において、探知→判断→行動というループを否定し、探知→行動が生物の本質であるとした。

②生物が複雑な動きをするのは環境が複雑だからである

③まず、環境の中でロボットを動かせ

探知→判断→行動というのは、自動車メーカーが自動運転に取り組む際にも好むアプローチであり、これを当然の摂理として無批判に受け入れるロボット関係者が多いと思われる。人工知能のブレークスルーが生まれない理由の一つが、このループを捨てきれないところにあると筆者は考える。すなわち、ブルックスが否定する「判断」のブロックこそ、if文のかたまりであり、記号論的なアプローチになってしまっている。

サブサンプションアーキテクチャを採用する研究者もいるが、下層はブルックスの言う通り反射的な動作を構築しても、上層にて高度な判断として記号論的アプローチを導入してしまう例が多く、身体性の効能を台無しにしてしまっており、自らブレークスルーへの道を閉ざしているとしか思えない。
身体性にこだわるなら、探知→行動を徹底すべきであり、これを徹底できないから身体性が成果を上げられていないのだ。

もっとも、ブルックスの主張は１９８０年代後半からロボティクス界では広く知られており、一時期は大いに期待され研究もされてたが、期待されたように知性を実現できるには至らなかった。

その原因の一つとして、やはり判断→行動のループでは単純なことしか出来ない
→その対策として高層に高度なループを加える
というのは自然な発想ではある。

別の原因として筆者が指摘したいのは、
・人と比べロボットが単純すぎる（リンゴを人間と同じように認識するなら、味覚嗅覚食欲歯ごたえ等が必要。詳細は別記事）
・実世界で実験を繰り返すのが大変
・当時のコンピュータでは機械学習能力が不十分

という点であり、このブログでの主張は、これらの問題点を克服する実践的アプローチとも言える。