「人工知能はこうして創られる」（補足） 合原一幸編著 2018年 ウェッジ
合原先生の最後の文章に気になることが書いてあった。
「ゾウリムシの自発性と人の自由意思とは隔絶したものでは無い」（大沢文夫『「生きものらしさ」をもとめて』より）、確かにそんな気もします、と。
ゾウリムシの自発性といえば、ブルックスの主張する探知→行動ループであり、知能は環境との相互作用であることが、いわばこのゾウリムシの文章にも示されているのだ。だから、人間のような知性を作るには外界-身体-脳の三位一体のシステムを構築するべきであって、それはソフトウェアでも構わない、というのがブログ筆者の主張である。
合原先生にも、ゾウリムシの話から、ブルックスの主張に気が付いて頂ければと思う。
「人工知能はこうして創られる」（後編） 合原一幸編著 2018年 ウェッジ
第５章は、アメーバ型コンピュータなどのナチュラルコンピューティングについてであり、慶応大学青野真士教授が担当されている。
アメーバ型コンピュータとは、なんと、粘菌アメーバという実際の巨大単細胞動物に計算をやってもらうというもので、巡回セールスマン問題などが解けてしまうらしい。体を広げようとするけど光刺激があるとその部分だけ縮むことを利用し、上手いこと各光刺激の照射タイミングなどをフィードバック制御していくと、粘菌アメーバの動きが最適解探索になるということだそうです。
これで思い出すのは、鳥や魚の群れが、単純ルールで形が創発される自律分散システムであるということで、アメーバの、俺は膨らみたいんだという性質と光刺激に弱いという２つの単純ルールからなにかが創発されるというのは、そういうこともありそうだという意味で理解できる。LIFEゲームにも似ている。
粘菌アメーバのように、自然が計算していることを利用するのを自然知能と呼び人工知能と区別するそうである。ただちにすごい結果、産業、強いAIに結び付くかはなんとも言えないが、斬新な考え方であり、デジタルコンピュータの限界を越えたところで何かを生み出してほしい。
ただ、チューリング、ノイマンを源流とするデジタルコンピュータに対し一見計算原理が違うが、例えば人間の脳の原理に近い革命的な知能の原理とかそういうことではないと思う。生物や自然の特性に含まれる単純アルゴリズムを利用した創発であり、粘菌アメーバの計算は恐らくデジタルコンピュータでのシミュレーションで再現できるだろう。その意味で、あるアドレスの値を書き換える、という単純な原理で、ハードウェアの種類に依らずあらゆる計算をしてしまうデジタルコンピュータはあらためて凄いと思う。ハードウェアとソフトウェアの自由度が高い。
なお、本章でのチューリングマシンの説明は大変分かりやすい。
ブログ筆者も以前から、滝の水が綺麗なカーブを描いていると、水が軌道を計算しているように見えていた。これも自然知能の発想なのであろう。
第６章というか、最後は技術解説であり、「ディープラーニングとはなにか」ということであった。第２次ＡＩブームの３層ニューラルネットワーク、リカレントネットワークと比べたディープラーニングの特色などが、１００ページ近くにわたって分かりやすく解説されている。シグモイド関数でなく、ディープラーニングで信号消失が起りにくいよう正側は常に増えていくReLU、負側もちょっとは減っていくLReLU等、勉強になった。今後の発展として、アテンション、Generative Adversarial Network（ＧＡＮ）という最新技術が紹介されているが、残念ながらブログ筆者はまだ理解できていない。
なお、ブログ筆者のディープラーニングに対する理解は、従来３層以上では解が収束しなかったが、前処理を行うことで収束出来るようになった、特に画像については、人間の脳の一次視野に近い処理をしている、前処理（事前学習）はＣＮＮが有名、ということである。
今後の発展として、画像生成、言語と意味（！）、強化学習があげられている。画像生成は、レンブラント風の絵を書きましょうみたいなものかな。ＧＡＮがキーということで、もう少し理解を深めたい。
言語と意味、については、ブログ筆者が一家言ある分野であり、「意味は外界にある」ということが本書では一言もふれられていない。単語をベクトルで整理し演算を出来るようにしようというWord2Vec、知識ベース概念グラフ等が述べられていた。
強化学習は、DQNやAlphaGoの話である。AlphaGoがトップ棋士を倒して一定の成果が出たと書いている。ブログ筆者としては、AlphaGoの凄さはむしろ、本来解空間が広いためAIは碁が苦手と言われていたが、実は解空間が広いことでAlphaGoがトップ棋士より圧倒的に強くなったことにあると思う。人間の脳と歴史で探索できていた領域より、はるかに広く深い領域をAlphaGoは探索できたのだ。それだけ碁の空間が広大であり、AlphaGoでないと探索できなかったのだと思う。
「人工知能はこうして創られる」（前編） 合原一幸編著 2018年 ウェッジ
前編と後編に分けて記載する。合原一幸教授は、ニューラルコンピュータを専門で研究されており、３０年前に「ニューラルコンピュータ」という本を上梓され、「ＡＩ研究の行き詰まりを打破」という帯が話題を読んだとのこと。いずれ紹介することがあるかもしれないが、カルフォルニア大学の哲学者チャーチランド著「認知哲学」1997年でも、ニューラルネットが出来たから強いAIも出来る！という論調だった。そういう時代であったのだろう。
ひるがえって、2018年において合原一幸の論調は、シンギュラリティの全否定である。強いAIの全否定でもある。ニューロンの仕組みが複雑でありアナログ的な要素が強くデジタルでは再現が難しいこと、シンギュラリティの根拠は指数関数的発展だが指数関数的爆発は抑制作用もあること、ムーアの法則もかげりが見えていること、神経網の中心である軸索にはカオス作用がありノイズもあるのでデジタルでは再現できない、等、論拠を並べている。また、ディープランニングではなく、非線形時系列解析技術、少数データによるサンプル技術という、注目して良い技術についても述べられている。ブログ筆者は個人的には、ニューロンのアナログ回路的な仕組みを完全に再現しなければ知性が再現できないかどうかは分からないので、強いAIを否定する論拠にもならないと思う。
６名の第一人者が１章づつを分担されている。合原先生の担当は第１章だが、第３章の金山氏はＩＢＭでWatson開発にたずさわっておられた方で、クイズ解答という課題に対する具体的な対処方法が解説されており興味深い。東大ロボに関連し世界史の問題にもチャレンジしたという。ＩＢＭの思想はコグニクティブコンピューティングというキーワードでまとめられ、医療や経済に知的に役立つ有用なシステムを、大規模な学習、目的に基づいた推論等の要素技術を通し開発していくとのこと。
第４章は東京大学河野崇先生が「脳型コンピュータの可能性」というタイトルでまとめられており、低電圧で動くニューロンを模擬した回路についてアナログ、デジタル両者の最新動向が解説されている。ニューロインスパイアードシステムとニューロミメティックシステムと分類され、前者が簡易な模擬、後者がひたすら詳細な模擬を目指すというもの。脳の消費電力が２０Ｗというのがどうしようもなく驚異であることが分かる。河野先生の研究室では、シリコンニューロン回路の課題であるアナログ回路素子特性ばらつきについて、特性を個別に調整できる独自手法を開発し、ニューロンの複雑な神経活動（パルスがある程度持続するとかすぐ切れるのがあったりとか）を再現できるとのこと。さらなる省電力化に向けて開発を進めており、今後の成果が期待される。
全般に、現在の第３次ＡＩブームから一歩離れた視点でまとめられており、タイトルから想像した内容と若干違ったが、勉強になる１冊だと思う。残り２章の内容は後半にまとめる。
「シンギュラリティ 人工知能から超知能へ」 マレー・シャナハン 2015 NTT出版
原著のタイトルはThe Techological Singularityである。シンギュラリティを一躍有名にしたカーツワイルの著作では無い。AIのこれからの発達に主眼を置き、シンギュラリティを越えて超知能が実現する世の中について述べている。ただし、超知能の具体的な作り方が書かれている訳では無い。ガイダンス的な記述はある。
人間並みの知性を実現する方法としてまず挙げられるのが「全脳シミュレーション」である。その条件として、脳のマッピングと神経シミュレーションがある。それをまずマウスでやる案が書かれている。マウスレベルの脳であれば現実的に出来そうな気もするので、工学的に着実なステップを提唱しているところが興味深い。神経シミュレーションを実現するハードウェアとしては、ＧＰＵ，神経形態ハードウェア、量子ドットセルオートマトン、等がある。
次に来るのが、ロボット工学でAIの身体化を図ること、そして、ブログ著者の主張に非常に近い、バーチャル身体化になる。ロボットでの身体化の手法は、神経シミュレーション側の神経とロボットハードの接合、脳の可塑性によるハードウェアへの適用等があげられる。
バーチャル身体化は、身体と外界を仮想空間にすることであり、ブログ筆者の主張に近い。ただし、カーツワイルは「本物と見分けがつかないほどの高分解能」を要求しており、ブログ筆者の主張である「記号レベルでの再現」とは大きく異なる。実践的に、強いAIを開発する見込みは、この違いにある。
導入部分のまとめとして、マウスレベルの脳の実現により、人間、超知能への道が開けるだろうと述べている。
以降は、超知能、ＡＩと意識等のテーマで、出来るだけエンジニアリング的な発想で議論している。話は飛躍していくが、いちいち論点が具体的であり、西洋人のリアリストな考え方が伝わってくる。十分な時間があれば、自然がまさしく成し遂げたように、力づくで自力で知性を実現できるという指摘も面白い（自然がなしとげた知性とは人間のことである）。
一番印象に残ったのは、AIの発達が、我々の文明をさらに豊かにすると確信していることだ。インターネットにより生活が大きく変わったように、AIでもさらに便利になっていくだろうという、いわば、楽天的な発想である。もう満足して生活しているから、ＴＶのようなドラスティックな発明は無いだろうという論調は、日本ではここかしこに見られるが、西洋人は、さらなる発達を信じて、前向きに取り組んでいるのだと実感した。
「強いAI・弱いAI」 鳥海不二夫著 2017年 丸善出版
本ブログのテーマである、強いAIについて正面から日本の最新状況を語っている。９人の日本を代表する専門家へのインタビューであり、１回で全部の感想は書き切れないので、１回づつにしてみた。
第４回：汎用人工知能と真の対話エージェント 東中竜一郎（ＮＴＴメディアインテリジェンス研究所）
対話エージェントとは、電話応答等で人と同じように対話するＡＩである。チューリングテストでは喋らなくても良いが、対話エージェントでは実際に話さなくてはならない。東中氏は一貫して日本における最先端で研究されており、世界に先駆けてWebから表現方法を探してくる、等の成果をあげられている。
対話エージェントの発達という意味では、予約システムは、予約対象、時間、人数等相手から聞きだすべき情報が限られているので、なんとか使い物に出来るようだ。
また、エベレストの高さ等、答えが決まっている会話をするファクトイド型と、「前田敦子はどういう人ですか」というような答えが決まっていないノンファクトイド型の対話があり、当然ながらノンファクトイド型の方が難しい。ＮＴＴドコモの「しゃべってコンシェル」に使われているとのこと。ブログ筆者は「しゃべってコンシェル」もSiriも使ったことが無いので、技術レベルはあまり分からない。アメリカでgoogleに喋っても、発音が悪くてbirdすら認識してくれなかった経験はある（＞＜）。さらに、雑談向けシステムになると、相手と自然に話を続ける必要があり、さらに難しくなるそうだ。
自分の発話を無視するとか、相手の感情をマルチモーダルで検知する等、対話ならでは技術課題、まだやれることもある。なお、まだやれること、というのは、ブログ筆者としては、やれば出来そうなことという意味である。
倫理的な問題をしゃべらないようにすることは、そのようにプログラムすることは出来るが、エージェントが倫理観を持っている訳では無く、設計者の倫理観が反映されているだけで、エージェントが自律的な判断をしていないので、対話感を出すのは難しいと考えていらっしゃるそうだ。
強いAIの話題に移り、映画「her」のサマンサのように、全く人間と同じように対話が出来るシステムにたどり着くには、「構成論的方法が必要なのでしょうが、何をどうすればよいのか、全く分かりません（笑）」とのことです。ペッパー君のように、生データを取得してどんどん学習していくのは、一つの方法であり、それらしいものは出来るかもいれない。意外だったのは、画像データと比較し対話データがｗｅｂに圧倒的に少ないため、学習データが限られるそうだ。
なお、構成論的方法とは、まさしく本ブログで主張しているアプローチであり、現在行われている構成論的方法はロボットを作って実世界で動かすことだが、本ブログで提案しているのは、外界－身体もソフトウェアで構築することが、「全く分かりません」ではなくて実践的な方法であるということだ。
類人猿からの進化の過程を再現するべきかもしれないともおっしゃっている。本ブログで提案している手法は人工生命の手法でもあり、まさしく進化の過程に近いとブログ筆者は考えている。
「強いAI・弱いAI」 鳥海不二夫著 2017年 丸善出版
本ブログのテーマである、強いAIについて正面から日本の最新状況を語っている。９人の日本を代表する専門家へのインタビューであり、１回で全部の感想は書き切れないので、１回づつにしてみた。
第３回：強いAIの前に弱いAIでできること 松尾豊（東京大学大学院工学系研究科特任准教授）
ディープラーニングによる第３次AIブームの、日本における立役者であり、ディープラーニングといえば松尾先生である。
表題のように、強いAIの前に、まず弱いAIにてビジネスをおこす必要がある、日本でもまだチャンスはあると力説されている。グーグル等の台頭に対し、もっとも危機感を持たれているお一人ではなかろうか。
ディープラーニングの位置付けも、ディープラーニングだけでは強いAIは出来ないが、知能の全体像において、従来出来なかったパターン認識が出来るようになったため、そのパターン認識の上に記号処理、その上にコミュニケーションという位置づけで、知能における役割を不可欠なものとして評価している。パターン認識と記号処理の組み合わせで、記号接地の状況になることも示唆されている。別の記事でも拝見したが、これからは身体性が重要であると考えられているようだ。
※日本ロボット学会誌 2017年4月号「人工知能からみたロボット界への期待」
公開されているようなので、直リンクを貼っています。
パターン認識を最下層として、だんだん記号処理に近い処置を重ねていくイメージは、サブサンプションアーキテクチャにインスパイアされたものと考えられる。ブログ筆者自体は、サブサンプションアーキテクチャに対する理解は異なるがそれは別記事で。
細かい内容だが、グーグルがお昼ご飯を研究者に提供している点に注目されていた。第１回でも書いたが、研究者が研究に専念できる環境は米国の方が整っているのかもしれない。また、大学と比較してグーグルも研究機関とも言えるとし、情報系における大学、企業のあり方についても提言をされている。
私の勤める会社でも講演をされたことがあり、AIのビジネス化を訴えられていた。やはり、強いAIの前に、まだまだやることがある、ということのようだ。
「強いAI・弱いAI」 鳥海不二夫著 2017年 丸善出版
本ブログのテーマである、強いAIについて正面から日本の最新状況を語っている。９人の日本を代表する専門家へのインタビューであり、１回で全部の感想は書き切れないので、１回づつにしてみた。
第１回：チューリングの手のひらの上で 松原仁（2014-2015 人工知能学会会長）
別のインタビュー記事を拝見したことがあるが、「強いAI」否定派というか、すぐには出来ないだろうというお考えであった。本書でも、自我をAIに持たせられるかは分からないと述べている。今はAI第３次ブームであり、次の第４次ブームの時ぐらいは出来るかもとも書かれている。第２次ブームの時に強いAIについて色々議論したけど、またやっているね～とか。
マルチタスクをこなせると意識が芽生えるのかもとか、アルファ碁は強いAIという解釈があるかもとか。対戦相手が大局観を感じたためである。少なくとも、アルファ碁が直観力を持ったとは言えるとのこと。
あと印象に残ったのは、ディープラーニングはすごいけどマシンパワーはすごいんだよね、というところ。本書に出てくる方は、今のAIブームはマシンパワーのおかげ、ということを書く人が多い気がした。
第２回：次のブレークスルーのために 山田誠二（2017年 人工知能学会会長）
第２次AIブームの際に、ICOTに関わられたとのこと。「第５世代コンピュータ」のことであろう。
この方も、強いAIは否定派である。30年は無理と断言されている。ディープラーニングではもちろん無理であるし（賛成です）、数学的な天才によるブレークスルーが必要だと。
ビックデータの量とコンピュータ性能の向上がすごいとか、ディープラーニングは名前の付け方が上手いとか書かれていて、第１回と同じようなことを書かれているという印象。
ディープラーニングの生みの親であるヒントン氏についての評価が面白かった。３０年前にボルツマンマシンをやっていたヒントンがまだ研究者として現役だったのかと、日本人は研究に淡白でいけない、３０年研究一筋に打ち込まないといけないと。
日本においては、教授業務や学会業務等が多く研究に打ち込みにくいということなのかもしれない。これは、思っている以上に深刻な結果を招いていると思う。
「シンギュラリティは近い 人類が生命を超越するとき」 レイ・カーツワイル著 2016年 NHK出版
もともとは、2005年の著書。日本でも2007年には紹介されていた。ただし、シンギュラリティといって話題になったのはつい最近のことである。言わずと知れた、2045年に人類の知性を越えたシステムが誕生するというものである。
この本の本質は、システムの発達速度は加速するということにある。
つまり、コンピュータに限らず、例えば人類の生活のあり方が、狩猟→農業→工業→情報というように発達していくスピードがだんだん速くなっていくということだ。なぜなら、より高度なシステムを手にすることで、進歩の速度があがるためである。インターネットを手にし、クラウドを手にし、ディープラーニングを手にし、IoTの世界は典型的だ。生物の歴史でも、大雑把には似たことが言えるであろう（ただ、案外、多細胞生物の誕生が早かったイメージはある）。
従って、重要な結論として、米国のテクノロジー進歩に追いつくのであれば、まずは、自分たちが使用しているシステムを高度にしなくてはならない。でないと勝負にならないのである。向こうは加速しているのだから。
この法則は普遍的であり、クラシック音楽の歴史でも、偉大な作曲家の出てくる間隔が、バロック時代は長かったりする。身の回りの事象でも、いろいろ当てはまるものが出てくるのではないか。
2045年という値が正確かどうかはおいておいて、シンギュラリティの予測として、システム発達の加速原理により、コンピュータの計算能力が脳の計算能力を超えること、知能を実現するソフトウェアが生まれることは確実だとしている。ただし、本ブログのテーマである、強いAIの実践的な実現方法は記載されていない。そのため、懐疑派はまだ安心しているが、加速の原理そのものが正しければ、いずれ計算能力自体が超えることは確かであり、ソフトウェアについても私は楽観的である。強いAIは実現できる、その実現方法はこれだ、というのがブログのテーマなので。
人工知能以外にも、ナノテクノロジー、生命工学に大きく期待がもたれている。本書が書かれてから１０年以上経過しており、ナノテクノロジーは、本書で予測されたような威力は発揮されていないように見える。生命工学については、グーグルが１５００億を延命治療開発に投資したり、iPS細胞など、寿命を乗り越え不死の存在になる気配が感じられ、今の時代の動きは大変興味深い。
「知能の原理」 R.ファイファー著 2010年 共立出版
私の手元にあるのは、ファイファー教授のサイン本である。２０１３年、ドイツで開かれたロボット学会にて、自分の研究を見て頂いた際にサインを頂いたのだ。一応自分も、ロボット研究者としての仕事をしているのである。
サブタイトルが示すように、人工知能には身体が必要である、ということを貫いている著作である。その根拠として、環境との相互作用により知的な振る舞いを行う実験成果等がふんだんに解説されている。そしてそれらの集大成として、人工知能には身体が必要であるということが導かれている。いくつか、印象に残っているトピックを紹介する。
以上は、環境との相互作用により知的な振る舞いがある例として挙げられているが、では最終的に、強いAIの作り方がこうだ！というわけではない。記号接地問題についても触れられているが、アトラクタが概念ではないかとか、仮説に留まっている。
ファイファー氏は、近年はソフトロボティクス等、興味の対象を変えられてしまった。2014年にチューリヒ大学の職を退職され、大阪大学等で活動されているとのこと。
ロドニーブルックスも産業用ロボットに取り組むなど、お２人とも人工知能から軸足を移されてしまい、残念でならない。成果が出なかったからであろうか…
「ブルックスの知能ロボット論」ロドニーブルックス著 2006年 オーム社
ブルックスの著作で、唯一訳されているものだと思う。
MITのコンピュータ科学人工知能研究所（CSAIL）所長を務め、ルンバを開発したiRobot社を創業、今はRethink Roboticsにて、顔のある産業用ロボットを開発している。
そのブルックスの、少年時代からＭＩＴ時代を経てiRobot社時代のエピソード、自身の考え方が述べられている。探知⇒行動が生物の本質である、というのは、タイのどっかにこもっている時に思いついたとか（タイじゃなかったかな）。
ルンバは地図を作らないという話があり、ブルックスの手を離れてからは分からないが、もともとはブルックスが庭で使っていた芝刈り機が地図を使うタイプであまりにバカであり、絶対に地図は作らないと決めたとか。
また、有名なロボット学者であるハンス・モラベックとシェーキーの開発に従事し、カメラで画像を取得してじっくり考えてからもっそり動く動作を見て、考え方が間違えていることに気付いたとか、ホンダのアシモは操り人形だとか述べている。ホンダに対しては、頼まれて講演に行ったのに、ホンダが自分達の研究を一切紹介しなかったことで嫌いになったとのこと。最近は知らないが、アシモのショーでお別れで手を振ったりするとあたかも知能があるかのように見えるが、実態は操り人形であるのに一般人に誤解を与えよろしくないとのこと。
読み物としても面白いが、本書を読むことで、知能とは環境との相互作用である、ということが、分かりたい人には分かってくる。もともとの発想は、１９５０年代のグレイ・ウォルターのタートルロボットがヒントになっており、単純な赤外線センサとモーターだけで、バックして巣に入れたりして、モラベックのロボットより知的に振る舞っているのである。
ブルックスの名を有名にした６本足の昆虫ロボットのゲンギスは、６本の足が勝手バラバラに動きながら、障害物を乗り越えていく。障害物を立体視とかレーザスキャンで形状を認識し、６本足それぞれの関節について連携させた動作計画を作ってから動いたりしていない。それでいながら、１９９１年のロボットなのにきびきびと動く。
記号論的アプローチによる人工知能に道が開けないことから、本書で紹介された、探知⇒行動を徹底することが知能への道だと筆者は信じている。常識的なロボット学者は、どうしても間に「判断」を入れたくなってしまい、この「判断」の箱を外すことが出来ない。
アシモを例に出して申し訳ないが、２足歩行で偉大なブレークスルーを成し遂げたものの、それ以降がいけなかった。まさしく、ブルックスが採用しなかった、階段をスキャンしてマッピングし、行動計画を立てて動く研究をしていたと聞く。
なお、この本の書評で、日本のロボット業界はブルックスのはるか先を行ってしまったという書評がネットに残っているが、非常な勘違いであることを申し添えておこう。
