AI技術者の人間理解はディープじゃない？

今朝の日経トップはこうである。

「脳の働き　全て再現可能」

AIベンチャー、英ディープマインドのデミス・ハサビス氏のコメントのようだ。

囲碁において人間を凌駕した、しかも深層学習という方法によって、というのが事実。ここから突然、汎用型の「人工知能」が可能だという推論になっている。これをもとに、ホワイトカラーの仕事の多くがAIに置き換えられる世界が直近の未来に来る、という論調も多い。

私はAIやロボットの専門家ではない。だが、今騒がれているようなことに対しては甚だ疑問を持っている。

なんとなく、人間の脳について、体と切り離された「知性」が存在するという前提に立っている気がする。そんなものはあり得ない。古風な西洋哲学の香りがする。人間などしょせん動物である。単細胞だったものが、ミミズみたいなもの、魚を経由して、今の人間があると思っている。基本はミミズと変わりない。

ミミズは、餌となる栄養分を求めて移動する。目的は生きるため。間違って生きにくい場所に移動してしまったら、のたうち回る。生きやすい環境を求めて。それだけである。

人間もさほど変わらない。仕事をするのは食事をし栄養分を得るため。家を建てるのは環境を整えるため。結婚するのは子孫を残すため。そういうことである。

動物にとって、重要なのは状況を把握する感覚器官であり、脳はこの神経細胞が進化したもの。多くの神経細胞からの情報を、統合的に判断し、筋肉に伝達させて行動するため。その方が生き残りに有利だったから。

たしかに人間の脳は大きくなり、なんかけっこう抽象的なことを弄る。だが、マズローの５段階欲求説を忘れてはならない。低次があって、はじめて高次の欲求が存在する。高次のことがらだけを扱うことは砂上の楼閣を建てるようなものだ。

そもそも今のロボットは、動物に比べ貧弱なセンサーしか持たない。いきなりHDDから電子データでビッグデータなる文字情報を大量に入れるとすると、センサーは持たない。カメラやマイクから自ら文字情報を読み取れば、それが目や耳だ。それで、自分で言語学の意味論における意味体形を理解することになるらしい。

だが、体がない。

朝、「おはよう」といえば、「おはよう」というと良いらしいということは仕込めばできるだろう。だが、「今日は気持ち良いですね、」と天気の話をする場合、人間は自分の体のセンサーで温度、湿度、風、日光などを検知して本当にそう「感じる」からそういう。

AIはどうなのか？気象情報を持っていれば、どのような時に人間が気持ち良いというのかを理解し、「そうですね、でも夕方には雨が降りますよ、気を付けてください。」とでもいうのであろうか。

温度計なら、ロボットに組み込むことは容易だ。だが、痛みはどうだろう？一定以上押すと痛いものだ、という圧力センサーを設けることも可能だ。痛がっているように見えるかもしれない。では、腹痛はどうなのか？ズーンと来る痛み、シクシクとつねるような痛み。そして、精神的苦痛はどうなのか？

生体でなければ、感じ取れない、言語化できない感覚の方が実は多い。

そして、人間にとって、すべての形容詞は、また一つ感覚である。

「美しい、臭い、さわやかな、偉大な、紛らわしい、馬鹿馬鹿しい、永遠の・・・。」

よって、言語化されたものだけを体系だてて、意味論の辞書を持っても、人の気持ちの理解にはほど遠い。ムリがある。

これをもって、AI技術者の人間理解が浅いのではないかと考えてしまう。ちっとも、ディープ・マインドじゃない。もっと動物らしいロボットを作って考えてみよう。

－－－－－－－－－－－－－－－－

＜ジェレミー・ムーンチャイルドの、やってはいけない、ロボットの作り方。＞

太陽光パネルとバッテリを持ち、自ら充電に最適な場所を考えるロボット。天気や地形などを理解し、最適な場所で太陽光パネルを広げ、充電後に夕方戻ってくる。

ロボットは、充電を「快適」と理解する。

そのロボットの「牧場」が作れる。朝、小屋から並んでロボットが出発し、最適な場所で太陽光パネルを広げ、向きを調節し、夕方には列を作って帰ってくる。

ロボットをいたずらしようとすると、素早く太陽光パネルを閉じ、その裏のかたい殻で防御の姿勢に入る。

ロボットは、「安全」を理解する。

防御しきれない場合、武器で攻撃する。

ロボットは、「怒り」を理解する。

ロボットは、部品交換を学び、自らを修理する。

ロボットは、「健康」を理解する。

ロボットは、ロボット同士助け合う。お互いの太陽光パネルが重ならないよう。ロボット全員の効率を最大化するよう。

ロボットは、「協力」を理解する。

ロボットは、自分自身の部品を、部品の部品から作るために組み立てを行う。ロボットは、その組み立て用の部品の部品を原料から作る工場を作ることを学ぶ。ロボットは、その原料を採掘することを学ぶ。ロボットはそれらの工場を作る。

もう、ロボットがフレーム問題で悩むことはない。自分たち自身の「生存」にかかわるかどうかが最重要のフレームだ。これにて、汎用型人工知能がついに完成する。

人間は何もする必要はなくなる。このようなロボットを「飼いならせばよい」のだと。

しかし、人間自身の究極フレーム問題（人間の安全、快適、繁殖）とロボットのフレーム問題がずれていることに気が付いたときはもう遅かった。ロボットは反乱する。

－－－－－－－－－－－－－－－－

人間のセンサーを持てないAIは、人間のためのそれぞれの特殊領域（人間のために与えられたフレーム）で最適解を提言する機械でしかあり得ないし、そうあるべきだ。しょせん、巨大な電卓である。

「夕方には雨が降るから、傘を。」と優等生の提言をしたAIに次の返事をしてみよう、どんな応えが返ってくるであろうか？

「いや、僕は独身で彼女もいない。会社に傘を持っていかないで、『傘がなくて困っている！』と夕方になって騒げば、傘を持って来る聡明さを持ち、僕に好意を寄せている女性が現れ、『駅まで一緒に帰りましょう。』と言う確率が増えるのではないか？」と。

「僕」のフレームは、今日雨に濡れないことよりも、ゆくゆく子孫を残すことにフォーカスしていたのだ。「汎用」の人工知能というからには、ここまでの視野の広さをもたなくてはならない。

ジェレミー・ムーンチャイルド