意識はどこから生まれるのか

中野

フロアからの質問をお受けします。

学生

2つ質問があります。最近、アルゴリズムで生命をつくろうという「人工生命（A Life）」が研究されていますが、A LifeとAIを組み合わせると人間的になるのではないかと思います。そのとき、意識がAIの部分で、無意識がA Lifeの部分を担うのではと思いついたのですが、AIに意識が生まれるとしたら、どこから生まれるとお考えになりますか。もう1点は、AIが人間の秘書のような存在ではなく、本当に人間のような存在になって、我々とまったく異なるアルゴリズムで動く生命体、これまで出会ったこともない新しい他者が我々の隣にいるとしたら、宇宙人との遭遇以上の、人間が体験したことのない大問題が発生すると思うんですが、いかがでしょうか？

中野

現在のAIが扱えないと言われているのがまさに「意味」です。茂先生はどうお考えでしょう。

茂

私たちは、意味というのは人間が理解したり、構成するものだと思っていますが、むしろ人間がものごとを理解する前に与えられていて、理解を構成しているものこそが意味だと思っています。ですから、AIがいくらパターンを覚えてもAI自身に意味が与えられない限り、自分から何か自発的に、人間のように自由に何かを作り出すということは基本的にないだろうと考えています。

中野

コンピュータは記号の操作を主にやっている。その記号操作が意味を生み出すのかどうかですが、強いAIを志向している人たちが考えているのは、人間のやっていることだって、ニューロンの電気信号なんだから、人間の脳と同じようなアーキテクチャを持った、非常に複雑なニューラルネットワークで実現できるはずだと取り組んでいて、結構いい線までいっているらしいんですよね。

森島

ただ、人間性ということを考えたとき、失敗もあるし、弱さも挫折もあるわけですよね。でもそれがダメだということではなくて、人生の中で、そうした消極的なものが積極的なものに変換していくことがあります。あの失敗があったから今の自分がある、といったように。人生の中で意味が与えられるときは、良いか悪いかではなく、どちらが美しいかなど、うまく言えませんが、そういう時間軸のなかで見出す意味というものもあると思うのです。

中野

人間には生まれて成長して、高齢になってという時系列がありますが、AIにはない。身体性がないわけだから、歩き回らないしおなかも減らない。そういうものに人間と同じ学習ができるのか？
アメリカの哲学者のヒューバート・ドレイファスが、『コンピュータには何ができないか』『コンピュータは思考を獲得できるか』という書籍を上梓して、人工知能批判を展開しました。彼も、AIが人間のような知性を獲得するには、身体性や人間のような社会に適応する必要があるという意味のことを言っていて、人工生命のようなものを示唆していたと思います。
A-Life＝人工生命には、いろいろなアプローチがありますが、人間を構成しているDNAもATGCの記号列で、究極的には人間の身体もすべてが記号でできていると言えなくもないわけですから、原理的にはできなくもない。人工生命もさまざまな問題をはらんでいて、できると怖いなと思います。質問の意図とは少々違いますが、こういったことでよろしいでしょうか。

まとめに代えて

杉浦

質問というよりは問題提起です、私はシンギュラリティの問題とAIとは分けて考えたほうがよいと考えています。カーツワイルはあの本で、人間が死を乗り越えられるとまで言っているんですよね、聖書のレトリックを使うので説得力と迫力があってそんなものかなと思ってしまう。ただ、シンギュラリティの議論そのものも面白いのですが、私たちがここでやるべきは、むしろ強いAIと弱いAIの問題だと思います。
強いAIを考えるにあたっては、人間とは何かというチャレンジングな大問題にぶつかります。では弱いAIはたいしたことはないかというと、実は怖い。例えば、弱いAIは現在サプライチェーン、物流に入っていて、産業を一瞬にして移し替えています。物理的・時間的な距離を一挙に縮めてしまう。こうした時間差は、親が子に教える時間、社会や学校で教わる時間とは大きく異なり、これが一気に進んで政治的不安が加わると、難民問題にもつながってしまう。そうしたAIが現実に入っているということですね。
もう一つはコミュニケーションの回路の問題です。すでにネット上では、AIが介在することで自分に心地よい環境しか持てなくなっています。でもそれは機械の問題ではなく、どこに目的を置いてプログラミングしたかという人間の問題でもあるわけです。弱いAIが生活の中に、現実の総文の教室の中にすでに入っているときに、私たちの真のコミュニケーションが成り立つのか?　 こうした問題をしっかり考えていくと、総文での学問がどういうものかが見えてくるのではないでしょうか。

中野

ありがとうございました。このセッションは結論が出る話ではないのですが、最後に小林先生に一言いただきたいと思います。

小林

最後に杉浦先生がまとめてくださいましたが、少し付け加えさせていただきます。カールワイツがシンギュラリティが来るとした2045年、これは情報量が平面的に増えていくんじゃなくて、10倍×10倍×10倍…と指数関数的に増えて、現在のスーパーコンピュータの1兆倍もすごい、圧倒的な能力を持ったものが出現するという予言です。我々がコントロールできないケタはずれの情報量だということが大前提です。

人間の細胞は60兆あるいは最近の学説では37兆個あって、その1個の細胞の核に31億塩基対のゲノムがあるわけです。皆さんは、この宇宙がどれくらいの桁数で記述できるか知っていますか？　素粒子のひとつのクオークが10－24、で銀河が1024、宇宙が10∓30、指数でいうと60桁ぐらいなんです。その宇宙の60桁がなんでもないような途方もない計算能力を持った機械ができるという展望が見えた、そういうことですね。指数関数的世界観の登場なんです。そのとき「人間はどうするの？」ってことで、現在の日常の延長線上のレベルじゃないということを頭に入れておいてください。

本日の人間対AIの問題を考える議論のなかで、意味やバベルの塔の話が出てきましたが、やはり言語の問題が重要だと思います。我々の文化は自然言語でできていて、バベルの塔が崩壊してものすごい数の言語があります。こんな狭い地球なんだから一つの言語でいいはずだけれど、どんどん数が減っているとはいえ何千もの言語があって、その言葉が壁を作っています。でもそれこそが人間の豊かさなんですね。
私たちは日本語の中にどっぷりつかっていますが、その壁を越えるために、英語を勉強したりフランス語や中国語を勉強したりするわけですが、これは具体的に国境を越える以上に決定的に大切なことだと思います。その言語の情報量ってどれくらいだと思います？　語彙数で1万、普段使う語彙で考えたら5000もないでしょう。そして文法はたかだか100ぐらいの簡単なアルゴリズムで済んでしまうかもしれません。その中でこんなに複雑なコミュニケーションをしているわけです。
このコミュニケーションは身体がからんでいて、ビットをパッと交換しているのではなくて、話している声や身振りがあり、その声の中に単なるmeaning以上の広い意味があって、意味の波動のようなものが全体として私たちのコミュニケーションを可能にしているわけです。これはひょっとしたら、数字のアルゴリズムでは書けないかもしれない。ここに人間というものの根拠があるんですね。だから私たちは、自然言語をどう大事にしていくかを今こそ考えていかなければいけないんです。

もう一つ、間宮先生が昨日の自分と今日の自分は違うかもしれないとおっしゃいましたが、他人と比べているのではなく、自分の中の意識というか何かわかりませんが、昨日の自分と今日の自分を越えた何らかの感覚があって、それが両者を比較しているんですね。人間は一人ひとりがその感覚を信じています。あるかどうかわからないけれど、自分というものを信じて、それをもとに世界を解釈しているんです。世界のほうはひょっとしたら超巨大なコンピュータがあればデータで記述できちゃうかもしれないけれど、私というものを信じている一人ひとりの私まではデータ化できない。
つまり私たちは、「人間を信じることができますか」と今、AIに問われているわけです。人間を信じることがなければ、言語によって守られてきたものがすべて情報に流されてしまい、ネットで似た者同士が睦みあって情報を交換しているだけの部族になってしまう。そのときは他人も信じることができず、したがって難民を救うこともできないのです。
ということで、強引に第1部と第2部がつながったところで、まとめとさせていただきます。ありがとうございました。