人間の本質や社会性に目を

森島

AIに何ができるかできないかではなく、人間がどうなるか、人間自身が機械化したりモノ化するほうが怖いというのが、問題の本質というわけですね。
例えばいま日本が憲法改正をするとして、じゃあ人間にやらせるのとAIに任せるのと、どちらが安全かと問われたときに、むしろまともな判断をするのはAIじゃないかと思う可能性だってありえます。人間に勝る部分があるからAIに任せようとなったときに何が失われていくのかということを、過渡期の今だからこそ思い巡らしておかないと危ないのではないでしょうか。福田先生は、AIにやれるならやってみろとおっしゃっていましたが？

福田

やれるならやってみろというのはちょっと言い過ぎましたね。ただし、核開発などこれまでの科学の進展を考えてみれば、進歩を止めようとしても止まらなかったのです。現代生命科学もAIも同様に倫理的問題があるからといって止まるわけではないでしょう。
AIでは、精巧な人工知能をつくろうとして、脳の分身、あるいはさらにバージョンアップされたものができるかどうかという問題になりますが、私たちの身体だって臓器移植で死なない身体をつくるとか、ゲノム編集でデザイナーベビーをつくるなど、科学者自身もこれをやったからどうなるかがハッキリ見えないところで、現実がどんどん進んでいます。だからAIも同じで、シンギュラリティに似たものがありうるのではないかと思います。
それと、先ほど茂先生のお話で、人間は自我があって、自分がやっていることを自覚できるということでしたが、あらためて振り返ってみると、自分が本当に理解してやっているかとか、自我がないときのほうが実は決定的なことをしているということもあるのではないでしょうか。ですから人間対AIという二項対立の図式で考えると見えなくなってしまう人間の本質に目を向けていかなければと思います。

茂

私たちの行動には、突然魔が差すとか、無意識の中から出てくるってことがあるわけで、すべてのことを自覚してやっているわけではないのですが、先ほど私が自覚と申し上げたのは、自分がしてしまったことを後で反省するとか、20年間の人生を振り返るとか、未来に向かって行動を起こすなど、自覚的に行えるという意味です。

間宮

アイデンティティというのは、昨日の私と今日の私は同じだという同一性の考え方ですが、実のところ昨日の私と今日の私が同じであるという保証はないわけです。お酒を飲んで酔っていた昨日の私と今日の私は同じかどうか？　なんだか違う気がしますよね。
でも時間上のアイデンティティがなくなったら倫理もまたなくなってしまう。違うアイデンティティだったら責任を問えませんから。アイデンティティが分裂していくと、倫理はどんどん弱まっていくのではないかなと思います。

森島

今の、酒を飲んだら昨日の私と今日の私が一致しないという話になるほどと思いました。だからこそ社会という他者が必要だと思うのですね。「あなたは昨日こんなことをやっていたよ」という言葉を通して、我々は自己認識するわけですよね。つまり人は一人では生きられず、他者が必要で社会が必要。そういったなかで人間が人間になっていく。聖書でも男と女が創造ざれますが、一緒に生きる他者として作られています。AIに社会性があるのかどうかということも、問われるべき問題の一つだろうと思いました。

茂

自我の中にはいくつもの層や他者性も含まれていて、分裂する可能性もあるし、より普遍的なアイデンティティを獲得していくゆるやかな階層性のようなものもあるのだと思います。それが人類とか、高次のものにつながっていくのでしょう。