書評：鄭 雄一 著『東大教授が挑む AIに「善悪の判断」を教える方法ー「人を殺してはいけない」は“いつも正しい”か？』 扶桑社 2018.5
ロボットと「道徳エンジン」
細谷 博
明快に説かれた、最先端の研究の紹介である。
テーマは「ロボットの道徳」、すなわち表題に言うように、いかにして「善悪」をロボットに認識させるかが論じられているのだ。それは抽象的な倫理的命題としてではなく、ロボットに搭載可能の「道徳エンジン」を開発するという、まさに具体的かつ近未来に必須となる課題として検討されているのである。
一読、ここまで来るにはどれほど粒粒辛苦の研究があったのだろうかと思われたが、そんな想像を不要とするほど、本書は軽々とした語りかけで書かれている。
まずは古今の宗教・思想の数々を、巧みにポイントを抽出して並べることで検討の足掛かりとなし、道徳思想には「社会中心の考え方」と「個人中心の考え方」があるのだ、と指摘する。そして、両者ともそれだけでは完全な「道徳システム」とはなりえないため、絶対的な「共通の掟」と相対的な「個別の掟」の組み合わせとして、道徳を「立体的」に、また「二重性」としてとらえるべきだ、とするのだ。
さらに、「人を殺してはならない／傷つけてはならない」の「人」とは人間一般ではなく、協力し分業する「仲間」に限定されるものであり、ＳＦ作家アシモフの名高い「ロボット三原則」の第一条「ロボットは人間に危害を加えてはならない」は、「人間」を「仲間」と置き換え、「ロボットは仲間の人間に危害を加えてはならない」とすべきだと主張するのである。
これは様々な議論を呼ぶ主張だろうが、それこそ医学と工学を融合した「医工学」の専門家であり、また道徳哲学者でもある著者、鄭雄一氏の思索の勘所といえるだろう。そこには、戦争や死刑の場では人を殺すことが容認されているこの世界において、現実にある「道徳の構造」を解明し、具体的な「アルゴリズム」として策定しようとする工学者かつ哲学者の具体的提言があるのである。
したがってロボットもみずから道徳判断をするには「仲間」の判別が必要となるのだが、その場合、「個別の掟」とは峻別した「共通の掟」のみを基準として判定することが、多様性に満ちた世界で「仲間の人間」を最も広くとらえることとなり、「道徳エンジン」が理想的構成になるというのだ。
まさに、言うは易く行うは難しで、こうした認識過程を「道徳アルゴリズム」として実際にプログラムすることが果たして可能なのか、と門外漢は思うのだが、すでに研究は進んで、人の心の寛容性や多様性も音声分析により機械的に計測可能となってきているのだという。
そのうえで、著者は、「道徳次元４」の「道徳エンジン」を搭載したロボットが一家に一台導入され、普段から「ロボットの振り見て、私が振り直せ」と、人間を高い道徳次元に導いていくという未来図までを描いて見せるのだ。
かみ砕いた解説で、難解な問題を具体的な問いかけとして簡潔に示し、各章毎に「まとめと演習問題」を付した講義形式で、順々に段階を追って理解が深まるよう工夫された本書は、万人に開かれた姿勢を持ったすぐれた入門書といえるだろう。
アシモフ作品では、「三原則」の遵守に際して種々の問題が起こり、さらには、「人類」を滅ぼそうとする人間に対しては、第一条に反して危害を加えることが許容される根拠となる「第ゼロ条」が登場したりする。ましてや、ＳＦならぬ現実ではどれほどの問題が起ころうか。
などと今後の研究の多難を想いつつ、少子化・高齢化にあえぐ世界にあって、1920年に作家カレル・チャペックによって、チェコ語robota（労働）から命名されたというロボット(人造人間)が100年後の今、人の作り出した機械の究極ともいうべき域へと達しつつ、同時にまた、人に危害を加えかねないまでの能力と知性さえ備えつつあるということを、あらためて考えるための具体的手掛かりを与えてくれる好著である。
