contents
今回は、前回・前々回に引き続き、『ＡＩ原論 神の支配と人間の自由』（西垣通 著 講談社選書メチエ）を取り上げ、未来の幸福を考えるために、その書評・要約を記事にしてみたいと思います。
講談社選書メチエから出ている『ＡＩ原論 神の支配と人間の自由』（西垣通 著）は、ＡＩ（人工知能）がもたらす未来について、冷静に立ち止まって考えるための一冊です。
この『ＡＩ原論』を読んで内容が難しいと感じる場合は、第六章の「ＡＩの真実ーー論点の総括」を最初に読むと、要点が分かると思いますが、今回、当ブログでは心とは何かという問題も踏まえつつ、以下の三つのポイントに絞って、西垣通氏の『ＡＩ原論 神の支配と人間の自由』の内容を要約してみたいと思います。
- 哲学者が考える主観と科学者が考える客観の違い。
- トランス・ヒューマニズム/シンギュラリティ仮説と一神教思想の類似点。
- 生命と人工知能の違いは何か（自律性と他律系）。
今回は３、「生命と人工知能の違いは何か（自律性と他律系）」ということについてです。
「生命と人工知能の違い」について簡単にいえば、
- 生命・・・生命は自発的に行動するため、その動きをこちらからは厳密に予測できない。また、自分で身体にもとづく行動（作動）のルールを必要に応じて創り出す（自律性）。
- 人工知能・・・行動するには人間の設計者によって厳密に規定されたルールが必要（他律系）。こちらからは、ルールがなく自律的に動いているように見えても、「「メタ・ルール」（ルール変更の仕方を定める高次のルール）が人間によって設計されている」。
ということだと思われます。
「生命体とはその作動プログラムを自ら創り出す「自律系」」
西垣通氏は『ＡＩ原論』のなかで、生物学者ウンベルト・マトゥラーナとフランシスコ・ヴァレラの「オートポイエーシス理論」を紹介し、「機械とは人間によってその作動プログラムを規定された他律系」であるが、生命体とはその作動プログラムを自ら創り出す「自律系」なのである」と述べています。
また、第六章の「ＡＩの真実ーー論点の総括」では、以下のようにまとめています。
ＡＩに関して、最大の問題点の一つは「自律性(autonomy)」の概念である。自律ロボットといった言葉がマスコミを飾ることも少なくない。しかし、もしＡＩロボットが真に自律的に作動しているなら、その判断の結果について社会的な責任をとることができるはずである。このあたりを曖昧にしてはならない。正確にいうと、自律性をもつためには「自ら行動のルールを定めることができる」という点が前提である。コンピューターに限らず、あらゆる機械は、その作動のルールを人間の設計者によって厳密に規定されているから、他律系（heteronomous system）に他ならない。したがってＡＩは機械である以上、正確には自律性をもたないのである。
（西垣通『AI原論 神の支配と人間の自由』 ｐ１７０）
一方、生命体は根源的に自律的な存在である。それは自分自身で身体と行動を創出しながら生きており、自分で身体にもとづく行動（作動）のルールを創りださざるをえないからだ（ただし、その際、意識されない場合もあるし、遺伝的にルールが引き継がれる場合もある）。内部でルールが創られるので、外部から生命体の行動を観察するとき、生命体の習慣からその行動を推測することはできても、その行動を完全に予測することはできない。つまり、そこにはルールの詳細、そしてこれにもとづく行動の詳細が不明だという「不可知性」がある。不可知性は自律性と分かちがたく関連している。人間同士が対話するとき、相手の行動を意味解釈しなくてはならないが、これも不可知性が基礎になっている。また、人間のいわゆる自由意志や、それにともなう社会的責任も同様である。
（同）
さらに、
機械であるＡＩの作動は原理的に分析可能なので、不可知性はなく、社会的責任も発生しない。しかし、人間がＡＩロボットと対話しているとき、あたかも相手が自由意志をもつ人間のような感じがすることは十分にある。ＡＩとは「疑似的自律性」をもつ存在なのだ。とくに、ＡＩが学習機能をもち、入力に応じて自らのルールを変更していく場合、そういう印象が強くなる。しかし、学習機械においては「メタ・ルール」（ルール変更の仕方を定める高次のルール）が人間によって設計されているのだから、本質的に他律系であることに変わりはない。
（西垣通『AI原論 神の支配と人間の自由』 ｐ１７１）
としています。
ほかにも、生命体の特徴である「自律系」に関しては、
自律系とは、その作動ルールを正確に知ることができず、たかだか過去の作動の様子から推測するほかない。という不可知性を内包するシステムである。それが生命体に他ならない。深層学習などの機能をもつコンピューターの作動は、設計者でも分かりにくいが、原理的には分析可能である。ところで他方、生命体の作動は、自己準拠がもたらす習慣性から推測はできるが、正確な分析は不可能なのである。
（西垣通『AI原論 神の支配と人間の自由』 ｐ１１８）
としているのですが、より注目すべきなのは、「リアルタイムで未来に向かっていく現在の時間の流れの中で生きている」生命体は、「未知の出来事にも現時点で何とか対処できる」のに対し、
「過去のビッグデータを記憶して作動しているＡＩは、周囲環境が安定していれば非常に有用だが、大きな環境変動が起きると過去に引きずられて不適切な出力をもたらすのである」
と西垣通氏が述べている点です。
生命とは、不確定の極限状態にあっても、その環境を生き抜く力が備わっている存在。
つまり、過去に例が無かったいわゆる「想定外」の事態には、人工知能は柔軟に対応できない可能性が高いのです。しかし人間を含めた生命をもつ存在には、気候変動による自然災害の頻発など、不確定の極限状態にあっても、その環境を生き抜く力が備わっていることは、生命と人工知能の違いとして、忘れてはならないように思います。
以上、３回にわたって、西垣通氏の『ＡＩ原論』の内容を要約してみましたが、カンタン・メイヤスーの「思弁的実在論」などを取り上げつつ、「相関主義」や「素朴実在論」について説明してくれている本書『ＡＩ原論 神の支配と人間の自由』（講談社選書メチエ）は、人工知能のことだけではなく、心とは何か、ということを考えるのにも最適な良書だと思われます。
そのほか、自由意志や社会における人工知能の責任問題などのことも書かれており、たいへん興味深いのですが、正直なところ、今回要約した内容は、本書の魅力のごく一部しか伝えられていないように思います。
それゆえ、人工知能がもたらす未来について、一度立ち止まり、自分の頭でじっくりと考えたいという方は、ぜひ実際に本書『ＡＩ原論 神の支配と人間の自由』を手に取って通読してみてください。オススメです。
- 哲学者が考える主観と科学者が考える客観の違い。
- トランス・ヒューマニズム/シンギュラリティ仮説と一神教思想の類似点。
- 生命と人工知能の違いは何か（自律性と他律系）。←この記事
ここまで読んでくださり、本当にありがとうございます。
