今回は、『サピエンス全史』や『２１ Ｌｅｓｓｏｎｓ ２１世紀の人類のための２１の思考』の著者であるユヴァル・ノア・ハラリの『ホモ・デウス テクノロジーとサピエンスの未来』（柴田裕之訳 河出書房新社）を読んだ感想を述べつつ、書評を記事にしていきたいと思います。
この度、河出書房新社から翻訳出版されたユヴァル・ノア・ハラリの『ホモ・デウス テクノロジーとサピエンスの未来』（上・下）を通読してみると、前作『サピエンス全史』がホモ・サピエンス特有の「想像力」に焦点が当てられているのに対し、本書は「心」の未来について語られているという印象を受けました。
そのため、この記事では、「心」という観点から、『ホモ・デウス』が語っている内容を自分なりに要約してみたいと思います。
しかし、引用を中心に、かなり長い記事となっていますので、先にこの記事の要点を申し上げますと、テクノロジーの進歩によってＡＩが私たちの「心」の領域に介入してきたとしても、私たちの「心」（もしくは「生命」）にとって、未来の幸福が約束されるわけではない、ということです。
その理由は、著者のユヴァル・ノア・ハラリ氏が科学の「生き物はアルゴリズムであり、生命はデータ処理であるという教義」（下巻 ｐ２４５）に対して、「生き物は本当にアルゴリズムにすぎないのか？ そして、生命は本当にデータ処理にすぎないのか？」という問いを提起しているように、アルゴリズムとデータ処理によって生命を解明できるという科学の前提が間違っている可能性があるからです。
以下、「心」に関しての、『ホモ・デウス テクノロジーとサピエンスの未来』の要約と書評ですが、『ホモ・デウス』の内容を客観的に簡潔に知りたいという方は、ＨＯＮＺのサイトに掲載されている柴田裕之氏の「訳者あとがき」が、『ホモ・デウス』の内容を知るのに秀逸であるため、そちらを参照することをオススメします。
ホモ・サピエンスから「ホモ・デウス」へ
まず、『ホモ・デウス テクノロジーとサピエンスの未来』上巻の序盤で示されているのは、「人類を残忍な生存競争の次元より上まで引き上げることができたので、今度は人間を神にアップグレードし、ホモ・サピエンスをホモ・デウス〔訳注 「デウス」は神の意〕に変えることを目指す」ということです。
成功は野心を生む。だから、人類は昨今の素晴らしい業績に押されて、今やさらに大胆な目標を立てようとしている。前例のない水準の繁栄と健康と平和を確保した人類は、過去の記録や現在の価値観を考えると、次に不死と幸福と神性を標的とする可能性が高い。飢餓と疾病と暴力による死を減らすことができたので、今度は老化と死そのものさえ克服することに狙いを定めるだろう。人々を絶望的な苦境から救い出せたので、今度ははっきり幸せにすることを目標とするだろう。そして、人類を残忍な生存競争の次元より上まで引き上げることができたので、今度は人間を神にアップグレードし、ホモ・サピエンスをホモ・デウス〔訳注 「デウス」は神の意〕に変えることを目指すだろう。
（ユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』上 柴田裕之訳 ｐ３２～３３）
また、『ホモ・デウス』（下）においては、「テクノ人間至上主義」なるものが、ホモ・サピエンスをホモ・デウスにアップグレードするために、テクノロジーを利用すると述べられています。
テクノ人間至上主義は、私たちが知っているようなホモ・サピエンスはすでに歴史的役割を終え、将来はもう重要ではなくなるという考え方には同意するが、だからこそ私たちは、はるかに優れた人間モデルであるホモ・デウスを生み出すために、テクノロジーを使うべきだと結論する。ホモ・デウスは人間の本質的な特徴の一部を持ち続けるものの、意識を持たない最も高性能のアルゴリズムに対してさえ引けを取らずに済むような、アップグレードされた心身の能力も享受する。知能が意識から分離しつつあり、意識を持たない知能が急速に発達しているので、人間は、後れを取りたくなければ、自分の頭脳を積極的にアップグレードしなくてはならない。
（ユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』下 柴田裕之訳 ｐ１９０）
心と魂は別物？
ちなみに、「心」とは何か、という問いに答えるのは難しいですが、「心」（あるいは意識）に関しては、『ホモ・デウス』においては、以下のように簡潔に説明されています。
率直に言って、心と意識について科学にわかっていることは驚くほど少ない。意識は脳内の電気化学的反応によって生み出され、心的経験は何かしら不可欠なデータ処理機能を果たしているというのが現在の通説だ。とはいえ、脳内の生化学的反応と電流の寄せ集めが、どのようにして苦痛や怒りや愛情の主観的経験を生み出すのかは、誰にもまったく想像がつかない。１０年後か５０年後には、しっかり説明がつくかもしれない。だが二〇一六年の時点では、そのような説明は得られていないから、それははっきり認識しておかなくてはいけない。
（ユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』上 柴田裕之訳 ｐ１３７）
ところで「心」というと、同時に「魂」の存在に思いを馳せる方もいらっしゃるかもしれませんが、「魂」に関しては、著者のユヴァル・ノア・ハラリは、「心は魂とは完全に別物だ」とし、「進化論は魂という考えを受け容れられないーー少なくとも「魂」が分割することのできない、不変の、不滅かもしれないものを指しているとしたら」と述べ、（「構成要素がない」）「魂の存在は進化論と両立しえない」としています。
そもそも生命の存在を科学で解明することができるのか？
しかし問題なのは、生命をデータ処理、生き物をアルゴリズムだとする生命科学が、ヒトの心の有り方をテクノロジーによって変容させようとしていることだと思われます。
これまで、人生の意味や指針を与えてくれた「超越」としての存在の神は世界から退場し、次第に自分自身の内面から発せられる声に従う人間至上主義へと変化していった歴史が語られていますが、実際のところ、その従うべき内面の声が、本当に自分の声だと言えるのかどうか、分からないのです。
意味も神や自然の法もない生活への対応策は、人間至上主義が提供してくれた。人間至上主義は、過去数世紀の間に世界を征服した新しい革命的な教義だ。人間至上主義という宗教は、人間性を崇拝し、キリスト教とイスラム教で神が、仏教と道教で自然の摂理がそれぞれ演じた役割を、人間性が果たすものと考える。伝統的には宇宙の構想が人間の人生に意味を与えていたが、人間至上主義は役割を逆転させ、人間の経験が宇宙に意味を与えるのが当然だと考える。人間至上主義によれば、人間は内なる経験から、自分の人生の意味だけではなく森羅万象の意味も引き出さなくてはならないという。意味のない世界のために意味を生み出せ――これこそ人間至上主義が私たちに与えた最も重要な戒律なのだ。
（ユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』下 柴田裕之訳 ｐ３４）
特に人間至上主義のなかでも、正統派の人間至上主義は、「自由を重視するため、「自由主義的な人間至上主義」、あるいはたんに「自由主義」として知られている」といいます。
ですが、人間至上主義が重視する「自由」は、「まさに「魂」と同じく、具体的な意味などまったく含まない空虚な言葉だった」のであり、「自由意志は私たち人間が創作したさまざまな想像上の物語の中にだけ存在している」というのです。
現実には意識の流れがあるだけで、さまざまな欲望がこの流れの中で生じては消え去るが、その欲望を支配している永続的な自己は存在しない。だから、私は自分の欲望を決定論的に選んだのか、ランダムに選んだのか、自由に選んだのかと問うても意味がないのだ。
（ユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』下 柴田裕之訳 ｐ１０８）
自由意志の存在を疑ってみるのは、ただの哲学的演習ではない。そこには実際的な意味合いもある。もし本当に生き物に自由意志がないのなら、それは私たちが薬物や遺伝子工学や脳への直接の刺激を使って生き物の欲望を操作し、意のままにさえできることを意味する。
（同 ｐ１０９）
心の問題は、神から人間の内面、そして科学の領域へ
そこで、心の問題は、神から人間の内面、そして科学の領域へと推移していくのです。
科学は、自由意志があるという自由主義の信念を崩すだけではなく、個人主義の信念も揺るがせる。自由主義者たちは、私たちには単一の、分割不能の自己があると信じている。個人であるとは、分けられないということだ。たしかに、私の体はおよそ三七兆個の細胞からできているし、体も心も毎日無数の入れ替えや変化を経験する。それなのに、もし私が本当に注意を払って自己を知ろうと努めれば、自分の奥底に、単一で明確な本物の声を必ず発見できるはずで、それが私の真の自己であり、この世界のあらゆる意味と権威の源泉なのだ。自由主義が理に適うものであるためには、私には一つ、ただ一つの真の自己がなくてはならない。なぜなら、もし複数の本物の声があったなら、投票所やスーパーマーケットや結婚市場でどの声に傾ければ、わからないではないか。
（ユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』下 柴田裕之訳 ｐ１１４～１１５）
ところが生命科学は過去数十年のうちに、この自由主義の物語がただの神話でしかないという結論に達した。単一の本物の自己が実在するというのには、不滅の魂やサンタクロースや復活祭のウサギ〔訳注 復活祭に子供たちにプレゼントを持ってくるとされるウサギ〕が実在するというのと同じ程度の信憑性しかない。もし私が自分の中を本当に深くまで眺めたら、当たり前だと思っていた統一性は見かけ倒しであることがわかり、相容れないさまざまな声が混ざり合った耳障りな雑音と化す。そのうちどれ一つとして「私の真の自己」ではない。人間は分割不能な個人ではない。さまざまなものが集まった、分割可能な存在なのだ。
（ユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』下 柴田裕之訳 ｐ１１５）
「私」とは何か？
しかし、本当の自分はどこにも見つからないといっても、昨日の自分と今日の自分と明日の自分は基本的に同じ自分であるという同一性を少しでも信じていなければ、多くの場合、日常生活をまともに送れなくなってしまいます。
『ホモ・デウス』（下）の第８章では、マイケル・Ｓ・ガザニガ教授の研究を引き、経験する自己と物語る自己について述べられていますが、実際に物事を経験する自分と、その経験を事後的に（都合よく）解釈して物語る自分は、同じではないのです。ですがこの二つは緊密に絡み合って一貫した「私」を作り出しているといいます。
とはいえ、私たちのほとんどは、自分を物語る自己と同一視する。私たちが「私」と言うときには、自分がたどる一連の経験の奔流ではなく、頭の中にある物語を指している。混沌としてわけのわからない人生を取り上げて、そこから一見すると筋が通っていて首尾一貫した作り話を紡ぎ出す内なるシステムを、私たちは自分と同一視する。話の筋は嘘と脱落だらけであろうと、何度となく書き直されて、今日の物語が昨日の物語と完全に矛盾していようと、かまいはしない。重要なのは、私たちには生まれてから死ぬまで（そして、ことによるとその先まで）変わることのない単一のアイデンティティがあるという感じをつねに維持することだ。これが、私は分割不能の個人である、私には明確で一貫した内なる声があって、この世界全体に意味を提供しているという、自由主義の疑わしい信念を生じさせたのだ。
（ユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』下 柴田裕之訳 ｐ１２４）
心の領域に介入する生命科学とテクノロジー
ところが、生命科学とテクノロジーが心の領域に介入してきて、アルゴリズムとデータ処理によって「あなた」について、時々選択に失敗したり、判断を誤ったりするあなた自身よりも、年齢、性別、住んでいる地域、会話やメールのやりとりの内容、好み、といったデータの集積から、より多くのことをより完璧に知っていると囁きかけるようになるのです。
ところが、二一世紀のテクノロジーのおかげで、外部のアルゴリズムが人間の内部に侵入し、私よりも私自身についてはるかによく知ることが可能になるかもしれない。もしそうなれば、個人主義の信仰は崩れ、権威は個々の人間からネットワーク化されたアルゴリズムへと移る。人々は、自らの願望に即して生活を営む自律的な存在として自分を見ることがもうなくなり、自分のことを、電子的なアルゴリズムのネットワークに絶えずモニターされ、導かれている生化学的メカニズムの集まりと考えるのが当たり前になるだろう。それが実現するには、私を完璧に知っていて、私よりも犯すミスの数が少ないアルゴリズムがあれば十分だ。そういうアルゴリズムがあれば、それを信頼して、自分の決定や人生の選択のしだいに多くを委ねるのも理に適っている。
（ユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』下 柴田裕之訳 ｐ１６２）
そして、「人間中心からデータ中心へという世界観の変化」は、「日常生活に与える実際的な影響のため」、机上の空論ではなく、「実際的な革命」になるのです。
人間中心からデータ中心へという世界観の変化は、たんなる哲学的な革命ではなく、実際的な革命になるだろう。真に重要な革命はみな実際的だ。「人間が神を考え出した」という人間主義の発想が重要だったのは、広範囲に及ぶ実際的な意味合いを持っていたからだ。同様に、「生き物はアルゴリズムだ」というデータ主義者の発想が重要なのは、それが日常生活に与える実際的な影響のためだ。発想が世界を変えるのは、その発想が私たちの行動を変えるときに限られる。
（ユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』下 柴田裕之訳 ｐ２３７）
二一世紀の今、もはや感情は世界で最高のアルゴリズムではない。私たちはかつてない演算能力と巨大なデータベースを利用する優れたアルゴリズムを開発している。グーグルとフェイスブックのアルゴリズムは、あなたがどのように感じているかを正確に知っている。したがって、あなたは自分の感情に耳を傾けるのをやめて、代わりにこうした外部のアルゴリズムに耳を傾け始めるべきだ。
（ユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』下 柴田裕之訳 ｐ２３９）
巨大な力を持ち始めるアルゴリズム
しかし問題なのは「グーグルやフェイスブックなどのアルゴリズムは、いったん全知の巫女として信頼されれば、おそらく代理人へ、最終的には君主へと進化するだろう」（下巻 ｐ１７６）とあるように、アルゴリズムが巨大な力を持ち始めることだと思われます。
しかも、「アルゴリズムは人間ならばとても把握し切れないような天文学的な量のデータを分析し、パターンを認識することを学び、人間の頭には浮かばない方策を採用」し、「成長するにつれて自らの道を進み、人間がかつて行ったことのない場所にまで、さらには人間がついていけない場所にまで行く」というのです。
ちなみに「アルゴリズムとは、計算をし、問題を解決し、決定に至るために利用できる、一連の秩序だったステップのこと」（上巻 ｐ１０７）です。
だが、こうした偉大なアルゴリズムはどこから生じるのだろうか？ これがデータ至上主義の謎だ。キリスト教によると、私たち人間は神と神の構想を理解できないというが、ちょうどそれと同じように、データ至上主義は、人間の頭では新しい支配者であるアルゴリズムをとうてい理解できないと断言する。むろん現在のところ、アルゴリズムの大半は人間の専門家によって書かれている。それでも、グーグルの検索アルゴリズムのような、真に重要なアルゴリズムは、巨大なチームによって開発されている。チームの各メンバーが理解しているのはパズルのほんの一部分で、アルゴリズム全体を本当に理解している人はいない。
（ユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』下 柴田裕之訳 ｐ２３９）
さらに、機械学習や人工ニューラルネットワークの台頭によって、ますます多くのアルゴリズムが独自に進化して、自らを改善し、自分のミスから学習している。そうしたアルゴリズムは人間ならばとても把握し切れないような天文学的な量のデータを分析し、パターンを認識することを学び、人間の頭には浮かばない方策を採用する。もとになるアルゴリズムは、初めは人間によって開発されるかもしれないが、成長するにつれて自らの道を進み、人間がかつて行ったことのない場所にまで、さらには人間がついていけない場所にまで行くのだ。
（同）
そして、データ至上主義の行き着く先は、「すべてのモノのインターネット」であるといいます。
資本主義同様、データ至上主義も中立的な科学理論として始まったが、今では物事の正邪を決めると公言する宗教へと変わりつつある。この新宗教が信奉する至高の価値は「情報の流れ」だ。もし生命が情報の動きで、私たちが生命は善いものだと考えるなら、私たちはこの世界における情報の流れを深め、拡げるべきであるということになる。データ至上主義によると、人間の経験は神聖ではないし、ホモ・サピエンスは、森羅万象の頂点でもなければ、いずれ登場するホモ・デウスの前身でもない。人間は「すべてのモノのインターネット」を創造するためのたんなる道具にすぎない。「すべてのモノのインターネット」はやがては地球という惑星から銀河全体系へ、そして宇宙全体にさえ拡がる。この宇宙データ処理システムは神のようなものになるだろう。至る所に存在し、あらゆるものを制御し、人類はそれと一体化する定めにある。
（ユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』下 柴田裕之訳 ｐ２２５）
以上ここまで、「心」という観点から、『ホモ・デウス テクノロジーとサピエンスの未来』が語っている内容を自分なりに要約してみましたが、意識を持たない高性能のアルゴリズムが、企業によるサービスなど、何らかのかたちで、私たちの心を操作するようになるのは、確実であるように思われます。
その理由は、様々な選択・意思決定をする際に、錯覚や思い込み、誤謬だらけで、情動にも左右される不完全な自分自身よりも、高性能のアルゴリズムを搭載したＡＩに任せた方が、間違いが少なく、より正確だとされているからです。
『ホモ・デウス』は、人間の心の未来について、自らが立ち止まって考えるための書物
しかし、生命をデータ処理、生き物をアルゴリズムだという生命科学の前提が最初から間違っているという可能性もあるため、私たちの代わりに判断・選択を行うアルゴリズム自体が私たちに幸福をもたらすとは限らない、ということは肝に銘じておく必要があるように思います（さらに、数学で「世界」や「心」の全てを記述できるという発想自体に誤りがある可能性が高いです）。
たとえばなぜ「意識」が生まれるのかという問題を解決できないまま、「意識」を切り離すことによって作られている人工知能（AI）は、人間の心のように難しい倫理的判断を行うことは出来ないとされていますが、人間の心の問題を単純に人工知能に置き換えてしまうと、社会において、（責任問題など）様々な不都合な問題が生じてくることは明白です。
本書『ホモ・デウス』の著者のユヴァル・ノア・ハラリ氏も、ＡＩとバイオテクノロジーがもたらすであろう未来について、肯定的に語っているわけではありません。
特に、データを崇拝する「データ至上主義」が新しい宗教として機能するという問題についても注意が必要であるように思います。
ＡＩとバイオテクノロジーの台頭は世界を確実に変容させるだろうが、単一の決定論的な結果が待ち受けているわけではない。本書で概説した筋書きはみな、予言ではなく可能性として捉えるべきだ。こうした可能性のなかに気に入らないものがあるなら、その可能性を実現させないように、ぜひ従来とは違う形で考えて行動してほしい。
（ユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』下 柴田裕之訳 ｐ２４４）
とはいえ、新たな形で考えて行動するのは容易ではない。なぜなら私たちの思考や行動はたいてい、今日のイデオロギーや社会制度の制約を受けているからだ。本書では、その制約を緩め、私たちが行動を変え、人類の未来についてはるかに想像力に富んだ考え方ができるようになるために、今日私たちが受けている条件付けの源泉をたどってきた。単一の明確な筋書きを予測して私たちの視野を狭めるのではなく、地平を拡げ、ずっと幅広い、さまざまな選択肢に気づいてもらうことが本書の目的だ。
（同）
『ホモ・デウス』が投げかける三つの問いとは？
したがって、『ホモ・デウス テクノロジーとサピエンスの未来』下巻の最後には、以下の三つが重要な問いとして、提起されています。
１ 生き物は本当にアルゴリズムにすぎないのか？ そして、生命は本当にデータ処理にすぎないのか？
２ 知能と意識のどちらのほうが価値があるのか？
３ 意識は持たないものの高度な知能を備えたアルゴリズムが、私たちが自分自身を知るよりもよく私たちのことを知るようになったとき、社会や政治や日常生活はどうなるのか？
（ユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』下 柴田裕之訳 ｐ２４４）
すなわち、『ホモ・デウス テクノロジーとサピエンスの未来』は、人間の心の未来について、何らかの解答が与えられるというより、自らが立ち止まって考えるための書物だといえます。
いったんテクノロジーによって人間の心が作り直せるようになると、ホモ・サピエンスは消え去り、人間の歴史は終焉を迎え、完全に新しい種類のプロセスが始まるが、それはあなたや私のような人間には理解できない。多くの学者が、二一〇〇年あるいは二二〇〇年の世界がどんなふうに見えるかを予測しようとしている。これは時間の無駄だ。わざわざ手間隙かけて立てる価値のある予測であれば必ず、人間の心を作り直す能力を考慮に入れなくてはならないが、それは不可能だからだ。
（ユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』上 柴田裕之訳 ｐ６３）
ちなみに、『ホモ・デウス』を読んだ後に、人工知能やテクノロジーがもたらす心の未来や人類のあり方について、さらに深く考えたい場合は、西垣通『ＡＩ原論 神の支配と人間の自由』や、『サピエンス異変』（飛鳥新社）などの書籍を併読するのがオススメです。
