『私たちが未来に負うもの』（2022年）は、ロングターミズム——現代を生きる人々には後続の世代のために良い未来を創る義務があるという考え方——を論じている。哲学的推論、歴史的逸話、社会科学の研究を用いて、現代という瞬間が、未来の人々が幸福で繁栄に満ちた人生を送るのか、それとも並外れて悲惨な人生を送るのかを決定づける可能性があると主張する。AI安全性、バイオテクノロジー、価値の固定化といった問題に関して私たちの行動を注意深く検討することで、未来の人々が繁栄する可能性を高めることができる——過去の人々のおかげで、現在の私たちの多くがそうであるように。
本章のポイント：なぜ私たちはより良い未来を創るために全力を尽くすべきなのか
ある晴れた春の日、あなたは活気あふれる森をハイキングしている。歩いている途中、誤ってガラス瓶を落として割ってしまう。もしそのガラスを放置すれば、いつか子どもがそれでひどく手を切ってしまうとしよう。拾って片付けるべきかどうかを決める必要がある。
その決断をするとき、その子どもがいつ怪我をするかは重要だろうか？1週間後、10年後、あるいは1世紀後であっても、あなたの考えは変わるだろうか？もちろん変わらない。怪我をした子どもは、いつ怪我をしようと、怪我をした子どもだ。このシンプルな思考実験が示すように、未来の人々は数に入るのだ。彼らは人間だ——痛み、喜び、夢を持ち、私たちと同じ人間なのだ。
唯一の違いは、彼らがまだ存在していないということだけだ。これがロングターミズムの背後にある考え方の一つである。つまり、未来の人々は私たちの配慮と努力に値するという考え方だ。そして、それが本記事のテーマである。
なぜ未来の人々が重要なのか？
もしあなたが、未来のすべての人々の人生を、誕生から死まで、それがどんなに良かろうと悪かろうと、そっくりそのまま生き抜かなければならないと知っていたら、どうするだろうか？現在に生きる私たちに、あなたの生活の質を高めるために二酸化炭素排出量を減らしてほしいと思うだろうか？新しい技術に注意深くあってほしいと思うだろうか？今日の私たちの行動が明日の状況にどう影響するかに注意を払ってほしいと思うだろうか？
これらの質問すべてに対するあなたの答えは、おそらく「はい」だろう。もちろん、あなたのために良い未来を創るために私たちが最善を尽くしてほしいと思うはずだ。なにしろ、未来の人々は非常に多くなる可能性があるのだから。そしてロングターミズムによれば、私たちには彼らの生活を改善する義務も能力もある。未来の人々の数が重要である理由はシンプルだ。燃えている建物から1人か10人を救わなければならない状況に直面したら、他の条件が同じなら、10人を救うべきだ。
人類の場合、私たちの種の寿命はめまいがするほど長くなる可能性がある。地球が居住可能でなくなるまで生き延びたとすれば、数億年の間に、今日生きている1人に対して100万人の未来の人々が存在することになる。それらすべての人生が、繁栄するものにも、悲惨なものにもなりうる——そして私たちはその結果に影響力を持っている。過去200年の歴史が示してきたように、私たちには集団として、平均寿命を延ばし、貧困を減らし、識字率を高め、他のさまざまなポジティブなトレンドに影響を与える力がある。
一方で、20世紀に出現した全体主義体制のような、非常に悪い結果を生み出すこともできる。もちろん、私たちの未来ははるかに長くなる可能性があるのと同様に、はるかに短くなる可能性もある——自ら絶滅を引き起こしてしまえば。そのような結果を避けることは、私たちの責任の大きな部分を占めており、次のいくつかのセクションで詳しく取り上げる。
道徳的進歩は必然なのか？
今日の世界では、奴隷制が忌まわしく、容認できないものであることは明白に思える。しかし、歴史上のほとんどの時代において、ほとんどの場所で、ほとんどの文化で実践されていた。これを考えると、奴隷制の廃止は実際には非常に不思議なことだ。奴隷制は歴史的に遍在し、経済的に利益をもたらし、長きにわたって続き、影響力のある人々によって擁護されてきた。
しかし、奴隷制は確かに廃止された。最初にイギリスが、その後他の国々が廃止した。これは単なる道徳的進歩の必然的な結果だったのだろうか？著者は、多くの具体的な出来事や要因が廃止の可能性を高めたと論じている。それには、18世紀から19世紀の宗教団体であるクエーカー教徒の少数の活動が含まれる。歴史上初めて奴隷制廃止運動を行った組織であり、その活動は影響力のあるイギリスの奴隷制廃止論者の世代に影響を与えた。このように見ると、奴隷制廃止運動は、複数の道徳的パズルのピースがすべて揃った決定的な瞬間に起こったのである。
世界の道徳的信念は、今日私たちが知っているものとは簡単に大きく異なっていた可能性があり、奴隷制は世界中で依然として存在していたかもしれない。ロングターミズムの観点からは、社会の価値観を変えることは信じられないほど重要だ。より具体的には、それらを変えることができることが重要だ。価値観は非常に持続的なものでありうる。それを理解するには、聖書の売り上げを見ればいい。2000年以上前に書かれたにもかかわらず、聖書は毎年最も売れている本であり、コーランがそれに続く。
これらの書物は、世界中の無数の政治的結果に今も影響を与えている。価値観がこれほど持続的でありうるため、私たちは価値の固定化を避けたいと考える。価値の固定化とは、単一の価値体系が極めて長期間にわたって持続する原因となるあらゆる出来事のことだ。価値の固定化が地球規模で起きれば、未来の良し悪しはどの価値観が固定化されたかによって大きく決定されることになる。奴隷制が固定化された価値体系の一部だったらと想像してみてほしい。
幸いなことに、現在の道徳的宇宙の状態は、溶けたガラスによく似ている。熱く、非常に可鍛性の高い状態では、異なる道徳的見解が競い合って最終的な形を変え、影響を与えることができる。しかし、技術の進歩がこれに終止符を打つ可能性がある。次に見ていくように。
どうすれば未来をより良くできるのか？
価値の固定化の可能性を考えるとき、特に懸念される技術が1つある。それが人工汎用知能、つまりAGIだ。人間と少なくとも同じレベルで幅広いタスクを学習し実行できるシステムのことである。AGIが価値の固定化を可能にする理由は2つある。第一に、AGIは技術的成長と経済的成長の両方を大幅に加速させる可能性がある。
ある国が増え続けるAI労働者を生み出せば、その経済は無限に成長しうる。第二に、AGIは潜在的に不死身だ。ソフトウェアは簡単に複製でき、一度作られたら実際には破壊できない。この技術を使えば、個人、グループ、あるいは国家が、自分たちの目標と密接に一致した目標を持つ、熟練した知的な生産的エージェントを作り出すことができる。AGIはその後、それらの目標に基づいて行動し、推進することができる。非常に特定の未来を実現するようにハードコードすることさえ可能であり、誰かの脳構造を無限にエミュレートするために使うこともできる。あるいは、これらすべてを同時に行うことも。
したがって、誰かがAGIを使って競合する道徳的見解を根絶する可能性はある。彼らはそうしたいと思うだろうか？悲しいことに、歴史を見ると、そうするかもしれない。歴史的に、無数の宗教的十字軍やイデオロギー的粛清が、反対の見解を持つ人々を排除しようとしてきた。もちろん、AGIがいつ開発されるかは正確にはわからない。機械学習の専門家の間でも予測は大きく異なるが、これまでで最も堅牢な予測はアナリストのアジェヤ・コトラによるものだ。
彼女の研究に基づくと、コトラはAGIが2036年までに開発される確率を10％超、2050年までに開発される確率を50％と推測している。AGIが何世紀も先のことだとしても、価値の固定化について考え続けるべきだ。なぜなら、その間に起こることが、最終的にどの価値観が固定化されるかに影響を与える可能性があるからだ。一つの価値体系が世界的に定着すれば、時間とともに変化する圧力はほとんどなくなる。その見解は何千年も持続しうる。AGIがあれば、永遠に持続しうる。これを考えると、私たちは道徳的に探索的な世界、つまり道徳的により優れた規範や制度が時間とともに最も勝ち残りやすい世界を目指すべきだ。
そうすることで、最終的に可能な限り最良の社会に収束することができる。加えて、政治的実験主義を支持すべきだ。その一つの方法がチャーター都市の開発である。これは周辺国とは異なる法律の下で運営される自治コミュニティのことだ。マルクス主義、環境主義、アナキスト共同体主義に基づくチャーター都市を作ることもできる——何でもありだ。
これらを用いて、どの価値観の組み合わせが最良の社会をもたらすかを経験的に判断することができる。価値の固定化以外に、文明はどのように終わり、あるいは崩壊する可能性があるのだろうか？これについては次に議論する。
どのようにして人類の絶滅や文明の崩壊を引き起こしうるのか？
1994年、シューメーカー・レヴィ第9彗星が木星に衝突した。その力はTNT火薬3000億トン分に相当し、文字通り地球サイズの痕跡を残した。科学者たちは小惑星衝突の危険性を何年も警告してきた。しかし、木星への衝突までは、たいてい一笑に付されていた。
その後、世論の関心と科学界の提言が高まり、ついに議会が行動を起こした。1998年、議会はスペースガード計画を開始し、NASAに10年以内に地球近傍小惑星と彗星のうち直径1kmを超えるものの90％を発見する任務を課した。この計画は成功を収めた。NASAは私たちの絶滅を脅かす可能性のある天体の98％以上を発見した。小惑星に衝突されるリスクは、スペースガード以前より100分の1に低くなった。この例は、人類が実存的脅威を真剣に受け止めれば、それを軽減する実質的な能力を持っていることを示している。現在、身近には小惑星よりもはるかに大きなリスクが存在し、私たちはそれらに対処するという挑戦に立ち向かわなければならない。
その一つが人工的パンデミックのリスクだ。つまり、バイオテクノロジーを使って私たち自身が設計した病気の発生である。人工病原体は、危険な特性の組み合わせを持つように作ることができる。エボラと同じくらい致死性があり、麻疹と同じくらい感染力があるものを想像してみてほしい。さらなるリスクは、新しい病原体が一般の人々によって自宅で簡単に複製される可能性があるという事実と、バイオテクノロジー研究を行う研究所の安全基準が憂慮すべきほど甘いという事実から来ている。すでに、確認された研究所からの漏出が炭疽菌、天然痘、エボラなどの発生につながっている。さまざまな推定によると、今世紀中に絶滅レベルの人工的パンデミックが起こる確率は0.6％から3％の間だ。
しかし、絶滅だけが私たちが懸念すべき結果ではない。パンデミックや核戦争で99％の人々が死んだら、私たちは立ち直ることができるだろうか？そうできると考える理由はいくつかある。まず、たとえほとんどの人々が死んでも、物理的インフラや機械は大部分が使用可能なままであり、私たちの知識のほとんどを収めた図書館やデジタルアーカイブも同様だ。しかし、十分な化石燃料の埋蔵量を地下に残しておかなければ、複雑な問題が生じる可能性がある。なぜなら、歴史的に見て、化石燃料は工業化にとって決定的に重要だからだ。
国が工業化を始めるとき、ほとんどの場合、まず大量の石炭を燃やし、その後石油と天然ガスに切り替える。化石燃料の枯渇は、崩壊から回復する能力を深刻に妨げる可能性がある。残った太陽光発電所や風力発電所からいくらかの電力を得られるかもしれないが、これらはわずか数十年で劣化する。新しいものを作ることは、高度な国際サプライチェーンの助けなしでは非常に困難だ。さらに、太陽光と風力では、セメント、鉄鋼、レンガ、ガラスを作るのに必要な高温の熱を供給できない。化石燃料資源を枯渇させればさせるほど、私たちの状況は悪くなると言えば十分だろう。
どうすれば未来を守ることができるのか？
文明がたどりうる多くの悪い道筋について見てきたところで、あなたはおそらく、実存的リスクを減らすためにどう貢献できるのか知りたいと思っているだろう。一般的に、いくつかの重要な経験則が、長期的な未来に影響を与えるための努力の指針となる。第一は、確実に良い、あるいは良いとかなり自信を持てる行動を取ることだ。クリーンテックのイノベーションを促進することは、この規則に当てはまる好例だ。
それは化石燃料を地中に留めるのに役立ち、気候変動の影響を軽減し、技術進歩を促進し、大気汚染による死者数を減らす。未来に影響を与えるための第二の経験則は、自分に開かれた選択肢の数を増やすことだ。例えば、特定のキャリアパスは他のものより多くの機会を開く。経済学や統計学の博士号は、哲学の博士号よりも多くの選択肢を与えてくれるだろう。最後に、第三の経験則は、学び続けることだ。個人的にも社会的にも、私たちはさまざまな問題や重要な課題についての知識を常に築き続けることができる。
世界を改善するための一般的なガイドラインが得られたところで、どの特定の問題に焦点を当てたいかを決めるべきだ。ここでは優先順位づけが不可欠だ。多くの人と同様に、あなたも自分の心に近い問題、おそらくは自分や愛する人に影響を与えるからという理由で選びたいと思うかもしれない。しかし、その問題は世界的な影響力が高くないかもしれない。最も影響力の高い問題領域は、本記事で取り上げてきたものだ。価値の固定化、AGI、バイオテクノロジー、気候変動、技術的停滞である。最も切迫していると思う問題を選んだら、行動を起こす時だ。
ここでも、多くの人々が最も最適な方法でこれを行っていない。例えば、動物福祉を推進しようと決めたとき、多くの人はすぐに菜食主義者になる。著者も18歳のときにそうだった。このような個人的な行動は理解できるが、その効果はかなり微々たるものだ。若いうちに菜食主義者になることは、生涯の総炭素排出量を10分の1、つまり80年間で約64トンの炭素を減らすことになる。それを、クリーンエア・タスクフォースへの1回の寄付3,000ドルと比較してみよう。推定によれば、そのような寄付は世界の二酸化炭素排出量を年間3,000トン削減し、一生菜食主義者であるよりも指数関数的に高い効果がある。
寄付のほかに、影響力の高い行動として政治的活動がある。その最もシンプルな形が投票だ。特定の一票やある問題への取り組みが測定可能な違いを生む可能性は低いかもしれないが、キャンペーンが成功すればリターンは非常に大きくなりうる。もう一つの影響力のある行動は、家族や友人の間で良いアイデアを広めることだ。友人同士の議論は政治参加を増やす優れた方法であり、人々が重要な問題に取り組む動機を与えることができる。最後の影響力の高い決断は、子どもを持つことだ。確かに、あなたの子どもは炭素を排出することになる。
しかし、彼らは社会に貢献し、イノベーションを起こし、政治的変革を提唱するなど、多くの良いこともするだろう。より多くの子どもを持つことは、私たちが技術的に停滞するリスクも減らす。停滞は大きなリスクだ。なぜなら、防御する手段を持つ前に、強力な破壊的ツールを開発してしまう可能性があるからだ。私たちは、リスクを軽減する手段なしに人類を一掃しうる病原体を生物工学的に作り出せる、持続不可能な状態に入りつつあるのかもしれない。さらに、技術的に進歩するにつれて、私たちは手の届きやすい果実、つまり最も簡単に開発できる技術を選びがちだ。時間が経つにつれて、同様に重要な発明を見つけることはますます難しくなる。
これまで、私たちは研究者、技術者、発明家の数を単に増やすことで問題に対処してきた。しかし、そのトレンドは続けられない。国連のデータによると、出生率の低下により、世界人口は2100年までにプラトーに達し、その後指数関数的に減少する。世界の出生率が女性1人当たり1.5人、つまり現在のヨーロッパの水準まで下がった場合、世界人口は500年以内に100億から1億未満に縮小する。未来に影響を与えるために何をするにしても、1つのことを忘れないでほしい。1人でも違いを生み出せるのだ。歴史上のあらゆる社会運動・政治運動は、個人の努力の組み合わせの結果だった。あなたは——私たちは——まだ生まれていないすべての未来の人々のために、未来をより良い軌道へと導く手助けをすることができる。
最終まとめ
ロングターミズムを一言で言えば、未来の人々は私たちの配慮に値し、その数は非常に多い可能性があり、私たちは彼らの生活を改善できるという哲学だ。未来の人々は選挙権を剥奪されている。彼らは投票することも、ロビー活動をすることも、公職に立候補することも、記事を書くことも、抗議活動に参加することもできない。しかし、私たちの行動は彼らに大きな影響を与える。注意しなければ、AGIの開発によるネガティブな価値の固定化を引き起こしたり、生物工学的に作られた病原体で人類を一掃したり、技術的に停滞することによって実存的脅威に対処する能力を阻害したりする可能性がある。
未来を守る最善の方法は、非常に効果的な慈善団体への寄付、政治的活動への参加、議論の促進、そして子どもを持つことだ。実践的なアドバイス：キャリアを慎重に検討しよう。平均的な人は生涯で80,000時間を仕事に費やす。しかし、多くの人は自分の仕事が充実感をもたらさず、影響力もないと感じている。行き詰まったままでいる代わりに、科学者が仮説を検証するようにキャリアを扱うべきだ。選択肢を調査し、最良の長期的道筋について推測し、それを数年間試し、推測を更新し、必要に応じて繰り返すことに、かなりの時間を費やすべきだ。
結局のところ、キャリアの選択はあなたができる最も影響力の高い決断の一つだ。あなたにとって——そして世界にとって——最良の選択肢に向かって絶えず前進していく反復的なプロセスとして扱おう。
