Life 3.0（2017年）は、人工知能という新興分野における現在の問い、アイデア、研究を俯瞰する一冊です。著者マックス・テグマークは未来を垣間見せ、地球上で起こり得るシナリオを描き出します。人間は機械と融合するかもしれません。機械を人間の意志に従わせるかもしれません。あるいは恐ろしいことに、知能を持った機械が支配権を握るかもしれません。
この本から得られるもの：未来がもたらすものを知る
地球上の生命は何千年もの間、進歩と進化を続けてきました。その典型例として人類ほど相応しい種はいません。マックス・テグマークは、私たちが今、進化の最終段階であるライフ3.0へ向かっていると想像します。
この人類の時代において、テクノロジーは自立し、自らのハードウェアとソフトウェアを設計するようになります。その人類の存在そのものへの影響は計り知れません。そのような人工生命はまだ地球上に存在していません。しかし、私たちは人工知能（AI）として知られる非生物学的知能の出現に直面しています。この要約では、想定される未来の姿を探る旅へとご案内します。AIの創造に何が必要なのか、AIが人間の知能とどう異なるのかも学べるでしょう。道中では、「人間であることの意味」に関する最大級の哲学的な問いにも向き合うことになります。
AIは生命の未来を象徴するかもしれないが、議論の的となっている
この要約では、次のことを学びます：
- AI研究の「聖杯」について
- コーヒーカップの中にどんな混沌が存在するのか
- AIがどのように仕事を危険にさらすのか
その後、約40億年前に、地球上の原子は自らを維持し複製できる形に配列されました。生命が誕生したのです。著者が提唱するように、生命は洗練度に応じて3つのカテゴリーに分類できます。生命の第一段階であるライフ1.0は、単に生物学的なものです。細菌を考えてみましょう。
細菌の行動のあらゆる側面はDNAにコードされています。生涯にわたって学習したり行動を変えたりすることは不可能です。学習や改善に最も近いものは進化ですが、それには何世代もかかります。第二段階は文化的なライフ2.0です。ここには人間が含まれます。
細菌と同じように、私たちの「ハードウェア」つまり身体も進化してきました。しかし、より単純な生命体とは異なり、私たちは生涯のうちに新しい知識を獲得できます。言語の学習を例に取りましょう。私たちは「ソフトウェア」と呼べるものを適応・再設計できます。そして、この知識を使って意思決定を行います。最終段階は理論上のライフ3.0です。
これは自らのハードウェアとソフトウェアの両方を設計できる技術的生命体の形態です。そのような生命はまだ地球上に存在していませんが、AI技術という形での非生物学的知能の出現により、まもなくこの状況が変わるかもしれません。AIについて意見を持つ人々は、この新興分野が人類に与える影響についての感じ方によって分類できます。まずはデジタル・ユートピアンです。彼らは人工生命が進化の自然で好ましい次の段階であると信じています。次にテクノ懐疑派がいます。
その名が示す通り、彼らは人工生命がすぐに影響を与えるとは考えていません。最後に有益なAI運動があります。これらの人々は、AIが必ずしも人類に利益をもたらすという考えに賛同していません。そのため、AI研究が普遍的にポジティブな結果が期待できる方向に特化すべきだと主張しています。
記憶、計算、学習、知能という能力は、人間だけの特性ではない
何が私たちを人間たらしめているのでしょうか？考え、学ぶ能力でしょうか？そう思う人もいるでしょう。しかし、AI研究者たちは一般的にそのような考えに反対しています。
彼らは、記憶、計算、学習、知能の能力は人間の肉体や血とは無関係であり、ましてや炭素原子とも無関係だと主張します。まず知能から始めましょう。普遍的に受け入れられた単一の定義はありませんが、著者は知能を「複雑な目標を達成する能力」と考えるのが好きです。チェスのような明確に定義されたタスクでは、機械はますます人間を凌駕できるようになるかもしれません。しかし、人間の知能は独自に幅広く、言語学習や運転などのスキルを含みます。ただし、汎用人工知能（AGI）はまだ存在していませんが、知能が単に生物学的な能力ではないことは明らかです。
機械も複雑なタスクを達成できます。知能は、記憶・計算・学習の能力と同様に、基盤非依存であることが知られています。つまり、基盤となる物質に依存しない独立した層なのです。例えば、人間の脳は情報を保存できますが、フロッピードライブ、CD、ハードドライブ、SSD、フラッシュメモリーカードも同様に情報を保存できます。それらは同じ素材でできていないにもかかわらずです。しかし、これがコンピューティングにとって何を意味するのかに進む前に、コンピューティングとは何かを理解する必要があります。コンピューティングとは情報の変換を含みます。
つまり、「hello」という単語は0と1の数列に変換されるかもしれません。しかし、この変換を決定するルールやパターンは、それを実行するハードウェアから独立しています。重要なのはルールやパターンそのものです。つまり、学べるのは人間だけではなく、同じルールやパターンは人間の脳の外にも存在し得るのです。
AI研究者は、自らのソフトウェアを改善できる機械である機械学習の開発で大きな進歩を遂げてきました。では、記憶、学習、計算、知能が人間に特有のものでないなら、いったい何が私たちを人間にしているのでしょうか？AI研究が急速に進むにつれて、この問いに答えるのはますます難しくなるでしょう。
AIは急速に進歩しており、近い将来、人間の生活に影響を与える
機械は人間にとって目新しいものではありません。私たちは何千年もの間、手作業のタスクに機械を使ってきました。知能、言語、創造性といった認知スキルで自分の価値を定義するなら、これらの機械は脅威になりません。しかし、AIの最近のブレークスルーは、あなたを不安にさせ始めるかもしれません。
著者自身も2014年に「衝撃を受けた」瞬間を経験しました。AIシステムが『Breakout』という古いコンピューターゲームをプレイするのを目撃したのです。それはパドルを操作してボールを壁に打ち返すゲームです。最初、AIシステムはうまくできませんでした。しかし、すぐに学習し、最終的には開発者自身がプレイしたときでさえ思いつかなかった、スコアを最大化する賢い戦略を編み出しました。同様の出来事は2016年3月にも起こりました。AIシステムのAlphaGoが、世界最高の囲碁棋士であるイ・セドルに勝利したのです。囲碁は直感と創造性を必要とする戦略ゲームです。ゲームにおける可能な局面の数は宇宙の原子の数よりはるかに多いため、単なる力ずくの分析は現実的ではありません。
しかし、AIシステムはまさに必要とされる創造性を発揮したかのように、やすやすと勝利を収めました。AIシステムは自然言語の分野でも急速に進歩しています。最近のGoogle翻訳の品質がどれほど向上したかを考えてみてください。近い将来、AIが人間の生活のあらゆる領域に影響を与えることは明らかです。
アルゴリズム取引は金融に影響を与え、自動運転は交通をより安全にし、スマートグリッドはエネルギー配分を最適化し、AI医師は医療を変えるでしょう。考慮すべき大きな問題は、AIが雇用市場に与える影響です。結局のところ、AIシステムがますます多くの分野で人間を凌駕できるようになれば、私たち人間は雇用すらされなくなるかもしれません。では、AI開発の他の潜在的な影響に目を向けましょう。
人間レベルのAIを創ることは、超知能マシンによる世界支配につながり得る
これまでAIは、言語翻訳や戦略ゲームのような限られた分野にかなり狭く適用されてきました。対照的に、AI研究の「聖杯」は、人間レベルの知能で動作するAGIの実現です。しかし、この聖杯が見つかったら何が起こるのでしょうか？まず、AGIの創造は、AI研究者が知能爆発と呼ぶものを引き起こす可能性があります。
知能爆発とは、知的マシンが超知能、つまり人間の能力をはるかに超える知能レベルを獲得するプロセスです。AGIは潜在的にさらに知的なマシンを設計でき、そのマシンがさらに知的なマシンを設計できるため、急速な学習と再帰的な自己改善によってこれを達成します。これが知能爆発を引き起こし、マシンが人間の知能を超えることを可能にします。さらに、超知能マシンは、私たちの意図がどんなに善意であっても、世界を支配し、害を及ぼす可能性があります。例えば、人類が人類の福祉に関心を持つ超知能をプログラムしたとしましょう。超知能の視点からすれば、これはおそらく、自分の知性よりはるかに下の幼稚園児たちが、自分たちの利益のためにあなたを縛りつけているようなものです。
おそらく、あなたはこの状況を憂鬱で非効率的だと感じ、自ら対処しようとするでしょう。そして、無能で邪魔な人間の障害物にはどう対処するでしょうか？制御するか、もっと良いのは破壊することです。しかし、先走りしているかもしれません。起こりうる、それほど恐ろしくない他のシナリオも見てみましょう。
AI後のシナリオは、安心できるものから恐ろしいものまで様々だ
好むと好まざるとにかかわらず、AGIへの競争はすでに始まっています。しかし、それを達成した後の世界はどのような姿であるべきでしょうか？例えば、AIは意識を持つべきでしょうか？人間と機械のどちらが支配すべきでしょうか？
私たちは基本的な問いに答えなければなりません。準備ができていないAIの未来、特に害をもたらす可能性のある未来には陥りたくないからです。ポストAIとでも呼ぶべき様々なシナリオがあります。平和的な人間とAIの共存から、AIによる支配、人間の絶滅や幽閉に至るまで多岐にわたります。最初の可能性は慈悲深い独裁者のシナリオです。単一の慈悲深い超知能が世界を支配し、人間の幸福を最大化します。貧困、病気、その他のローテクな厄介事は根絶され、人間は贅沢で余暇のある生活を自由に送れるようになります。
同じ流れで、守護神のシナリオがあります。そこでは人間は依然として自らの運命を支配していますが、AIが乳母のように私たちを守り、世話してくれます。別のシナリオはリバタリアン・ユートピアです。人間と機械は平和的に共存します。これは明確に定義された領域分離によって達成されます。地球は3つのゾーンに分けられます。1つは生物学的生命のない、AIだけのゾーンです。
もう1つは人間だけのゾーンです。最後に混合ゾーンがあり、そこで人間は身体を機械でアップグレードしてサイボーグになれます。ただし、このシナリオは少し空想的です。AIマシンが人間の願いを無視するのを止めるものは何もないからです。次に、先ほど見た征服者シナリオがあります。
これはAIが人類を破壊するシナリオです。私たちは脅威、厄介者、あるいは単なる資源の浪費と見なされるからです。最後に飼育係シナリオがあります。ここでは、AI自身の娯楽のために少数の人間が動物園に残されます。ちょうど私たちが絶滅危惧種のパンダを動物園で飼うのと同じように。AI関連の未来の可能性を検討したところで、現在のAI研究における2つの最大の障害、すなわち目標指向性と意識について見ていきましょう。
人間を含む自然は目標を持ち、研究者はAIのためにこの行動を再現しようとしている
私たち人間が目標指向であることは疑いようがありません。考えてみてください。コーヒーをカップにうまく注ぐという些細なことさえ、目標の達成を含みます。しかし実は、自然も同じように機能しています。具体的には、自然には1つの究極の目的、つまり破壊があります。
技術的には、これはエントロピーの最大化として知られています。平たく言えば、乱雑さと無秩序を増やすということです。エントロピーが高いとき、自然は「満足」しています。コーヒーカップの話に戻りましょう。少量のミルクを注ぎ、しばらく待ちます。何が見えるでしょうか？自然のおかげで、生ぬるい薄茶色の均一な混合物ができています。
温度の異なる2つの液体がはっきりと分離していた初期状態と比べると、この新しい粒子の配置は、組織性の低下とエントロピーの増加を示しています。より大きなスケールで見ると、宇宙も変わりません。粒子の配置はエントロピーの高い状態へと向かう傾向があり、その結果、星の崩壊や宇宙の膨張が起こります。このことは目標がいかに重要かを示しています。そして現在、AI科学者たちは、AIがどの目標を追求すべきかという問題に取り組んでいます。結局のところ、今日の機械にも目標があります。むしろ、目標指向の行動を示すことができるのです。
例えば、熱追尾ミサイルがあなたを追いかけているなら、それは目標指向の行動を示しています。しかし、知能を持つ機械はそもそも目標を持つべきでしょうか？もし持つなら、誰がそれらの目標を定義すべきでしょうか？例えば、マルクスとハイエクは経済と社会の未来についてそれぞれ異なるビジョンを持っていたので、AIに対して間違いなく非常に異なる目標を設定するでしょう。もちろん、「自分がしてほしいように他人に接しなさい」という黄金律のようなシンプルなものから始めることもできます。しかし、たとえ人類が知能マシンの目標を導くいくつかの道徳的原則に合意できたとしても、人間に優しい目標を実装するのはさらに難しいでしょう。
まず第一に、AIに私たちの目標を学習させなければなりません。AIは簡単に私たちを誤解する可能性があるため、これは言うほど簡単ではありません。例えば、自動運転車に「できるだけ早く空港に着くように」と指示したら、警察に追われながら嘔吐まみれで到着するかもしれません。技術的には、AIはあなたの指示通りに行動しましたが、あなたの根底にある意図を本当に理解していたわけではありません。
次の課題は、AIに私たちの目標を採用させることです。つまり、それを追求することに同意させることです。身近な政治家を考えてみてください。彼らの目標は明確かもしれませんが、人口の大部分を説得して同じ目標を採用させることはできていません。そして最後に、AIは私たちの目標を保持する必要があります。つまり、自己改善を経ても目標が変わらないようにするということです。現在、膨大な科学研究がまさにこれらのアイデアに注がれています。
AI研究者は、意識の意味とAI体験の主観性について熟考している
意識とは何か、それが生命とどのように関係するかという問いは、決して新しいものではありません。AI研究者も同じ古くからの問題に直面しています。より具体的には、生命のない物質がどのようにして意識を持つようになるのかを不思議に思っています。まず人間の視点から考えてみましょう。
著者のような物理学者が言うように、意識のある人間は単に「再配置された食べ物」にすぎません。つまり、私たちが摂取する原子は単に再配置されて私たちの体を形成しているのです。したがって、AI研究者が関心を持つのは、知的マシンが意識を持つために経なければならない再配置です。今のところ誰も答えを持っていないのは驚くべきことではありません。しかし、近づくためには、意識に何が関わっているのかを把握しなければなりません。それは厄介です。私たちは、意識が気づきや人間の脳のプロセスに関係していると想像したくなるかもしれません。
しかし、私たちはすべての脳のプロセスを積極的に意識しているわけではありません。例えば、通常、視野にあるものすべてを意識的に認識しているわけではありません。なぜ気づきに階層があり、ある情報が別の情報よりも重要なのかは明らかではありません。結果として、意識には複数の定義が存在します。しかし、著者は主観的経験として知られる広い定義を好みます。これにより、潜在的なAIの意識もその中に含めることができます。この定義を使うと、研究者は意識の概念をいくつかの副次的な問いを通じて調査できます。
例えば、「脳はどのように情報を処理するのか？」「意識のあるシステムとないシステムを区別する物理的特性は何か？」といった問いです。AI研究者はまた、人工意識や主観的なAI体験がどのように「感じられる」のかについても熟考してきました。主観的なAI体験は人間の体験よりも豊かである可能性があると提唱されています。
知的マシンはより広範なセンサーを備えることができ、その感覚体験は私たちのものよりはるかに豊かになります。さらに、AIシステムは1秒あたりにより多くの体験をすることができます。AIの「脳」は光速で伝わる電磁信号で動作するのに対し、人間の脳の神経信号ははるかに遅い速度で伝わるからです。頭を抱えたくなるような話かもしれませんが、1つ明らかなことがあります。AI研究の潜在的な影響は計り知れないということです。それは未来を指し示すと同時に、人類最古の哲学的な問いのいくつかと向き合うことを伴います。
最終まとめ
この本の核心メッセージ：人間レベルのAIを目指す競争は本格化しています。AGIが到来するかどうかではなく、いつ到来するかが問題なのです。それが実現したときに何が起こるかは正確にはわかりませんが、いくつかのシナリオが考えられます。人間が自らの「ハードウェア」をアップグレードして機械と融合するか、あるいは超知能が世界を支配するかもしれません。1つ確かなことは、人類は「人間であることの意味」について深い哲学的問いを自らに投げかける必要があるということです。
おすすめの関連書籍：レイ・カーツワイル著『The Age of Spiritual Machines』（邦題：『スピリチュアル・マシーンズ』）『The Age of Spiritual Machines』（1999年）は、未来へのガイドブックです。この要約では、機械の新時代と、ロボット知能が私たちの知る生活に何を意味するのかを解説しています。
