『超知能』（2014年刊）は、人間よりも知的な機械を創り出すことが、いかに人類を変容させるかを探求する一冊です。本書は、多様な分野の事実、数字、研究を豊富に交えながら、超知能がもたらす未来と、我々がそこへ至る道筋についての複雑な全体像を描き出します。
この本から得られるものは？ 機械がいかに人類を凌駕しうるかを学びましょう。
超知能を持つロボット種族が登場する映画、アニメ、SFシリーズをどれだけ観たことがあるでしょうか？ おそらくかなりの数でしょう。 『ターミネーター』のように世界征服を企てるものもいれば、我々を助けてくれるもの、そして『ウォーリー』のようにただただ愛らしいものもいます。 もちろん、これらのロボットは架空の存在ですが、それは未来永劫変わらないのでしょうか？
未来は超知能AIをもたらすのでしょうか？ もしそうなら、それはどのような姿で、いつ現れるのでしょうか？ この要約では、AIへのこれまでの道のり、我々がどこへ向かおうとしているのか、取り組むべき倫理的問題と安全性への懸念、そして他のあらゆる機械を凌駕する知性を創造するという目標に到達するための最善の方法について学びます。 この要約で、あなたは以下のことを発見するでしょう。
- ほとんどの科学者が2075年までに人間レベルの知能が、そしてその30年後までに超知能が到来すると考える理由
- 人工知能（AI）と全脳エミュレーション（WBE）の違い
- 1956年のダートマス会議が、このテクノロジーの創造において中心的な役割を果たした経緯
歴史が示すのは、超知能―いかなる人間よりも知的なテクノロジー―が急速に近づいているということです。
我々人間を野の獣から根本的に区別するものは何でしょうか？ 主な違いは、抽象的に考え、情報を伝達・蓄積する能力です。つまり、我々の優れた知性が、我々を頂点へと押し上げたのです。では、人間よりも知的に優れた新たな種の出現は、世界にとって何を意味するのでしょうか？
まずは少し歴史を振り返る必要があります。例えば、テクノロジーにおける大きな革命のペースは、時間の経過とともに加速しているのをご存知でしょうか？ 数十万年前の非常に遅いペースでいえば、人類のテクノロジーが、さらに100万人の生命を支えられるだけの経済的生産性を持つようになるには、100万年を要したでしょう。この数字は、紀元前5000年の農業革命の時代には2世紀にまで短縮され、産業革命後の現代では、わずか90分にまで縮まりました。超知能機械の出現のような技術的進歩は、我々の知る世界に根本的な変化を意味するでしょう。
しかし、現在のテクノロジーはどの段階にあるのでしょうか？ 我々はすでに、人間によって入力された情報を用いて学習し、推論する能力を持つ機械を創り出すことに成功しています。例えば、迷惑な大量メールから受信箱を守り、重要なメッセージを保存してくれる自動スパムフィルターを考えてみてください。しかし、これは人間が持つような「汎用知能」には程遠く、それこそが何十年もの間、AI研究の目標とされてきたものです。
そして、人間の導き手なしに学習し行動できる超知能機械の構築に関しては、まだ数十年先かもしれません。しかし、この分野の進歩は速く、我々が考えるよりも早く到来する可能性があります。そのような機械は、我々の生活に対して大きな力を持つでしょう。その知性は、緊急時に我々がそれを無効化できないほど賢いため、危険ですらあり得ます。
過去半世紀における機械知能の歴史には、浮き沈みがありました。
1940年のコンピューター発明以来、科学者たちは思考する機械の構築に取り組んできました。どのような進歩があったのでしょうか？ 人工知能（AI）における一つの大きな進歩は、我々自身の知能を模倣する人造機械です。その物語は、人間ができることを行う知能機械を構築しようとした、1956年のダートマス・サマー・プロジェクトから始まります。
いくつかの機械は微積分の問題を解くことができ、また別の機械は作曲や車の運転さえもできました。しかし、ここに障害がありました。発明家たちは、タスクが複雑になればなるほど、AIが処理すべき情報が増えることに気づいたのです。そのような困難な機能を担うハードウェアは利用できませんでした。1970年代半ばまでに、AIへの関心は薄れていました。しかし、80年代初頭に日本がエキスパートシステム（データに基づいて推論を生成することで意思決定者を支援する、ルールベースのプログラム）を開発しました。ところが、このテクノロジーもまた問題に直面しました。必要とされる膨大な情報バンクの維持が困難であることが判明し、関心は再び低下したのです。
90年代には、新しい潮流が現れました。テクノロジーを使って我々の神経構造や遺伝子構造をコピーすることで、人間の生物学を模倣する機械です。このプロセスは現在まで続いています。今日、AIは手術を行うロボットからスマートフォン、簡単なGoogle検索に至るまで、あらゆるものに存在しています。テクノロジーは、最高の人間プレイヤーをチェス、スクラブル、そして『ジェパディ！』で打ち負かすことができるまでに向上しました。
しかし、現代のテクノロジーでさえ問題を抱えています。そのようなAIは一つのゲームのためだけにプログラムすることができ、あらゆるゲームをマスターできるAIは存在しません。しかし、我々の子供たちは、もっとずっと進歩したもの――超知能の到来を目撃するかもしれません。実際、2009年にメンフィス大学で開催された「第2回人工汎用知能に関する国際会議」での国際的な専門家への調査によると、ほとんどの専門家は、人間と同等の知能を持つ機械が2075年までに存在し、超知能はそれから30年以内に存在すると考えています。
超知能は二つの異なる方法で出現する可能性があります。
人間の知能を模倣することがテクノロジーを構築する効果的な方法であることは明らかですが、模倣には様々な形があります。そのため、人間をシミュレートする機械を合成的に設計すること（例えばAIを通じて）を支持する科学者がいる一方で、人間の生物学の正確な模倣を支持する科学者もいます。これは全脳エミュレーション（WBE）のような技術で達成できる戦略です。この二つの違いは何でしょうか？ AIは確率を計算することで人間の学習方法や思考方法を模倣します。
基本的に、AIは論理を使って人間の複雑な能力を模倣する、より単純な方法を見つけます。例えば、チェスをするようにプログラムされたAIは、まず全ての可能な手を決定し、次にゲームに勝つ確率が最も高い手を選ぶことで、最適な一手を選択します。しかし、この戦略は、考えられる全てのチェスの手を保持するデータバンクに依存しています。したがって、単にチェスをする以上のことを行うAIは、膨大な量の現実世界の情報にアクセスし、処理する必要があるでしょう。問題は、現在のコンピューターが必要な量のデータを十分な速さで処理できないことです。しかし、これを回避する方法はあるのでしょうか？
一つの潜在的な解決策は、コンピューター科学者のアラン・チューリングが「子どもマシン」と呼んだもの、つまり基本的な情報を備え、経験から学習するように設計されたコンピューターを構築することです。もう一つの選択肢はWBEで、これは人間の脳の神経構造全体を複製してその機能を模倣するものです。この方法がAIより優れている点の一つは、人間の脳の背後にあるプロセスを完全に理解する必要がなく、その部品とそれらの間の接続を複製する能力だけが必要とされることです。例えば、科学者は死体から安定化された脳を取り出し、完全にスキャンし、その情報をコードに変換することができます。
しかし、我々は待たなければなりません。このプロセスに必要なテクノロジー、例えば高精度の脳スキャンなどは、近いうちに開発されそうにありません。ですが、いつかは必ず実現するでしょう。
超知能は、戦略的優位によって急速に出現するか、長期的な共同作業の結果として出現するでしょう。
人類の偉大な発見のほとんどは、他者に先んじて目標に到達した一人の科学者によって、あるいは大規模な国際共同研究を通じて達成されました。では、それぞれの道筋は超知能の開発にとって何を意味するのでしょうか？ もし単一の科学者グループが、AIやWBEを妨げている問題の解決策を急速に見つけた場合、その結果はおそらく単一の超知能機械を生み出すでしょう。なぜなら、この分野の競争的な性質が、そのようなグループを秘密裏に作業させる可能性があるからです。
原子爆弾を開発したマンハッタン計画を考えてみてください。米国政府が、ソ連が自国の研究を利用して核兵器を独自に製造することを恐れたため、グループの活動は秘密にされました。もし超知能がこのように開発された場合、最初の超知能機械は他の全てに対して戦略的優位を持つことになります。危険なのは、単一の超知能が悪意ある者の手に渡り、大量破壊兵器として使用される可能性があることです。
あるいは、機械が誤作動を起こし、例えば全人類を殺害するといった恐ろしいことを実行しようとした場合、我々は自らを守るための知能も道具も持ち合わせていないでしょう。しかし、もし複数の科学者グループが協力し、技術の進歩を共有すれば、人類は超知能を徐々に構築するでしょう。このようなチームの取り組みには、多くの科学者がプロセスの各段階をチェックし、最善の選択が行われていることを確認することが含まれるでしょう。こうした協力の良い前例は、ヒトゲノム計画です。これは、ヒトDNAをマッピングするために複数の国の科学者を結集させた取り組みです。もう一つの良い手法は、公的監視です。政府の安全規制や資金提供の規定を設けて、科学者が単独で作業することを思いとどまらせるのです。したがって、このようなゆっくりとした共同プロセスの最中にも、単一の超知能の急速な開発は依然として起こり得ますが、開かれたチームの取り組みの方が、安全プロトコルが整っている可能性が高いでしょう。
超知能に人間の価値観を学習させるようプログラムすることで、意図せざる大惨事を防ぐことができます。
おそらく何百万回も聞いたことがあるでしょうが、「願うものには注意せよ」という言葉には一理あります。我々は超知能の獲得に努めているかもしれませんが、このテクノロジーがその目的を誤解し、言語に絶する惨禍を引き起こさないようにするには、どうすれば良いでしょうか？ この問題の鍵は、超知能が人間から与えられた様々な目標を達成するための「動機」をプログラムすることにあります。例えば、ペーパークリップを作るために超知能を設計したとしましょう。それは無害に思えますが、その機械がタスクを極端に捉え、世界の全資源を吸い上げて文房具の山を製造するのを、どうやって防げるでしょうか？
これは難しい問題です。なぜなら、AIはプログラムされた目標を達成することだけを動機としていますが、超知能は、我々の劣った頭脳では予測できない方法で、プログラムされた目標を超えて行動する可能性が高いからです。しかし、この問題には解決策があります。例えば、超知能は、それがAIであれWBEであれ、人間の価値観を自ら学習するようにプログラムすることができます。例えば、ある行動が人間の核心的価値観に沿っているかどうかを判断するよう、超知能に教えることができます。このようにして、我々は超知能に「不必要な苦しみを最小化せよ」とか「リターンを最大化せよ」といったことを行うようプログラムできるでしょう。そして、行動する前に、機械は提案された行動がその目標に沿っているかどうかを計算します。
経験を積むことで、AIはどの行動が準拠していて、どの行動がそうでないかの感覚を発達させるでしょう。しかし、別の選択肢もあります。人間の多数派の価値観に基づいて、我々の意図を推測するようにAIをプログラムすることもできるのです。その方法は次のとおりです。AIは人間の行動を観察し、人間の欲望に関する規範的基準を決定します。
この機械は、本質的に自己プログラムするようにプログラムされることになります。例えば、それぞれの文化には独自の料理の伝統がありますが、有毒な食品は食べるべきではないという点では、全ての人が同意します。観察を通じて絶えず学習することで、超知能は、時間の経過とともに世界の変化に対応するように自らの基準を変えることで、自己修正できるのです。
知能機械は、おそらく人間の労働力全体を代替するでしょう。
しかし、破壊と全滅の話はこれくらいにしましょう。機械による終末が迫っていると慌てる前に、汎用知能テクノロジーがどのように開発され、生産的に活用されうるかを見てみましょう。テクノロジーの可用性の向上とコスト低下により、現在人間の手と頭脳を必要とする仕事をこなせる機械の安価な大量生産が可能になるでしょう。これは、機械が人間の労働力全体を代替するだけでなく、機械自体も簡単に交換可能になることを意味します。
例えば、WBEワーカーが本物の人間と同じように休憩を必要とする場合、単に新鮮なユニットと交換するだけで、生産時間を犠牲にする必要はありません。実際、休暇から戻ったばかりだと思い込むテンプレートWBEをプログラムすることで、これを簡単に行うことができます。このテンプレートは、新しいワーカーの無限のコピーを作成するために使用できます。しかし、これは明らかに機械的奴隷制であり、重要な倫理的問題を提起します。例えば、機械が一日の終わりに自分が死ぬことを認識した場合、我々は単に死を受け入れるようにプログラムすることもできます。しかし、それは倫理的でしょうか？
これらの人工従業員は、意識を持つ存在として扱われるべきでしょうか、それとも不活性な道具として扱われるべきでしょうか？ 仕事は、超知能機械が引き継ぐ可能性のある唯一のものではありません。それらはまた、我々の私生活における様々な平凡なタスクも担当するかもしれません。これらの機械の頭脳がますます人間のそれに近づくにつれて、我々はそれらを使って生活を最適化できるでしょう。例えば、我々の思考を言葉で明確に表現するデジタルプログラムを設計したり、我々だけよりも上手く個人的な目標を達成したりできるでしょう。そのような進歩の結果は、大部分が自動化され、リスクが低く、冒険に欠け、率直に言って完璧すぎる人間の存在を意味するでしょう。そして、それは我々をどこに導くのでしょうか？ そのような未来で、我々はどのように時間を過ごすのでしょうか？
超知能の未来では、平均的な人間は貧困に陥るか投資に依存し、富裕層は新たな贅沢品を購入するでしょう。
完全にロボット化された労働力が、経済だけでなく、我々のライフスタイルや欲望をも完全に変革することは明らかです。機械労働がより安価な新たな標準となるにつれて、労働者の賃金は非常に低くなり、人間は給料だけで生活できなくなるでしょう。また、機械労働力を雇う少数の雇用主は、非常に多くのお金を手にするでしょう。しかし、これは先ほどの点に戻ります。なぜなら、そのお金がどこに行くかは、超知能が単一の排他的なグループによって設計されるか、それともゆっくりとした共同プロセスの結果であるかにも依存するからです。前者が現実となった場合、ほとんどの人は収入を得るための選択肢がほとんどなくなり、おそらく他の人間に住宅を貸したり、貯蓄や年金に頼ったりすることになるでしょう。
そして、財産や貯蓄を持たない人々はどうなるのでしょうか？ 彼らは貧窮するでしょう。彼らの唯一の選択肢は、残りのお金を使って、もしそのようなテクノロジーが存在すれば、自身をデジタル生命体にアップロードするか、超富裕層からの慈善に頼ることでしょう。では、富裕層はどうでしょうか？ 彼らは、今日我々が非常に望ましい贅沢品と考えるものへの興味を失うでしょう。なぜなら、機械が全ての仕事をするようになると、人間によって作られたり提供されたりするものは何でも、現代でいうところの職人製品のように、非常に価値の高い稀少品になるからです。
今日ではワインやチーズかもしれませんが、未来では手作りのキーホルダーのような、もっと単純なものかもしれません。しかし、新しい生産様式は、想像もできないような多様なテクノロジー製品をも可能にするでしょう。もしかすると、永遠に生きたり、若さを取り戻したりする能力さえも可能にするかもしれません。ですから、ヨットやプライベートアイランドを購入する代わりに、富裕層は自分自身をデジタル頭脳や、事実上破壊不可能な人型ボディにアップロードするためにお金を使うかもしれません。しかし、このシナリオは、超知能労働者ロボットが反乱を起こして人間社会を破壊しようとしないことを前提としています。したがって、超知能に関して我々がどのような道を選ぶにせよ、安全性が常に鍵となります。
超知能が開発される前に、安全性を最優先事項としなければなりません。
超知能の開発には様々な安全上の問題が伴い、最悪のシナリオでは人類の破滅につながる可能性があることは明らかです。構築する超知能の動機を考慮することで何らかの予防策を講じることはできますが、それだけでは不十分です。では、何が必要でしょうか？ 超知能のような超強力な力を世界にもたらす前に、あらゆる潜在的シナリオを考慮することです。
例えば、何羽かのスズメがフクロウの赤ちゃんを育てたと想像してみてください。忠実なフクロウがそばにいることは非常に有利かもしれません。より強力な鳥は、ヒナを守ったり、食べ物を探したり、他の様々なタスクをこなせるでしょう。しかし、これらの大きな利益には大きなリスクも伴います。フクロウは自分がフクロウだと気づき、スズメを全て食べてしまうかもしれません。したがって、論理的なアプローチは、スズメが、フクロウが否定的な力になる可能性がある全ての結果を考慮しつつ、どうやってスズメを愛するようにフクロウに教えるかについての優れた計画を設計することでしょう。では、どうすれば我々のロボットの、超知能のフクロウの赤ちゃんに、人間を愛するように教えられるでしょうか？ すでに知っているように、長期的な国際協力を通じて安全を優先することができます。
しかし、最初の超知能を設計しようとする競争的なラッシュが、なぜ安全上の脅威となるのでしょうか？ 科学者がプロセスを早めるために安全を犠牲にし、自分たちの研究を他者と共有しないからです。つまり、超知能プロジェクトが恐ろしく失敗し、人類を絶滅の危機にさらした場合、その機械の設計を十分に理解してそれを止められる人はほとんどいないでしょう。一方で、政府、機関、研究グループが協力すれば、安全で非常に有益な超知能をゆっくりと構築できるでしょう。
なぜなら、グループは安全対策のアイデアを共有し、設計の各段階に対して徹底的な監視を提供できるからです。それだけでなく、国際的な超知能プロジェクトは、その普遍的な利益を通じて平和を促進するでしょう。米国とソ連の関係安定化に貢献した国際宇宙ステーションを考えてみてください。
最終的なまとめ
この本の中心的なメッセージ： 人間の能力をはるかに超えたことを成し遂げられる超知能機械を発明することは、心躍る展望であると同時に、危険な道でもあります。 そのようなテクノロジーが安全で責任ある方法で発展することを確実にするために、我々は無制限な技術進歩よりも安全性を優先する必要があります。 我々の種の運命は、それにかかっています。
さらに読みたい方へ: 『Out of Control』 ケヴィン・ケリー著 1994年の視点で書かれていますが、インターネットや人工知能のような技術発展が社会や人間性にどのように影響するかについて、驚くほど現代的で、なおかつ未来的なイメージを描き出しています。
