『ビッグ・ナイン』（2019年）は、人工知能（AI）の過去・現在・未来を、研究分野としても技術としても冷静に見つめた一冊だ。近年の驚くべき進展を振り返った後、著者は現在AIを形成する主要な要因や人物、進みつつある方向性、そして人類の未来に及ぼしうる憂慮すべき影響を明らかにする。さらに、そうした影響を回避するための興味深い方法も提案している。
本要約のポイント：人工知能が現在向かっている不穏な方向性と、手遅れになる前に人類が進路を変える方法を学ぶ
過去数十年のSF映画やテレビ番組を見たことがあるなら、未来の暗いビジョンを目にしたことがあるだろう。その多くでは、人類の没落は人工知能（AI）の進歩によってもたらされる。
広義には、AIとは人間の知能の行為に似たタスクを実行できるコンピュータプログラムやシステムを指す。現在の具体例としては、物体の認識、音声の理解、目標達成のための戦略実行などがあり、たとえばボードゲームで人間に勝つことも含まれる。AIはまた、そうしたプログラムやシステムを開発する研究開発分野を指すこともある。
本要約では、AIという用語の両方の意味について学ぶ。現在のAIの進展度と最先端の例を見た後、主要なプレーヤーであるテック業界の「ビッグ・ナイン（9大企業）」を紹介する。彼らは誰なのか？何を望んでいるのか？なぜそれを望むのか？そして、その結果AIをどこへ導いているのか？
本要約では、こうした疑問への答えが得られる。その過程で、以下のことも明らかになるだろう。
- AIがすでに超人的な知能を達成している方法
- 現在AI分野を形成している、世界に対する競合するビジョン
- 暗いSFシナリオが現実となる可能性
AIはディープニューラルネットワーク（DNN）の発展によって革命を起こした
21世紀に入ってから、AIは目覚ましい進歩を遂げた。その鍵となったのがディープニューラルネットワーク（DNN）の開発である。
これらの仕組みの正確な詳細はかなり複雑だが、背後にある基本的な考え方は比較的シンプルだ。人間の脳にやや似て、DNNは数千ものシミュレートされたニューロンが連結され、数百もの複雑な層に配置されている。これらのニューロン層は互いに信号を送受信することで、ディープラーニングと呼ばれることを行うことができる。つまり、人間の監視をほとんどまたはまったく受けずに自ら学習することができ、かつてのコンピュータプログラムのように人間の開発者に教えられる必要はない。
DNNのディープラーニング能力を利用することで、AIは長年の敵の一つであった古代中国のボードゲーム「囲碁」に打ち勝つことができた。白と黒の石を碁盤の上で打つこの戦略ゲームは、見た目は単純でもチェス以上に複雑だ。例えば、チェスの初手の可能性は20通りしかないが、囲碁では361通りもある。さらに2手目まで進むと、その可能性はなんと128,960通りにまで膨れ上がる！
このゲームの複雑さゆえに、AIの囲碁プログラムが熟練した人間の対戦相手に勝つには、非常に創造的で応答性が高く、即興的な戦略的思考が必要となる。何十年もの間、そのような勝利はAIの能力を測る主要なベンチマークの一つだった。しかし1970年代から2000年代初頭にかけて、AIはその基準を達成できず、初心者や子どもにさえ負けていた。ゲームがあまりにも複雑すぎたのだ。
ところが、ディープラーニングを専門とするスタートアップ、DeepMindが登場し、2014年にGoogleに買収された。その同じ年、DeepMindのチームはDNN搭載のプログラムAlphaGoをプロの囲碁棋士、樊麾（ファン・ホイ）との対局に投入した。結果は5戦5勝。その後トーナメントに出場し、対戦したすべての人間の対戦相手を打ち負かした――現世界チャンピオンも含めて！
囲碁に勝つというベンチマークがついに達成され、DNNの驚異的なディープラーニング能力が劇的に示された。しかし、次章でわかるように、AlphaGoはほんの序の口に過ぎなかった。
AIはすでに超人的知能を獲得し始めている
当時は驚異的だったものの、2014年のAlphaGoの成功は、2017年に登場した後継プログラムAlphaGo Zeroによってすでに凌駕されている。両プログラムの主な違いを理解するには、それらを動かすDNNについてもう少し理解する必要がある。
DNNは人間から具体的な指示を受けなくても囲碁の打ち方などを自ら学習できるが、それでも学習材料となるデータが必要だ。初代AlphaGoの場合、それは過去に打たれた10万局の囲碁の棋譜という初期データセットだった。このライブラリを精査することで、AlphaGoは打ち方に関する判断力を身につけることができた。
対照的に、AlphaGo Zeroは棋譜ライブラリを一切持たずにゼロからスタートした。その代わりに、プログラムはルールさえ知らずに自分自身と対局を始めた。各対局でうまくいったことといかなかったことを観察することで、自らの判断力を発達させ、すぐに先代を上回るようになった。
電子的な誕生からわずか40日後、AlphaGo Zeroは最新版の初代AlphaGoを相手に対局の90パーセントで勝利することができた！
しかし、さらに驚くべきことは次の点だ。そのわずか40日の間に、AlphaGo Zeroは人間の囲碁名人たちが数千年かけて苦労して学んできたすべての戦略を見出しただけでなく、これまで誰も目にしたことのないまったく新しい戦略も発見したのだ。人間が生成したデータセットへの従来の依存から解放されたAlphaGo Zeroは、人間の知識の限界を超え、ゲームについて斬新で非人間的な方法で思考することができた。
したがって、ある意味でAlphaGo Zeroは超人的知能を達成したと言える。それは私たちの思考とは異なり、かつ優れた思考法を発達させたのだ。どれほど優れているのか？ 囲碁プレイヤーの技量は、過去の成績に基づく勝率を示す「イロレーティング」という数値で測ることができる。世界チャンピオンのレーティングはおおむね3,500前後だが、AlphaGo Zeroはそれをはるかに引き離し、5,000以上のレーティングを記録した！
なるほど、すごい話に聞こえるかもしれないが、あなたがプロの囲碁棋士でない限り、おそらくさほど気にならないだろう。だが、その気持ちも次のセクションを読み終える頃には変わるかもしれない。
AIの範囲と能力は今後50年間で指数関数的に増大する
囲碁の世界チャンピオンに勝つのは確かに素晴らしい偉業だが、かなり限定的なものだ。結局のところ、同じチャンピオンたちは囲碁の打ち方だけを知っているわけではない。彼らは靴ひもを結んだり、ラブレターを書いたり、政治的な意見を形成したり、人間ができる無数の他のことも行えるのだ。
それに対し、AlphaGo Zeroのようなプログラムは、一つのことを極めてうまくこなすが、その一つだけだ。この場合は囲碁を打つことだけである。
その知能が及ぶ領域が狭いことから、こうしたプログラムは人工特化型知能（ANI）と呼ばれる。ANIの応用はすでに現代社会にあふれており、スパムフィルターや音声書き起こし、自動運転車、AppleのSiriやAmazonのAlexaといったバーチャルアシスタントなどが含まれる。いずれもDNNによって動いている。
テクノロジー企業はANIのシステムやプログラムを次々と生み出し、人間生活のますます多くの領域に応用している。それらはすでに私たちの携帯電話や病院、遺伝子研究所、ローン審査システム、さらには多くの新型車のステレオインターフェイスにまで入り込んでいる。この傾向が続けば、やがて日常生活のほぼすべての側面と結びつくことになる。
多数の各領域において、ANIシステムは人間の知能に迫るか、同等か、あるいは超えるが、それはその領域内に限られる。しかし、DNNを利用したANIプログラムの背後にある同じ基本原理を用いて、医療研究を行ったり、人間のような声で組織会議に積極的に参加したりするなど、より広範なタスクを扱える汎用的なシステムを作ることもできる。このマイルストーンが達成されると、ANIは人工汎用知能（AGI）に取って代わられる。この時点で、AIは総合的な知能において人間と同等の水準に近づき始める。
そこからは限界がなくなる。現在のANIプログラムと同様に、AGIシステムは息をのむようなペースで自己改善を続けることができる。最終的には人間の精神を凌駕するだけでなく、その知能レベルを数兆倍も上回るようになる。その時点で、AIは人工超知能（ASI）を達成したことになる。
著者は、AGIが2040年代のどこかで開発され、ASIは2070年までに到来すると推定している。次のセクションで見る理由により、したがって人類のAIに満ちた未来を形作るための時間的猶予はごくわずかしかない。
AIの未来が形作られる短い期間があり、主に米国と中国のプレーヤーがそれを左右する
AIは進化するにつれ、最終的には独自の精神を発達させる。つまり、人間の入力から独立し、その機能の仕方において明らかに非人間的な方法で世界について考える能力だ。その精神が正確にどのようなものに進化するかは予測できないが、何から進化するかはわかっている。現在構築されつつあるAIシステムからである。
つまり、私たちは歴史の極めて重要な時期に生きている。今から今後20年ほどの間に、現在のAI研究開発が、人類の未来が築かれる地形の輪郭を形作ることになる。
著者の推定では、2040年代までにはAGIシステムがすでに稼働している。それらがASIへと進化し始めると、後戻りできない地点に達し、私たちの制御の外で発展し、停止も変更もできないほど強力になる。後ほど明らかになるように、その結果は人類にとって壊滅的なものになりうる。したがって行動を起こす時は今であり、慎重に舵を取らなければ、崖から転落することになるかもしれない。
では、誰が舵を握っているのか。一握りの巨大企業と、互いに競合する超大国になりつつある二つの政府である。
それらの企業は「ビッグ・ナイン」と呼ばれるテック企業と、その様々なパートナー、投資家、子会社である。うち6社は米国に拠点を置く。Google、Microsoft、Amazon、Facebook、IBM、Appleだ。3社は中国に拠点を置く。Baidu、Alibaba、Tencentである。問題の政府はこれら二カ国の政府と、それぞれの同盟国である。
簡略化のため、ここではAIを舵取りするこれらの企業と政府を、アメリカ陣営か中国陣営のいずれかに属するものとして話を進める。実際には他国の同盟国で活動したり、そこを拠点としたりすることも多いが、要するに米国と中国が支配する二つの国際陣營のいずれかに属しているということだ。
すでに何度も耳にしているだろうが、米国は20世紀から続く世界唯一の超大国であり、中国は21世紀の新興超大国である。両国は多くの面で経済的に結びついており、多額の貿易と投資資金が行き交っているが、政治的にはライバル関係にある。米国が世界支配を維持しようとする一方で、中国は自らの支配を確立しようとしている。
権力争いの中で、この二カ国は社会の運営方法についてまったく異なるビジョンを推し進めている。次のセクションでは、それらのビジョンが何であり、それがどのようにAIの研究開発を方向づけているかを見ていく。
米国のテック研究開発アプローチは、消費者主義、利益追求、短期的思考を中心に展開している
理想的な世界であれば、AIは癌の治療や貧困の緩和といった、人類の最善の利益を念頭に置いた高尚で人道的な目標に向けて活用されるだろう。残念ながら、現在のAI研究開発の主たる目標はそうなっておらず、米国でも中国でも同様だ。
まず米国から始めよう。ここでは政府は自由市場資本主義のイデオロギーを信奉している。これは国家経済を導くにあたって、比較的放任主義で何もしないアプローチをとる。確かに一定の規制や監督はあるが、大規模な政府主導の経済計画や政策立案、産業育成は欠如している。基本的に市場は成り行き任せになっている。
その結果、米国のテック企業とその投資家たちは、自らの資金で自らのプロジェクトを追求し、自らの目的のために動く。自由市場資本主義システムの下では、その主な目的は単に利益を増やすことだ。
熾烈な競争と急速な進化を続けるテック業界で資金を稼ぎ、投資家を満足させるには、企業はできるだけ早く市場性のある新製品を開発しなければならない。さもなければ、競合他社に出し抜かれ、顧客も投資家も資金を他に移してしまう。
結果として、米国のテック企業は無謀で近視眼的なイノベーションアプローチを取らざるを得ない状況に追い込まれる。競合他社に勝とうとする慌ただしい競争に巻き込まれ、製品やサービスを世に送り出す前に十分に精査する時間も動機も不足している。社会に悪影響を与えないか？倫理基準に反しないか？といった重要な疑問は未解決のまま残される。
テック業界のこうした疑問に対する態度は、「まず作って、後で許しを請う」というものだ。つまり、製品やサービスを急いで市場に投入し、大衆がその結果を知るのを待つ。もしネガティブな結果になったら、謝罪して次に進めばいい。その結果、近年はニュースの見出しを飾るような事件がいくつか起きた。2018年のFacebook-ケンブリッジ・アナリティカスキャンダルでは、数百万人のFacebookユーザーの個人データが侵害された。
AIではさらにリスクが高くなることは後ほど見る。しかしその前に、AIが発展している政治的・経済的状況の全体像を把握するために、中国のテック業界を見ておく必要がある。
中国は政府主導のテック産業を持ち、AIを優先し、支配と世界制覇を目指している
中国の指導的イデオロギーと、その結果としてのテック産業の状況は、米国と鋭く対照的だ。自由市場資本主義ではなく、中国政府は社会主義と資本主義の混合形態を推進している。これは、強力で中央集権的かつ権威主義的な国家によって統治される、比較的保護された市場を特徴とする。
その結果、中国のテック産業は外国の競争から大幅に保護されている。特に業界の「ビッグ3」企業に当てはまり、それぞれが米国の同業にたとえられる。大まかに言えば、BaiduはGoogle、AlibabaはAmazon、TencentはFacebookに相当する。GoogleとFacebookは中国での事業が禁止されており、Amazonも中国で足場を築くことを大きく妨げられている。
一方で、中国のテック産業は中国政府から強力な支援と指導を受けている。例えば、政府は中国の大学にテック研究のための巨額の資金を提供し、また米国政府が避けるような大規模な経済計画、政策立案、テック産業育成を実践している。
AIはその好例だ。中国政府は2030年までに「世界の主要なAIイノベーションセンター」になるという目標を明確に掲げている。そしてすでにその言葉を行動で裏付けている。例えば、現在北京郊外に20億ドル規模のAI研究パークを建設中であり、2018年時点で40の高校で必修AIコースを試験的に導入している。
一方、中国政府は自らの目的を達成するために中国のテック産業と緊密に連携している。その目的は二つある。
第一は国民を管理することだ。その身の毛もよだつ一例が、社会信用スコアの開発である。これは金融の信用スコアと多くが似ているが、信用力だけでなく国民の全体的な信頼性をランク付けするよう設計されている。交通信号無視などの違反でスコアが減点され、そのスコアが自転車を借りるために保証金が必要かどうかといった日常的な判断を左右する。SFのように聞こえるかもしれないが、このシステムの試行版はすでに山東省栄成市で試験運用された。
中国政府の第二の目的は、経済力を用いて米国を世界の支配的な超大国の座から引きずり下ろすことだ。AIは未来の主要技術の一つとなるため、急成長するAI部門から大きな経済的後押しを受けることになる。著者の推定では、2035年までにすでに急成長中の中国経済を28％拡大させる可能性がある。
米国、中国、そしてそれぞれの同盟国の間で、ますます激しい世界的競争の舞台が整えられつつある。その競争では、AIが勝者を決することになるだろう。
現在のAI開発の進路は、人類を計り知れない大惨事に導く可能性がある
もしAIの研究開発がおおむね現在の進路のまま続けられたら、何が起こりうるだろうか？
以下の答えは推測の域を出ないが、その主要な前提の一つはかなり確かだ。そう遠くない未来に、冷蔵庫の補充から次のデート相手探しに至るまで、高度なAI搭載のアプリ、システム、デバイスが人間生活のほぼあらゆる側面と結びつくことになる。
一方で、社会全体の領域がAIへの依存を深める可能性もある。交通、銀行、医療など、枚挙にいとまがない。医療を例にとると、ウェアラブルAIデバイスが特定の栄養素が不足していることを知らせ、それを改善するメニューを推薦してくれるかもしれない。さらに遠い未来には、これをさらに一歩進めて、ナノボットと呼ばれる微小なAIロボットを体内に直接注入し、人間の介入なしに病気を検出するだけでなく治療も可能になるかもしれない。
残念ながら、AIと結びつくか依存するほど、私たちは自らトラブルを招くことになる。米国で革新的なテック製品やサービスをできるだけ早く大量に生み出そうとする現在の競争が続いたとしよう。その慌ただしさは、不具合を起こしやすいデバイスにつながりかねず、そうした不具合が私たちの生活を混乱させる可能性がある。交通や医療のシステム全体がダウンし、自分の冷蔵庫にさえ入れなくなるかもしれないのだ！
しかし、不具合よりもさらに恐ろしい脅威がある。軍事化されたハッキングだ。著者が想定するように、中国軍が米国のすべてのAIアプリ、システム、デバイスをハッキングする方法を見つけたと想像してほしい。そうすれば事実上、全米を人質に取ることができる。大変な作業に聞こえるかもしれないが、それらすべてのAI端末がわずか二つのOSで結ばれていれば、それは可能性となりうる。
そしてもし中国が本当に米国とその同盟国を破壊しようとしているなら、人々の体内に注入されたナノボットをハッキングして宿主に反旗を翻させ、全人口を絶滅させることさえできる。想像を絶する恐ろしい行為に聞こえるかもしれないが、現在の環境危機が悪化し、地球上の資源が枯渇し始めれば、それは単に生存の問題になりかねない。
かなり暗い話だが、より明るい未来も可能だ。それは次の最終セクションで見ていく。
AIの未来を守るために、米国とその同盟国は適切な政策と国際協力を発展させる必要がある
AIは私たちに多大な利益をもたらす可能性があるが、多くの危険にも導きうる。どうすれば前者を享受し、後者を回避できるだろうか？
米国では、答えは明確だ。国の主要テック企業は、AIの研究開発を人間主義的な価値観を中心に方向転換し、企業利益よりも人類の最善の利益の追求を優先しなければならない。たとえば、新しいAIシステムを市場に投入する前に、企業は安全かつ徹底的にテストすべきだ。動作するかどうかだけでなく、社会に意図せぬ悪影響を与えないかを調べるためである。近い将来、その一つの方法として、既存のAIを使って新しいAIの社会的影響のシミュレーションを行うことが考えられる。
しかし現状では、それはすべて願望に過ぎない。たとえ企業が心からそう望んでも、容赦ない市場の力によって、未検証のAI製品をできるだけ早く開発・リリースするよう圧力がかかる。その力を緩和できない限り、企業に自制を期待するのは非現実的だろう。
だからこそ、政府が介入し、AIに対する強固で包括的な国家政策を策定し実施する必要がある。それは単に、テック企業が法的・倫理的基準を遵守していることを確認するための新しい法律、規制、機関を整備するだけではない。AI産業に巨額の資金を注ぎ込むことも意味する。この安定的な資金の注入は、製品を急いで市場に出し、できるだけ早く利益をかき集めなければならないという圧力を取り除くだろう。
しかし、AIの未来を再形成することに成功するには、米国は単独ではやっていけない。同盟国の助けも必要だ。そのために米国、EU、そして日本やカナダのような他の同盟国は、グローバル知能増強同盟（GAIA）を結成すべきである。人間主義的な価値観に導かれ、この新しい国際機関は、政治家やAI研究者だけでなく、経済学者、社会学者、政治学者、未来学者など、幅広いリーダーや専門家を結集する。
GAIAの助けを借りて協力することで、米国同盟の政府と企業は知識を共有し、互いの進歩を基盤に発展できる。その結果生まれる進歩と繁栄は、中国のようなライバル国に、取り残されないようにGAIAへの参加を望ませるだろう。しかしGAIAに参加するには、これらの国々はGAIAの指導的価値観を遵守することに同意しなければならない。
こうして、人類がAIのリスクに陥ることなく、その莫大な恩恵を享受する舞台が整うだろう。
まとめ
本要約の主要メッセージ：
人工知能は近年目覚ましい進歩を遂げ、近い将来さらに途方もない発展を遂げようとしている。残念ながら、この分野をリードする米国と中国の9大テック企業は、市場と政府の圧力によって不穏な方向へと導かれている。今後20年ほどの間にそれが変わらなければ、人類にとって大惨事となりかねない。その惨事を回避するために、米国とその同盟国は、できるだけ早く断固たる行動を取らなければならない。
次におすすめの一冊：スコット・ギャロウェイ著『The Four』
テック業界の巨人たちをさらに深く知りたい方は、『The Four』もぜひお読みください。世界を変えるテック企業の影響力と成功の秘密に迫る一冊です。
