『AIの覇権』（2024年）は、汎用人工知能をめぐる熾烈な開発競争の内幕に迫る一冊です。画期的なイノベーションからAI独占の隠れた危険性まで、より賢い機械を求める探求がいかに世界を変えうるのか、良い方向にも悪い方向にも光を当てます。私たちはテクノロジーのユートピアの目前にいるのか、それとも予期せぬリスクに満ちた未来へ向かっているのか、重要な問いを投げかけます。
本要約でわかること：ビジョナリーがビッグテックと出会うとき
テクノロジーは誰も待ってはくれません。ソーシャルメディアの登場も、人工知能を一般に解き放つことも、ブレーキを踏んで被害を評価する議論はほとんどないまま、私たちは前に進み続けています。
しかし、多くの専門家は、AIは他のテクノロジーとは異なると考えています。社会を再形成する力があるのです。本要約では、人間のようなAIを実現する競争が2017年に大きな突破口を開いた経緯を紹介します。また、この革命を推進した人々が、必要な計算能力を提供した巨大テクノロジー企業の影響下で、ユートピア的な理想をいかに枯れさせていったかも見えてきます。
サム・アルトマンとデミス・ハサビスの原点
これは、大西洋の両側から現れた二人のビジョナリー——サム・アルトマンとデミス・ハサビス——の物語です。彼らはAIの発展に深く関わってきました。歩んできた道のりは大きく異なりますが、世界最大の課題をAIで解決しようという深い好奇心と決意は共有しています。アルトマンの経歴は型破りでした。高校では数学の天才で水球部のキャプテン、菜食主義者でクラシック音楽とビデオゲームを愛していました。
16歳でゲイであることをカミングアウトし、オンラインコミュニティに心の拠り所を見つけ、後に高校で初のLGBTQ支援グループを設立しました。スタンフォード大学ではコンピューターサイエンスを専攻し、同大学のAIの権威セバスチャン・スランに師事、未来のテクノロジーに関する倫理的な問いと格闘しました。それは彼の哲学とSFへの愛情が結びついた刺激的な組み合わせでした。スタンフォードを後にしたアルトマンは、GPSを使って友人の居場所を表示するモバイルアプリ「Loopt」でスタートアップの世界に飛び込みます。プライバシー懸念から失敗に終わりましたが、この経験が彼をより高い目標へと駆り立てました。AIを使って世界を救いたい、しかし同時に、AIの危険から世界を救う存在にもなりたいと考えるようになったのです。
ハサビスもまた、アルトマンと同じく知的な挑戦への情熱に突き動かされていました。北ロンドンで育ったハサビスはチェスの天才であり、熱心なゲーマーで、わずか17歳で中毒性の高いビデオゲーム『テーマパーク』を開発しました。多くの人がゲームを単なる娯楽と見なす中、ハサビスはそれを心の訓練場と捉えていました。そして、より大きな問いを考え始めます。「世界中の最も優れた頭脳の集合知が、現実世界の問題を解決できるとしたらどうだろう？」と。「万物の理論」というアイデアに触発され、ハサビスはAIに焦点を移します。AIを、世界の欠陥を修正し、宇宙の最も深遠な疑問を理解するための変革をもたらす科学的道具と見なしたのです。
ケンブリッジ大学ではコンピューターサイエンスと神経科学に没頭しました。ハサビスの最初のベンチャーであるElixir Studiosは大成功とは言えませんでした。ゲームとAIの融合を目指しましたが、彼のゲームは複雑でユーザーの共感を得られず、2005年にスタジオは閉鎖に追い込まれます。しかし、この失敗から重要な洞察を得ました。AIでゲームを進化させるのではなく、ゲームを使ってAIを進化させられるのではないか、と。
この発想の転換が、次の会社DeepMindの根幹となります。DeepMindの設立当初は懐疑的な目で見られましたが、ハサビスのビジョンは明確でした。もはやゲームのためではなく、世界最先端のAIシステムを開発することだったのです。DeepMindでの仕事は、やがて彼を世界的な脚光を浴びさせ、世界を変えるAI開発競争のキープレイヤーへと押し上げていきました。
壮大なアイデアとユートピア思想
Looptを売却し、1年間の充電期間を経て、アルトマンはアーリーステージ投資に特化したHydrazine Capitalでスタートアップ界に復帰しました。有望なスタートアップを見抜く彼の鋭い目は、ファンドを10倍に成長させました。2014年にはYコンビネーターの社長に就任し、自動運転車や核融合といった野心的なプロジェクトへとその対象を広げます。Helion EnergyやRetro Biosciencesへの投資は、無限のエネルギー創出や寿命延長といった人類最大の課題解決に注力する彼の姿勢を表していました。
アルトマンの強みは、優れたアイデアを見抜くことだけでなく、自分のビジョンを他者に信じさせる力にありました。その自信と野心ゆえに、しばしば感情的に距離を置くことがありましたが、それはAIの将来的なリスクを乗り越えるために不可欠な特性だと彼は考えていました。しかし、同じこの原動力こそが、Googleのような競合他社に先駆けて高度なAIシステムをリリースしようとする激しい競争心の表れでもありました。海の向こうでは、ハサビスがDeepMindを築き上げていました。人間の脳こそが汎用AIを生み出す鍵を握るという信念に突き動かされていたのです。シェーン・レッグ、ムスタファ・スレイマンと組み、チームの目標は実用的な問題を解決し、宇宙そのものが0と1で説明できるかといった、人生の深遠な謎を解き明かすことでした。ハサビスが目指したのはAGI、すなわち汎用人工知能でした。
これは重要な違いでした。AGIは単に計算をして質問に答えるだけではありません。画像を認識し、詩を書き、未来の予測や計画を立てるといった、真の人間レベルの知能を意味します。DeepMindでハサビスとパートナーたちは、コンピューターにAGIの達成方法を教えるゲーム作りに着手しました。DeepMindはPayPalのピーター・ティール、Skypeのヤーン・タリン、イーロン・マスクといった大口投資家を惹きつけました。しかし、安全性と倫理へのこだわりがFacebookのような潜在的な買い手との衝突を生み、創業者たちは高額なオファーを断念することになりました。やがて、新たな、そしてより興味深い求婚者が現れます——Googleです。
DeepMindとGoogleの出会い
AGI開発における最大の課題のひとつは、膨大な計算能力が必要なことです。ハサビスには一流の科学者を惹きつける資金はありましたが、Googleのようなテクノロジー巨人が持つスーパーコンピューターやクラウドインフラへのアクセスが欠けていました。大企業との提携は必要な妥協のように思えましたが、倫理的な懸念も伴いました。Googleは未来的なブランドイメージとは裏腹に、主に広告収入を増やすためにAIを利用しており、世界を変える目的でAIを使おうとするDeepMindのビジョンとはかけ離れていたのです。
2014年、DeepMindはFacebookのより高いオファーを断り、6億5000万ドルでGoogleに身売りしました。この契約には厳しい条件が付いていました。DeepMindの研究は軍事利用しないこと、AI開発を監視する倫理委員会を設置することなどです。Googleは当初これに同意しましたが、すぐに倫理委員会の構想を棚上げし、DeepMindをAlphabetの広範な組織構造に統合し、約束された自律性を骨抜きにしていきました。一時的にDeepMindの倫理委員会に名を連ねていたマスクはこれに不満を抱き、対抗策として、アルトマンと共に2015年にOpenAIを共同設立しました。アルトマンもすでに、GoogleがAGI開発を独占することへの懸念を表明していました。OpenAIは、人類の利益のために安全にAGIを構築することを目指しました。
この立ち上げはハサビスにとって痛手でした。特にOpenAIがDeepMindの元社員やコンサルタントによって共同設立されたからです。しかしそれは同時に、Googleの下でのDeepMindの利他的な使命に対する疑念の高まりを反映してもいました。OpenAIの初期の状況は混沌としており、企業利益ではなく人類のためにAGIを創り出すという高尚な目標に突き動かされていました。しかし、マスクの関与も純粋に利他的だったわけではありません。彼の他の会社は最先端のAIに依存していたのです。リソースと方向性をめぐって緊張が生じました。マスクの焦りは募り、OpenAIをTeslaと合併させることを提案しますが、アルトマンは拒否しました。
不満を募らせたマスクは2018年にOpenAIを去り、資金援助も打ち切りました。マスクの離脱はOpenAIにとって転機となりました。彼の影響力と資金から解放され、チームはより大胆で攻撃的なイノベーションへと舵を切ります。これがAI業界をハイリスクな競争へと駆り立て、OpenAIはAGI開発の未来を塗り替えるリスクを取っていくことになります。
危険信号がそこらじゅうに
Googleの下でのDeepMindの歩みは、野心、倫理的葛藤、そして募る不満のるつぼでした。創業者たちは当初、独立した組織であり続けることを望んでいましたが、DeepMindのブレークスルーがGoogleのビジネスにとって価値を増すにつれ、独立は遠い夢となりました。一部のDeepMindチームが医療やエネルギーなどの倫理的な応用に取り組む一方で、他のチームはYouTubeのおすすめ最適化や広告ターゲティングに携わり、Googleの利益重視の姿勢をさらに強化していきました。ハサビスはDeepMindを「グローバル・インタレスト・カンパニー」、つまり国連のような技術における中立的で倫理的なAIの管理者にする構想を描いていました。
しかし彼の高尚な願望は、Googleが企業目標を優先するたびに先延ばしにされたり、棚上げされたりしました。AIの悪用やバイアスをめぐる倫理的懸念が高まっていたにもかかわらず、DeepMindは強固な倫理チームを設立できず、構造的な問題はほとんど未対応のままでした。DeepMindが直面した課題は、テクノロジー巨人の前例のない力を浮き彫りにしています。彼らは市場を支配し、ユーザーとのやり取りから得た膨大なデータを活用して社会を形成しています。そのアルゴリズムは利便性とイノベーションを推進する一方で、スクリーン中毒を助長し、プライバシーを侵食し、社会的不平等を増幅させています。偏ったデータで訓練されたAIシステムは、こうした格差を強化し、本来解決すべき問題を深刻化させかねません。
偏ったAIシステムの実例は、こうしたリスクを裏付けています。刑事量刑に使われるCOMPASのようなツールは、黒人の被告を白人よりも高リスクと不当にラベリングする人種バイアスを示しました。偏ったデータで訓練された予測警察システムは、マイノリティコミュニティにおける過剰な取り締まりを持続させています。Googleの研究者ティムニット・ゲブルやマーガレット・ミッチェルらは、こうした危険性を暴き、透明性、説明責任、倫理ガイドラインの必要性を訴えました。
彼女たちは、偏ったデータセットが、黒人を非人間的に分類したり、大量破壊の写真を美化したりするような有害な結果を招くことを示しました。しかし彼女たちの仕事は、テクノロジー巨人が耳を傾けるかどうかにかかっています。利益重視の状況では、それも不確かです。イノベーション企業としての評判とは裏腹に、Googleは過去10年の大半を、大胆な変革をするよりも企業買収や現状維持に費やしてきました。
OpenAIがイニシアチブを握る
2017年のDeepMindによるTransformerの画期的な開発後も、Googleはほとんど焦りを見せませんでした。「Attention Is All You Need」という論文で発表されたTransformerは、AIが文章や段落全体を同時に分析することを可能にし、言語処理に革命をもたらしました。これにより、微妙な翻訳や人間らしいテキスト生成といった高度な応用が可能になったのです。Transformerはゲームチェンジャーであり、AIが現代のコンピューターチップの能力を活用できるようにし、今日の生成AIへの道を開きました。しかし、Googleの経営陣はその技術の可能性を探るよりも、広告ビジネスを守ることに固執し続けました。
Googleが躊躇する一方で、OpenAIやスタートアップはそのチャンスを掴みました。OpenAIはTransformerを活用して、人間らしいテキストや画像などを生成できるGPTを含む生成AIモデルを開発しました。スタートアップは翻訳などのアプリケーションにこの技術を適用し、Googleの研究者たちは官僚的な停滞に不満を募らせて次々と退職し、Character.aiのような成功するベンチャーを立ち上げました。Googleを置き去りにしたのです。このちゅうちょはGoogleの脆弱性を露呈しました。既存の数十億ドル規模のシステムを優先するあまり、OpenAIのようなより機敏な競合他社が、Google自身のイノベーションを使ってAIの可能性を再定義するのを許してしまったのです。
イリヤ・サツキバーやアレック・ラドフォードを含むOpenAIの研究者たちは、Transformerの基盤の上にGPTを構築しました。デコーダ専用モデルと大規模データセットを組み合わせ、流暢で人間らしいテキストを生成するものです。2019年のGPT-2のリリースは、OpenAIの能力を示しただけでなく、AIの社会的影響に関する倫理的議論にも火をつけ、広く注目を集めました。当時OpenAIは非営利組織として重大な財政難に直面しており、投資を呼び込みながら使命を維持するために「キャップド・プロフィット（利益上限付き）」モデルを採用しました。しかしDeepMindと同様に、その利他的な目標は企業パートナーシップの誘惑と衝突しました。
OpenAIはすぐに、強力な味方であるMicrosoftを見つけます。同社は10億ドルのパートナーシップを提案し、特にその膨大なクラウドコンピューティング基盤という重要なリソースを提供したのです。この提携は転機となりましたが、重大な疑問も投げかけました。OpenAIは、AIの潜在的な危険から守る倫理的な保護者であり続けるというビジョンを、AI主導のクラウド市場を支配しようとするMicrosoftの野心と両立できるのか？ この協業は、AIの変革的な可能性とその未来を形作る企業利益との間の緊張関係を象徴するものでした。
反対意見を封じ込める
OpenAIとMicrosoftの提携は待望の財政的安定をもたらし、従業員には大きな報酬が約束されました。しかし、誰もがこの変化を歓迎したわけではありません。主任研究員のダリオ・アモデイは、利益重視の企業と手を組むことが、人類のためのAI安全性を優先するというOpenAIの使命を損なう可能性を懸念しました。やがて彼はOpenAIを去り、AIの安全性と商業的成功のバランスを目指す公益法人Anthropicを設立します。
MicrosoftはGoogleとは異なり、自社のGPT言語モデルを積極的に一般公開しました。ハサビスが強力なツールを悪意ある手に渡す危険性を心配する一方で、アルトマンは安全性には透明性が不可欠だと信じていました。これに応じて、GoogleはDeepMindに競合する独自の言語モデルの開発を迫り、AI覇権をめぐる競争は激化しました。AIの商業化の進展は重大な倫理的懸念を引き起こしました。企業利益が、収入格差のないAI主導の未来を語るハサビスやアルトマンのユートピア的ビジョンをますます覆い隠していったのです。少数のテクノロジー巨人に権力が集中することは批評家たちの警戒を呼び、人類の幸福よりも利益を優先する産業への恐れを煽りました。
一方、パンデミック中には、何百万人もの人々が中国製のAIや米国拠点のReplikaのようなAIチャットボットにコンパニオンを求めました。感情的なサポートを提供するために設計されたこれらのツールは、AIがさらなる孤独や人間関係の減少を招くのではないかという議論を巻き起こしました。AI駆動のソーシャルメディアアルゴリズムもまた、社会の分断を悪化させ、誤情報を拡散し、バイアスを憂慮すべき形で増幅させていました。こうした懸念は、大規模言語モデルのデータセットにおけるバイアスと透明性の欠如を批判した、研究者ティムニット・ゲブルとマーガレット・ミッチェルによる「ストキャスティック・パロッツ（確率的オウム）」論文の中心テーマでした。彼女たちが研究結果の修正を拒んだことでGoogleから解雇されたことは、AIの倫理的欠陥に異議を唱える者が直面するリスクを浮き彫りにしました。AIが十分な規制なしに加速する中で、かつてハサビスやアルトマンのようなリーダーが掲げた説明責任と倫理の理想は、ビッグテックの機構の中でますます失われているようです。
「効果的利他主義」の名のもとに
2022年初頭、MicrosoftのCEOサティア・ナデラは、OpenAIのCodexがGitHub Copilotへと進化し、ソフトウェア開発に革命をもたらしたことで、AIの可能性を全面的に受け入れました。このイノベーションにより、ナデラはMicrosoftが最先端AIツールでGoogleを凌駕したと自信満々に宣言しました。次いでOpenAIは、AIの創造力を示すテキストから画像を生成するDALL-E 2を発表しましたが、バイアスや悪用への懸念は残りました。真のゲームチェンジャーは、2022年11月のOpenAIによるChatGPTのリリースでした。
当初はささやかな研究プレビューだったものが世界的な現象となり、2023年初頭までに3000万人以上のユーザーを獲得しました。ChatGPTの流暢で知識豊かな応答は世界を魅了し、テクノロジー業界に競争の熱狂を引き起こしました。GPT-4のようなその後のリリースはAIをAGIに近づけましたが、雇用喪失への恐怖も煽りました。アルトマンはこの移行を産業革命になぞらえましたが、エリエザー・ユドコフスキーのような人々は実存的なリスクを警告し、AI研究の一時停止を訴えました。AI業界は、慎重さを主張する陣営と、進歩を確実にするために最小限の規制を支持するアルトマンのような陣営に二分されました。将来のAI課題に対処するための資金は増えましたが、現在の倫理的懸念にはほとんど注意が払われませんでした。
この分裂は、シリコンバレーで人気のある効果的利他主義運動と結びついています。これは、今日のリスクある技術進歩を伴うとしても、長期的な地球規模の問題の解決を優先する考え方です。しかし、効果的利他主義の主導的な論客であるウィル・マッカスキルでさえ、マスクやサム・バンクマン＝フリードのような人物を駆り立てる「目的が手段を正当化する」考え方を批判しました。崇高な目標に隠れた、倫理的に疑わしい富の蓄積手段は、この哲学の暗い側面を露呈し、AI開発へのその適用に疑問を投げかけました。現時点では、AIは社会的不平等を悪化させ、強者を富ませながら倫理的ジレンマを増幅させています。
AIが倫理原則と調和できるか、あるいは賃金格差の縮小や医療のブレークスルーという約束を果たせるかは不確かです。しかし最後のセクションで見るように、AIと効果的利他主義の影響力は、もはや止められないほど巨大で儲かるものに成長してしまったのかもしれません。AGIには信じられないほどの可能性がありますが、MicrosoftやGoogleのような企業が最も恩恵を受ける立場にあります。
止められないのか、止めようとしないのか？
電気のような過去のイノベーションとは異なり、AIの潜在的害悪——プライバシー侵害やアルゴリズムバイアス——は定義が難しく、それゆえテクノロジー巨人は倫理よりも利益を優先することができています。Microsoft、Google、Anthropicがますます強力なモデルをリリースする中で、安全性はしばしばスピードの後回しにされています。AI開発を減速させようとする努力は、2023年後半、OpenAIの主任科学者イリヤ・サツキバー率いる取締役会がCEOサム・アルトマンを突然解雇したことで、事実上崩壊しました。オンライン上では、サツキバーと取締役会はAI開発を減速させたいという理由で「デセル（減速派）」のレッテルを貼られ、一方アルトマンとその支持者は「e/acc（効果的加速主義者）」とタグ付けされました。
OpenAIのスタッフは退職を示唆し、OpenAIに多額の投資をしていたMicrosoftはアルトマンの支持に回りました。Microsoftの株価急落と高まる圧力の中、アルトマンはすぐに復職しました。この一件は、テクノロジー巨人のAIへの依存度と、アルトマンが集めるカルト的な忠誠心を露わにしました。今や名声と利益の追求がAIの軌道を支配し、そのユートピア的理想を覆い隠しています。透明性は低下し、各社はデータの使用方法、環境への影響、労働条件を秘匿しています。AI開発の背後にある労働の多くは、インドやメキシコでの外注モデレーション作業のような過酷な環境で行われており、搾取と不平等に関する倫理的懸念を引き起こしています。
AGIの台頭は、AIを活用できる人とできない人の間に「認知格差」を生み出し、社会の分断を広げる恐れがあります。人間をAIに対抗できるように保つための脳インプラント開発を目指すマスクのNeuralinkは、AI支配の恐怖を増幅させます。一方、ウェアラブルAI技術はますますプライバシーを侵害し、ほとんど監視のないまま個人データを収集し会話を録音しています。AIが進歩するにつれ、ビッグテックは自ら新たなブレークスルーを起こすよりも、革新的なスタートアップを買収することで権力を強化しています。これは大きな疑問を投げかけます。人類のAI主導の未来に対して、ほんの一握りの企業がどれほどの支配力を行使すべきなのか？ AI支配をめぐる競争は社会を再形成すると約束する一方で、この変革の全コストは依然として不確かなままであり、人類は進歩の代償と格闘することになるのです。
最後のまとめ
パーミー・オルソン著『AIの覇権』の核心は、舞台裏でGoogleやMicrosoftのようなテクノロジー巨人がAIに対して前例のない支配権を獲得し、ほとんど監視のないまま、潜在的に破滅的な結果を伴いつつ開発を推し進めてきたことです。この物語の中心にいるのは、サム・アルトマンとデミス・ハサビスという二人のビジョナリーです。当初は人類の利益となるAIを構築したいという願望に突き動かされていた二人の男は、最終的に自らの理想を妥協し、企業利益に資するようにAIの未来を形作るテクノロジー独占企業そのものに支配権を委ねました。その結果、権力と利益を渇望するMicrosoftやGoogleのようなコングロマリットが、時として倫理的配慮や社会の幸福を犠牲にしてAI革命を舵取りするという、急速に変化する風景が現出しているのです。
以上で本要約を終わります。最後までお読みいただきありがとうございました。
