『AI帝国（Empire of AI）』（2025年）は、理想主義的な非営利組織だったOpenAIが、1570億ドル規模の帝国へと変貌を遂げる過程を追う。ChatGPTを築くという途方もない競争を特徴づけた、泥沼の権力闘争、語られざる人的犠牲、舞台裏の提携の数々を詳述する。本書は誇大宣伝の先に踏み込み、あなたの未来を左右しかねないテクノロジーを形作る、本当の権力関係を理解させてくれる一冊だ。
あなたが得られるもの：AI革命の裏に隠された真実を暴く
あなたもおそらくChatGPTを使ったことがあるか、AIが医療から教育まであらゆるものを一変させるという熱弁を聞いたことがあるでしょう。多くの人と同じように、その能力に驚嘆したかもしれません。この新しいツールが時間を節約してくれるかもしれない。あるいは人類を労働から永遠に解放してくれるかもしれない、と。
しかし、こうした動きがどこへ向かっているのか、そして人類の存続にとって何を意味するのか、拭いがたい不安を感じたこともあるかもしれません。誇大宣伝の裏側には、人類の利益のためにAIを民主化しようと設立された非営利組織が、1570億ドル規模の帝国へと変貌した物語があります。本要約で明らかになるのはまさにその物語です。それは時に、近現代史というよりディストピア小説のように響くこともあります。最後まで読めば、OpenAIが安全上の理由からGPT-2の公開を拒んでいたのに、わずか2週間でChatGPTを市場に投入するまでに至った経緯が理解できるでしょう。
これらの出来事は、自らの運命をますますAIに結びつけつつある現代世界を理解する上で重要です。進歩を語るOpenAIの無機質なPR物語の先を見通せば、AIが本当にあなたに力を再分配しているのか、それともあなたのデータ、創造性、信頼の上に築かれた帝国を強化しているだけなのか、よりよく判断できるようになります。では、すべての始まり、現在の現実の種が意図せず蒔かれた私的な夕食会へ戻りましょう。招待客は全員着席していましたが、ただ一人、イーロン・マスクだけが1時間以上遅刻していました。
新たな始まり
2015年、Yコンビネータの30歳の社長サム・アルトマンは、親密な夕食会に到着する客たちを眺めています。会場は名門ローズウッドホテル。客はシリコンバレー随一の人工知能の頭脳たち。議題はただ一つ、人類の未来を語ること。もちろん、和牛料理の合間に。夕食会の開始予定から1時間後、マスクがようやく到着します。彼にとってこの夕食会の目的は、数か月に及ぶ不安を終わらせることでした。その不安は、GoogleがAI研究所DeepMindをわずか5億ドルで買収したことに根ざしていました。
その不安は彼を夜も眠れなくさせ、友人でありGoogle共同創業者のラリー・ペイジとの衝突にまで発展していました。ペイジは超知能を進化の次の論理的段階と見なしていましたが、マスクは同意しませんでした。ペイジはマスクを「種差別主義者」、つまり人間以外の知性を差別する者とまで呼びました。マスクがテーブルに着くと、アルトマンは集まった面々に話し始めました。マスクはアルトマンを研究済みでした。メールのやり取りで、この若者はAI安全性について申し分のないことばかりを語っていたのです。アルトマンが掲げた目標は、世界初の汎用人工知能（AGI）を創り、それを個人のエンパワーメントのために活用することでした。
最も重要なことに、二人はそれが安全性を重視し、利益を目的とすべきではないという信念を共有していました。少なくともマスクはそう思っていました。そこで二人は、Googleの商業的圧力から自由なAI研究所という構想を、集まった面々に売り込み始めました。マスクは最大10億ドルの出資を約束し、合意が成立しました。彼らはそれをOpenAIと名付け、重要なことに非営利組織にすることにしました。しかし2017年までに、非営利の夢は厳しい現実に直面します。
AGIの構築には必要な数万個のGPUをまかなうために年間数十億ドルが必要になるという現実が、彼らにも急速に見えてきました。非営利組織という構造は行き詰まりでした。そこで経営陣は、それまで考えられなかったこと、つまりOpenAIが営利企業へ転換しなければならないという議論を始めました。しかし、その組織のCEOは誰になるのか。権力闘争が始まりました。マスクの計画は、OpenAIをテスラに統合し、自らの既存の富を使ってGoogleと戦うというものでした。
しかしアルトマンには別の計画がありました。彼は主要幹部に直接働きかけ、マスクは会社を率いるにはあまりに「気まぐれ」すぎると印象づけました。全能で予測不能な一人の男の手にAGIを委ねられるのか、と。その策略は功を奏し、対決は決着しました。2018年初め、出し抜かれ敗れたマスクは、緊迫した全員集会で退社を表明しました。ただし、彼はおとなしく去ったわけではありません。
彼は唖然とする従業員たちに、OpenAIは非営利組織としては失敗するだろう、そして自分はこれからテスラで安全なAGIという使命を追求すると告げました。そうして彼は去り、資金も持ち去りました。アルトマンは勝利しましたが、彼が率いる会社の銀行口座は危険なほど空っぽでした。安全性に執着していた共同創業者は去りました。OpenAIはどうやって資金繰りの穴を埋めればよかったのでしょうか。
規模の代償
マスクが去り、OpenAIの非営利の夢は完全に潰えたかに見えました。しかし、その騒動すべてに見合うかもしれない何かが形を成し始めていました。それはイリヤ・サツキバーの頭脳から生まれました。マスクとアルトマンがGoogleから引き抜いた主任科学者です。他の者たちが新しいAIアーキテクチャを議論する中、サツキバーはある考えを発展させていました。異なる種の知能が脳の大きさと相関するなら、AIも同じ原理に従わないはずがない、と。
つまり、もし彼の考えが正しく、人工のノードが人間の脳のニューロンのようなものなら、人工知能には新しいアーキテクチャはまったく必要ない。ただ、より多くの計算能力と、はるかに多くのデータが必要なだけだと。これはOpenAIの新しい宗教となり、スケーリング教義として知られるようになりました。計画は単純でした。キュレーションされたテキストでモデルを訓練する代わりに、OpenAIはAIに生のインターネットそのものを与え、数十億のウェブサイトから無差別にテキストをかき集めたのです。その膨大なデータでAIを訓練すれば、やがて知能が自然に出現するというのがサツキバーの考えでした。
ただ一つ、小さな問題がありました。初期の実験では、生のインターネットで訓練されたモデルは、ジョージ・ソロスに関する陰謀論やネオナチのプロパガンダをまき散らすようになってしまったのです。生のインターネットの大部分が、人間の暗い衝動に応えるものだったことが分かりました。そこでOpenAIは解決策を考え出しました。グローバルサウスの外部委託労働者の助けを借りて、人間のフィルターを構築するというものです。その労働者の一人が、ケニアのモファット・オキニーでした。彼は性的コンテンツチームの品質アナリストとして毎朝出勤しました。
彼の仕事は、何千ものグロテスクなテキスト断片を読み、分類することでした。最悪だったのは児童性的虐待で、次いで近親姦や獣姦を描写するコンテンツが続きました。一部はレイプ妄想を詳述するエロチカサイトからかき集められたもので、他は「想像を絶するものを想像する」よう指示されたAIが生成したものでした。時給2ドル未満で、オキニーたちのチームは人間の最悪の衝動にラベルを付けていきました。時間が経つにつれ、オキニーは正気がすり減っていくのを感じました。特に恐ろしい投稿のいくつかは、帰宅後も、眠りの中でも彼につきまといました。
厳しい秘密保持契約のためトラウマの原因を説明できず、彼は家族からも身を引きました。周りでは同僚たちが次々に壊れていきました。彼らは自分たちがChatGPTを構築しているとは知らず、ただその仕事が自分たちをゆっくりと破壊していることだけを感じていました。ChatGPTが公開され史上最速で成長するアプリになったとき、オキニーたちはようやく理解しました。いま何百万人もの人がメールや文章を書くのを助けている魔法のAIが、あれほど流暢に話せるのは、彼のようなチームが先に汚物を濾過していたからなのです。これはAI時代の最初の大きなトラウマとなり、シリコンバレーを富ませるためにグローバルサウスのテック労働者が負わされたものでした。
こうしてインターネットのデータが手なずけられると、次の大きな問題に取り組む時が来ました。膨大なデータ、それも途方もない量のデータに見合う、巨大な計算能力がOpenAIには必要でした。産業規模の計算資源にアクセスできるパートナーが必要でした。2019年夏、アルトマンはアメリカ資本家階級の最も排他的な集まりに出席していました。
すべてを変えた取引
それはもちろん、アイダホ州サンバレーで開かれたアレン・アンド・カンパニーの会議でした。彼はまだ知りませんでしたが、ここで計算能力の問題を解決し、歴史を動かすことになる提携が結ばれようとしていました。ここでアルトマンは、マイクロソフトCEOのサティア・ナデラという相手を見つけました。ナデラは焦っていました。GoogleがAI競争を勝ち進み、画期的な研究を発表し、この分野の一流頭脳を獲得していたからです。
一方アルトマンも、スケーリング教義が要求する計算能力への飢えという問題を抱えていました。山の景色を眺めながらのプライベートディナーを重ねるうちに、提携が形を成していきました。その内容はこうです。マイクロソフトはOpenAI内部に新設する「利益上限付き」事業体に10億ドルを投資する。これはあまりに型破りで弁護士たちも困惑する企業構造でした。見返りとしてマイクロソフトは、期間を定めずOpenAIの技術を商用化する独占的権利を確保し、ライバルに対して決定的な優位を得ました。それは双方に利益のある取引でした。アルトマンの計算能力需要は、マイクロソフトにとって保証された収益源となったのです。提携は3年間、静かに熟成されました。
すると2022年後半、アルトマンのもとにある噂が届きました。OpenAIを不満で去った卒業生たちが設立したライバル研究所Anthropicが、独自のチャットボットを公開間近だというのです。OpenAIの優位を失うリスク、しかも相手が元同僚たちとなれば、それは到底受け入れられないものでした。そこでOpenAIは、より高度なGPT-4を待つ計画を捨て、既存のGPT-3.5モデルを新しいチャットインターフェースと手早く組み合わせました。完成品ではなく「リサーチプレビュー」と位置づけ、2週間後に公開することにしたのです。
彼らが選んだ名前はChatGPTでした。チームは、公開後に一時的な話題を呼んですぐに消えると予想していました。公開前夜、従業員たちはユーザー数をめぐって気軽に賭けをしました。楽観的な者でも数万人といったところでした。結局、念のため10万人分のサーバーを用意することにしました。2022年11月30日、その「リサーチプレビュー」が公開されました。あとはご存じの通りです。
5日以内に100万人が登録しました。採用イベントに参加していたOpenAIのエンジニアはパーティーを抜け出し、「すべてがクラッシュしている」と同僚に必死にメッセージを送らざるを得ませんでした。Googleでは「コードレッド」警報が発令され、休暇中の社員が招集されました。テック業界全体が対応を迫られました。2か月後にはユーザー数が1億人に達し、ChatGPTは史上最速で成長する消費者向けアプリケーションとなりました。OpenAIの多くの人にとって、公の成功は正しさの証明のように感じられました。
応用チームやプロダクトチームの多くは、新バージョンをできるだけ早く展開しようと勢いづいていました。しかし社内では古い亀裂が再び広がり始めていました。少数ながら声高な安全性研究者たちは、この技術が解き放ちうる危険について、ますます大きな警鐘を鳴らしていました。AI開発を安全に管理したいという願いから生まれた会社は、市場を支配するというリスクの高い競争へ、猛スピードで突き進んでいました。会社の未来をめぐる二つの相反するビジョンは共存できず、どちらかが折れるしかありませんでした。
OpenAIをめぐる戦い
2020年後半、従業員たちはビデオによる全員集会を視聴しました。OpenAIのトップ安全性研究者の一人ダリオ・アモデイが、用意された声明を読み上げました。彼、妹のダニエラ、そして数名が退社するという内容でした。翌年、彼らは独自のパブリック・ベネフィット・コーポレーション、Anthropicを発表しました。彼らの離脱は、会社の商業化への転換に対する初期の警告射撃でしたが、聞き入れられることはありませんでした。2023年に話を進めると、会社がChatGPTの成功で躍進する中、イリヤ・サツキバーは、元々の安全第一の立場を体現する最後の創業者となっていました。
OpenAIの主任科学者として、彼はすべてを可能にしたスケーリング教義の主たる設計者でした。ある意味で彼は自分自身と戦っていました。進歩に胸を躍らせながら、その意味するところに怯えていたのです。GPT-4の登場は、彼にとって限界点でした。モデルの能力の飛躍、本物の理解のように不気味に見える閃きは、AGIがもはや遠い抽象概念ではないとサツキバーに確信させました。それは来ています。しかも速く。
彼の振る舞いは預言者のようになっていきました。社内の集まりでは、従業員たちに「AGIを感じろ」と促しました。ある合宿では、バスローブを着た上級科学者たちが焚き火を囲む中、サツキバーは自分が作らせた木製の像に火をつけました。それは欺瞞的で、人間の価値とずれたAGIを表していると彼は説明しました。OpenAIの義務はそれを破壊することだと宣言しました。そのサツキバーのパラノイアは、サム・アルトマンの行動パターンに根ざしていたことが分かります。
CEOの行動は一つひとつを見れば些細に思えました。しかし全体として見ると、リーダー同士を競わせ、自分にしか収められない混乱を生み出すという、明確な操縦のパターンが浮かび上がりました。最も新しい例は、サツキバーの部下であるトップ研究者ヤクブ・パチョキに関するものでした。自分の権限のなさに不満を募らせたパチョキはアルトマンのもとへ行き、アルトマンはその野心を後押ししてより上級の役職を与えました。アルトマンはそのことを、自分の主任科学者であるサツキバーには一切話しませんでした。サツキバーはそれを直接的な裏切りと見なしました。
一方、サツキバーがこうした事態に苦悩する中、サムの妹アニー・アルトマンによる過去の告発がソーシャルメディアで再拡散されました。これが彼の疑念に新たな側面を加えました。ある拡散されたツイートはサムを様々な形の虐待で告発していました。別のものは彼女の子供時代のベッドでの同意のない出来事をほのめかしていました。サツキバーには告発が真実かどうかは分かりませんでした。彼にとってそれらは、問題のある行動の長い歴史を示す可能性のある証拠であり、彼がいま身をもって経験していると感じるパターンそのものでした。
2023年10月までに、サツキバーはもう十分に見極めたと考えました。彼はOpenAIの取締役で、アルトマンの不透明さに独自の懸念を抱いていたAI安全性研究者ヘレン・トナーにメールを送りました。話し合いの場で、サツキバーは率直でした。彼は取締役会にいま「途方もない好機」があると述べ、AGIがついに到来したときにアルトマンが支配権を握るのは間違った人物だと思うと伝えました。
科学者の創業者がCEOに対して動き出したのです。聖戦はまもなく公のものになろうとしていました。サツキバーの動きは取締役会を動かしました。独立取締役のヘレン・トナー、ターシャ・マッコーリー、アダム・ダンジェロは、ほぼ毎日秘密裏に会合を開き始めました。
最後の賭け
アルトマンに対する彼らの告発は、透明性の欠如に加え、操縦と嘘のパターンに集中していました。それは時に、彼自身も自分を信じていないように見えるほどでした。11月17日金曜日、太平洋時間の正午、アルトマンは4人の取締役とのGoogle Meetに参加しました。サツキバーは簡潔でした。「君はクビだ」。目撃者によると、アルトマンは唖然として沈黙し、気持ちを整えるために目をそらしました。
公開声明は外科手術のように正確で、アルトマンは「取締役会とのコミュニケーションにおいて一貫して率直ではなく、取締役会の責任遂行を妨げた」と結論づけていました。彼らはこれで決着がつくと考えました。しかし、それは大きな誤算でした。OpenAI社長でアルトマンの盟友であるグレッグ・ブロックマンは、数時間以内に抗議の辞任をしました。上級研究者たちも続きました。同日午後の緊急全員集会で、サツキバーは説明にしどろもどろになりました。
不安がる従業員たちに詳細を迫られても、彼はほとんど語らず、公開声明を繰り返すだけでした。彼は「プレスリリースを読んでください」と言い、透明性への期待は「低く」持つように伝えました。反発は強まりました。マイクロソフトでは、発表のわずか1分前に知ったサティア・ナデラが激怒していました。数十億ドル規模のパートナーが、ついさっき内破したのです。彼はすぐに、新しいAI研究所を率いるためにアルトマンとブロックマンを雇うと申し出ました。
その週末、Slack上で公開書簡が広まりました。そのメッセージは率直でした。サムを復帰させ自分たちは辞任するか、さもなければ署名者たちはマイクロソフトへ移る、というものでした。数時間で署名は500人を超え、それは会社の3分の2以上に当たり、後に700人以上にまで増えました。11月21日火曜日までに、彼らは降伏しました。アルトマンは正しさを証明される形でCEOに復帰しました。彼を解任した取締役たちは、ラリー・サマーズやブレット・テイラーのような盟友に交代させられました。5日間のクーデターは、OpenAIの創設実験の劇的な失敗でした。サツキバーとその同盟者たちは好機を逃し、もはやブレーキをかける者は誰もいなくなりました。
それから数か月のうちに、帝国の変貌は完了しました。サツキバーは二度とオフィスに戻りませんでした。安全性研究者たちはAnthropicやGoogle、あるいは自分たちの研究所へ散っていきました。アルトマンは当初のビジョンへの最後の裏切り、つまり通常の法人への再編を推し進めました。OpenAIは、それがサム・アルトマンの個人的なAI帝国になり、今後もそうあり続けることを示したのです。そうして私たちはおおよそ現在へと行き着きます。そこでは、AIの創始者の一人であるジョセフ・ワイゼンバウムの言葉が、これまで以上に真実味を帯びて響いています。
彼はアルトマンが忘れてしまったかのようなことを理解していました。AIのような手品の仕組みを説明してしまえば、「その魔法は崩れ去る」のです。話はそれだけです。そしてOpenAIの価値を支えているのは、まさにその神話なのです。その魔法を築き制御するのに特別な集団は必要ないと人々が気づけば、魔法は完全に消え去ります。
そうなると問うべきは、アルトマンの帝国が失敗するかどうかではなく、いつ失敗するかです。さらに重要なのは、その後に私たちは何を築くのか、という問いです。これはさらに答えるのが難しい問いです。
最終的なまとめ
カレン・ハオ著『AI帝国（Empire of AI）』の本要約で、あなたはOpenAIの物語が「全人類に利益をもたらす」という大きなビジョンから始まったものの、すぐに泥沼の権力闘争へ変わったことを学びました。市場の力学を生き延びるために非営利組織が営利化しなければならないと悟ったとき、イーロン・マスクとサム・アルトマンは支配権を巡って争いました。結局アルトマンがマスクを出し抜き、マスクは会社を去りました。アルトマンが主導権を握ると、彼はスケーリング教義の資金を得るためにマイクロソフトとの提携を確保しました。
その後、2週間で急遽公開されたChatGPTのサプライズローンチがやってきました。これにより安全性重視の社員とプロダクト重視の社員の内紛が激化し、失敗したクーデターに至りました。アルトマンの復帰は彼の支配を確固たるものにし、やがて非営利組織の監視機能を恒久的に解体する計画が持ち上がりました。以上で本要約は終了です。
お楽しみいただけたなら幸いです。もしよろしければ、ぜひ評価をお寄せください。フィードバックはいつでも歓迎です。次回の要約でまたお会いしましょう。
