『予測の手段』（2025年）は、人工知能が私たちの制御を超えた不可避の力ではなく、手綱を握る者の手によって形作られる道具であることを明らかにする。AIの仕組みをわかりやすく説明しながら、実際に働いている緊張関係を暴き出す。それは人間対機械ではなく、技術を所有する者とそれ以外のすべての人々との間の闘争である。権力者たちが自らの優位を固める前に、今この技術に対する民主的な監視が必要だと論じている。
本書から得られること——誇大広告を見抜き、AIを本当に支配するのは誰かを理解する
人工知能をめぐる警鐘は日を追うごとに大きくなっている。殺人ロボット、大量失業、理解も制御もできないシステム——世間の語りは、私たちが不可避の技術的清算に向かって突き進んでいることを示唆している。しかし、その枠組み全体が論点を外しているとしたらどうだろうか？本要約では、AIを覆う神秘性をはぎ取り、はるかに具体的なもの——その方向性が、それを構築する資源を誰が所有するかによって完全に決まるテクノロジー——を明らかにする。
専門用語の奥にあるAIの実際の仕組みと、決定的に重要な問いが機械の能力ではなく人間の権力構造に関するものである理由を学ぶことができる。AIの進路を決める不可欠な資源と、この技術を公的な監視の下に置くことがいかなる技術的ブレイクスルーよりも重要である理由を知ることができる。これらの洞察は、AIが飽和した世界において明晰さと主体性の両方をもたらす。
機械を本当に支配しているのは誰か？
『マトリックス』『ターミネーター』『2001年宇宙の旅』といった映画を考えてみよう——何十年にもわたり、ハリウッドは人類が超知的機械と壮大な戦いを繰り広げる物語を語ってきた。近年のAIの台頭は、このシナリオに刻一刻と近づいているのではないかという不安をあおっている。イーロン・マスクのような人物がAIは核戦争に匹敵する実存的脅威をもたらすと警告し、テック業界のリーダーたちがその不安を増幅させている。しかし、この劇的な枠組みは実際の対立を見落としている。
本当の闘争は人間と機械の間ではなく、利害が対立する人々のグループの間にある。AIが実際にどう機能するかを考えてみよう。すべてのAIシステムは、誰かが選んだ特定の目標を追求している。どの結果を優先すべきかを誰かがプログラムしなければならない。決定的に重要な問いは、アルゴリズムが正しく機能するかどうかではなく、その目的を誰が定義するかである。現在、データや計算能力、専門知識といったAIを構築する資源を支配する者が、その目標を設定している。
そして私たちの資本主義システムでは、それは通常、公共の利益よりも利益の最大化に資する目的を意味する。例えば、ソーシャルメディアのアルゴリズムは広告クリックを最大化するが、それは怒りの感情を助長して社会に害を及ぼす場合でも同じだ。採用アルゴリズムは、育児や介護の責任を負う候補者を排除するが、それは短期的な生産性を高めるからだ。どちらの場合も、AIシステムはその恩恵を受ける者にとって意図したとおりに機能している。だから、機械に支配されることを心配するのは的外れだ——本当に心配すべきなのは、誰が機械を支配するかである。このことを理解することは、実際には私たちに力を与えてくれる。
テック業界の主張とは裏腹に、AIの基本原理は不可能なほど複雑ではない。仕組みを理解すれば、それをどう使うべきかという決定に参加できる。では、掘り下げていこう。
おいしいピザから致命的な予測まで
なぜ特定の広告がインターネット上でいつまでもつきまとうのか？そしてなぜNetflixは、本当に見たい番組を次々とおすすめしてくるのか？その答えは、AIが実際にどう機能するか、そして誰がそれを支配するかがその後のすべてを形作る理由を理解することから始まる。AIは一つの単純明快な概念に帰着する。それは、与えられた目標を最大化するために自動化された選択を行うシステムである。
これらのシステムには4つの構成要素が必要だ。選択可能な行動、最適化すべき目標、何らかの基礎的知識、そして学習のためのデータセットである。機械学習は、手書きの指示コードに従うのではなく、膨大な情報からパターンを検出することでこれを可能にする。すべてのAIシステムの中心には、探索と活用のトレードオフという重大な緊張関係がある。この原理は、夕食に何を食べるか決めようとする単純な例で明確になる。あなたがピザを愛しているが、エチオピア料理を試したことがないとしよう。ピザに固執することは、既存の知識を使って確実においしい食事を得ることを意味する。
エチオピア料理を試すことは、新しいものに挑戦するリスクを負うことを意味するが、将来的により良い選択肢を発見できる可能性がある。AIシステムはこの緊張関係を常に乗り越えながら、「不確実性に直面した時の楽観主義」という原則に従う。つまり、不確実な選択肢が優れているかもしれない場合には、疑わしさを考慮してもなお可能性を与えるのだ。FacebookとGoogleは、まさにこの枠組みから数十億ドルを生み出している。あなたのオンライン体験は、継続的なマイクロ実験から成り立っている。彼らのシステムは、どの広告があなたの注意を引くかを探り、実証済みの戦術を展開しながら新しいアプローチをテストしている。夕食の選択でも、広告収入の創出でも、根底にある数学は同じである。
しかし、これらのシステムが何に向けて最適化するかが、すべてを形作る。ガザ紛争中、「ラベンダー」というAIシステムは、10パーセントの誤り率を受け入れながらハマスとの関係を予測した。「パパはどこ？」という別のシステムは、標的がいつ自宅にいるかを予測し、爆撃の効果を高めるために使われたが、多くの場合家族が同席していた。
これはアルゴリズムの暴走ではない——まさにプログラムされたとおりに機能したシステムなのだ。この悲劇的な例は、民主的な議論がアルゴリズムの選択という技術的な細部に迷い込むべきではないことを示している。私たちはこれらのシステムがどのような目的を追求しているかを精査する必要がある。十分な訓練データが与えられれば、さまざまなアルゴリズムのアプローチは同様の結論に到達するからだ。決定的に重要な問いは、AIに何を予測させるよう指示しているか、そしてその決定権を誰が握っているかである。
AIの影に隠れた人的コスト
ChatGPTに質問するとき、あなたは単に賢いソフトウェアとやり取りしているのではない。何百万人もの見えない労働者の圧縮された労働、無数のクリエイターから収穫された知識、そして一握りの企業に支配された計算能力にアクセスしているのだ。AIにおける権力を理解するには、資源を追いかければいい。支配権を決定づける4つの不可欠な要素——データ、計算インフラ、技術的専門知識、エネルギーである。
これらの構成要素を掌握する者が、AIが何を優先するかを決める——そして現在、それは人間の繁栄ではなく企業の利益である。AIのブレイクスルーの背後に隠れた労働力について考えてみよう。画像認識に革命をもたらした有名なデータセットは、人間の労働者が1400万枚以上の画像を分類することを必要とした。グローバルサウスに散らばり、Amazonのプラットフォームで最低賃金で働くこれらの労働者たちが、数十億ドル規模のAIシステムの基盤を提供した。しかし、彼らの重要な役割はほとんど見えないままである。この搾取のパターンは、暗い歴史的並行関係を反映している。
産業革命以前、イギリスの農民たちは共有の農地を耕していた。力を持つ地主たちは、共同で使われていたこれらの土地を奪い、利益のために私的な羊の牧草地に変えた。土地を失った農民たちは、新しい工場で仕事を探すしかなかった。今日のテック大手は同様の収奪を行っている——物理的な土地ではなく、デジタルの共有地を。Wikipedia、オープンソースのプログラミング・リポジトリ、創作作品からのコンテンツが収穫され、商業的なAI製品に詰め替えられている。集中の度合いは極端である。
ある一社が、AI専用プロセッサ市場の9割を掌握している。一方、AIインフラのエネルギー需要はすでに世界の電力使用量のかなりの部分を占めており、今後急増すると予測されている。このような集積に対抗できるのは誰か？個々のソフトウェアエンジニアは、利益志向の雇用主による制約に直面することが多い。多くは自らも「各自が自分のために」という考え方に囚われ、次の儲かる仕事を探すことしか考えていない。真の可能性は、組織化された労働者、関与する市民、民主的制度、そしてAIを単なる技術的なパズルではなく社会的な問いとして位置づける思慮深い規制による集団的行動から生まれる。
民主的なテクノロジーが重要な理由
Amazonの倉庫アルゴリズムを考えてみよう。それは配送速度と労働者の生産高を最大化する。米国労働省は、絶え間ない持ち上げ、不自然な動作、休みないペースによる腰痛の蔓延率を報告している。どちらの場合も、アルゴリズムは設計どおりに機能し、公共の福祉を無視して所有者の利益に奉仕していた。では、Amazonの労働者自身が倉庫システムを支配したらどうなるかを想像してみよう。
彼らはおそらく、安全性、怪我の防止、人道的な労働条件のために最適化するだろう。同じ技術でも、誰が権力を握るかによって結果はまったく異なる。このことは、システムが設計者の価値観を反映することを浮き彫りにしている。労働者、消費者、市民は、これらの人工システムの現在の企業的所有者とは異なる優先事項を持っている。純粋に技術的な解決策はこの根本的な点を見落としている。権力の不均衡をエンジニアリングで解決することはできないのだ。この課題は、驚くべき形でプライバシーにまで及ぶ。
個人に対する完璧なデータ保護でさえ機能しない。機械学習は人々の間にパターンを見つけ出すからだ。あなたの隣人が保険会社に健康データを共有すると、アルゴリズムはあなたの個人情報に一切触れることなく、あなたのリスクを予測し、保険加入を拒否することができる。個人の権利は集団の問題を解決できない。バランスを変えるのに役立つ3つの実践的戦略がある。まず一つ目は、規制である。
例えば、政府は有害なデータ収集行為に対して課金することができる。あるいは、有益なものに金銭的インセンティブを与え、企業が利益を計算する際にAIシステムの社会的コストを考慮するようにすることができる。二つ目は、共同データ信託である。これは人々が情報を共同でプールし、その使われ方について投票する組織だ。あなたは医療研究を可能にするために健康データを提供しながら、保険会社が保険判断のためにアクセスすることを明示的に禁止することができる。三つ目として、透明性に関するより良い法律が必要である。それには、企業に自社のAIシステムが実際に何を最適化しているかを説明するよう義務づけることが含まれる。
これは複雑なニューラルネットワークを理解することを意味しない。基本的な目的を開示することを意味するのだ。あなたの大学の入学選考アルゴリズムは、予測されるテストの点数を最大化しているのか、それとも社会的流動性を最大化しているのか？あなたのソーシャルメディアのフィードは、エンゲージメント時間を最大化するように設計されているのか、それとも民主的議論の質を最大化するように設計されているのか？これらの目標が公共の利益に資するかどうかについて意味のある議論ができるのは、それらが可視化されてこそである。
古代アテネと現代のAI
AIの規制という課題に関しては、陪審員を務めることを可能にするのと同じ民主的原理の中に、驚くべき洞察が隠されているかもしれない。そしてそれは数千年前にまで遡る。AIの変化のスピードが目まぐるしいにもかかわらず、根本的な課題は新しいものではない。私たちは今も昔と変わらない問いに取り組んでいる。どうやって学ぶのか？
どう行動すべきか？公正な社会とは何か？問題は、今この瞬間、データ、計算能力、技術的専門知識を支配する者がAIの目標を決められるということである。エンジニアに「倫理的であれ」と求めることはこれを解決しない——彼らが利益志向の企業で働いている限りは。真の変化には、AIの決定によって影響を受ける人々に権力を再配分することが必要である。しかし、どうやって？
投票所や選挙で選ばれた代表者に想像力を限定してはいけない。抽選制——陪審員の務めのように、市民を無作為に選んで意思決定をさせる仕組み——を考えてみよう。古代アテネはこのシステムを政治統治に用いていた。今日では、人口統計学的に代表的なグループを無作為に選び、仕事を休んだ分の補償を与え、AI政策の問題について熟議させることが考えられる。職業的政治家は必要ない。もう一つの選択肢は、1800年代にルイス・キャロル（そう、『不思議の国のアリス』の著者）によって考案された液体民主主義である。
誰もが投票権を持ちながら、特定のトピックについては信頼できる専門家に委任することができる——そしていつでも取り戻せる。ヨーロッパの海賊党はすでにLiquidFeedbackのようなソフトウェアを使って、これをオンラインで実現している。スカンジナビア諸国は、職場における新技術の規制という課題に対処する別の興味深いモデルを開拓してきた。1970年代に彼らは「参加型デザイン」という概念を導入し、強力な労働組合と法的な共同決定権を通じて、職場の技術決定に対する実質的な権力を労働者に与えた。形だけの参加では不十分であることは明らかだ。民主的な意見が強力な利害と衝突するたびに覆されるなら、人々は参加するのをやめてしまうだろう。
真の民主的支配とは、単なる協議ではなく、真の権力の共有を意味する。抽選制であれ、液体民主主義であれ、職場民主主義であれ、前進への道は、AIの影響を受ける人々が実際にそれを支配する制度を構築することを必要とする。古代アテネから現代のスカンジナビアの職場政治まで、ツールは存在している。あとはそれらを使う集団的な意志だけが必要である。
まとめ
マクシミリアン・カージーによる『予測の手段』の本要約では、AIの核心にある真の社会的・政治的な問いを探求した。本当の危険は感覚を持つ機械ではない——誰がその技術の舵取りをするかである。すべてのAIシステムは、その作り手が選んだ目標を追いかけるように構築されている。そして現在、その目標は最も資源を持つ人々によって設定されており、通常は公共の優先事項よりも企業の優先事項を優遇する形になっている。
AIの本質はシンプルだ。与えられた目標を最大化するために自動化された選択を行うシステムである。本当の課題は、一握りのテック大手から権力を移し、これらのシステムの影響を受けるコミュニティに委ねることである。それには戦略的規制、共同データ信託、透明性ルール、抽選制や職場における参加型デザインといった民主的アプローチが必要になる。機械の知能を恐れるのではなく、私たちの生活を形作るシステムの民主的監視に焦点を当てるべきである。AIは本質的に良いものでも悪いものでもない——その影響を決めるのは、その背後にある権力なのである。
