『AIのアトラス』（2021年）は、AIが鉱物、労働力、データに至るまで、あらゆるものを“採取”するテクノロジーであることを暴き出す。本書はAIを地球規模のネットワークとして捉え、それが非民主的な統治と政治的中央集権化を推し進めていると指摘する。
この要約で学べること 人工知能の隠されたコストを暴く
想像してみてほしい。ネバダの砂漠から内モンゴルの山地まで、世界中に張り巡らされた巨大な採掘場、工場、データセンターのネットワークを。これこそが人工知能の隠されたインフラであり、鉱物資源、データ、そして人間の労働を抜き取りながら成り立つテクノロジーの正体だ。
ここでは、AI革命がもたらす本当の代償と倫理的課題に切り込んでいく。AI開発を支える複雑な網の目をたどることで、一見すると抽象的に見えるこのテクノロジーの、見落とされがちな物質的現実を明らかにしていこう。
さあ、はじめよう。
人工的な「誇大広告」か？
ドイツの一頭の馬が、人工知能とどう関係するのか？ 賢馬ハンスに会いに行こう。19世紀後半、このオルロフ・トロッター種の馬は、その驚くべき知性でヨーロッパ中の観衆を魅了した。ハンスは時間を告げ、正しい日付を当て、音の高低を聞き分け、計算問題さえ解き、蹄で正しい答えを叩いて見せた。少なくとも、そう見えたのだ。
賢馬ハンスの一見知的な振る舞いの真相は、心理学者オスカー・プフングストの注意深い調査によって明かされた。実はこの馬は自ら考えていたのではなく、質問者の無意識の微妙な合図に反応していたのである。姿勢や呼吸、表情の変化といった手がかりが、正解に近づくたびにハンスへ無言のサインを送っていたのだ。この現象は現在「観察者期待効果」、あるいは「賢馬ハンス効果」として知られ、実験者の先入観がいかに被験者に影響し、誤った結論に導きうるかを示している。
ハンスの物語は、人間以外の存在を擬人化することの危険性と、自らのバイアスの影響を認識することの重要性を教える警鐘である。
人工知能の推進者は、人間の知能は形式化され、機械で再現可能だと信じている。しかし著者は、この考え方は根本から間違っていると主張する。一般的に想像されるような意味で、AIは「知的」なのではない。AIは自律的な推論や理解ができるわけではなく、特定のタスクをこなすために膨大なデータとあらかじめ定義されたルールによる訓練に頼っている。その出力も、結局のところ、人間の作り手が持つバイアスと目標によって形作られる。さらに言えば、AIには人間の知能の特徴である文脈への気づき、流動性、適応力が欠如しているのだ。
人工知能の物質的な根っこ
ネバダ砂漠の中心に、シルバーピークという名の目立たない町がある。ここは巨大なリチウム鉱床の縁にあり、スマートフォンやノートパソコン、電気自動車のバッテリーに欠かせない資源の産地だ。不気味な緑色に輝く蒸発池を抱えるこの小さな鉱山コミュニティこそ、人工知能産業の土台をなす、数多くの隠された現場の一つにすぎない。AIの本当の起源を探ると、地球規模で広がる搾取と搾取、そして環境破壊の複雑な網の目が浮かび上がってくる。
内モンゴルのレアアース鉱山からインドネシアの錫が豊富な島々まで、現代のコンピューティングに不可欠な鉱物や金属を供給する複雑なサプライチェーンが張り巡らされている。そこで支払われている人間的コストは甚大だ。鉱山労働者が直面する無規制で危険な労働条件、地域コミュニティの移住、そして脆弱な生態系の破壊……。
現在のAIブームは、過去の資源採取の時代と驚くほど似通っている。19世紀、サンフランシスコのような都市の成長は、メキシコから奪った領土での金や銀の採掘によって生み出された富に支えられ、その過程で何千もの人々が家を追われた。あの搾取の真の代償が見えにくかったのと同じように、AI産業がもたらす環境と人間への打撃は、いまも世間の目からほとんど隠されている。洗練されたキャンパスと数十億ドル規模の企業価値を誇るビッグテックの巨人たちは、自分たちの成功を可能にしている傷だらけの土地や貧困にあえぐコミュニティから、遠く離れたところに身を置いている。
しかし、「採取」は鉱物や金属だけにとどまらない。AI産業は人間の労働の搾取の上にも築かれている。機械学習アルゴリズムの訓練に使われる膨大なデータセットにラベルを付ける低賃金労働者や、電子機器を組み立てるために過酷な環境で働く工場の従業員たちだ。さらには、データセンターを動かす電力（その総消費量は一国全体を上回ることもある）でさえ、化石燃料の燃焼によって生み出されることが多く、気候危機に拍車をかけている。
テクノロジー業界はよりクリーンでグリーンな未来を約束するが、AIへの移行は、環境破壊や社会的不平等といった、長らく「進歩の隠れたコスト」だったものを加速させているにすぎない。「クリーンテック」という神話が覆い隠しているのは、有限な資源の収奪と人間の労働の搾取に依存し続ける、根本的に持続不可能なシステムの現実だ。
バーチャルアシスタントから、私たちの社会や政治生活を形作るアルゴリズムに至るまで、AIへの依存が深まるにつれ、このテクノロジーの真の代償と向き合わざるを得なくなる。いま必要なのは、コンピューティングとの関係を根本から問い直すことだ。成長と利益の飽くなき追求よりも、持続可能性、公正さ、社会正義を優先する方向へと、舵を切らなければならない。
データのゴールドラッシュ
あなたの一挙手一投足、言葉、表情までもが静かに収穫され、巨大なデータベースに流し込まれる世界を想像してみてほしい。それがAI革命のもう一つの側面、テクノロジー業界の底知れぬデータ欲が支配する現実だ。
近年、AIが爆発的に発展するにつれ、機械学習モデルを動かすための膨大な訓練データをかき集める競争も激しさを増している。だが、そのデータは一体どこから来るのか？ ほとんどの場合、本人の知らないうちに、同意も得ずにインターネットからスクレイピングされている。動画、画像、テキストといった形式の、人間の表現の集積体は、その文脈や意味を剥ぎ取られ、採掘され精錬されるだけの原材料のように扱われているのだ。
人工知能の分野にいま蔓延する「採取の論理」には、深い根がある。音声認識や顔認識の研究が始まった初期の頃から、訓練用データの争奪戦は始まっていた。1980年代、IBMの音声チームは初期の言語モデルを作るために法廷記録やその他の文書をかき集めた。1990年代の米国政府の「顔認識技術」プログラムは、法執行や監視用の顔認識システムを開発するという明確な目的のもと、顔写真のデータセットを作成した。
しかし、データのゴールドラッシュを本格的に加速させたのは、インターネットの爆発的な普及だった。突如としてウェブは、取得可能な画像やテキストのほぼ無尽蔵の供給源となった。この時代に登場した最も影響力のあるデータセットの一つが、2009年に作られたImageNetだ。ImageNetのチームはオンラインソースから1400万枚以上の写真をスクレイピングし、大勢のクラウドワーカーを雇って分類させた。問題だったのは、そのデータセットに、攻撃的で偏見に満ちたあらゆる種類のラベルが含まれていたことだ。しかしImageNetは強力な前例を作った。プライバシーや同意の問題を無視してでも、訓練データは手段を選ばず入手すべきものだと見なされるようになったのである。
著者は、このメンタリティが今日、テクノロジー業界の文化とインセンティブ構造に深く根付いていると論じる。データを「石油」に例え、自然資源のように採取し搾取するものとする比喩が氾濫している。より大きく洗練されたAIシステムを構築しようとする競争圧力が、できるだけ多くのデータを獲得しようとする全面戦争を引き起こしたのだ。
この狂騒の中で失われているのは、倫理的影響に対する真剣な反省だ。多くの大学の倫理審査委員会は、機械学習を人間を対象とする実験に通常適用される監視の対象外としている。誤りやバイアスにまみれたデータセットが日常的にAIの訓練に使われ、犯罪予測や採用の自動化といった領域にAIが導入されることで、現実世界に影響を及ぼすリスクが生じている。
いまやテクノロジー巨大企業は、「公共の共有財産」から搾り取った膨大なデータを支配している。それは私たち全員によって、あるいは全員について生成されたデータでありながら、その価値のほとんどは公共圏から吸い上げられ、私企業の金庫へと流れ込んでいる。AIの進歩という名目で築かれた広範なデータ収集と監視の体制は、私たちのプライバシーと自律性を蝕みかねない。
前進への道は、AIに取り憑いた「採取思考」を根本から問い直すことにある。私たちが必要としているのは、透明性、説明責任、そして個人の尊厳への敬意を、いかなる犠牲を払ってでもデータを刈り取ろうとする衝動よりも優先する、新たなパラダイムだ。そうして初めて、権力と富をごく一部の手に集中させるのではなく、真に公共の利益に資するAIのエコシステムを築くことができるのだ。
分類がはらむ政治性
500個の人間の頭蓋骨が並び、一つひとつ注意深く計測され、ラベル付けされ、目録に登録されている部屋を想像してみてほしい。19世紀の医師・自然史家サミュエル・モートンが収集したこの不気味なコレクションは、頭蓋骨の大きさと形で知能や人格を判定できるという疑似科学的な考えを広めるために使われた。白人が最も大きな頭蓋骨を持ち、ゆえに最も知的な人種であると主張したモートンの研究は、客観的な科学として称賛され、奴隷制や人種隔離を正当化するために利用された。
この話が示すのは、分類システムがいかに力の不均衡や社会的不平等を埋め込み、永続させうるかだ。機械学習の台頭により、この現象は新たな緊急性を帯びている。AIシステムが膨大なデータセットで訓練され、物体から人間まであらゆるものを分類するようになるにつれ、カテゴリー化をめぐる新たな政治性が広がっている。
コンピュータビジョンモデルの訓練に広く使われる画像データベース、ImageNetを再び見てみよう。ImageNetの画像は、英語の語彙データベースWordNetから派生した、名詞カテゴリーの複雑な階層構造に従って整理されている。データセットの作成者たちはWordNetの分類の一部を選び出し、オンラインワーカーに、検索エンジンやオンラインリポジトリから集めた画像をそれらのカテゴリーに当てはめるよう指示した。
ImageNetはコンピュータビジョンの進歩に大いに貢献した一方で、その迷宮のような分類体系は、そこに埋め込まれたバイアスや前提について批判を浴びている。画像を分類するために使われる何千ものカテゴリーの中には、見た目だけで人の性格や道徳性、価値を判断しようとするものが数多く含まれている。女性は「窃盗症」「ふしだら」「身持ちの悪い女」といった蔑称に還元され、有害なステレオタイプを永続させ、ジェンダーに基づく差別を強化する。同様に、有色人種もさまざまな攻撃的で人種差別的な分類の対象となる。
AIシステムにおける人種やジェンダーのカテゴリーそのものの作り方も、もう一つの懸念材料だ。UTKFaceのような訓練データセットは、年齢、性別、人種を、本来は流動的で社会的に構築された概念であるにもかかわらず、固定的で客観的な特性として扱う。このような本質主義的な思考は、長く厄介な歴史を持っている。この分類のロジックをAIに組み込むことで、私たちは危害を永続させ、妥当あるいは「正常」と見なされるアイデンティティや経験の範囲を狭めてしまう危険を冒しているのだ。
AIの倫理的影響と格闘する中で、技術的な修正だけで公正さを実現することはできないと認識することが極めて重要だ。「より多様」あるいは「より包摂的」なデータセットを追求するだけでは、根底にある権力構造の問題は解決しない。むしろ私たちは、分類という行為そのものを問い直し、誰がこれらのシステムから利益を得、誰が傷ついているのかを問わねばならない。そのためには、透明性と説明責任、そして最も影響を受ける人々の生きた経験を何よりも重視する方向へ、AIの設計と展開へのアプローチを根本から転換することが求められる。
まとめ
人工知能システムの開発と導入は、純粋に技術的な営みではなく、権力、政治、倫理の問題と深く絡み合っている。レアアース鉱物の採取から人間の労働の搾取、プライバシーの侵食に至るまで、AIの物質的現実と隠されたコストをたどることで、私たちは誇大広告の向こう側へ目を向け、この変革的テクノロジーがはらむ複雑な意味合いに正面から向き合うことを迫られるのだ。
