この本の要点：新たな暗黒時代を別の視点で見る方法を学ぶ。
ソーシャルメディア依存症からフェイクニュース、大量監視に至るまで、新技術は私たちの生活、社会、そして地球さえも変えてしまった。しばしば、当初予期していなかった形で。
かつて新たな啓蒙の先駆けとして歓迎されたインターネットやその他のネットワーク化された世界の重要なツールは、社会的・政治的分断、暴力や虐待、誤情報や陰謀論といった新たなジャンルを生み出したように思われる。情報の海の中で、私たちは新たな暗黒時代へと突入しつつある。それは、複雑な世界についてより多くのデータを収集できるようになっても、それを理解する力がますます失われていく時代だ。
今こそ、あらゆる不確実性に対して批判的に考えることを学ばなければならない。私たちの世界と考え方を形作るテクノロジーを調査し、それらがどこから来たのか、どのように機能し、誰のためにあるのかを検証する必要がある。この要約では、新しいテクノロジーが私たちに及ぼす広大で予想外の影響と、その理由や方法を明らかにしていきます。
この要約で学べるのは
- 計算時代を生んだ軍事プロジェクト
- 陰謀論の背後にある理屈
- YouTube子供向けエンターテインメントの暗部
現代の計算技術は天候を制御する軍事的試みから生まれた
コンピュータと天気に何の関係があるのか？天気と軍事には？実はすべてが関係している。何十年もの間、天候を予測・制御する方法を考案することは西側の軍隊にとって主要な関心事であり、そのプロジェクトの中に現代のコンピューティングの起源がある。
気象条件を計算して天気を予測した最初の人物は数学者ルイス・フライ・リチャードソンだ。第一次世界大戦中、彼は西部戦線で救急隊員として志願していた。
リチャードソンは、最初の「コンピュータ」の記述とも言える思考実験さえ考案した。彼は何千人もの人間の数学者からなる殿堂を想定し、それぞれが世界の特定の区画の気象条件を計算し、その結果を互いに通信してさらなる計算を行う。そのような機械があれば、いつでもどこでも正確に天気を予測できるとリチャードソンは夢見た。
彼の未来的なアイデアは、第二次世界大戦で大規模な軍事研究費が計算機の登場を促すまで再び日の目を見ることはなかった。原子爆弾の開発につながった米国の軍事研究プロジェクト『マンハッタン計画』は、最初のコンピュータの開発と密接に結びついている。1946年のENIAC（電子数値積分計算機）のような初期のコンピュータの多くは、特定の気象条件下での様々な爆弾やミサイルの衝撃をシミュレーションするための自動計算に使われた。
しかし、しばしばコンピュータの軍事的起源と目的は隠蔽されていた。
例えば1948年、IBMはその選択式逐次電子計算機（SSEC）をニューヨークのショーウィンドウに一般公開した。しかし一般には天文位置の計算をしていると説明されていたが、実際には水爆爆発のシミュレーション計算を行う『Hippo』という秘密プログラムに使われていた。
初めから、コンピュータの複雑で隠された動作は、その実際の機能を隠蔽するのに都合の良い覆いを提供していた。
ただし、そもそもそれらの実際の機能はうまく果たせないことがほとんどだった。計算の歴史には、コンピュータの過度に単純化された世界観、現実とシミュレーションを区別できない能力、そして質の悪いデータが、人間のユーザーに深刻な結果をもたらす逸話が溢れている。例えば、冷戦時代に大気データと軍事データを統合するために使われた米国のコンピュータネットワークSAGEは、渡り鳥の群れをソ連爆撃機の編隊と見間違えるなど、致命的なミスを犯したことで悪名高い。
新技術と気候変動は切り離せない
哲学者ティモシー・モートンが『ハイパーオブジェクト』と呼ぶのが気候変動だ。インターネットと同様に、それはあまりにも巨大で遍在しているため、私たちはそれを意味のある形で考えることができない。代わりに、私たちは世界へのその刻印を目撃するだけだ。
その劇的な刻印の一つが、近年のシリア紛争であり、多くの観測者が史上初の気候戦争と評している。地球温暖化により、2006年から2011年にかけてシリアの農村部は大規模かつ前例のない干ばつに見舞われた。広大な農地が使い物にならなくなり、家畜の85%近くが死んだ。その結果、農民が都市へ避難したことによる人口圧力と、バッシャール・アル＝アサド大統領の対応への不満が募り、やがて西欧に難民危機として顕在化した武力衝突に至った。
しかし変わりゆく気象条件の影響を受けるのは農業のような古い技術だけではない。インターネットのような新技術も気候変動の影響を受ける。ワールドワイドウェブを物理的実体のない「クラウド」と思いがちだが、データの伝送と保存は光ファイバーケーブル、アンテナ、サーバーからなる広範な物理ネットワークに依存しており、このインフラは異常気象に対して非常に脆弱だ。例えば、WiFiの強度と有効性は気温の上昇とともに低下することが知られており、多くの計算機器は猛暑の中で完全に故障する。
逆に、デジタル技術も気候危機に寄与している。世界の物理的なデータセンターだけで、世界の電力の約3%を消費し、世界の炭素排出量の約2%を占めている。
デジタル文化が加速するにつれて、これらのデータセンターを維持するためにより多くの資源が必要になる。週1時間のNetflix視聴のストリーミングデータの保存と伝送にかかるエネルギーコストを考えると、年間消費電力は新しい冷蔵庫2台分を上回る。驚くことではないが、データの保存と伝送に使われるエネルギー量は今後4年間で3倍になると予想されている。
そして、新技術によって危機に関する膨大な測定データを収集できるようになる一方で、気候変動そのものが、私たちがこれらすべての情報を意味ある形で統合することを文字通り不可能にするかもしれない。2015年、大気中の二酸化炭素濃度が400ppm（パーツ・パー・ミリオン）を超えた。都市中心部の屋内ではこれを常習的に超える場所もあるが、CO2濃度が1000ppmになると人間の認知能力は21%低下する。
ビッグデータの誤謬が科学研究を危機に陥れている
コンピューティングの世界に少し詳しい人なら、ムーアの法則を聞いたことがあるだろう。それは、私たちのデバイスの純粋な計算能力が2年ごとに倍増するという考えだ。1965年に初めて定式化されて以来、この法則はおおむね正しいことが証明されている。しかしおそらく日常的な観察からもわかるように、テクノロジーがますます小型化・高速化しているからといって、私たちの生活が楽になっているわけではない。
ムーアの法則を引き合いに出す技術楽観主義者は、通常、計算楽観主義の精神に則っている。彼らは、より多くの計算は常に優れており、世界についてより多くのデータを収集・処理すればするほど、私たちの理解が深まると信じている。
科学の世界では、この信念が、人間の経験に基づく乱雑な実証主義よりも、大量のデータを生み出す自動テストを重視する研究システムを生んだ。例えば医薬品研究では、人間の科学者の役割は、今では大量高速スクリーニングと呼ばれるプロセスに従事する機械のプログラムと監視に縮小されてしまうことが多い。コンピュータは1日に何千もの化合物の効果と相互作用を試験し、いつか特定の病気の治療に役立つ組み合わせに偶然行き当たることを期待する。
問題は、このアプローチがまったく機能していないように見えることだ。1960年代以来9年ごとに、研究開発費10億ドル当たりの承認される新薬の数は半減している。評論家たちはこの現象を皮肉を込めて『Eroomの法則』（ムーアの逆）と呼び始めた。
量を質よりも優先するビッグデータの誤謬は、あらゆる科学分野で明白だ。過去数十年にわたって科学的研究、学術誌、論文の数は着実に増えているが、同時に科学研究における誤り、盗用、詐欺の数も増えている。専門家たちは現代科学の再現性危機についてますます語るようになっている。これは、多くの科学的研究が別の研究者グループによって二度目に実施された際に、元の結果を再現できないという事実を指す。
例えば2011年、バージニア大学が近年の画期的な癌研究5件を再試験したところ、成功裏に再現できたのは2件のみで、残りは2件が結論に至らず、1件は完全に失敗した。
科学研究が世界についてより多くのデータを集めているにもかかわらず、科学的発見のペースは実際には減速している。情報を増やせば世界をよりよく把握できるどころか、現在の情報の氾濫は私たちの周りで起きていることを処理する能力に悪影響を及ぼしている。
資本主義の道具として、テクノロジーは不平等を推進する
表面的には、スラウはロンドンから約40キロ離れたごく平凡な小さな町だ。しかしほとんどの人が知らないことだが、大通りに並ぶ広大な無名の倉庫群が、私たちのデジタル世界で最も重要な部分の物理的基盤となっている。例えば、その一つである控えめにLD4と名付けられた倉庫には、ロンドン証券取引所のデータサーバーが収容されている。
LD4に向かい、またそこから出ていく光ファイバーケーブルは、ほとんど想像を絶するほどの価値を持つ金融情報を運び、世界中の他の金融データセンターと光速で送受信している。この企業、投資家、市場間の超高速ネットワークは、新しいタイプの金融取引、すなわち高頻度取引を生み出した。
今日、金融トレーダーは市場の下落や急騰にほぼ瞬時に反応できる。ミリ秒単位でそれを行うために、彼らは価格を監視し、偽の売買注文や影の取引で他トレーダーを混乱させ、さらには世界中の主要な出来事の経済的影響を予測するためにニュースの見出しをスキャンし解釈するアルゴリズムやボットの助けを借りている。
しかし、加速し過ぎたデジタル金融の世界では、内部の人間でさえコンピュータの論理についていけなくなっていることがますます明らかになってきている。例えば2010年5月10日、ダウ平均株価は前例のない600ポイントの暴落（60億ドル相当の損失）を経験し、数分後に突然回復した。こうした『フラッシュクラッシュ』はますます頻繁に発生しており、その正確な原因を特定できる人間はいない。
機械が一部の分野で人間を混乱させる一方で、別の分野では完全に取って代わっている。巨大企業アマゾンを例にとってみよう。同社はすでにロボットの艦隊を使って商品の保管、仕分け、ピッキングを行っている。人間の「ピッカー」をまだ使っているところでは、アマゾンは経済的インセンティブからそうしており、それら労働者を基本的にロボットのように扱っている。労働者は携帯端末で誘導・監視され、効率を最大化し同僚との交流を最小限にする方法で倉庫内の異なる場所へ送られる。
憂慮すべきことに、政治家も企業もフルタイム雇用に代わる社会保障制度が何であるかについてほとんど展望を提供していない。かくしてテクノロジーは、私たちが約束されてきたような偉大な平等化装置どころか、権力を少数の手に集中させるための単なる別の道具となっている。
機械学習は私たちの過去のバイアスをコード化し、未来へと持ち越す
米軍が開発したAIについての言い伝えがあり、それは機械学習（コンピュータに思考を教えること）の危険性と限界を物語っている。
伝えられるところによれば、軍は森林の中でカモフラージュされた戦車を認識するようコンピュータを訓練しようとした。そのために、戦車が隠された森林の写真と戦車のない森林の写真を次々に見せ、AIがテスト画像を完全に見分けられるようになるまで続けた。しかし現場では、AIは完全に失敗した。特定の森林に戦車がいるかどうかを推測する能力は人間と大差なかった。
後になって誰かが気づいたのだが、訓練用の戦車ありの写真はすべて晴れた日に撮られており、戦車なしの写真はすべて曇りの日に撮られていた。機械は戦車のある森林とそうでない森林の違いを学んだのではなく、晴れの日と曇りの日の違いを学んでいたのだ。
この話が示すのは、機械を思考するように訓練するとき、彼らが私たちと同じように考えることは期待できないということだ。多くの場合、彼らがどのように、あるいはなぜ結論に達したのかをまったく理解できないかもしれない。コンピュータは、私たちの人間的な経験とは完全に異なる、独自の多次元的世界シミュレーションを構築するのだ。
しかし機械の心の神秘的な性質は、単に考慮に値する考えである以上に、たとえ結論が物議を醸したり危険であっても、それを正当化するために利用される可能性がある。
2016年、上海のある大学の研究者2人が、犯罪者の顔とそうでない顔を見分けられるソフトウェアを開発したと主張して波紋を呼んだ。その実験が、このソフトウェアは社会的弱者を過剰に代表してしまうに違いないとの批判を受けたとき、彼らはこれを純粋に学術目的で構築したものであり、ソフトウェアも機械学習一般も本質的に「バイアスフリー」だと主張した。
アルゴリズムや計算がバイアスフリーだという考えは、多くのAI愛好家に共有されている。彼らが認識していないのは、機械はデータで訓練される傾向があり、私たちが持つ唯一のデータは過去のものだということだ。そして私たちの過去は暴力、不正、人種差別に満ちているため、意図すると否とにかかわらず、このデータで訓練した機械はそれらの暴力、不正、人種差別を複製し、未来へと投影するだろう。
例えば、ほんの数年前のことだが、アジア系アメリカ人がニコンのCoolpix S630で家族写真を撮ろうとして無駄に試みた。写真を撮る代わりに、この「スマート」カメラは「誰かがまばたきをしましたか？」というエラーメッセージを繰り返し表示したのだ。
私たちの技術とデータは政府と情報機関によってますます支配されている
前のセクションでは、極秘計算を公衆の面前で行った水爆シミュレーションコンピュータSSECについて考察した。
第二次世界大戦以来、CIAやNSAのような情報機関は、秘密技術の開発に何百万ドルも費やしてきた。その存在や真の目的が明らかになるのは、もしあるとしても数十年後のことだ。例えば、現代の戦争で主要装備となる何年も前に、最初のドローンを開発したのは米軍や空軍ではなくCIAだった。
しかし、極秘世界にしまい込まれているのは未来的な技術だけではない。私たちの歴史の膨大な断片が、次第に秘密の保管庫に消えつつある。米国政府は毎年新たに約40万件の文書をトップシークレットに指定しており、この数は着実に増えている。
英国の状況も大差ない。2011年、ケニア人の生存者グループが1950年代の植民地支配下で受けた拷問について英国政府を訴える権利を遂に勝ち取ったとき、ケニアの英国強制収容所に関する約120万点の文書が秘密の政府施設に隠匿されていることが明るみに出た。これらの文書の多くは他の文書の「廃棄証明書」であり、さらに膨大な数の行方不明の記録と消去された歴史を証言している。
この例は、私たちが今や世界についてより多くの中立的とされるデータを持っているにもかかわらず、私たちに届くものは依然として選別され管理されていることを教えてくれる。ケニアの強制収容所の場合、英国政府による重要な歴史文書の隠蔽と抑圧が、同国が植民地時代の過去と適切に向き合うのを事実上妨げてきたのだ。
情報機関が私たちの周囲の世界をコントロールするもう一つの方法は、データ収集を通じてである。内部告発者エドワード・スノーデンが2013年に暴露したことで、NSAの広範な大量監視システムが全面的に明らかになった。そして数か月後には、一般市民の通信を監視する同様のプログラムが、欧州やアメリカ大陸の他の主要国すべてでも発覚した。
しかし、国民の怒りはすぐに冷め、それへの対応として2015年に米国で成立した自由法は、NSAの監視権限をほぼそのまま残した。気候変動と同様に、大量監視はあまりにも巨大で複雑すぎて、まともに考えられない脅威のように思えるのだ。
陰謀論は複雑な世界に単純な物語の安らぎを提供する
歴史の始まり以来、人間は複雑な出来事を単純な物語に紡いで世界を理解しようとする傾向があった。ある意味では、私たちの歴史観そのものが過度な単純化の一例であると言える。
もちろん、これらの物語のどれもが完全で多次元的な真実を包含することは決してできない。しかしネットワーク化され情報があふれる現代において、人々が世界について自らに語る多くの話は、これまで以上に的外れに思える。
ケムトレイルは、今日のインターネットのあらゆる場所で見られる最も古く最も広まった陰謀論の一つだ。この理論の支持者は、商用機または軍用機のネットワークが空気中に化学物質を散布し、病気を引き起こしたり、人々をマインドコントロールしたり、その他何らかの悪魔的計画を実行していると信じている。
もちろん、人為的な化学物質の雲は非常に現実的だ。人々が空で観察するケムトレイルは、実際には飛行機からの排気ガスと結露である。しかし航空産業による二酸化炭素排出の本当の脅威に関心を持つどころか、ケムトレイル信奉者は漠然とした不安を、整然としてはいるが明らかに行き過ぎた政府のマインドコントロール理論へと具現化している。
別の陰謀論者の集団は、自分たちが悪質な存在による「集団ストーキング」や監視、マインドコントロールの標的になっていると信じている。NSAの大量監視システムについて私たちが今知っていることを考えれば、この基本的な認識は実際に起きていることとかけ離れてはいない。しかし陰謀論者たちの単純化された話――世界を白か黒かではっきり描き、彼ら自身に直接関係する話――は、明確な加害者も目的もない広大なグローバル大量監視システムの存在よりも、やはり理解しやすいように思えるのだ。
もちろん、インターネットのエコーチェンバー効果は、風変わりな理論の拡散を助長している。陰謀論を志す人々は、対話的で支持的、かつ自己確認的なオンラインコミュニティに容易に引き込まれ、過激な見解へと導かれていく。
右派ポピュリストや宗教的原理主義者は、複雑な時代における単純な物語への私たちの欲求を利用する。ドナルド・トランプ自身、気候変動は中国のでっち上げた、アメリカビジネスに対する陰謀だとツイートしたことがある。そしてメキシコとの国境の壁のような彼の選挙公約の多くは、明らかに著名なオンライン陰謀論者である『Infowars』のアレックス・ジョーンズから着想を得たものだ。
陰謀論は、おそろしいほど混沌とした世界を単純な物語に縮減する安らぎを提供するが、それらもやはり同じくらい恐ろしいものになりうる。
金銭的インセンティブと組み合わさり、アルゴリズムは不穏な文化的産物を生み出す
YouTubeの螺旋にはまったことがあるだろうか？次々とおすすめ動画をクリックしていくうちに、人間の娯楽とは到底分類できない、奇妙きてれつな領域へと迷い込む。
YouTubeでこれほど多くのビデオブロガー、自作自演のエンターテイナー、そしてますます多くのボットがあなたの注目を奪い合っている理由の一つは、成功した動画が広告から多額の収益を得られるからだ。例えば、韓国の大ヒット曲「江南スタイル」のミュージックビデオは、最初の10億回の視聴で800万ドルを稼いだ。
子供向けエンターテインメントは、プラットフォームの中でも特に収益性の高い分野であることが証明されている。2歳の子供たちでさえ、ますます長い時間をオンラインで過ごしている。派手でカラフル、しかも何度も繰り返し見られる動画だから、彼らは簡単に標的となり、エンゲージさせられる。
こうしたいわゆる子供向け動画の多くは、一儲けを狙う企業が作ったボットによって生成されている。例えば、YouTubeで最も成功しているチャンネルの一つ『Little Baby Bum』は、同じ基本的なメロディとパターンに従ったボット生成のアニメーション付き歌遊び動画を何千と大量生産してきた。
しばしばこれらの企業は、アルゴリズムを使ってYouTube自身のアルゴリズムを利用する。その結果は次のような無意味なタイトルだ。「150 Giant Surprise Eggs Kinder CARS StarWars Marvel Avengers LEGO Disney Pixar Nickelodeon Peppa」
しかしこうした動画の露骨な著作権侵害以上に、その内容は恐ろしいものになりうる。何百万とある類似動画の中の一例を挙げると、「Wrong Heads Disney Wrong Ears Wrong Legs Kids Learn Colors Finger Family 2017 Nursery Rhymes」というタイトルのものがある。そこでは、『アラジン』のキャラクターたちの切り離された頭部が画面に浮かんでいる。頭が正しい胴体にくっつくと、『怪盗グルーの月泥棒』の少女が画面の隅に現れて歓声を上げる。頭が胴体に合わなければ、彼女は短い機械的な嘆き声を発する。
おそらくさらに憂慮すべきなのは、YouTubeのおすすめアルゴリズムが本物の子供番組とそれをパロディ化した動画を区別できず、後者は暴力的なことがある点だ。ある動画では、愛されているアニメキャラクター、ペッパピッグが歯医者に行き、歯医者は彼女の歯を全部抜いて拷問する。
こうした動画のほとんどは子供をターゲットにしていないが、YouTube自体によるコンテンツや年齢の制御がほとんどないため、不可避的に子供に届いてしまう。結果として、技術に後押しされたアルゴリズムと資本主義的インセンティブの運命的な組み合わせが、まったく新しい体系的な暴力のジャンルを生み出したのだ。
新たな暗黒時代で意味を持って生きるためには、計算楽観主義を捨て、複雑さを受け入れる必要がある
2013年のグーグルのツァイトガイスト会議（テクノロジーエリートと政治家が集い、テクノロジーの現状と未来を議論する年次集会）で、CEOのエリック・シュミットは驚くべき主張をした。もし1994年にカメラ付き携帯電話が存在していたら、あの年の恐ろしいルワンダ虐殺は決して起こらなかっただろう。なぜなら人々が行われている残虐行為を撮影し、共有できたからだ、と。
シュミットの考えは、彼の同僚の多くが共有する信念に根ざしている。すなわち、何かを可視化すれば自動的に問題は解決し、新しい技術が世界をより良く、より安全で、管理しやすい場所にしている、という信念だ。これまでのセクションで見てきたように、これは真実からかけ離れている。
シュミットのルワンダ虐殺の例を詳しく見てみよう。1994年、100日の間に推定100万人のルワンダ人が民族間の緊張に拍車をかけられた残忍な虐殺で殺害されたが、その間、世界の他の国々は傍観し、何もしなかった――おそらく、彼らはそのことを知らなかったからだ、とされている。
しかしその後、調査によって、いくつかのNGO、外国大使館、そして国連が状況を注意深く監視していたことが明らかになった。例えば米国政府は、高解像度の衛星写真で展開を追跡していた。シュミットが示唆するのとは逆に、ルワンダの虐殺を助長したのは「知らなかった」ことではなく、「行動しなかった」ことなのだ。
圧倒的な情報に直面したときの無関心と無行動は、今や私たち全員に馴染みのある状態である。したがって、データとコンピューティングは世界を理解するのに役立つどころか、事態をさらに複雑にしただけだ。
英国の数学者で建築家のクライブ・ハンビーは、2006年に「データは新しい石油である」というフレーズを作り出したとき、コンピューティングの欠点をほのめかしていた。彼の元の発言では、石油と同様にデータも未精製の状態では使えないと説明し続けている。価値あるものになるためには、分解され分析される必要があるのだ。
ますます複雑な出来事を予測するためにさらに多くのデータを収集することに焦点を当てる代わりに、私たちは自分のデータがどこから来ているのか、何に使われているのか、誰が所有しているのかについて、意識的かつ批判的に考えることを学ばなければならない。そのデータを生成し使用するグローバルなテクノロジーネットワークと、それらをより良く変える方法を綿密に検証しなければならない。これこそが、私たちの作ったこの新たな暗黒時代に意味をもたらす唯一の道なのだ。
最終的なまとめ
デジタル時代の新技術は私たちに情報の接続、収集、共有を可能にするが、同時に世界がかつてないほど複雑で混乱しているように見える新たな暗黒時代へと私たちを導いている。初期のコンピューティング、歴史、科学の例が示すように、より多くのデータが必ずしもより良い結果をもたらすとは限らないからだ。さらに、新しい技術が資本主義的な目的で使用される場合、それらは既存の権力構造を永続させ、深める傾向がある。だからこそ、意味を持って現代を生きたいのであれば、私たちは自らの技術の起源、機能、目的について問い始めなければならない。
