『ツールと武器』（2019年刊）は、デジタル技術が私たちに力を与えると同時に危険にさらすさまざまな側面を概説しています。マイクロソフトのインサイダーとして、ブラッド・スミスとキャロル・アン・ブラウンは、高度なAIから壊滅的なサイバー戦争まで、デジタルの現在と私たちが直面する未来について独自の洞察を提供します。ここで彼らは、巨大テクノロジー企業と政府が協力し、すべての人にとってより良い未来を確保する世界を提唱しています。
著者：ブラッド・スミス、キャロル・アン・ブラウン
カテゴリ：テクノロジーと未来
こんな人におすすめ：
- テクノロジーが私たちの生活をどう形作るかに関心のある人
- テクノロジー好きな人
- デジタル未来に対応しようとしているビジネスパーソン
デジタル時代の脅威と可能性を、内部の視点から知る
物事があまりにも速く進みすぎていると感じたことはありませんか？ 目まぐるしい技術革新の奔流が制御不能になっているのでは？ 自動運転車が走り、闇データ企業が選挙を左右し、AIが犯罪者になるかどうかを予測する世界を受け入れる前に、少し立ち止まるべきではないかと。あなただけではありません。マイクロソフトの著者であるブラッド・スミスとキャロル・アン・ブラウンも、同じように思うかもしれません。テクノロジー以前の洞窟に戻るべきだという意味ではなく、ただ、私たちは事態をしっかりと掌握する必要があるのです。
そのためには、政府と巨大テクノロジー企業が賢く協力しなければなりません。彼らが協力すれば、デジタル革命が私たちに緊急に必要なテクノロジー、すなわち人類共通の大きな課題に取り組み、多くの人々の生活をより良くするテクノロジーをもたらすことを確実にできるのです。もし協力しなければ、より暗い未来が待っています。ハッカーが病院を機能停止にしたり、敵対国家の工作員がインターネットを使って民主主義のプロセスに干渉したりする世界です。
以下の内容では、今日のテクノロジーの現状を探り、未来の世界を垣間見ることができます。それは、私たちが今どう行動するかによって、恐ろしいものにも、素晴らしいものにもなりうるのです。
その過程で、次のようなことがわかります。
- なぜデータクラウドは、本物の雲よりも要塞のようなものなのか
- 18世紀の英国下院議員とエドワード・スノーデンの共通点は何か
- シュタージの刑務所がマイクロソフトに貴重な教訓を与えた方法
データは常に人類文明の不可欠な一部でした
私たちは常にデータに依存してきました。すべての人類文明は、情報をある世代から次の世代へと伝えてきたのです。方法を記録できなければ、進歩を遂げることはできませんでした。
古代の巻物がなければ、私たちの偉大な建築技術は何世紀もかけて発展しなかったでしょうし、数学的解決策が一人の頭脳から別の頭脳へと伝わることも、軍事戦略がカエサルの戦場からナポレオンの戦場へと受け継がれることもなかったでしょう。
その後、ヨハネス・グーテンベルクが印刷機を発明すると、いわばデータ爆発が起こりました。活字を通じて人類の成果にアクセスできる人が増えるにつれ、民主主義革命が始まりました。これは宗教、政治、文化生活に重大な結果をもたらしました。
さらに、19世紀から20世紀にかけての商業の加速は、世界のデータ量を指数関数的に増加させました。20世紀半ばまでには、あらゆる組織に、考えられるあらゆる目的のために、データが溢れるファイルキャビネットがありました。
そして今日、デジタル化を通じて、私たちは歴史上の他のどの瞬間にも想像もできない量のデータを保存しています。私たちはこのデジタルアーキテクチャをクラウドと呼んでいます。
この言葉は、頭上に浮かぶふわふわした柔らかい積雲を連想させますが、実態は要塞に近いのです。クラウドには非常に明確な物理的現実があります。モバイル端末で何かを調べるたびに、あなたは巨大なデータセンターから情報の断片を引き出しているのです。
これらは、ほとんどの人が目にすることのない現代の驚異です。例えば、シアトルの東約150マイルにある小さな町、クインシーにあるデータセンターを見てみましょう。ここには、20以上の巨大な無個性な建物が並ぶ二つのキャンパスがあります。各建物はフットボール場ほどの大きさで、大型商用飛行機を2機ゆうに収容できます。
これらの建物の中心にあるのはコンピューターセンターで、何千台ものサーバーが長いラックに整然と並んでいます。これらの建物のどこかに、私たち一人ひとりのデジタルファイルがあります。この低いうなり音を立てる広大な部屋のどこかに、私たちの写真、プライベートなメール、銀行口座の詳細情報があるのです。
さらに注目すべきは、各データセンターにはまったく同じ複製があり、クインシーにあるのと同じような建物群が別の場所にあることです。こうすることで、自然災害や人為的災害が発生しても、私たちのデータ（思い出、メッセージ、個人情報）は安全に保たれるのです。
エドワード・スノーデンが、21世紀に向けて古くからのプライバシー問題を再燃させました
2013年6月6日、マイクロソフトの広報責任者ドミニク・カーは、彼を、そして世界を震撼させることになるメールを受け取りました。
そのメールは、ガーディアン紙の記者からのもので、米国政府の国家安全保障局（NSA）が、世界中の外国首脳を含む何百万人もの人々のプライベートなユーザーデータ、通話記録、その他の情報にアクセスしていたと主張するものでした。
この記事の情報源は、ハワイのNSA脅威オペレーションセンターに勤務する29歳のコンピューターシステム管理者、エドワード・スノーデンでした。彼は150万件以上の機密文書をダウンロードし、香港に逃亡した後、ガーディアン紙とワシントンポスト紙に情報を提供しました。
彼が暴露したのは、NSAが英国政府と結託して、海底光ファイバーケーブルにハッキングし、YahooやGoogleのネットワークからデータをコピーしていたことでした。自社のユーザー情報が侵害されたマイクロソフトは愕然としました。
この瞬間、スノーデンの暴露は、深い根を持つ国民と政府の衝突を引き起こしました。私人がどれほどのプライバシーを持つべきかという問題には長い歴史があり、スノーデンはその最新の提起者に過ぎなかったのです。
最初の一人は、18世紀の英国下院議員ジョン・ウィルクスでした。彼は当時の王室や首相に対する痛烈な批判文を書いたことで悪名高かった。ついに、特に挑発的な手紙が引き金となり、政府は彼の逮捕状を発行し、事前警告なしにどの家宅も捜索できるようにしました。ウィルクスの時代の法律は、不法侵入からの保護をほとんど与えておらず、国王の兵士は合理的な疑いなくどこへでも押し入ることができました。そのため、ウィルクスを追う中で、多くのドアが破られ、トランクがひっくり返され、私物が証拠品として押収されました。彼らはウィルクスを探す過程で49人を逮捕しましたが、そのほぼ全員が無実でした。
ウィルクスはついに逮捕されましたが、自身の裁判と、自分が追跡された方法を法廷で争うことを決意しました。支配層に衝撃を与えたのは、彼が勝訴したことです。
裁判の一環として、捜索を裏付けるには当局がより高度な相当な理由を持たなければならないと裁定されました。英国の新聞はこの判決を称賛し、「すべての英国人の家は、捜索されることのない彼の城である」と宣言しました。
多くの点で、ウィルクスの事件は現代のプライバシー権の誕生を画するものでした。それは2013年にエドワード・スノーデンが再燃させた問題であり、彼は再び、政府が市民の私生活に侵入するという昔からの傾向を暴露したのです。
テロ攻撃がテクノロジー企業にプライバシーポリシーの明確化を迫りました
21世紀が進むにつれ、テロ攻撃は憂慮すべき頻度で発生するようになりました。
当初、新しいデジタル技術への影響は明らかではありませんでした。例えば、9.11は、まだソーシャルメディアに接続されておらず、スマートフォンではなくファックス機の世界で起こりました。
しかし、2015年のシャルリー・エブド襲撃事件のような、より最近の事件は、テクノロジーとテロリズムの新たな関係を明らかにしました。マイクロソフトの社長ブラッド・スミスは、シアトル近郊レドモンドのオフィスで、パリからのニュースを初めて目にしました。アルカイダと関係のある二人の兄弟が、風刺雑誌シャルリー・エブドの本社に押し入り、12人を銃撃したのです。世界中の多くの人々と同様、彼はその知らせに深く心を痛めました。しかし、その攻撃がマイクロソフトにも関わってくるとは予想していませんでした。
翌日未明、FBIはフランス当局と連絡を取り合い、テロリストの追跡のため、彼らのメールアカウントの詳細情報へのアクセスを要請しました。45分以内に、スミスのマイクロソフトチームはアカウントの詳細を見つけ出し、FBIに提供しました。翌日、二人の襲撃犯は様々な情報源とIPアドレスを用いて特定され、警察との銃撃戦で死亡しました。
シャルリー・エブド襲撃のような事件は、治安部隊が必要とするユーザー情報を提供すべき明確かつ緊急の事例を示しました。しかし、エドワード・スノーデンの暴露が示したように、差し迫った脅威をもたらさないにもかかわらず、データにアクセスされた多くの個人や企業がいました。そして、新たなテロ攻撃が起こるたびに、監視国家の網はより強く締め付けられ、政府はテロとは無関係な市民に関するより多くのデータを要求し始めたのです。
米国では、政府は捜査対象者の詳細情報をテクノロジー企業に求め続けました。その際、政府は、テクノロジー企業が顧客に何が起きているかを知らせることを禁じる法律である、箝口令（かんこうれい）を発動しました。
マイクロソフトが断固たる行動を起こすに至ったのは、米国政府による継続的なデータ要求があってのことでした。劇的なことに、彼らは政府を訴えることを決断したのです。
最高裁判所で、裁判官はマイクロソフトの政府に対する主張に一理あると判断しました。つまり、合衆国憲法修正第1条に基づき、顧客に自身のデータが利用されていることを知らせるのは権利の範囲内である、というものです。この勝利により、司法省はテクノロジー企業と腰を据えて、将来について建設的に話し合うことになりました。その結果、箝口令に制限が設けられることになったのです。
これは、説明責任とプライバシーのバランスという、常識に向けた重要な第一歩でした。
文化や歴史の違いが、データプライバシー問題への各国の対応に影響を与えます
21世紀のテクノロジー革新の多くは、カリフォルニアのシリコンバレーで開発されました。それは、自由を当然視する国において、特定の文化的視点を持って設計されたことを意味します。しかし、それが異なる視点と衝突すると何が起こるのでしょうか？
そのことをよく示す一例があります。
2018年に一連の会議のためにベルリンを訪れた際、著者たちはマイクロソフトのドイツ人同僚によって、かつての東ドイツの刑務所に連れて行かれました。そこで彼らは、ハンス＝ヨッヘン・シャイドラーという75歳の元囚人に会いました。彼は社会主義体制を批判するパンフレットを配布したため、その陰鬱で無骨な建物に何ヶ月も閉じ込められていたのです。多くの反体制派と同様、彼は秘密警察であるシュタージの罠にかかったのでした。
著者のドイツ人同僚が、過去と現在の相関関係を指摘したのはここでのことでした。シュタージは、スパイや市民の密告者からなる大規模なネットワークによって収集された、シャイドラーのような東ドイツ市民に関する膨大なデータを保持していました。それはデジタル時代以前における、一国の住民に関する最大級の情報コレクションの一つでした。
これこそが、ドイツが米国よりも大量のデータ収集にはるかに慎重である理由だと、ドイツ人の同僚は指摘しました。それこそが、国として、単純な商業的利益よりも前に倫理的問題を考慮する理由だったのです。
これはマイクロソフトの社長に深い印象を残しました。それは、国際的なデータ保存には国際的な複雑さが伴うことを明らかにしたのです。そして、マイクロソフトがデータポリシーを注意深く分析することを意味しました。どの国にデータ保存センターの建設を許可するかを再検討しなければならなくなったのです。
例えば、憂慮すべき人権記録を持つ国々は、自国民のデータに一切アクセスすることを許されません。一方、独裁的ではないにせよ、依然として疑わしい記録を持つ国々は、例えばビジネス関連といった二次的データの保存を許可されるでしょう。
巨大テクノロジー企業にとって理想的な環境は、政治情勢が安定し、強力な人権法を有する国です。長年にわたり、それはアイルランド共和国でした。EU加盟国としての立場、歓迎的な移民政策、税制優遇措置により、1980年代以来、巨大テクノロジー企業を大いに惹きつけてきたのです。
しかし、私たちも知っているように、全体主義への道のりは短い場合があり、現在の安定は将来を保証するものではありません。これらは、今後何十年にもわたって世界が取り組むべき問題なのです。したがって、テクノロジー企業が備えを固めていることを願わなければなりません。
世界はまだサイバー戦争の全容を認識するに至っていません
2017年5月12日、アイスクリーム店を経営するパトリック・ワードは、ロンドン中心部の聖バーソロミュー病院の外科準備室に車椅子で運ばれました。彼は、2年間待ち望んだ心臓の重要な手術を受けるため、イングランド南部の小さな村から首都まで3時間かけて移動してきました。彼はガーニーベッドに横たわり、モニターに接続され、胸毛を剃られていました。外科医の助手が現れ、あとほんの数分待つようにと告げました。
彼は待ちました。何時間も経ちました。そして、医師が準備室のドアを勢いよく開け、病院のコンピューターがすべてダウンしているため手術ができないと伝えました。
何千マイルも離れた場所から、ハッカーがサイバー攻撃を仕掛け、システム全体を無力化し、国民保健サービス（NHS）の3分の1を麻痺させたのです。
この攻撃は英国とスペインを席巻した後、世界のその他の地域に広がり、150カ国以上で約30万台のコンピューターに影響を与えました。マルウェアはWindowsオペレーティングシステムをフリーズさせ、コンピューターのロックを解除するパスワードと引き換えに300ドルの身代金を要求しました。多くのコンピューターユーザーを涙させたことから、この攻撃は「WannaCry（ワナクライ）」として知られるようになりました。
すぐに、使用されたマルウェアは米国政府によって開発されたものの、その後盗まれ、ダークウェブ上でおそらく敵対的な国家主体に流出したことが明らかになりました。実際、米国による以前の攻撃への報復として、北朝鮮がこの攻撃を開始したのではないかと強く疑われていました。
マルウェアがこれほど簡単に盗まれたという事実は、マイクロソフトのようなテクノロジー企業に警鐘を鳴らしました。それは、あたかもアメリカ政府が不注意にもトマホークミサイルの山を放置したようなものだと述べたほどです。
そして、これは決して誇張ではありませんでした。マルウェアはすぐに対抗措置が取られ、パトリック・ワードのような人々も手術を受けられるようになりましたが、より深刻なサイバー攻撃がもたらす潜在的な結果は憂慮すべきものでした。
マルウェアの解読がはるかに困難になり、自動運転車が遠隔からハッキングされて制御不能に陥り、銀行が閉鎖され、患者の生命維持装置が停止されるかもしれない未来を想像してみてください。私たちが用心しなければ、これが近い将来に直面する未来なのです。
ソーシャルメディアプラットフォームは、歴史を反映する形で現代の民主主義に不和をまくために利用されてきました
その黎明期において、インターネットは世界をつなぎ、私たちをより近づける良い方法のように思えましたが、近年、私たちはその暗い側面を目の当たりにしてきました。
2016年の分裂的な米国大統領選挙を例に挙げましょう。そこでは、ソーシャルメディアプラットフォームが「フェイクニュース」の拡散に利用されました。
サンクトペテルブルクを拠点とするロシアの工作員たちは、インターネットリサーチエージェンシー（IRA）から、完全に偽のウェブサイトでホストされた、ヒラリー・クリントンに関する偽のニュース記事を作成しました。これらは、異なるタイプのインターネットユーザーにリーチする特定のウェブサイトという少数のノードによって「種をまかれ」、インターネット上で野火のように広がりました。これらの記事は、クリントンの健康状態が悪いという噂や、小児性愛者ネットワークとの疑惑のつながり、その他同様に扇情的な捏造に関するものでした。
ソーシャルメディア上では、これらの記事は特定のオンラインコミュニティで広まる一方、他のコミュニティはそれらに気づかないままでした。これが、人々がますます二極化し、時に事実無根のことを信じるようになる、オンラインバブルの形成プロセスです。
この種の操作による最も極端な結果の一つは、IRAが2016年にテキサス州ヒューストンで反トランプ抗議集会と親トランプ対抗集会を組織することに成功したことでした。アメリカ人同士が怒鳴り合いましたが、両者とも、サンクトペテルブルクのコンピューターの前に座る誰かによって知らず知らずのうちに煽られ、怒りを駆り立てられていたのです。
これは新たな脅威に見えるかもしれませんが、外国の勢力が他国に不和を生み出す能力は常に存在してきました。例えば、1793年に英国とフランスが戦争状態に入った際、エドモン・シャルル・ジュネというフランス大使が、ジョージ・ワシントン大統領が自国の中立を宣言したわずか数週間後にアメリカに到着しました。ジュネの使命は、若い共和国にフランスを支持させることであり、すぐにワシントンの閣内に緊張を引き起こしました。やがて、フランス大使はアメリカ国民に直接支援を訴えかけ、国民の間に深刻な分裂をあおりました。突如として、政治的議論は熱を帯び、街頭での乱闘が勃発し、友情が破壊されました。
最終的に、分裂したワシントンの閣僚たちは、ジュネがこれ以上の問題を引き起こす前にフランスへ送り返すという一つの目的で結束しました。英仏戦争に関する意見の相違にもかかわらず、彼らは、いかなる外部の影響力も再びこのような分裂を引き起こすことを許してはならないと決意したのです。この事件を受け、ワシントンは告別の辞で次のように述べるに至りました。「自由な国民は常に目を覚ましていなければならない。歴史と経験が証明するように、外国の影響力は共和政府にとって最も有害な敵の一つであるからだ」
2016年の米国選挙へのクレムリンの干渉の試みに照らせば、これらの言葉は現代的な重みを持っています。
AIはいくつかの複雑な問題を提起しています
人工知能：と聞いて最初に思い浮かぶものは何ですか？ 『ターミネーター』の暗いテクノサウンドとスキャナーのような視線？ R2D2？ 映画『her/世界でひとつの彼女』のAIとの恋愛？ 実のところ、私たちはすでにAIに囲まれています。例えば、あなたのスマートフォンは、あなたが使うにつれてあなたについて学習しています。
では、今日のAIについて私たちは何を懸念すべきなのでしょうか？
AIの開発が全能の機械の支配者をもたらすのではないかという漠然とした恐怖が広がっています。そして今やAIが、かつて存在した最大のデータ貯蔵庫であるクラウドに接続されたことで、機械学習が加速し、超知能が出現するのではないかという不安があります。この全データの融合はシンギュラリティ（技術的特異点）と呼ばれ、それはますます洗練されたAIを再生産していくでしょう。
しかし、今のところ、これはSFの空想です。現時点で現実に存在するAIの懸念は、テクノロジーそのものよりも、コンピューターを構築する人間について多くを語っています。
実際の中心的な懸念は、AIに存在するバイアス（偏り）です。例えば、2016年にホワイトハウスで開かれたテクノロジー会議で、すべての注目が雑誌プロパブリカの「マシン・バイアス（機械の偏り）」という記事に集まりました。その記事のサブタイトルは懸念をこう説明していました。「将来の犯罪者を予測するために全米で使用されているソフトウェアがある。そしてそれは黒人に対して偏っている」
このバイアスが存在したのは、代表性のないデータセットの問題のためです。例えば、顔認識技術を考えてみましょう。顔認識のデータセットには、白人男性の顔を高精度で予測できるだけの十分な写真が含まれているかもしれません。しかし、女性や有色人種のデータセットが少なければ、これらの属性に対してより多くのエラーが発生する可能性が高くなります。
プロパブリカの記事と同様の結論が、詩人で学者のジョイ・ブオラムウィニとスタンフォード大学の研究者ティムニット・ゲブルによる研究でも見出されました。顔認識技術の研究で、彼らはヨーロッパの白人政治家と比較して、アフリカの黒人政治家に対する認識精度が低いことを発見しました。
重要なことに、彼らの研究はバイアスの別の側面を掘り起こしました。それは、新技術を構築するチームに関するものでした。テクノロジーチームが世界の多様性を反映していなければ、彼らの発明には偏見に基づく盲点が含まれる可能性が非常に高いことを彼らは発見しました。
さらに、より多様な研究者やエンジニアのグループは、バイアスが個人的に自分たちに影響を与えるものであるため、設計上の問題を発見する可能性がより高いこともわかりました。
新技術は建設的に利用できますが、統合的な思考が必要です
道具は善にも悪にも使えます。ほうきを使えば、台所の床を掃くことも、誰かの頭を殴ることもできる。同じことが情報技術にも当てはまります。
次のような最近のイノベーションを考えてみてください。
プリンストン大学で、近東研究のマリーナ・ラストウ教授は、カイロのベン・エズラ・シナゴーグから出土した40万点に及ぶ文書群の解読に取り組んでいます。これは世界最大のユダヤ教写本の記録された発見物です。もちろん、これらの文書を研究することは途方もない挑戦です。その多くは断片であったり、世界中のアーカイブに散らばっていたりします。そのため、物理的にそれらを繋ぎ合わせることは不可能です。
しかし、高度なAIを使用することで、ラストウのチームは、数千マイルも離れた場所にあるデジタル化された断片を、人間には到底できない速度と精度で照合することができました。これによりラストウは、ユダヤ人とイスラム教徒が平和に共存していた、これまでほとんど知られていなかった中世の一時代を理解できるようになりました。
同様に、AIは生命の世界を保護するためにも使用できます。マイクロソフトの「AI for Earth」チームは、ウガンダのパークレンジャーが密猟者を撃退するのを支援するプログラムを開発しました。アルゴリズムを使用することで、レンジャーは密猟行動を予測し、密猟のホットスポットを予防的に特定するのに役立っています。
これらは、テクノロジーを有益に活用できる二つの方法に過ぎません。しかし、これを前進させていくためには、巨大テクノロジー企業と政府がさらに協力しなければなりません。
第一に、テクノロジー企業はもはや、自らを世界に対して説明責任がないと見なすことはできません。純粋に商業的な利益を超えた、より広範な目的の考察が必要です。単に他社と競争するのではなく、巨大な力を持つ人々として、巨大テクノロジー企業のトップは道徳的義務に関する統合的な思考を必要としています。
第二に、この世界を実現するためには、政府がテクノロジーを理解し、規制しなければなりません。政府関係者は、新興テクノロジーについて自ら学ぶ義務があります。著者たちが描写した、自分がワシントンポスト紙をオンラインで読めることを知らなかった米上院議員のように、これほど変革的なものについて無知でいることはもはや許されません。規制の面では、航空業界が規制されないことを誰も正しいとは考えないのに、デジタルテクノロジーのようなハイリスクなものがなぜ野放しにされるべきなのでしょうか？
これが未来のための輪郭です。テクノロジーをポジティブな目的のために使いこなす世界か、それともテクノロジーに私たちが使いこなされる世界か。私たちは早急に選択する必要があります。
最終的なまとめ
核心的なメッセージ：
新しいデジタルテクノロジーは、驚くべき可能性をもたらすと同時に、予期せぬ脅威ももたらします。AIを使って密猟や気候変動と戦うなど、これらの発明を善のために使いこなすこともできれば、その暗い潜在力を敵対的な勢力に利用させることもできてしまいます。テクノロジーを善の力とするためには、テクノロジー企業が政府と規制や倫理的枠組みについて協力することが極めて重要です。
実践的なアドバイス：
ニュース記事を読むときは、検証可能かどうかを確認しましょう。
インターネットを閲覧していて、特に扇情的な見出しに出くわした場合は、それが真実に基づいているかどうかを確認してください。次のことを実行できます。複数の評判の良い情報源が同じ記事を報じているかどうかを確認します。もしそうでなく、ただ一つの情報源に限定されている場合は、騙されないように注意してください！
次に読むなら：サティア・ナデラ著『Hit Refresh（原題）』
あなたは今、マイクロソフトの内部関係者から、テクノロジーが未来に約束するものについて話を聞きました。その未来は、テクノロジー企業と政府が事態を掌握する能力次第で、ポジティブな変化の世界にも、恐ろしいディストピアにもなり得るのです。
今度は、マイクロソフトのCEOサティア・ナデラと共に、さらに深くその内部に踏み込んでみましょう。21世紀に向けて企業を再構想するナデラは、ビジネスと巨大テクノロジーの世界において、ある種の啓示となっています。『Hit Refresh』で、ナデラの会社への夢と、すべての人にとってより良い未来を築こうとする彼の改革について、さらに詳しく知ることができます。
