『Zucked』（2019年）は、初期のFacebook投資家が自らの体験をもとに、この巨大プラットフォームの危険性を訴える警告の書です。公衆衛生や民主主義の健全さに及ぼす被害を生々しく描き出し、世論操作からテクノロジー依存の形成まで、市民的・道徳的責任を欠いたビジネスの実態を暴きます。
Facebookの真実と、その有害な影響を知る
Facebookは史上最も成功したビジネスの一つです。22億人のユーザーを抱え、2017年には400億ドルを超える収益を上げ、まさに大成功を収めています。しかし、人気と収益性以上に注目すべきは、その影響力です。
わずか20年足らずで、Facebookは公共空間の重要な一部となりました。友人とのコミュニケーションだけでなく、ニュースを読み、意見を交わし、日々の話題を議論するプラットフォームです。ところが、その人気と影響力の裏には暗い現実が潜んでいます。そこには、明確な道徳的・市民的価値観が欠けているのです。そして、効果的な規制がない中で、Facebookは社会に積極的に害を与えています。この要約では、Facebookがいかに操作的な手法であなたを虜にし、その副作用として世論の議論を分極化させているかを学びます。
Facebookは監視によって成り立ち、あなたのデータを収集してサイトに引き留め、広告主にとっての価値を高めています。そして、ロシアのような外部勢力が、いかに簡単にFacebookを利用して米国のユーザーに影響を与えたかも理解できるでしょう。この要約で学べるのは、
- Facebookがあなたについてどれほどのデータを保有しているか
- Facebookがいかにユーザーのプライバシーを軽視し続けてきたか
- なぜFacebookや他のテクノロジー巨人を規制することに何の恐れも必要ないか
技術と経済の変化がFacebookの成長と危険な内部文化を可能にした
20世紀には、大学を出たばかりの若者が立ち上げて成功するシリコンバレーのスタートアップはほとんどありませんでした。コンピューター工学の成功には、スキルと経験、限られた処理能力やストレージ、メモリといった制約の克服が必要でした。本格的なハードウェアインフラが必要なため、誰でも簡単に起業して即座に成功できるわけではなかったのです。しかし、20世紀末から21世紀初頭の技術進歩が、この状況を根本から変えました。
マーク・ザッカーバーグが2004年にFacebookを立ち上げたとき、こうした新規企業への障壁の多くは、もはや消えていました。Mozillaブラウザのようなオープンソースのソフトウェアコンポーネントのおかげで、エンジニアは短期間で実用的な製品を作れました。クラウドストレージの登場により、スタートアップは高価なインフラを自前で構築する代わりに、月額料金を支払うだけでよくなったのです。こうして、リーン・スタートアップのモデルが一気に広がりました。Facebookのような企業は、完璧を目指してゆっくり開発する必要はなくなりました。基本的なものを素早く作り、ユーザーに提供し、そこから更新していけばよかったのです。
Facebookの有名な「Move fast and break things（素早く動き、壊しながら進め）」という哲学は、こうして生まれました。これは企業文化にも大きな影響を与えました。ザッカーバーグのような起業家は、事業計画を実行するために、経験豊富でシステムに精通した大勢のエンジニアを必要としなくなりました。実際、ザッカーバーグは経験者を欲しがらなかったことがわかっています。経験の浅い若者（しかも、その多くが男性）は、安価であるだけでなく、自分の思い通りに型にはめられるため、会社を管理しやすかったのです。創業当初のFacebookでは、ザッカーバーグ自身、事業計画だけでなく、世界をつなぐという自明の善なる目標に対して、揺るぎない自信を持っていました。
ユーザー数が急増し、やがて収益性が急上昇するにつれ、チーム内で彼に疑問を投げかける者などいるはずがありません。たとえ疑問を抱いたとしても、ザッカーバーグは株式の議決権を「黄金株」に設定しており、会社は常に彼の決定に従う仕組みになっていました。できるだけ速く成長するために、Facebookは摩擦の原因となるものを徹底的に取り除きました。製品は無料、規制は回避し、アルゴリズムの透明性も不要とすることで批判を避けたのです。残念ながら、これらは世界的スーパースターへの成長に適した条件でしたが、同時にユーザーのプライバシー、安全、市民的責任への軽視を生む条件でもありました。
Facebookは積極的にユーザーデータを収集し、プライバシーを露骨に軽視してきた
Facebookはあなたをどれほど知っているのでしょうか。Facebookは各ユーザーについて最大29,000ものデータポイントを保持しています。猫の動画が好きだという事実から、最近誰と交流したかまで、あなたの生活に関する29,000もの小さな情報です。では、Facebookはどこからそのデータを入手しているのでしょう。
2008年に開始された「Connect」を例にとりましょう。このサービスを使えば、ユーザーはFacebookを通じてサードパーティのウェブサイトにログインできます。複雑なパスワードを覚える手間が省けるため、多くのユーザーに好まれています。しかし、ほとんどのユーザーが気づいていないのは、このサービスが単にログインさせるだけではないという点です。これによってFacebookは、そのログイン機能を使うあらゆるサイトやアプリ上でユーザーを監視できるのです。ニュースサイトにConnectでログインすれば？ Facebookはあなたが何を読んでいるかを正確に把握します。
写真も同様です。楽しい時間を過ごした後に友達をタグ付けするのはよくあることです。手軽に共有できる便利な方法と思うかもしれませんが、Facebookにとっては、位置情報や行動、社会的つながりに関する貴重な情報のコレクションを提供しているにすぎません。これほど個人データに貪欲な企業なら、せめてそのデータを慎重に扱ってほしいと思いますよね？ ところが残念なことに、Facebookのごく初期から、マーク・ザッカーバーグのビジネスはデータプライバシーを軽視してきたのです。実際、『Business Insider』によれば、ザッカーバーグは最初の数千人のユーザーを集めた後、友人にメッセージを送り、「大学の誰かの情報が欲しければ、いつでも言ってくれ」と伝えたといいます。
すでに何千ものメールアドレス、写真、住所を手に入れており、人々がただそれを提出してきただけだと、若き起業家は語りました。伝えられるところによれば、その人たちを「愚かなバカども」と呼んだといいます。データプライバシーに対するこのような軽率な姿勢は、その後もずっと続いています。たとえば2018年、ジャーナリストらはFacebookが、セキュリティ機能である二要素認証のためにユーザーが提供した電話番号に、利用しないと約束したにもかかわらずマーケティング資料を送っていたことを暴露しました。同じ年には、FacebookがAndroidフォンを使用するユーザーの通話やテキストを含む電話記録を、単純にダウンロードしていたことも明らかになりました。
これもまた、当のユーザーは全く知らされていませんでした。Facebookがデータを欲しがるのには理由があります。あなたをより長くプラットフォームに留め、広告主への提供価値を高めることで、より多くの収益を得るためです。この点をもう少し詳しく見てみましょう。
Facebookは「脳のハッキング」でユーザーを長時間オンラインに留め、利益を増やす
ソーシャルメディアプラットフォームにとって、時間はお金です。具体的に言えば、あなたの時間が彼らのお金なのです。Facebook、Twitter、Instagramに長く滞在し、より多くの注意を向ければ向けるほど、彼らが販売できる広告が増えるからです。その結果、あなたの注意を引きつけて離さないことが、Facebookの商業的成功の核心となっています。
Facebookは、あなたの脳の内側に入り込む技術で、他の誰よりも長けています。使われる手法の一つは情報の表示方法です。動画の自動再生や、終わりのない情報フィードがそれにあたります。これらは、離脱のきっかけとなる通常の手がかりを排除することで、あなたを夢中にさせ続けます。新聞は最後のページにたどり着けますが、Facebookのニュースフィードには終わりがありません。他の手法は、人間心理にもう少し深く入り込み、たとえばFOMO（取り残される恐怖）を利用します。
Facebookアカウントを無効にしようとすると、表示されるのは標準的な確認画面だけでなく、親友のトムとジェーンの顔写真とともに「トムとジェーンはあなたを寂しがるでしょう」というメッセージです。しかし、最も巧妙で不気味な手法は、何を表示するかを決定する人工知能の判断プロセスにあります。あなたがFacebookをスクロールするとき、単純なニュースフィードを見ていると思うかもしれません。しかし、そうではありません。あなたは、あなたに関する膨大なデータを保有し、できるだけ長くサイトにエンゲージし続けると判断した情報を提供する、巨大な人工知能に立ち向かっているのです。そして社会にとって悪い知らせは、それがしばしば、もっとも原始的な感情に訴えるコンテンツであるということです。
なぜなら、基本的な感情を刺激することが、あなたを引きつけて離さないからです。喜びは効果があるため、かわいい猫の動画があふれています。しかし、最も効果的なのは何でしょう？ 恐怖や怒りといった感情です。結果として、Facebookは私たちを苛立たせるコンテンツへと誘導する傾向があります。苛立ったユーザーはより多くのコンテンツを消費し、より頻繁に共有するからです。そのため、冷静な見出しで出来事を伝える記事よりも、短くパンチの効いた動画による扇情的な主張のほうが目に入りやすくなります。
そして、これは危険なものになり得ます。特に、私たちの怒りや恐怖、その他の感情が、似たような意見を持つ人々によって絶えず強化される「泡」の中に閉じ込められた場合です。それが、いわゆるフィルターバブルの危険性であり、次に見ていきます。
フィルターバブルが意見の分極化を生む
あなたがFacebookを閲覧する1秒ごとに、あなたはフィルタリングアルゴリズムにデータを提供しています。その結果生まれるのが「フィルターバブル」で、Facebookはあなたが好まないと思われるコンテンツを排除し、あなたが読み、いいねし、共有する可能性が高いコンテンツをフィルターして取り込むのです。キャンペーン組織MoveOnの代表であるイーライ・パリサーは、2011年のTEDトークで、このフィルターバブルの影響をいち早く広めました。パリサーは、自分のFacebookの友達リストは保守派とリベラル派がほぼ均等に分かれているのに、ニュースフィードには中立的なものが一切表示されないことに気づきました。
彼がリベラルなコンテンツに「いいね」やシェア、クリックをする傾向が、Facebookに「彼が望むもの」をより多く与えさせ、ついに保守的なコンテンツがまったく表示されなくなったのです。パリサーが主張したように、これは問題です。多くの人がFacebookからニュースや情報を得ており、バランスの取れたコンテンツを受け取っていると考えています。しかし実際には、巨大な力を持ちながら市民的責任を負わないアルゴリズムが、偏った世界観を彼らに与えているのです。さらに悪い問題は、フィルターバブルの効果によって、ユーザーが主流の見解から、より過激な見解へと移行してしまう場合に起こります。これは、アルゴリズムがユーザーをより感情的で過激なコンテンツへと誘導する結果として発生し得ます。
たとえば、元YouTube社員のギヨーム・シャスロは、YouTubeのアルゴリズムによるレコメンデーションの仕組みを示すソフトウェアを開発しました。それによると、あるユーザーが9/11に関する動画をプラットフォームで視聴すると、そのユーザーには9/11陰謀論の動画が推奨されるようになります。しかし、アルゴリズムがなくても、人々はソーシャルメディアによってしばしば先鋭化します。特に、Facebookグループのメンバーである場合に顕著です。Facebookには無数のグループがあり、あなたの政治的信条が何であれ、必ずあなた向けのグループが存在します。そして、それらのグループは広告主への簡単なターゲティングを可能にするため、Facebookのビジネスにとっては素晴らしいものです。
しかし、問題にもなり得ます。行動経済学者で『Nudge』（2008年）の共著者であるキャス・サンスティーンは、似たような意見を持つ人々が問題を議論すると、その意見は時間とともに強化され、より極端になる傾向があることを示しました。グループにはもう一つの問題があります。操作に対して脆弱なのです。Data for Democracyという団体は、グループのメンバーのわずか1、2％が、やり方を心得ていれば、その会話の方向性を操作できることを明らかにしました。そして、2016年のアメリカ大統領選挙を前に、ロシアがまさにこれを行ったのです。
ロシアはFacebookを、アメリカの選挙に影響を与えるための隠密かつ効果的な手段として利用した
あなたがFacebookで読むコンテンツがどこから来たのか、本当にわかっていますか。2016年にアメリカに住んでいたなら、ロシアのトロールが発信源のFacebookコンテンツを読み、おそらくは共有した可能性が非常に高いのです。証拠が積み上がる中でも、Facebookはロシアによるプラットフォーム利用を否定し続けましたが、2017年9月、ついにロシアが運営する偽アカウントによる約10万ドルの広告費支出を発見したと認めました。後にFacebookは、ロシアの干渉がプラットフォーム上の1億2,600万人のユーザーに届き、さらにInstagramでも2,000万人に達していたことを明らかにします。
この選挙で1億3,700万人が投票したことを考えれば、ロシアの干渉が何らかの影響を与えなかったと考えるのは難しいでしょう。2016年選挙におけるロシアの戦術は、トランプ支持者を煽り立てる一方で、民主党支持者候補への投票率を下げることでした。正直なところ、それは簡単なことでした。なぜなら、Facebookのグループはロシアにとって、主要な層を標的にする容易な手段を提供していたからです。たとえば、ロシアの工作員はBlacktivistのような有色人種に焦点を当てた複数のグループを運営し、その目的は明らかに、ユーザーが民主党のヒラリー・クリントンに投票する可能性を下げる偽情報を流布することにありました。さらに、グループはコンテンツが共有されやすい環境を作り出しました。結局のところ、私たちは自分のグループのメンバーを信頼しがちです。彼らは私たちの興味や信念を共有しているのですから。
ですから、自分が属しているグループ内で共有された情報の出所に対して、私たちは無批判になりがちです。著者自身、友人が、民主党予備選でクリントンの対抗馬だったバーニー・サンダースを支持するFacebookグループが発信源の、ヒラリー・クリントンをひどく中傷する画像をシェアしているのに気づきました。サンダース陣営が背後にいるとは到底信じられませんでしたが、それらはウイルスのように拡散していたのです。ロシアがグループを通じて影響力を行使できることは、2016年のヒューストンのモスク抗議という悪名高い例で鮮明に示されました。ロシアがコントロールするFacebookイベントが、テキサス州ヒューストンのモスクの外で、イスラム教に賛成する抗議と反対する抗議を同時に組織したのです。
この操作は、反マイノリティや反移民感情に基づいてアメリカ国内に不和と対立を蒔くという、ロシアの全体的な取り組みの一部でした。ロシアは、これがトランプ陣営に有利に働くことを知っていたのです。2012年にオバマに投票した400万人が、2016年にはクリントンに投票しませんでした。この400万人のうち、どれだけの人がロシアの偽情報とクリントン陣営に関する嘘のために民主党に投票しなかったのでしょうか。
ケンブリッジ・アナリティカ事件が、Facebookのデータプライバシー軽視に蓋を開けた
2011年、Facebookはアメリカの消費者保護機関であり規制当局でもある連邦取引委員会（FTC）と、欺瞞的なデータプライバシー慣行を禁じる協定を結びました。この同意判決のもとでは、Facebookがユーザーデータを共有する前に、ユーザーから明示的なインフォームド・コンセントを得ることが義務付けられました。しかし、悲しい現実として、Facebookはそのようなことを一切行いませんでした。2018年3月、Facebookの政治的影響力とユーザープライバシー軽視を結びつける事件が報じられます。
ドナルド・トランプの選挙キャンペーンにデータ分析を提供していたケンブリッジ・アナリティカという企業が、約5,000万件のFacebookユーザープロフィールを収集・悪用していたのです。ケンブリッジ・アナリティカは、研究者のアレクサンドル・コーガンに資金を提供し、アメリカ人有権者のデータセットを構築させました。彼はFacebook上で性格テストを作成し、27万人が数ドルと引き換えにこれを受けました。このテストは、被験者の性格特性に関する情報を収集しました。決定的だったのは、テストの回答者のFacebookの友達（合計4,900万人）のデータも、それらの友人が何も知らず、ましてや同意も与えていないのに取得したことです。こうして、議論を呼ぶ大統領候補のデータチームは、約4,900万人分の非常に詳細な個人データの宝庫を手に入れたのです。
Facebookの利用規約では、ケンブリッジ・アナリティカがこのデータを商業的に利用することは許されていませんでしたが、彼らはそれを無視して使用しました。このことが特に物議を醸したのは、内部告発者によると、ケンブリッジ・アナリティカがFacebookのプロフィールを3,000万件の実際の有権者ファイルと突き合わせることができたからです。これにより、トランプ陣営は全米の有権者の13％にあたる膨大なデータを入手し、これらの有権者に対して信じられないほど精密なプロパガンダを標的にすることが可能になりました。トランプがわずか77,744票の合計差で制した3つの激戦州が、選挙人団での勝利をもたらしたことを思い出してください。Facebookのデータ侵害に基づくケンブリッジ・アナリティカのターゲティングが、この結果に影響を与えなかったとはほとんど考えられません。この事件が報じられると、Facebookは自らがケンブリッジ・アナリティカの不正行為の被害者であると主張しようとしました。
しかし、Facebookの行動はそうではないことを示唆しています。データ侵害を知ったFacebookは、ケンブリッジ・アナリティカに書簡を送り、データセットのコピーを破棄するよう求めました。しかし、監査や検査が実施されることは一切ありませんでした。代わりに、ケンブリッジ・アナリティカは、フォームのチェックボックスに印をつけて法令遵守を確認するよう求められただけです。
さらにFacebook自身も、ケンブリッジ・アナリティカがトランプ陣営のために働いていたのと同時期に、トランプ陣営のデジタルオペレーションに3人のチームメンバーを喜んで送り込んでいました。ケンブリッジ・アナリティカの事件は転換点となりました。多くの人が、成長と利益の追求の中で、Facebookは道徳的・社会的責務を無視してきたと確信するようになったのです。もしそれが真実なら、次の疑問が残ります。社会はこれに対して何ができるのか？
Facebookや他の巨大テクノロジー企業は適切に規制され、害を制限すべきだ
ロシアの干渉とケンブリッジ・アナリティカのスキャンダルが示したように、Facebookは自らの行動を規制する必要性を十分に真剣に受け止めてきませんでした。だとすれば、おそらくは今こそ外部規制について考える時でしょう。その一つの側面として、過去にマイクロソフトやIBMのような巨人に適用されたのと同じ種類の規制、すなわち、Facebookや他の巨大テクノロジー企業が持つ全体的な市場支配力を弱めるための経済規制が考えられます。Facebookがこれほど強力である理由の一つは、その資金力を利用してInstagramやWhatsAppのような競合他社を単純に買収してきたからです。
歴史的な電話会社AT&Tの例が示すように、これは経済成長や全体的なイノベーションに悪影響を及ぼすとは限りません。1956年、AT&Tは、同社の肥大化する力を抑制するために政府と和解に達しました。その内容は、固定電話事業に専念し、自社の特許を他社が利用できるよう無償でライセンスするというものでした。これは米国経済にとって非常に良いニュースとなりました。なぜなら、AT&Tの重要な発明であり特許であるトランジスタを自由に利用可能にしたことで、この独占禁止法に基づく裁定が事実上、シリコンバレーを生み出すことになったからです。コンピューター、ビデオゲーム、スマートフォン、インターネット——すべてがトランジスタから生まれました。そして決定的なことに、この訴訟はAT&Tにとっても良い結果となりました。
中核事業に限定されたにもかかわらず、あまりに成功したため、1984年には再び独占訴訟の対象となりました。同じような論理をFacebookやGoogleのような企業に適用すれば、引き続き繁栄を許しつつも、市場支配力を制限し、より多くの競争を促すことができるでしょう。経済規制は一つの手段です。しかし、Facebookが社会に与える有害な影響に真に取り組むためには、その有害性の核心に迫る規制も必要です。手始めに、フィルターのかかっていないFacebookニュースフィードの表示を選択できるように義務づけることが考えられます。ボタンをクリックするだけで、あなたの興味を最も長く引きつけるとFacebookの人工知能が判断した「あなた向け」の表示から、世界で起きていることのより中立的あるいはバランスの取れた表示へと、ニュースフィードを切り替えられるのです。
もう一つの前向きなステップは、アルゴリズムと人工知能を規制することでしょう。米国では、テクノロジー分野の食品医薬品局（FDA）に相当する機関を創設し、アルゴリズムが人間を搾取するのではなく、奉仕することを保証する責任を負わせることができます。アルゴリズムの監査を第三者に義務づければ、フィルターバブルや操作の最悪の事例を避けるのに十分な透明性が生まれるでしょう。私たちは多くの産業で規制を受け入れ、それを評価し、公益と経済的自由の適切なバランスを取るために利用しています。現時点では、テクノロジーに関して、そのバランスは適切に取られていません。変革の時です。
最終的なまとめ
この要約の核心的なメッセージ：Facebookは大惨事と化しています。人々を画面に釘付けにし、より極端な見解へと誘導し、個人のプライバシーを踏みにじり、選挙に影響を与えているのです。これに反撃し、個人と社会に対するFacebookの悪影響を容認するのをやめる時が来ています。実践的なアドバイス：デバイスの外観を変えて、健康への影響を減らしましょう。デジタルデバイスの外観を2つ変えるだけで、大きな違いを生み出せます。
第一に、デバイスを夜間モード（Night Shift）に変更すると、ディスプレイのブルーライトが軽減され、目の疲れが和らぎ、眠りにつきやすくなります。第二に、スマートフォンをモノクロモードにすると、視覚的な強度が下がり、画面を見ることで得られるドーパミンの刺激が減少します。
次に読むべき本：デビッド・カークパトリック著『The Facebook Effect』 ある投資家から見たFacebookの個人と社会への影響について聞いた今、さらに深く掘り下げて、Facebookの起源、台頭、インパクトの内部事情を探ってみませんか？ 『The Facebook Effect』では、著名なテクノロジージャーナリストのデビッド・カークパトリックが、この巨大テクノロジー企業の物語を探求しています。この要約では、Facebookが私たちのコミュニケーションの方法だけでなく、メディアや政治についての考え方をも変えたことを説明します。そして『Zucked』と同様に、プライバシーの概念を根本から変えたFacebookの実態に迫ります。
