『リアリティ・ゲーム』（2020年）は、デジタルツールを用いた政治的操作、いわゆる「計算プロパガンダ」の不透明な世界に光を当てる。著者サミュエル・ウーリーは、フェイクニュース、拡散される陰謀論、ツイッターのボット軍団が混乱と不和をまき散らすだけでなく、民主主義のプロセスそのものを蝕んでいると主張する。つまり、今こそ反撃し、無責任な巨大プラットフォームからデジタル空間を取り戻すべき時なのだ。
あなたに役立つこと：フェイクニュースとの闘いに参加しよう
ソーシャルメディアは兵器化されている。世界中の権威主義的な政府が、ボットや偽アカウントの軍団を操っている。その目的は、多くの場合、ジャーナリストへの嫌がらせや、反体制派の活動に対する疑念をばらまくことだ。
しかしデジタル兵器を使うのは独裁者だけではない。民主主義国も無縁ではない。2016年のアメリカ大統領選では、ドナルド・トランプ陣営が何千もの偽ソーシャルメディアアカウントを作り、自分たちの論点を押し出した。大西洋の向こう側では、英国のEU離脱キャンペーンも同じ手口を使った。トランプもブレグジット派も、誤情報の波に乗って勝利したのだ。だが、人を欺く行為はテクノロジーだけの問題ではない。フェイクニュースと操作の奔流の底には、社会的、経済的、政治的な問題が複雑に絡み合っている。
つまり、本来は善の力にもなりうるソーシャルメディアそのものが問題なのではなく、その悪用こそが真の問題なのだ。だからこそ、デジタルツールの悪用をどう食い止めるかが問われる。その第一歩は、なぜソーシャルメディアがこれほど機能不全に陥っているのかを解明することだ。この要約では、以下のようなこともわかる。
- ボットがあなたの想像ほど賢くない理由
- フェイクニュースが人々の「深く考えたい」という欲求につけ込む仕組み
- 無制限の言論の自由がソーシャルメディア問題の解決策にならない理由
旧来のメディアは制度への信頼を支えたが、新しいメディアはそれを蝕む
民主主義の制度に対する信頼は過去最低だ。2018年のギャラップ調査によると、過去45年間でアメリカ議会を信頼する人の割合は43％から11％に激減した。銀行への信頼は半分に落ち込み、宗教団体を信頼する人は100人中38人と、1970年代初頭の65人から大幅ダウン。しかし、これはアメリカだけの話ではない。
同様の傾向はブラジル、イタリア、南アフリカなど、これまで民主的と見なされてきた国々でも確認されている。いったい何が起きているのか。なぜ市民はこれほど自国の民主的機関を信頼しなくなったのか。すべては、私たちが現実を理解するためにメディアをどう使うかに帰着する。今回のポイント：旧来のメディアは制度への信頼を支えたが、新しいメディアはそれを蝕む。インターネットはメディアの風景を見分けがつかないほど変えてしまった。
デジタル時代以前、情報は一方向に流れていた。一人が語り、多くの人が聞く。テレビの司会者や新聞のコラムニストを思い浮かべればいい。何千もの視聴者や読者に語りかける個人だ。尊敬されるニュースキャスターやジャーナリストは客観性を保とうと努力し、意見が流される前に必ず精査された。もちろん、陰謀論者が『ニューヨーク・タイムズ』に投書する自由はあったが、それを掲載するかどうかは新聞社の自由だった。
このモデルでは、何百万人もの市民が同じ情報源から情報を得ていた。それが現実と真実についてのコンセンサスを築き、結果として信頼を生んでいた。しかしここ数年で状況は一変した。今や情報は「多対多」のパラダイムで共有される。自分の意見を誰かに納得してもらい、印刷や放送をしてもらう必要はない。ウェブ上では、自分自身が発行者であり、誰でもあなたの投稿を読めるのだ。
インターネットの先駆者たちは言論の自由と市民参加の黄金時代を夢見ていた。だが彼らが予見できなかったのは、その風景がほんの一握りの巨大ソーシャルメディア企業に支配され、しかも旧来の放送局よりもはるかに説明責任が薄いということだった。ソーシャルメディアの世界には規制がほとんど存在しないため、偽情報の温床となっている。そして、いともたやすく悪用されるアルゴリズムのなかで、事実と虚構の見分けはつきにくい。たとえば2018年の英国の調査では、国民の64％が本物のニュースと偽のニュースの区別に苦労していた。信頼が過去最低なのも無理はない。こんな環境では、誰を信じればいいのかわからなくなるのも当然だ。
多くの場合、商業的動機に駆られたフェイクニュースは、人々の「批判的に考えたい」欲求に巧みに訴えかける
「ヒラリーのメール漏洩に関与したFBI捜査官、無理心中か、死体で発見される」。2016年11月初旬、この大文字で書かれた扇情的な見出しが、「コロラド最古のニュースソース」を自称する『デンバー・ガーディアン』なるウェブサイトに現れた。この記事は民主党の大統領候補ヒラリー・クリントンをスキャンダラスな隠蔽に関与させていた。ほどなく、何千ものクリックが集まった。
一時は、この記事が1分あたり100以上のFacebookページでシェアされた。問題はただ一つ、この暴露も、それを報じた新聞も、まったくの偽物だったことだ。今回のポイント：多くの場合、商業的動機に駆られたフェイクニュースは、人々の「批判的に考えたい」欲求に巧みに訴えかける。あの『デンバー・ガーディアン』の記事は何から何まで嘘だった。執筆者はカリフォルニアの起業家ジェスティン・コーラー。彼がそのウェブサイトを所有しており、その出版物の唯一の目的は広告クリックを稼ぐことだった。
トラフィックを集める最も簡単な方法は、進行中の大統領選挙についての虚偽報道を拡散することだとコーラーは気づいた。それは儲かるビジネスだった。11月の選挙に向けた数カ月間、彼はジャンクニュースで月に1万ドルから3万ドルを稼いでいた。「人々はこれを聞きたがっていた」と後日コーラーは語っている。彼は記事のあらゆる細部をでっち上げたと公然と認めた。町の名前も、登場人物も、保安官も、FBI捜査官も、すべてフィクションだった。
記事を書くと、コーラーのソーシャルメディアチームはそれをトランプ支持のフォーラムに植え付けた。数時間のうちに、記事は野火のように広まった。コーラーの動機は純粋に商業的であり、その点で彼はもっと有名な偽情報キャンペーンの担い手たちとは一線を画していた。しかし、彼の拡散した記事は、真実に対するより大きなデジタル攻撃の一端を担っていた。その攻勢には、ロシア政府が資金を出したFacebook上の偽広告、モルドバの若者たちが流したでっち上げ話、トランプ陣営とつながる「政治活動グループ」による偽情報などが含まれていた。だが、コーラーの言う通り、人々はこうした話を聞きたがっているのだ。
なぜか。それは、かつて信頼できる放送局が提供していたようなニュースをいまだに多くの人が渇望しているからだ。だからこそ『デンバー・ガーディアン』は、コロラドで最も古いニュースソースであることを強調したのだ。人々は物事の根本に迫りたいとも思っている。かつては、精査され事実確認された調査報道がこの欲求に応えていた。しかし、それが衰退すると、情報源を偽装することも、根拠のない憶測を批判的思考に見せかけることもまったくためらわない偽情報の売り手たちが前面に出てきたのだ。
ソーシャルメディアの不干渉アプローチが陰謀論者にとって追い風になる
陰謀論自体は目新しいものではない。人は常に、支配者たちの裏をかこうとしてきた。どんな社会にも、陰謀、スキャンダル、隠蔽工作の暗い噂があった。しかしここ数十年で何かが変わった。
かつて陰謀はゆっくりと広まり、王や大統領の悪事についての噂は、確認しようもなく、夕方のニュースに乗ることはめったになかった。しかしソーシャルメディアの世界は違う。オンラインでは陰謀は拡散が速く、リーチも広い。今回のポイント：ソーシャルメディアの不干渉アプローチが陰謀論者にとって追い風になる。アメリカの極右と結びつく陰謀論「Qアノン」を例に見てみよう。その支持者たちは、選挙で選ばれていない政府高官の陰の組織「ディープ・ステート」がドナルド・トランプに敵対して動いていると主張する。
陰謀論者はさらに、その組織に潜入した「Q」と名乗る匿名の愛国者がいると信じている。この呼び名は、アメリカ政府高官が持つ最高レベルのセキュリティクリアランスを指している。Qの署名入りの投稿は4chanのような掲示板に時おり現れる。たとえばQは、リベラル派の政治家たちがピザ店の地下室で児童売春組織を運営していると主張したことがある。その主張は急速に広まる。連携した極右活動家のグループがそれらを拾い上げ、RedditやTwitterといったより大規模なサイトに植え付けるのだ。
その際に彼らが使うのがソーシャルメディアの「ボット」、つまりコンテンツ共有のような作業を自動化するソフトウェアだ。ボットはアルゴリズムを欺き、一見本物の人気に見える投稿を目立たせる。しばらくすると、一般の人々もその陰謀に気づき始める。これが伝統的メディアの話題となり、事態はさらに増幅される。問題は、こうした陰謀論が民主主義の規範を蝕むことだ。Qアノンの語り口では、リベラル派はアメリカの価値観を転覆させることに全力だ。
この考えを受け入れれば、たとえ彼らが選挙に勝っても国を統治する資格はないと思うのが当然だろう。では、なぜFacebookやTwitterのようなソーシャルメディア企業はこれらの陰謀論を止めないのか。理由の一つは、利用者の言論を監視するのが自分たちの役割だとは考えていないからだ。それに、いずれにせよ人々には言論の自由があるではないか、と彼らは言う。
ソーシャルメディア企業は、陰謀論を広めるボットの使用を止める動きも鈍かった。その結果、フリンジな陰謀論者が悪用できる環境が生まれている。そして次の章で見るように、この環境からメインストリームの政治アクターも利益を得ることを学んでいるのだ。
政治プロセスへのボット介入が最初に確認されたのはアメリカだった
2013年末、ウクライナ市民は親ロシア派のヴィクトル・ヤヌコーヴィチ大統領に抗議するため街頭に繰り出した。ヤヌコーヴィチ大統領を長年の盟友と見なすロシア政府は、オンライン攻勢で応じた。ロシアが操作する何千ものソーシャルメディアアカウントとボットがウェブ上に溢れたのだ。
彼らは抗議デモ参加者に対する偽情報を拡散した。同様の戦略はのちに2016年のアメリカ大統領選でも対米国として用いられた。当時、多くの観測者はこれを計算プロパガンダの誕生だと考えた。しかし、ロシア政府がデジタル破壊工作の闇の技術を極めたとしても、この戦術を最初に展開した政治主体ではなかった。今回のポイント：政治プロセスへのボット介入が最初に確認されたのはアメリカだった。2010年、マサチューセッツ州の有権者は新しい上院議員を選ぶために投票所に向かった。
投票用紙には共和党のスコット・ブラウンと民主党のマーサ・コークリーの二人の名前があった。コークリーが圧倒的に有利と見られていた。マサチューセッツ州は何十年もリベラルの牙城だった。1962年以来同州代表を務めていた民主党のテッド・ケネディ上院議員の急逝がこの選挙戦を引き起こしたのだ。ところが突如、ブラウンの人気が急上昇し始めた。そのとき、ウェズリアン大学のコンピューター科学者たちが奇妙な現象に気づいた。
不審なツイッターアカウントがコークリーへの組織的攻撃を行っているように見えたのだ。その非難の内容は、民主党候補が反カトリックだというもの。マサチューセッツのような州では重大な嫌疑だった。これらのアカウントには経歴情報もなく、お互い以外のフォロワーもおらず、コークリーについてのみ投稿していた。彼らは10秒間隔で規則的に彼女を攻撃した。ボットであることは明らかだったが、誰が操っているのか。
研究者たちは最終的に、これらのアカウントをマサチューセッツから遠く離れたオハイオ州に拠点を置く、テクノロジーに精通した保守活動家のグループに結びつけた。しかし、この活動家たちが作り出した偽の人格は、地元の心配する住民に見えるようにデザインされていた。パッと見た感じでは、攻撃はコークリーと同じ州に住む普通の人々から来ているように思われ、州をまたいだ政治活動家が操るボットからだとはわからなかった。気がかりなことに、この賭けは成功した。ボットがあまりに大きな騒音を生成したため、『ナショナル・カトリック・レジスター』や『ナショナル・レビュー』といった主流メディアがコークリーは反カトリックだという噂を取り上げた。彼らが出した記事は、ツイッター上のボットの活動を指摘していた。
ジャーナリストたちはボットの仕業を本物の草の根運動と取り違えたのだ。その記事を掲載したメディアは、意図せずして人工的なスキャンダルを増幅してしまった。ブラウンは番狂わせを演じ、コークリーは選挙に敗れた。
ボットは愚かだが、効果がないわけではない
Twitterにログインして人気の投稿を眺めるたびに、あなたはボットアカウントに遭遇している可能性が高い。彼らは他のユーザーのコンテンツに「いいね」を押し、シェアし、コメントすることに忙しい。この種のソフトウェアが生み出すメッセージを見分けるのは難しくない。スパムであれ政治的悪口雑言であれ、ボットはたいてい、文法のおかしな支離滅裂な文章を「書く」。
投稿は秒単位で正確に刻まれ、機械的なバーストで送り出される。要するに、平均的なボットはあまり洗練されていない。ではなぜ多くのジャーナリストはボットが「民主主義を征服した」と言うのか。一つの答えは、より厄介な疑問──なぜこんな単純なツールで民主主義をハッキングするのがこんなに簡単なのか──を問うよりも、ボットに焦点を当てるほうが簡単だからだ。後者の問題にはあとで立ち戻るとして、まずはボットを詳しく見てみよう。今回のポイント：ボットは愚かだが、効果がないわけではない。
2016年のヒラリー・クリントン対ドナルド・トランプの大統領選に少し巻き戻してみよう。あの選挙でボットが果たした役割には大きな誇張があった。選挙戦でトランプ陣営にアドバイスした政治コンサルティング会社ケンブリッジ・アナリティカは、ボットの大軍団を立ち上げると約束した。同社は、そのインテリジェントなボットが、超精密なプロ・トランプ／反クリントンの論点で主要な層を狙い撃ちすると主張した。そのために同社がいわゆる「サイコグラフィック」データ――有権者のソーシャルメディアページから収集した詳細なプロファイル――を活用するはずだった。このツールはきわめて高度なものだ。
しかし、入手できる証拠はすべて、それが決して使われなかったことを示している。それでもトランプ陣営は非常に効果的なデジタル選挙戦を展開した。そしてここにこそ最も重要なポイントがある。計算プロパガンダに関して言えば、賢い必要はないのだ。オックスフォード大学の計算プロパガンダ・プロジェクトに聞いてみるといい。彼らの研究は同じストーリーを繰り返し見てきた。
2013年のロシアのウクライナに対するデジタル攻勢から、ブレグジット国民投票、2016年のトランプ選挙戦に至るまで、偽情報拡散に使われたボットの大部分はごく単純なものだった。事実、彼らにできたのは「いいね」を押すか、コンテンツをリシェアするか、リンクを拡散するか、人を荒らすことだけだった。これらのボットは機能的に会話能力を持っていなかった。人工知能もなかった。しかし、そのわずかな能力が標的を圧倒するには十分だった。繰り返される紋切り型の論点の奔流はあまりに大量で、対抗する側はあっという間に押し流され、迅速かつ効果的に対応するすべを失ってしまった。
ソーシャルメディア企業は自主規制すべきだが、自社ツールの悪用に責任を負おうとしない
これまで見てきたように、世論をハッキングするのに高度なテクノロジーはいらない。政治キャンペーンを展開しようが、単にジャンクニュースを売りさばこうが、ソーシャルメディアのアルゴリズムを圧倒するのに必要なのは原始的なボットとクリックを誘う見出しだけだ。ここで、前に触れた厄介な疑問に立ち戻ろう。なぜ民主主義はこんな単純なハッキングツールに対してこれほど脆弱なのか。一つの答えは、ソーシャルメディア企業の規制のあり方にある。
公的生活において、これらの企業はかつて新聞社や放送局が占めていた地位を今や占めている。しかし、彼らの活動を律するルールははるかに緩い。今回のポイント：ソーシャルメディア企業は自主規制すべきだが、自社ツールの悪用に責任を負おうとしない。連邦選挙委員会を例にとろう。この規制機関は選挙運動資金に関する法律を執行する。2006年、同委員会はオンライン選挙運動は自分たちの管轄外だと決めた。
公平を期して言えば、政治広告については例外が設けられた。だが、拡散するフェイクニュースやボット主導のデジタル偽情報の台頭がアメリカの選挙委員会の視野に入るはずはなかった。この規制ツールは使えないのだ。連邦政府が使えるものは他にあるだろうか。通信品位法230条がある。1995年に成立したこの法律は、インターネット企業に有害な言論を検閲する権利を与えている。
そして、もし問題が起きても、それらの企業を責任から免除している。アメリカのソーシャルメディア企業は確かに230条を利用している。反ユダヤ主義的なネオナチの罵詈雑言のような、明らかで暴力的なヘイトスピーチを削除する決定を正当化するのに役立てているのだ。しかし企業は、この法律を偽情報のような問題含みの政治コンテンツを無視するための免罪符としても扱っている。これらの企業の幹部たちの見方では、この法律は「真実の裁定者」として振る舞うのは自分たちの役目ではない、という自分たちの見解を確認するものだ。実際には、230条はコンテンツを裁定する権限をこれらの企業に与えているが、彼らはめったにそれを使わない。
なぜか。説明の一つとして考えられるのは、シリコンバレーのリバタリアン的な精神と衝突するからだ。しかし、たとえFacebookやTwitterのような企業がこの権限を使ったとしても、プラットフォームを浄化するのは気の遠くなるような仕事だろう。これらのサイトは極めて急速に成長したが、倫理的なデザインへの配慮はほとんどなかった。今後の悪用を防ぐには、それを受け入れるようには作られていない構造に、その場しのぎの修正を無理やり当てはめる必要があるだろう。あるFacebook社員が著者とのインタビューで語ったように、このソーシャルメディア大手は、まだ半分しか完成していないのに飛び立たされてしまった飛行機のようなものなのだ。
機械学習はデジタル偽情報対策に役立つが、それだけでは不十分だ
では最後の質問を。単純にボットを禁止したらどうだろう？ 2018年、ダイアン・ファインスタイン上院議員は「ボット開示および説明責任法」を提案することでまさにそれを試みた。しかし法案は議会で頓挫した。
ボット対策を実施するのは、憲法で保障された言論の自由を侵害せずに行うのが難しい。さらに問題はある。ボットに対する法律を作っても、偽情報のもう一つの問題は解決しない。人間はボットとまったく同じくらい効果的に偽ニュースを拡散するからだ。たとえば中国の「50セント軍」は、親政府プロパガンダをウェブ上に氾濫させる、人間のアカウントによる組織的部隊である。彼らの活動は反ボット法の対象にはならない。だから、私たちは別の焦点に目を向けたほうがいいかもしれない。
標的はボットそのものではなく、むしろ情報、そしてそれがどう流れるかについてもっと考えるべきなのだ。今回のポイント：機械学習はデジタル偽情報対策に役立つが、それだけでは不十分だ。機械学習を使うボットを想像してみてほしい。このプログラムはソーシャルメディア上で人と会話することから学習する。本物の人間と話すのがどんどん上手くなっていく。さて、このプログラムが誰かとチャットを始め、地球温暖化を否定する記事をシェアする気にさせたとしよう。
その会話だけで大量のデータが生成される。ボットはそのデータを分析し、どの戦術が効いてどれが効かなかったかを把握するだろう。そしてこの分析がボットの将来の行動に反映される。かなり悪夢のような話だ。確かにそうだが、これは一方通行ではない。機械学習はデジタル偽情報と戦うためにも展開できる。
インディアナ大学のソーシャルメディア観測所の研究者たちが作った「ボトメーター」を見てみよう。ボトメーターは機械学習を使ってツイッターアカウントを人間かボットかに分類する。そのために、任意のアカウントの1000以上の特徴を分析する。ソフトウェアはそのアカウントの友達、活動パターン、言語、投稿のトーンを調べる。分析の最後に、ボトメーターは総合的な「ボットスコア」を算出する。それはユーザーに、自分が今やりとりしているのが人間なのかボットなのかを即座に知らせ、偽情報の最も一般的な発生源の一つを強調するのだ。
しかし、ボトメーターのような機械学習アルゴリズムだけではおそらく不十分だ。ほとんどの専門家は、ハイブリッド型――すなわち「サイボーグ」型――の規制モデルの出現を予測している。たとえば、人間が記事のファクトチェックを行い、自動化システムが偽ニュースを拡散するボットを素早く特定するために使われるといった具合だ。いくつかの仕事は、どうやら私たちのロボット支配者に任せるにはあまりに重要すぎるようだ。
最終的なまとめ
この要約のポイント：メディアの風景は見分けがつかないほど変化した。インターネット黎明期には、新聞や放送局のようなゲートキーピング機関の終焉を歓迎する声が多かった。しかし、人々が自分のニュースソースを選べるようにしたことは市民参加を促進せず、信頼を蝕み、デジタル偽情報が繁茂する肥沃な土壌を作り出した。この問題は、軽度の規制と、ソーシャルメディア企業がボット対策に取り組むことを拒否してきたことによって悪化している。
しかし、人間によるファクトチェックと併用される機械学習は、この戦いに勝つのに役立つかもしれない。
次に読むべき本：ブラッド・スミス、キャロル・アン・ブラウン著『Tools and Weapons』
この要約で見てきたように、現在のデジタル空間の状況についてソーシャルメディア企業には大きな責任がある。これらの企業の中でここまで評判を落としたところは少ない。そのプラットフォームのデータが2016年大統領選のデジタル偽情報キャンペーンに利用されたFacebookである。しかし著者のサミュエル・ウーリー自身が指摘するように、変化は起きている。今日、Facebookはソーシャルメディアの悪用を管理し、フェイクニュースの潮流を食い止めるための取り組みの最前線にいる。では、その活動は現場でどのような姿をしているのか？ 企業改革の内部事情を綴った『Tools and Weapons』の要約で確かめてみてほしい。
