その概要とは？ 喫緊の情報危機に対する必死の警告。
YouTubeに、大統領執務室でマホガニーの椅子に座るオバマ元大統領の動画がある。彼はカメラをまっすぐに見つめ、厳粛に宣言する。「情報化時代をどう前進するかが、我々が生き残るか、あるいは救いようのないディストピアになるかの分かれ目となるだろう。」
しかし、オバマ元大統領が実際にそんなことを言ったことはない。では、何が起きているのか？ これは、非常に精巧に作られたディープフェイクなのだ。作成者は人工知能を使って現実を操作し、完全に信憑性がありながらも、まったくの非現実である新たな世界を作り出した。悲しいことに、偽のオバマが伝えるこの警告は、あまりに遅すぎるかもしれない。我々はすでに、著者が「情報終焉（インフォカリプス）」と呼ぶ、「危険で信頼できない情報」の生態系の中に生きているのだ。
ディープフェイクは、この問題をさらに悪化させるだろう。手遅れになる前に、ディープフェイクと情報終焉がもたらす危険から身を守ることが不可欠である。この要約では、以下のことを学ぶ。
- ディープフェイクがRedditでどのように生まれたか
- ジャーナリストを黙らせるためにディープフェイクポルノがどのように使われたか
- バルト海の小国がサイバー戦争にどう反撃したか
AIのおかげで、写真、動画、音声の改ざんが容易になった。
19世紀、人類は写真を発明した。私たちは初めて、議論の余地のない、真実の現実の一片を捉えることができるようになった。しかしすぐに、「現実」は捉えるだけでなく、操作もできることが明らかになった。当初、写真の改変は骨の折れる作業だった。
しかし時が経つにつれ、それはより簡単になった。今では誰でも、無料アプリをダウンロードするだけで可能だ。結果として、私たちは写真が改変されうるという考えに慣れ、レタッチや編集の痕跡を探すことを知っている。しかし、音声や動画は違うのではないか？ まさか、それらが説得力を持って偽造されることはないだろう？ 実際には、人工知能の新たな発展は、まったく逆の事実を裏付けている。
ここでの重要なポイントは、AIのおかげで、写真、動画、音声の改ざんが容易になった、ということだ。 AI（人工知能）は、深層学習を通じて情報を処理するソフトウェアである。これにより、AIは大量のデータを処理した後に「学習」した内容に基づき、自律的に判断を下せるようになる。「ディープフェイク」という言葉は、この「深層学習（ディープラーニング）」と、明らかな理由から「フェイク」という言葉に由来している。最初のディープフェイクは、AIがどのように人物の顔を既存の動画に置き換えられるかを示した。それらは、匿名ユーザーによってRedditに投稿された。
やがて、それらは憂慮すべき注目を集め始めた。2017年後半、サマンサ・コールというジャーナリストが「AIによるフェイクポルノが登場し、我々はみんな終わりだ」という記事を発表した。彼女の記事は、ディープフェイクポルノで溢れるRedditフォーラムについて警告するものだった。そのフォーラムの創設者は、AIを使ってハリウッドセレブの顔をポルノ女優の身体に置き換えていた。ディープフェイクポルノは、非合意であり、極めて屈辱的で、品位を貶めるものだ。そして、どれほど裕福であっても関係ない。インターネットからそれを完全に消し去ることはできないのだ。
ハリウッドで最も高収入の女優であるスカーレット・ヨハンソンでさえ、そこから自分の名前を守ることはできなかった。Redditの偽ポルノフォーラムは最終的に削除された。しかし、その作成者はディープフェイクの生成に使ったコードを共有してしまった。今では、誰でも独自のディープフェイクを作成したいと思えば、手に入れることができる一連の無料ツールやソフトウェアが出回っている。恐ろしい話に聞こえないだろうか？ しかし、これはまだ氷山の一角に過ぎない。
ディープフェイク技術は向上し続けている。近い将来、画像、動画、音声クリップが偽物かどうかを見分けることは、文字通り不可能になるかもしれない。この技術はすでに、私たちを誤情報と偽情報の暗い道へと導いている。人々は「誤情報（misinformation）」と「偽情報（disinformation）」という言葉を互換的に使う傾向がある。
ロシアは情報戦の達人である。
しかし、そこには重要な違いがある。誤情報は単に間違っているものだが、偽情報は意図的に人々を誤解させることを目的としている。様々な国が偽情報キャンペーンを行っている。だが、この種の戦争における誰もが認める達人はロシアだ。
ソビエトによる最も破壊的な偽情報キャンペーンの一つは、AIDSが大流行していた1980年代に発生した。「インフェクション作戦」として知られ、それはソビエトが資金提供していた『パトリオット』という無名のインド新聞に掲載された記事から始まった。その記事は、米軍が生物兵器としてAIDSウイルスを放出したと非難していた。『パトリオット』紙は、アメリカ人は黒人とゲイの男性を殺害したかったのだと主張した。ここでの重要なポイントは、ロシアは情報戦の達人である、ということだ。 ロシアの偽情報には、ほんの一粒の真実が含まれていた。アメリカは確かに過去に生物兵器計画を持っていたのだ。
しかし、それは1960年代にはすでに縮小傾向にあり、1970年代までには、国防総省は生物兵器の開発よりも防衛に重点を置いていた。その事実は、AIDSに関する主張が拡散するのを止めなかった。この話はアジアとアフリカで特に広まった後、世界中の新聞を席巻し、報道機関によって80か国以上に伝えられた。この話はアメリカの国際的な評判を傷つけたが、国内をも分断した。ソビエトは人種間の緊張を悪用しようとし、特にアフリカ系アメリカ人コミュニティを標的にした。アメリカの歴史を考えると、多くの人々は、自分たちの政府が本当に彼らを殺そうとしていると信じやすかったのだ。
次のクレムリンによる大規模な偽情報キャンペーンは2016年に行われた。その目的は国を分断し、有権者をヒラリー・クリントンから遠ざけることだった。コードネームは「ラークタ計画」。この作戦では、ロシア人がソーシャルメディア上でアメリカ人になりすました。これらの偽のアメリカ市民は、政治的なアイデンティティに基づくコミュニティを作り出した。
コミュニティは注意深く管理されていた。それらは、アメリカ人を二極化させ、ロシアの攻撃戦略に対して無力にするという目的を果たした。あらゆる兆候が、このアプローチが成功したことを示している。アメリカ政治へのロシアの干渉は今や党派的な問題であり、一方はその脅威について過度に偏執的になり、他方はそれが存在すること自体を否定している。
いずれ、ディープフェイクはロシアの戦術をさらに強力で、分断を生み、危険なものにする可能性がある。ソビエト連邦が新聞で「インフェクション作戦」を推進するのに何年もかかった。しかしデジタル時代においては、ディープフェイクは信憑性の高い偽情報を瞬時に拡散できるのだ。
情報終焉（インフォカリプス）は西側民主主義、とりわけアメリカの民主主義を脅かしている。
世界中の民主主義国家が信頼の危機を経験している。2018年の世界調査では衝撃的な数字が明らかになった。民主主義国家に住む人々の64％が、自国の政府は公共の利益のために行動しているとは「ほとんど」または「全く」感じていないと答えたのだ。しかし、同じ調査にはもう一つの驚きがある。非民主主義国では、その数字ははるかに低く、わずか41％だった。
この信頼の危機には象徴的な人物がいる。ドナルド・トランプ米大統領だ。ここでの重要なポイントは、情報終焉は西側民主主義、とりわけアメリカの民主主義を脅かしている、ということだ。 トランプは嘘をつき続けている。これは党派的な主張ではなく、客観的な事実だ。『ワシントン・ポスト』紙が設立したデータベースによると、トランプは2017年1月から2020年1月までのわずか3年間で、1万8000件以上の虚偽および誤解を招く主張を行った。これは1日平均15回の嘘になる。
しかし、トランプは嘘で公共の議論を汚染するだけではない。彼はさらに一歩進む。大統領は真実という概念そのものを希薄化させている。彼はいわゆる「嘘つきの配当」の達人だ。これは、たとえそれが真実であっても、気に入らないものはすべて「フェイク」として退ける戦術である。トランプがすべての批判を「フェイクニュース」として一蹴する様子を考えてみればいい。
しかし、トランプがディープフェイクと何の関係があるのか？ この技術がより顕著になるにつれて、「嘘つきの配当」は誰もが利用できるものになるのだ。自分の評判を落とすような動画が出回っているって？ ならば、それは偽物に違いない。トランプ米大統領が自らの目的を推進するためにディープフェイクを利用しないと疑うなら、考え直すべきだ。彼はすでに、文脈を誤用したり、粗雑に編集された画像、音声クリップ、動画である「チープフェイク」を嬉々として悪用している。
例えば2018年、ホワイトハウスは極右ウェブサイトInfoWarsが最初に流した改変動画をリツイートした。その動画は、CNNのホワイトハウス担当記者ジム・アコスタがホワイトハウスのインターンを身体的に暴行したかのように見せかけていた。現実ははるかに穏やかなものだったが、大統領報道室もそれを知っていた。しかし、アコスタはそのチープフェイクを正当化の理由として、ホワイトハウスへの立ち入り許可を剥奪された。
トランプがアメリカをより分断された危険な国にしていることは間違いない。彼は二極化、不信、欺瞞を常態化させている。アメリカは恐ろしい転換点に向かっているように思われる。
情報終焉は、民主主義が脆弱な国々では致命的な結果をもたらす。
情報終焉は、西側諸国だけでなく、全世界にとっての問題である。誤情報と偽情報が民主主義にとって有害であるならば、言論の自由が制限され、法の支配が存在しない国々にそれらが何をもたらし得るか考えてみるべきだ。2019年、人権団体Witnessは、ブラジル、南アフリカ、マレーシアのジャーナリストや活動家に、ディープフェイクの脅威についてどう感じるかを尋ねた。彼らの回答は驚くほど似通っていた。全員が、外国よりも自国の政府のほうがはるかに危険だと同意したのだ。
ここでの重要なポイントは、情報終焉は、民主主義が脆弱な国々では致命的な結果をもたらす、ということだ。 インドでは、ディープフェイクはすでに政敵に対する道具として使われている。インドの与党BJPを痛烈に批判する調査ジャーナリスト、ラナ・アユーブのケースを考えてみよう。2018年、一連の偽のツイートがオンラインに投稿された。それらはすべてラナからのものに見え、「私はインドが嫌いだ」「私はインド人が嫌いだ」「私はパキスタンが大好きだ」などと言っていた。パキスタンはインドの長年の政敵である。ラナはすぐにフォロワーに対し、ツイートは偽物だと断言した。
しかし、事態はさらに悪化しようとしていた。Twitterにそれらの偽情報が現れた翌日、ラナを映した偽のポルノ動画もオンラインで出回り始めたのだ。衝撃的なことに、それは与党のソーシャルメディアファンページによっても共有された。ラナの電話は、みだらで屈辱的なプライベートメッセージで鳴り止まなくなった。しかし、攻撃者はそれで止まらなかった。ラナは個人情報を晒され（ドクシング）、彼女の個人の電話番号がオンラインで公開されたのだ。
そして、それを共有した人々は、ディープフェイクポルノでメッセージを飾り立てた。ラナは何百もの殺害やレイプの脅迫を受け取った。誰がラナのディープフェイク動画を公開したのかは、まだ明らかになっていない。しかし、それは効果を発揮した。ラナは記事を書くのをやめた。彼女は沈黙させられたのだ。ミャンマーでは、誤情報と偽情報が実際に人を殺している。
2014年、超国家主義的な仏教僧が、マンダレーという町の喫茶店のイスラム教徒の店主が仏教徒の従業員をレイプしたという嘘を広めた。これに反応して、激怒した暴徒たちはマンダレーに押し寄せ、車を破壊し、店を略奪した。過激派はFacebookを使って憎悪のメッセージを増幅し、国内のイスラム教徒に対する脅迫を助長した。やがて敵意は沸点に達した。2015年、ミャンマーのラカイン州は、イスラム教徒のロヒンギャに対する大規模な民族浄化キャンペーンを開始した。Facebookがついにオンライン上の過激派を禁止し始めた時までに、2万5000人のロヒンギャが殺害され、さらに70万人が国外に逃亡していた。
将来的には、より多くの詐欺師が企業や個人を騙すためにディープフェイクを使うだろう。
2016年、ある詐欺師グループが、世界中の大物実業家やリーダーたちから5000万ユーロを騙し取ることに成功した。犯罪者は偽の人物像を使った。その一人はフランスのジャン＝イヴ・ル・ドリアン国防大臣になりすました。使われた技術は驚くほど単純で、ル・ドリアンに似せたシリコンマスクだった。
一人の詐欺師がマスクをかぶり、机の後ろに座った。背景にはフランス国旗が掲げられていた。そして彼と仲間たちは、裕福な個人に対して一連のビデオ通話を行い、フランス政府の秘密任務に資金を提供するように依頼した。詐欺師はまったく滑稽に見えた。マスクは不自然に青白く、目は黒い穴のように見えた。それにもかかわらず、計画は成功した。
何百万ユーロもが詐欺師の銀行口座に振り込まれた。もし彼らが代わりにディープフェイクを使っていたら、どれだけ多くの金を手に入れられたか想像してみてほしい。ここでの重要なポイントは、将来的には、より多くの詐欺師が企業や個人を騙すためにディープフェイクを使うだろう、ということだ。 今日、個人情報を盗むために使われる最も一般的な手口の一つが音声詐欺だ。ディープフェイクは事態を悪化させるだけだろう。2019年3月、『ウォール・ストリート・ジャーナル』紙は、詐欺師が英国のエネルギー会社から25万ユーロを騙し取ったと報じた。
その手口とは？ その会社のCEOの声を真似たディープフェイク音声だ。CEOは数十回のスピーチを行っており、そのすべてがインターネット上で入手可能だった。詐欺師たちはそのコンテンツを収集し、AIを訓練するために使うだけでよかったのだ。ディープフェイクはビジネスにとって危険なだけでなく、個人も危険にさらされている。例えば、ディープフェイクポルノが女性への嫌がらせや、品位を貶め、脅迫するためにどのように使われ得るかはすでに見てきた通りだ。
国によっては、同じ技術がさらに大きな害を及ぼす可能性もある。誰かがディープフェイクを使って同性愛のポルノを作成し、同性愛が違法のままである場所でそれを拡散したらどうなるか考えてみてほしい。最後に、ディープフェイクは陰謀論者をも可能にする。ピザゲートを覚えているだろうか？ その奇妙な陰謀論は、ワシントンDCのピザ店の地下室を拠点とするエリートの小児性愛者集団がいると主張していた。その架空の小児性愛者グループには、ヒラリー・クリントンやバラク・オバマが含まれているとされた。
この理論は完全に、アメリカ民主党全国委員会のメンバー間の流出メールから生まれた。それらのメールの一部に「ピザ」という言葉が言及されていたのだ。もし、例えばヒラリー・クリントンと彼女の同僚の一人が組織的な児童虐待のプログラムについて話し合っているディープフェイク動画があったらどうなっていたか、想像するほかない。
国家主体がCOVID-19パンデミックに関する偽情報を流布している。
COVID-19のパンデミックは世界中に衝撃を与えた。それは数え切れないほどの命を奪い、経済を破壊し、私たちの日常生活を劇的に変えた。しかし、この病気は人々だけに影響を与えたわけではない。それは私たちの情報生態系にも打撃を与えたのだ。
パンデミックを悪用して偽情報を流布している国の一つが、ご想像の通り、ロシアである。ロシアはAIDSと「インフェクション作戦」で行ったのと同じように、新型コロナウイルスに関する陰謀論も促進している。その主張は、COVID-19は米国政府が中国に対する生物兵器として作成したというものだ。そして、事態をさらに混乱させるために、ロシアはまた、そのウイルスは実際には中国の生物兵器だとも言っている。そう、これらの物語は互いに正反対なのだ。しかしモスクワは、米中間の高まる政治的緊張を悪用するために、意図的にこれらを使用している。
ここでの重要なポイントは、国家主体がCOVID-19パンデミックに関する偽情報を流布している、ということだ。 残念ながら、COVID-19パンデミックを悪用しているのはロシアだけではない。中国もまた、ロシア式の偽情報戦術を採用している。パンデミックの初期、中国はこの病気に関するあらゆる議論を検閲した。医師、内部告発者、そして一般市民さえも沈黙させられた。中国共産党はまた、ソーシャルメディア上のアウトブレイク関連のキーワードを検閲した。
パンデミックが他国に到達すると、中国はダメージコントロールに注力した。北京の目的は海外でのイメージを向上させることだった。この国がいかにうまく危機に対処しているかを説明する、勝ち誇った、しかし大げさで不正確な報道がなされた。政府はまた、ウイルスが中国で発生したことを否定しようとした。一方、アメリカでは、トランプが彼なりの方法でパンデミックに関する偽情報を広めていた。2020年2月、パンデミックの始まり頃、トランプはウイルスのリスクを軽視した。
彼は民主党がこの病気を政治利用していると非難した。これは、彼の言葉を借りれば、敵対者による「新たなデマ」であり、彼の評判を傷つけようとする試みだという。しかし3月中旬までに、アメリカのコロナウイルス感染者数は1万人に達し、経済は景気後退に陥りつつあった。3月17日、トランプは方針を180度転換した。彼はそれまで言っていたことすべてを否定し、「これはパンデミックと呼ばれるずっと前から、私はこれをパンデミックだと感じていた」と誇示した。危機を通じて、トランプは記者会見で誤情報を流し続けた。
かつて彼は、消毒剤を「体内への注射」によって投与できると示唆したこともあった。パンデミックにおいて、正確な情報は不可欠だ。誤情報と偽情報は文字通り命を奪いかねない。しかし、真実とは何か？ これほど多くの矛盾する物語が溢れていると、それを見分けるのは非常に難しい。
情報終焉との戦いには、事後的アプローチと事前的アプローチの両方が必要となる。
情報終焉が世界中の社会に差し迫った危険をもたらしていることは明らかだ。しかし、私たち一人ひとりがそれと戦うために何ができるだろうか？ まず、問題がいかに深刻かを認識することから始められる。あなたがこの要約を読んだことは、すでにその第一歩だ。
しかし、ディープフェイクと情報終焉によってもたらされる脅威と戦うためには、我々はさらに、はるかに先へ進む必要がある。共通の言語を見つけ、用語について合意する必要があるのだ。良い知らせは、社会全体が「偽情報」「誤情報」「ディープフェイク」といった用語に、より精通しつつあることだ。ここでの重要なポイントは、情報終焉との戦いには、事後的アプローチと事前的アプローチの両方が必要となる、ということだ。 ディープフェイクが一般的になったとき、信頼できるジャーナリズムを支援することがこれまで以上に重要になる。そして、ファクトチェックサービスが不可欠になるだろう。
米国では、Politifact、Snopes、APファクトチェックなどがこれに含まれる。欧州には、Fullfact、BBCのリアリティチェック、AFPファクトチェックがある。誤情報や偽情報から身を守ることができる、シンプルなラップトップベースのツールもある。例えばNewsGuardは、ウェブサイトが信頼できるかどうかを教えてくれるブラウザプラグインだ。つまり、自分が消費する情報が真実であることを確認するために、既にかなりのことができる。しかし、情報終焉から単に身を守るだけでは十分ではない。
我々は積極的にそれと戦わなければならない。幸いにも、サイバー攻撃や情報戦に対してすでに勝利を収めた国もある。バルト海に面した旧ソビエト連邦の小国、エストニアを見てみよう。2007年、ロシアはエストニアの政府、メディア、銀行インフラに対して一連の悪質なサイバー攻撃を実施した。エストニアはこの猛攻撃に屈するのではなく、積極的なアプローチを取った。まず早期警報システムを立ち上げ、国民にロシアの偽情報攻撃を警告した。
次に、ITと通信の専門家からなるボランティアグループを結成した。彼らは国民のサイバー攻撃への準備と対応を支援した。そして最後に、この国は堅牢で多層的なサイバー防衛システムを構築した。エストニアの例が示すように、社会には選択肢があるのだ。
現実と偽物が絶望的に絡み合った世界に生きたいかどうかを決めるのは私たち次第である。そう望まないのであれば、我々は協力してディープフェイクと情報終焉の脅威を撃退しなければならない。ディープフェイクの質は劇的に向上している。
最終的なまとめ
いずれ、偽のコンテンツと本物のコンテンツを区別することは不可能になる。世界中の悪意ある行為者がこの濁った水域で漁をし、詐欺を働き、人々や企業の品位を貶め、搾取するだろう。我々は偽情報から身を守り始めなければならない。さもなければ、情報終焉の犠牲者になる危険を冒すことになる。実践的なアドバイス：既存のディープフェイクに触れること。
ディープフェイクの猛攻撃に備えたいなら、偽のコンテンツを認識することを学ぶ必要がある。まずは、すでに存在するものを探求することから始められる。例えば、thispersondoesnotexist.comというウェブサイトを訪れてみよう。このサイトはAIを使って、実際には存在しない人間の顔を生成する。それが偽物だと見分けるのは驚くほど難しい。しかし、これこそが情報終焉において我々が直面しているものなのだ。
