『AI 2041』（2021年）は、AIが今後20年間で私たちの世界をどのように揺るがすのかを探る、挑発的なスペキュレイティブ・フィクションと分析の書です。私たちはAIがもたらす技術革命のほんの入り口に立っているにすぎません。その未来の姿を想像することで、来るべき変化に備え始めることができるのです。
あなたにとっての価値は？今後20年でAIが私たちの生活をどう変えるかを学ぶ
現代社会はすでにSFのような世界だと感じることが多いのではないでしょうか。家電に話しかけて音楽をかけさせたり、ポケットの中のコンピューターが散歩の時間を知らせてくれたりする日が来るなんて、誰が想像したでしょう。しかし、これはほんの始まりにすぎません。深層学習と自然言語習得の発展が、AIの革新を一気に加速させようとしています。
自動運転車や自律型兵器はすでに開発段階にあり、ディープフェイク動画やVRゲームはあまりに精巧で、フィクションと現実の区別がつきにくくなっています。これからご紹介する各章は、2041年の世界を描いた短い物語に始まり、続いてそれらの技術が社会に与えうる影響を分析していきます。これらの章を通じて、AI革命への心構えを整えていきましょう。
AIは生活を最適化してくれるが、あなたのデータを武器にも変える
本書では、以下のことを学びます。
- 完全自動運転車がまだ実現しない理由
- ソーシャルメディア企業があなたのデータをどう利用しているか
- ディープフェイクがなぜ危険なのか
ガネーシャは、投資からお得なスーパーの情報まで、特定のアプリ群を使うよう家族に指示し、数週間後には家族のスマホに常におすすめ通知が届くようになりました。水分補給のタイミングを教え、祖父にはもっとゆっくり運転するように促し、父親の喫煙にはしつこく警告し、ついに禁煙させてしまいました。健康に良い選択をするたびに保険料が下がり、誰にとっても良いことずくめに見えました。ところが、ナヤナが比較的貧しい地域に住む男性と恋に落ちると、家族の保険料は急上昇。AIはどういうわけか、その男性が異なる社会階層に属すると推測し、家族の健康リスクと判断したのです。
ここでのポイントは、AIは生活を最適化してくれるが、あなたのデータを武器にも変えるということ。ナヤナの物語は、AIがいかに社会に存在する差別を再生産しうるかを、身に染みて示しています。過去10年間で最も重要なAIの発展の一つが深層学習です。深層学習によってコンピューターは予測を立て、データを分類し、パターンを認識できるようになりました。Facebookがあなたにパーソナライズされたおすすめを生成し、ネットワーク上で費やす時間を最大化するために使っているのも、この技術です。あなたのクリックをすべて分析し、何百万もの他ユーザーのデータと照合することで、あなたが夢中になるものを正確に予測できるのです。
深層学習には大きなメリットがあります。AIは数百万のデータポイントを分析し、人間の頭では気づけない関連性を見つけ出せます。しかし、AIには人間の思考の繊細さや複雑さが欠けています。個人的な経験や抽象的な概念、常識に基づいて判断することはできません。そして、AIはバイアスや差別に対して脆弱です。ナヤナの物語では、アプリは彼女の恋人が異なる「カースト」の出身で、その交際が社会的に望ましくないと見なされることを理解していませんでした。それでも、相手の家族のデータや居住地を追跡することで、その関係がナヤナの家族の健康への「脅威」であると示唆したのです。深層学習は今後ますます普及し、強力になっていくでしょう。それを社会全体にとって有益なものにする方法は、近い将来の最も切実な課題の一つとなるはずです。
2041年までに、ディープフェイクはあまりに精巧になり、偽物を見破るのはほぼ不可能になる
アマカは怯えていた。怪しげな企業「レレ」から、一流プログラマーとしての腕を見込まれ、ディープフェイク動画を作るよう依頼されたのだ。ナイジェリアの著名な政治家がスキャンダラスな行為を認める映像を作らなければならない。もし断れば、アマカがナイトクラブで男性とキスをしている偽動画を流すと脅された。そんなことになれば刑務所行きはもちろん、家族との間にさらに大きな問題が生じる。
ポイントはこうだ。2041年までに、ディープフェイクはあまりに精巧になり、偽物を見破るのはほぼ不可能になる。2018年、オバマ元大統領がトランプ大統領を「とんでもないアホ」と呼ぶ動画がネット上で拡散し、大騒動になりました。オチは？ それは本物ではなく、BuzzfeedがAI技術で可能なことを示し、目にするものを疑うよう警告するために作ったディープフェイクだったのです。ディープフェイク技術を発展させるには、まずコンピューターに画像を処理し意味を理解させる必要がありました。そこで開発者たちは、画像情報を収集する視覚野と、その情報を処理してより複雑な意味を付与する新皮質を持つ人間の脳から着想を得ました。このモデルを応用して作られたのが畳み込みニューラルネットワーク（CNN）です。
ディープフェイクを作成するには、敵対的生成ネットワーク（GAN）と呼ばれる特別な技術が必要で、これは二つのCNNで構成されています。一つは「偽造者」で、見る画像ごとに何千万ものピクセルを分析し、それぞれの画像の特徴を抽出します。たとえば犬の画像を分析した偽造者は、偽の犬画像を合成できます。それをネットワーク内のもう一つのCNN、「探偵」に送ります。探偵はその偽画像を本物と比較し、偽造者に誤りを伝えます。偽造者はそのフィードバックを使って画像を改善し、再び探偵に送信。このサイクルが何百万回も繰り返され、偽の犬が本物と区別できなくなるのです。そしてこのプロセスは、画像だけでなく、非常に精巧なディープフェイク動画の作成にも利用できます。これは当然、危険な結果をもたらします。アマカの物語が浮き彫りにするように、ディープフェイクは政治的な武器として、候補者の信用を失墜させたり、プロパガンダを広めたりするのに使われかねません。人を脅したり、脅迫したりするためにも利用されえます。現実の世界では2019年、有名人の顔を使った多数のディープフェイク・ポルノがアダルトサイトに出回りました。ディープフェイクに対抗するため、プログラマーたちは人間の目には見えない異常を検知するソフトウェアの開発を急いでいます。しかし、ディープフェイク技術も同じ速さで進化しています。
AIコンパニオンは新たな学びの形を支える
ゴールデン・スパローが幼い頃、両親は交通事故で亡くなり、彼は孤児院に送られました。そこで彼の世話をした人たちは、特別な友達を作ってくれました。彼が大好きなスーパーヒーローにちなみ、アトマンと名付けたコンパニオンです。アトマンに会うには、バーチャルリアリティのインターフェースを備えた特別なメガネが必要で、すぐに彼はそれを常時かけるようになりました。アトマンは完璧な友達でした。ゴールデン・スパローのデータクラウドにアクセスでき、彼のことをすべて知っていたからです。さらに手首に巻かれた生体リボンが、彼の生理状態や行動に関するリアルタイムの情報を絶え間なく提供していました。アトマンは彼の親友となり、宿題を手伝い、質問に答え、冒険の計画を立てました。そして何より、常に彼に話しかけていました。孤立した少年にとって理想的な会話の相手だったのです。
ポイントはこれだ。AIコンパニオンは人々が新たな方法で学ぶのを助ける。アトマンのような支援的なバーチャルコンパニオンを持つ人はほとんどいませんが、多くの人がAIのヘルパーとやり取りした経験はあります。例えば、フライトの予約変更をするときに自動応答のアシスタントと会話するようなことです。コンピューター科学者たちは何十年もの間、コンピューターに人間と会話する能力を与えようとしてきました。しかし、つい最近まで、会話のプロンプトへの応答方法を教え込む労働集約的な作業によって制限されてきました。2017年のグーグルによる「トランスフォーマー」の発明が、すべてを変えました。トランスフォーマーは系列変換ニューラルネットワークの一種です。何百万ページものテキストを分析することで、会話パターンを特定し、人間の介入なしに、与えられた発言にどう応答すべきかを予測できるのです。最近では、OpenAIが独自のマシンを発表しました。これはどんな作家の文体も模倣し、詩を書くことができます。そのマシンは、平均的な人間が50万年かけて読む量のテキストを学習させて作られました。アトマンがゴールデン・スパローの宿題を手伝ったのを覚えていますか？ このような発展は教育を一変させる可能性を秘めています。パーソナライズされたAIの「先生」は、騒がしい教室では得られない注目を生徒に与えられるでしょう。AIチューターは、採点や宿題の割り当て、定型的な質問への回答といった、教師の負担の大きい作業の一部を肩代わりできるでしょう。一方、人間の教師は、AIコンパニオンとは違い、人間が得意とする心の知能指数、創造性、社会性を育むという重要な役割を引き続き担うことになります。
AIは「コロナ世代」の医療に革命を起こす
チェン・ナンは、いわゆる「コロナ世代」の一人です。新型コロナウイルスが発生し世界を荒廃させた後の20年間に育った世代です。彼女は、人々が病気を恐れていなかった時代を覚えてすらいません。COVIDは毎年、季節性インフルエンザとして再来し、誰もが生理データをリアルタイムで送信するバイオセンサー・メンブレンを手首に着用しなければなりません。ナンは、最初のアウトブレイクで祖父母を亡くしたトラウマから、自分が感染することを極度に恐れ、アパートから一歩も出ません。必要なものはすべて消毒され、配達ボットがドアの前まで届けてくれます。家庭用ボットが掃除を助け、仕事もオンライン。だから外に出る理由はありません。ただ、完全に孤立してしまうことを除いては。ずっと家に閉じこもったまま、どうやって人間関係を築き、恋をすればいいのでしょうか？
ここでのポイントは、AIが「コロナ世代」の医療に革命を起こすというものです。チェン・ナンの物語は、COVIDが人々の生活に及ぼしうる長期的影響についての思索的な考察です。しかし一つだけ明らかなことがあります。AIの発展は、ウイルスの治療と、感染を避けるための行動変容の両方において、決定的な役割を果たすでしょう。現在でも、スマートフォンに感染リスクを計算させることは珍しくなく、多くの国が感染の可能性がある人が近くにいる場合に警告を発するアプリを開発しています。こうしたアプリはますます普及し、おそらくプライバシーと安全をめぐる激しい論争を引き起こすでしょう。現在、人々はアプリのQRコードでワクチン接種状況を証明することを求められています。将来的には、物語に出てきたようなバイオセンサー・メンブレンを着用し、生理データを送信し、ワクチンの有効期限を知らせることが必要になるかもしれません。そして、健康記録のデジタル化が進めば、医師は診断や治療の際にそのデータにますます依存するようになります。新たなソフトウェアは、COVIDワクチンの開発速度にも革命を起こすでしょう。COVIDはまた、人々のメンタルヘルスや社会的習慣にも長く影響を残すかもしれません。大多数の人々は世界から完全に隠れることはないにせよ、多くの人はすでに、どこに行き、誰に会うかについて、はるかに慎重になっています。配達ボットのようなAI技術が、こうした行動変容を後押しするでしょう。しかし、今のところ、ロボットは愛を経験できません。だから、チェン・ナンのように対面でのつながりに飢えた人々は、いずれ自分自身を奮い立たせ、家を出なければならなくなるでしょう。
複合現実（MR）が現実とフィクションの境界を曖昧にする
降霊会は、ろうそくの揺らめく暗い部屋で行われ、テーブルにはバラの花びらが散らされていました。アイコは興奮と恐怖を感じていました。年老いた女性の霊媒師が儀式を始めると、突然テーブルが激しく揺れ始め、女性の声が若い男性の声に変わりました。アイコはそれがヒロシだとすぐにわかりました。謎の死を遂げた憧れのロックスターでした。アイコが参加していたのはXR（エクストラ・リアリティ）ゲームです。それは彼女が敬愛してやまない男性と本当に話しているかのような感覚を与えてくれました。実際、彼女のXRグラスは、彼の幽霊が思いがけない瞬間に現れるのを見せてくれました。そしてそのプロットは、彼女の興味、欲望、恐怖に完璧に合わせて作られていました。事前にスマートフォンで詳細なアンケートに答えていたからです。
ポイントはこうだ。複合現実が現実とフィクションの境界を曖昧にする。アイコがプレイしたゲームがこれほど没入感にあふれていたのは、グラスを通して仮想世界を見るだけのVR要素だけではなかったからです。ヒロシは、彼女の自宅やにぎやかな通りといった見慣れた環境にも現れ、実際の物理的環境の要素と相互作用しました。これが複合現実（MR）であり、XRの最新の発展形です。MRは、シーン内の物体認識や自然言語処理といった高度な技術を必要とするため、まだ開発の初期段階にあります。しかし、今後20年でより一層普及し、フィクションと現実の境界を曖昧にしていくでしょう。XRコンタクトレンズや目に見えない内蔵型イヤホンといったテクノロジーにより、その使用感は今日よりもずっと自然でシームレスになるでしょう。また、触覚グローブやボディスーツによって、暑さや寒さを感じたり、触覚をシミュレートしたりすることさえ可能になります。こうしたテクノロジーの明白な応用先は、アイコがプレイしていたような没入型ゲームです。しかし、軍事訓練として戦場をシミュレートしたり、若い外科医がバーチャル患者で技術を磨いたり、教室で生徒が歴史上の人物に「会う」ためにも利用できるでしょう。XRは、遊び、学び、働く方法に多大な貢献をする可能性を秘めています。しかし、悪用される可能性もあります。人々が一日中XRグラスをかけているなら、それはアプリにすべてのデータへのアクセスを許し、私生活の詳細な情報を収集させることにもなります。そのデータがどう扱われるのかを批判的に考え、ユーザーのプライバシーを守る法律を整備する必要があります。
自動運転車は交通システムに革命を起こしうるが、技術の確立は容易ではない
チャマルは訓練センターのコックピットから、スリランカの都市コロンボの路上を車で走らせていました。彼の任務は？ 有名な寺院でのテロ攻撃から観光客を救出すること。彼の車は自動運転車でしたが、プログラムされたルートを乱す災害によってそうした車両も混乱しうるため、彼が安全な場所へ誘導する手助けをしていたのです。寺院へ向かう途中、立ち込める煙を縫うように進みながら、怯え混乱した観光客を次々と車に乗せ、混沌とした通りをかいくぐってホテルまで送り届けました。遠くで銃声が響くたび、その震動が伝わってきました。
ポイントはこれだ。自動運転車は交通システムに革命を起こしうるが、技術の確立は容易ではない。完全自動運転車を生み出すという夢は、何十年もの間、開発者たちの手をすり抜けてきました。実のところ、運転は極めて複雑な作業です。車に乗り込み、どこかへ出かけようとしている場面を想像してみてください。あなたは知覚能力を使って周囲を見渡し、障害物に注意を払う必要があります。目的地に着くためにどこで曲がるべきか、強力なナビゲーションと計画力も必要です。他のドライバーを注意深く観察し、彼らが次に何をするかを予測しなければなりません。そして、どの行動を取るべきか、絶えず瞬時の判断を下す必要があります。これらのスキルは、どんなに高性能なコンピューターでも模倣するのが信じられないほど難しいのです。運転にはあまりにも多くの変数があります。天候が悪いかもしれないし、道路工事中かもしれないし、犬が飛び出してくるかもしれません。これらのあらゆる事態に対処できるようロボットを装備するにはどうすればよいのでしょう？ 他のAI実験とは異なり、これは非常にリスクの高いものです。Facebookがアルゴリズムを間違えれば、不適切な広告が表示されるかもしれません。しかし、自動運転車に技術的な欠陥があれば、人の命を奪いかねません。ただし、人間のドライバーの実績も決して芳しいものではありません。実際、毎年135万人以上が自動車事故で亡くなっています。自動運転車が完全に機能するようになれば、その数字を減らせるかもしれません。チャマルは、拡張現実ゴーグルを使って車の周囲の環境を大画面に再現し、遠隔の仮想空間から安全な場所へと誘導することができました。遠隔地にいる人間のドライバーを活用することは、今のところ自動運転車をより安全にする一つの方法です。もう一つの方法は、道路や都市のデザインそのものを根本的に変えることです。車と常時通信できるスマート道路や、歩行者と車の専用道路を想像してみてください。もしかすると、将来このビジョンは現実になるかもしれません。
自律型兵器は人類に存亡の脅威をもたらす
カリフォルニアの山火事で妻と息子を失ったマークは、悲しみで気が狂いそうでした。しかしその悲しみはやがて怒りへと変わりました。山火事は、技術的進歩のためならどんな代償もいとわない世界が生み出した気候変動の結果でした。物理学者のマークは、量子コンピュータのモデルに取り組んでいました。彼は自らのスキルと知識を使って、自分に多大な苦痛をもたらした世界を停止させようと決意します。彼は鳥の群れのように空を移動できる高度なドローンを作り出し、気候変動に加担する企業幹部やその他の人々を暗殺するよう指示しました。また、主要な港を標的にし、石油供給を完全に混乱させて大混乱を引き起こしました。
ここでのポイントは、自律型兵器が人類に存亡の脅威をもたらすということ。この話は突飛に聞こえますが、マークのようなドローンはすでに存在しています。実際、イスラエル軍は特定の標的を識別し、爆発物を起爆させて殺害できるドローンを開発しました。より洗練されていないドローンでさえ危険です。最近では、ベネズエラのマドゥロ大統領が演説中に、爆発物を放出する2機のドローンによって暗殺されかけました。自律型兵器は、世界中で新たな軍拡競争を引き起こしています。各国は最も高速で致死性の高い兵器を作り出そうとしのぎを削っています。もちろん核兵器は長らく、膨大な数の人々を消し去る力を持ってきました。しかし同時に、戦争に対する抑止力としても機能してきました。大国が核兵器を保有していると知っているだけで、互いを攻撃するのを思いとどまるのに十分だったのです。一方、自律型兵器は匿名で使用できます。誰も発信元を知らなければ、報復するのは非常に困難です。つまり、抑止効果が存在しないのです。さらに、混乱をまき散らしたり、破滅的な戦争を引き起こそうとしたりするテロリスト――物語の中のマークのように――によって展開される可能性もあります。量子コンピューティングの進歩の助けを借りてAIが発展し加速するにつれて、自律型兵器はますます恐ろしいものになるでしょう。だからこそ、潜在的な被害から人類を守る方法を緊急に開発する必要があります。提案されている解決策には、人間の介在の義務化や、化学兵器が禁止されたのと同様の全面的な禁止などがあります。これらの解決策はいずれも、世界的な合意を必要とするため、実現は容易ではありません。しかし、今すぐ行動を起こすことが不可欠です。
自動化が雇用危機を生み出している
全米最大級の建設会社、ランドマーク本社前には、大勢の労働者が抗議に集まっていました。同社は何千人もの従業員を雇用していましたが、その全員がまもなく職を失おうとしていました。理由は？ AIの作業員のほうが、より速く、無報酬で同じ仕事をこなせるため、人間の労働者は不要になったのです。彼らは和解案の一環として「雇用再生」会社に登録され、再訓練と新たな仕事の紹介を約束されました。しかし、あてがわれた仕事は単純労働ばかりか、家族から遠く離れた場所にあることがほとんどでした。AIによって居場所を追われ、生活は根底から覆されました。
ポイントはこれだ。自動化が雇用危機を生み出している。今日、ますます多くの組織が従業員をAIの代替物に置き換えており、単純労働や初級レベルの仕事が最も危険にさらされています。こうした仕事に就いているのは、すでに最低賃金で働いている人々であることが多く、AIは富める者と貧しい者との格差をさらに広げることになるでしょう。配管工のような仕事でさえ、標準化された部品の組み立てを学習したコンピューターに取って代わられつつあります。この大規模な労働者の置き換えは深刻な結果をもたらします。人々は収入を失うだけでなく、有意義な仕事がもたらす社会的な交流や目的意識までも喪失するでしょう。一生をかけて磨いたスキルが、わずか数週間でコンピューターに凌駕されるのを目の当たりにすることを想像してみてください！ 失業はアルコール依存症、うつ病、自殺の増加と関連付けられています。これほどの規模になれば、社会への影響は甚大です。ユニバーサル・ベーシック・インカムのような対策は経済的なクッションを提供し、仕事の自動化によって生み出される莫大な利益の一部を再分配する助けとなるかもしれません。しかし、それは人々に有意義な仕事を与えるという問題を解決するものではありません。そのためには、AIが決して同等にはできない仕事に就けるよう、人間を訓練することに投資する必要があります。AIはデータ分析のような創造性を必要としないタスクにおいて真価を発揮します。一方、人間には創造的に考える能力があります。抽象的な概念を結びつけ、常識を働かせ、自ら課題を設定することができます。こうした能力を必要とする仕事には、常に人間の介入が必要です。また、AIは共感や思いやりといった特性でも人間に及びません。AI看護師は薬を配るのは同じくらい上手でも、人間のように気遣いを伝えることはできないでしょう。ですから、ケアを担う専門職には常に人間が必要とされ続けます。AIに居場所を奪われた人々を支援する最善の方法の一つは、彼らが人間独自のスキルを活かせる新たな道を見つけられるよう、再訓練を支援することです。
AIは幸せを最適化できる──しかし、それには限界がある
ビクターは叩き上げの大富豪でしたが、退屈で落ち込んでいました。だから、ドーハの謎めいた島に招待されたとき、彼は切望していた冒険への願ってもないチャンスに飛びつきました。しかし島に到着すると、コンピューターに自分の全個人データへのアクセスを許可させられ、それが何に使われたのかをすぐに思い知らされました。彼のあらゆる欲望や願望は、頼む前にかなえられました。ロボットが甲斐甲斐しく身の回りの世話をし、彼のお気に入りの音楽が常に流れ、宿泊施設は彼の好きなもので飾りつけられていました。最初は大喜びでしたが、すぐにまた退屈し、常に満たされ続けることにうんざりしてしまいました。
ここでのポイントは、AIは幸せを最適化できるが、それには限界があるということ。AIはあなたが好む食べ物や、共鳴する政治的信条を推測できます。しかし、あなたを幸せにすることはできるでしょうか？ AIはビクターのデータを分析し、彼の幸福を最適化しようとしました。しかし、ポジティブな結果は長続きしませんでした。それは彼の快楽主義的な衝動を満たしましたが、より深い欲求に応える助けにはならなかったのです。では、何が幸福をもたらすのでしょうか？ 1943年、アブラハム・マズローは、人間には「欲求の階層」があるとする理論を発表しました。階層の最下部には、食料と住居に対する根本的な生理的欲求があります。その上には安全、安心、雇用への欲求があり、続いて愛情と所属、自尊心、自己実現の欲求がきます。人類の基本的な生理的欲求を満たすことは、AIの発展によってより容易になるはずです。クリーンエネルギー革命が製造コストを下げ、AIによる自動化が人件費を大幅に削減するでしょう。クリーンエネルギー革命の利益が社会全体に分配されれば、誰も飢えやホームレスを恐れる必要はなくなります。しかし、マズローの階層の下層の欲求が満たされる一方で、この新たな時代がより複雑な欲求をどう満たすかを予測するのは難しくなります。もはや働く必要がなくなったら、人はそれでも自己実現を追求する意欲を持ち続けるのでしょうか？ 何が自分をコミュニティの価値ある一員と感じさせ、愛や所属の経験をもたらすのでしょうか？ これまで見てきたすべての物語が示すように、AIは今後20年、そしてそれ以降の私たちの生き方を一変させる破壊的技術です。しかし、それがどのように展開するかは、まさに私たち次第なのです。人類の政府には、プライバシーを守り、利益を再分配し、環境を保護し、兵器を抑制することで、AIが社会全体の利益となるようにする力があります。私たちの幸福は、それにかかっています。AIは、デートの仕方から仕事の種類まで、生活のあらゆる領域で技術的・社会的変革を加速させるでしょう。
最後のまとめ
しかし同時に、私たちの知る文明を破壊しかねない危険な自律型兵器を動かす力も持つことになります。今は、AIが世界に与える影響を形作るための極めて重要な時期です。ここで、すぐに実践できるアドバイスを一つ。自分のデータに何が起きているかについて、よく知るようにしましょう。投稿をクリックしたり、フライトを検索したりするたびに、あなたはGoogleやFacebookといった巨大企業に無料でデータを提供しています。そのデータは価値があり、個人的な詳細情報を含んでいることもあります。ですから、どうやって自分のデータを共有するかについて慎重になり始めてください。プライバシーに関する声明を精査し、トラッカーから保護してくれる代替の検索エンジンを探しましょう。
