『来るべき波』（2023）は、警鐘を鳴らす一冊です。人工知能と遺伝子工学は、単なる未来のテクノロジーではありません。すでに私たちの世界を造り変えています。過去のどの変革的テクノロジーよりも、これらの技術には、今後数十年を人類史上最高の時代にする力もあれば、最悪の時代にする力もあります。私たちの社会がどちらの道を進むかは、私たち自身と、目前に迫るリスクと恩恵についてどれだけ明晰に考えられるかにかかっています。
本書から得られるもの──AI革命のリスクと恩恵を見極める
私たちはテクノロジー革命の初期段階にいる、とムスタファ・スレイマンは主張します。それが本書のタイトルにある「来るべき波」です。それは世界を造り変えようとしている2つのテクノロジー──人工知能と遺伝子工学──で構成されています。
ほどなく、私たちはAIシステムに囲まれて暮らすようになるでしょう。実際、AlexaやChatGPT、リアルタイム音声テキスト変換など、すでに囲まれています。ただ、近い将来、これらのシステムは現在よりもはるかに多くの重い仕事をこなすようになります。履歴書を書いたり、好きな曲をかけたりするだけでなく、私たちの生活を整理し、私たちが選んだ政府の中枢を動かすようになるのです。
これらの技術が大規模に普及すれば、2つの道のどちらかにつながるとスレイマンは示唆します。かつてないほど豊かで健康で幸せな私たちを生み出す道か、それとも失業、暴力、恐怖、崩壊していく国家に特徴づけられるディストピアへと突き落とす道か。
テクノロジーそのものは、どちらかを決めるわけではありません。あらゆる道具と同じように、それらは善にも悪にも使えます。ロボットはお年寄りの家事を手伝うこともできれば、デモ隊を暴力的に弾圧することもできます。DNA合成装置は古い病気を治すこともできれば、新しい病気を生み出すこともできます。突き詰めれば、それらは私たちの最も善い面と最も悪い面の両方を増幅するのです。つまり、前例のない強力なツールの恩恵を受けながら、悪用される可能性による脅威を封じ込める方法を決めなければならないのです。
「リベンジ効果」の不可避性
人類は新たな夜明けの瀬戸際に立っています。未来のテクノロジー──とりわけ人工知能と遺伝子工学──は、これまで私たちが見てきたどんなものとも異なるでしょう。
端的に言えば、それこそが『来るべき波』の核心にある問題であり希望です。これらのテクノロジーは莫大な富と余剰を生み出す一方、前例のない破壊をもたらす、とムスタファ・スレイマンは論じます。しかし、その前に文脈を押さえておきましょう。こうしたテクノロジーの根本的な新しさにもかかわらず、これは多くの点で私たちがよく知る問題です。テクノロジーの歴史が示すように、ブレークスルーには昔から意図せぬ副作用がつきものでした。
テクノロジーとは、根本的には絶え間なく変化するアイデアの集合体です。新しいテクノロジーは、他のテクノロジーと衝突しながら進化します。その進化を支配する法則はダーウィン的です。効果的な組み合わせが生き残り、さらなるイノベーションの材料となるのです。つまり、発明は自らを糧として成長します。昨日のブレークスルーは、明日のイノベーションの部品になります。例えば、携帯電話がGPSからQRコード、顔認識まであらゆるものを「飲み込み」、今日私たちがポケットに入れて持ち歩く万能スマートフォンになったことを考えてみてください。
工学的に見れば、これは好循環のフィードバックループです。しかし、テクノロジーは真空の中で進化するわけではありません。それは私たちの動的な世界の一部なのです。テクノロジーは意図通りに使われないことが多く、波及効果こそが常です。トーマス・エジソンの蓄音機は視覚障がい者を助けるためのものでした。彼は人々が実際に蓄音機に与えた用途──音楽を聴くこと──を軽薄な誤用だと考えました。しかし、その「誤用」は一大産業を生み出し、大衆文化を永遠に変えました。同様に、アルフレッド・ノーベルの爆薬は戦場ではなく、採掘と鉄道建設のために設計されました。それでも結果的には、人間が互いを殺傷する能力に革命をもたらしたのです。
次に、ドイツの職人ヨハネス・グーテンベルクです。彼は利益を生む現地語の聖書を大量印刷する装置を設計しました。結局、彼の印刷機は科学革命と宗教改革を促し、何世紀にもわたってヨーロッパの政治生活を支配してきた制度──カトリック教会──の権威を揺るがすことになりました。まさに意図せざる結果の典型です！
こうした結果は「リベンジ効果」とも呼ばれます。一度意識して探し始めると、いたるところで見つかるようになります。抗生物質を例にとりましょう。奇跡の治療薬でしたがあまりに効果的だったため、過剰処方に至り、治療抵抗性の新たな病気の株を生み出してしまいました。宇宙探査もそうです。私たちは衛星やロケットの打ち上げが非常に上手くなったため、地球を周回するゴミや残骸が宇宙への野望を脅かすようになっています。
予期せぬ結果は、成功するテクノロジーに組み込まれています。テクノロジーが普及するほど、ユーザーはそれを造り変え、再解釈します。急速な進歩は、しばしば一人の科学者やガレージのいじくり屋から始まりますが、すぐに社会全体の難問になります。FacebookやTwitterは民主主義を毒する偽情報の拡散を加速させるつもりはありませんでした。しかし、何百万人もの市民がニュースソースとしてそれらに依存し始めたとき、まさにその通りのことが起きました。
歴史的に、社会はそのような難問を引き起こすテクノロジーを抑圧することで回避しようとすることがありました。例えば、教皇ウルバヌス2世はクロスボウを禁止しようとしました。あまりに効果的で、キリスト教的でないという理由でした。数十の国家が印刷機を弾圧し、その権威を弱めようとしました。産業革命の頃には、職人たちが生計を脅かす新しい機械を破壊しました。しかし、抵抗は無駄でした。クロスボウ、書籍、産業用織機といったテクノロジーは存続し進化し、人類文明の姿を変えていったのです。
スレイマンにとって、AIや遺伝子工学のような画期的なテクノロジーもまた、有用すぎて抑圧できないものとなるでしょう。しかし、過去のブレークスルーと同様、それらが広く採用されることで深刻なリベンジ効果が生まれる可能性があります。その効果がどのようなものになるのか、また、その恩恵を活用しながらいかにして脅威を封じ込めるか──それが本要約のテーマです。
人工知能と遺伝子工学はすでに世界に革命を起こしている
私たちの世界の変革はすでに進行中です。言い換えれば、未来は今なのです。
人工知能を見てみましょう。AIシステムはほぼ完璧な精度で顔や物体を認識できます。即時の言語翻訳や音声テキスト変換はあまりに上手く機能するため、私たちはそれを当たり前だと思っています。AIは道路をナビゲートし、自律走行しています。AIモデルにいくつか簡単なプロンプトを与えれば、斬新な画像や一貫性のある文章を生成し、オリジナル曲を作曲します。
AIはどこにでもあります。私たちのスマートフォンの中にも、ニュースの中にも。ウェブサイトを構築し、株取引も行っています。こうしたシステムはデータを与えれば与えるほど性能が向上します。そして、世の中には収集・分析すべきデータが大量に存在します。間もなく、AIシステムは話し、推論し、そして感覚システムの急速な向上によって、不気味なほど人間らしい方法で世界を見るようになるでしょう。これらのシステムが私たちの認知能力を超えるのは、起こるかどうかではなく、いつ起こるかの問題なのです。
次に遺伝子工学です。DNAを操作する能力は、かつてはエリートの専有物でした。国家規模の予算と科学の天才たちが必要だったのです。しかし、バイオテクノロジーは民主化されました。かつて何年もかかった実験が数週間で完了できます。特注のDNA鎖を印刷できる合成装置は、かつては莫大な費用がかかり何トンもの重さがありましたが、現在では卓上型合成装置がわずか25,000ドルで手に入ります。つまり、生物学の大学院レベルの訓練を受けた人なら誰でも、自宅のガレージで快適にDNAを製造できるのです。
コストの低下と実験の急増は、健康革命を約束しています。鎌状赤血球症のような病気の治療法はすでに開発中で、HIV、嚢胞性線維症、さらには癌の治療法も間もなく続くかもしれません。一方、安全な遺伝子治療は、超強靭で病気に強く、干ばつに耐え、高収量の新世代作物を生み出し、増え続ける飢えた世界人口の食料供給を保証してくれるでしょう。
来るべき波の恩恵は、したがって明らかです。経済をより生産的にし、生活をより便利にし、私たちの体をより長持ちさせてくれるのです。しかし、テクノロジーを理解したいなら、ポジティブな波及効果を予測するだけでは不十分です。意図せざる結果や先に述べたリベンジ効果も見越す必要があります。私たちはAIや遺伝子工学の大量普及にはまだ遠くいますが、脅威はすでに地平線上に迫っています。
最も明白な脅威は雇用に関するものです。自動化は常に労働力を置き換えます。まず特定のタスクの完了をより効率的にし、次に特定の役職を不要にし、最終的には労働力全体を侵食します。それは、かつて何百万人もの産業労働者を雇用していた北米とヨーロッパのラストベルトの物語そのものです。経済学者はこれを技術的失業と呼びます。例えば、ロボットが人間よりも安く効率的な自動車製造者であるという事実によって引き起こされる失業です。しかし、過去においては、工場、鉱山、造船所でのブルーカラーの仕事の喪失は、サービス産業におけるホワイトカラーの仕事の成長によって相殺されました。簡単に言えば、工場で仕事を見つけるのは難しくなりますが、弁護士、デザイナー、コールセンターの従業員、受付係、ソーシャルメディアインフルエンサーへの需要は高まるのです。
しかし、それこそがまさにAIが自動化しようとしている種類の仕事なのです。AIは、データ入力やカスタマーサービスに従事したり、メールを書き、要約をまとめ、文書を翻訳し、コンテンツを制作して生計を立てている多くの人々よりも、安価で効率的な認知労働者となるでしょう。要するに、「認知的肉体労働」の時代は終わりに近づいています。しかし、来る技術的失業の波を相殺する仕事がどのようなものなのか（もしあれば）は明らかではありません。かつて豊かだった都市が中流のラストベルトになったとき、何が起きるのでしょうか。一つ確かなことがあります。大量失業と経済的不安定は、歴史的に民主主義にとって良いものではなかったということです。
来るべき波は権力とリスクを民主化する
権力とは、辞書の定義では何かをなし遂げる能力のことです。ある特定の方法で行動したり、他者や出来事の成り行きに影響を与えたりする能力のことです。スレイマンは、テクノロジーは権力の一形態であるがゆえに政治的だと論じます。つまり、テクノロジーはその所有者と使用者に何かを可能にするのです。彼の見方では、来るべき波の唯一最大の特徴は、ますます強力になるテクノロジーへのアクセスを民主化していくということにあります。
今日、私たちのほとんどは主にコンテンツの消費者です。しかし、AIシステムは誰でも専門家品質の動画、文章、画像コンテンツを制作できるようにします。AIは友人の結婚式のスピーチのアイデアを考えるのを手伝うだけでなく、ほぼ無料で、おそらくプロのスピーチライターよりも上手く、あなたのために書いてくれます。あるいは、先に述べた卓上型合成装置を思い出してください。25,000ドルの余裕がある人、あるいは借りる能力がある人、そして自己学習の才能がある人なら誰でも、新しいDNAを作ることができます。さらに不気味なことに、致死的で超伝播性の新しい病原体を作ることもできるのです。
つまり、これらのテクノロジーは権力を増幅するのです。AIは、目標を持つすべての人（つまり私たち全員）に、野心を実現するための強力な味方と洗練されたツールを与えるでしょう。それは諸刃の剣です。これらのツールを使えば、説得力のある履歴書を書いたり、コミュニティイベントを企画したり、ビジネスの効果的なマーケティング戦略を立てたりするのが簡単になります。しかし、同時に悪意ある行為者が説得力のある偽情報キャンペーンを設計したり、全体主義国家がより効果的な監視システムを構築したりするのも簡単になるのです。安価な権力を手元に持つことは、宗教的、文化的、軍事的、商業的、民主的、権威主義的、善、悪を問わず、あらゆる動機を増強することになります。アクセスの民主化は、リスクの民主化も意味するのです。
この展開が非常に混乱したものになる可能性があるのは、驚くにはあたりません。一つの例、サイバー攻撃を見てみましょう。
初期の成功したAIシステムの一つにAlphaGoというものがありました。その唯一の仕事は、古代から続く非常に複雑なことで知られる中国のボードゲーム、碁を打つことでした。数ヶ月のうちに、世界チャンピオンを軽々と打ち負かすほど上達しました。どのようにしてゲームを「学習」したのでしょうか。基本的に、自分自身と何度も何度も対戦したのです。何百万回もの自己対戦から得たデータを解析した結果、予想外の戦略を編み出しました。碁には何十億もの手があるため、その分析の成果なのです。
ここで、電力網に対するAI対応のサイバー攻撃を想像してみてください。AIは自身の脆弱性を系統的に学習し、リアルタイムで自己修正します。さらに、最初の攻撃で発見したシステム上の弱点を突くように進化し、その電力網につながるすべての病院、オフィス、家庭、銀行へと移動し始めると想像してください。シャットダウンしようとする試みを検知できるため、それらの試みを回避するための予想外の手を学習します。最終的には停止させられますが、生命維持装置、軍事施設、交通信号、金融データベースが破壊された後なのです。つまり、国家が依存するインフラの大部分を破壊した後にしか停止できないのです。
それは一つの可能性にすぎません。他にもたくさんあります。例えば、武装したAI搭載、顔認識機能付きドローンでテロリストや学校での銃撃犯が何をするか想像するのは、さほど難しいことではありません。しかし、ここでの問題は、そのような攻撃で被るドルや人命で測られるコストよりもさらに大きなものです。
本当の問題はこれです。権力の民主化は、国民の忠誠と帰属を得るための近代国家の最も重要な主張──国民の安全を確保する能力──を切り崩します。安全保障は国家にとって任意の機能ではなく、基盤なのです。私たちの安全を守れないなら、あるいは電気を点け続けることもできないなら、国家はどうやって信頼を維持できるでしょうか。病院、学校、電力システムが機能不全に陥り、政府にも市民にも打つ手がないとしたら？国家が私たちを守れなければ、私たちは遅かれ早かれ自問することになるでしょう。帰属と忠誠にまだどれほどの価値があるのかを。
新たなリスクには正面から向き合わなければならない
来るべき波のテクノロジーは、価値あるものであると同時に危険でもあります。価値があるのは、私たちの最も善い面を可能にするから。危険なのは、私たちの最も悪い面を増幅するからです。
AIは地球温暖化を緩和する新しい方法を見つけるのに役立つかもしれませんが、悪意ある行為者たちは、株式市場を暴落させ、電力網をダウンさせる能力により興味を持つでしょう。
これは未知の領域です。AIシステムがどれほど速く自己改良するのかは分かりません。まだ発明されていないバイオテクノロジーを使った実験室での事故がどんな結果をもたらすかも分かりません。分かっているのは、急速に進化し自己組織化する自動機械や新たな生物製剤が一度世界に解き放たれてしまえば、時計の針を戻す方法はないということです。
しかし、それはこの領域につきものです。テクノロジー革命によって誰もが私たち全員に影響を与えるツールを発明し使用できるようになると、そうなるのです。過去のテクノロジー革命、例えば印刷機の発明を指針として振り返ることはできます。しかし、私たちが扱っているのは根本的に新しい産物です。新しい生命体、新しい化合物、さらには新種です。大惨事の可能性が低いと仮定しても、私たちは基本的に手探りで動いているのです。おそらく、いつかどこかで何らかの形で、何かが失敗するでしょう。
では、何をすべきなのでしょうか。生命を豊かにするテクノロジーを締め付けることなく、リスクをヘッジし、リベンジ効果を封じ込めるにはどうすればよいのでしょうか？
北京、ブリュッセル、ワシントンのAI研究者、CEO、弁護士、政策立案者は皆、同じことを言います。規制だ、と。過去にも同じことがあった、自動車を見ればいい、と彼らは主張します。
それほど単純であればいいのですが！AIと遺伝子工学の展開に比べれば、自動車の大量普及はカタツムリの歩みのように遅いものでした。趣味のいじくり屋たちがDNA合成装置を手に入れ、テクノロジー企業は毎月数十億ドルを研究開発に費やしています。一方、政治家は24時間のニュースサイクルに囚われ、短期的な危機から次の危機へとよろめきながら進んでいます。テクノロジーは週ごとに進化していますが、政府は行き詰まりに陥り、立法の取り組みは現実の展開から何年も遅れています。
自動車はまた別の問いも投げかけます。確かに規制のおかげで道路はより安全で秩序あるものになりましたが、私たちはスプロール現象から汚染まで、悪い結果に囲まれています。それ以前に、交通事故で毎年150万人近くが今も亡くなっているという事実があります。
これは規制が無駄だと言っているのではありません。むしろ重要なのは、社会や国家として、スプロールや汚染、ある程度の交通事故死は、自動車の大量使用の利益を考えれば許容できる人間的コストだと私たちが決めてきたということです。言い換えれば、政策立案者が「規制」と言うときにしばしば念頭に置いているものは、重要な何かを見落としています。つまり、社会がテクノロジーの長所と短所を自らの間で比較衡量するやり方です。規制は単に法律を通すことだけではありません。社会規範や価値観、リスクと報酬のバランスも含まれるのです。
つまり、何をすべきかについては、まだ明確な答えがありません。しかし、明確な答えを提供することは、ムスタファ・スレイマンが『来るべき波』を書いた理由ではありませんでした。彼の主張は、私たちが来るべきものを緊急に認識する必要があるということです。未来は今ここにあります。これらの新しいテクノロジーについて語るべき時が来ているのです。こうした問いが世間の関心に上れば上るほど良い、と彼は結論づけます。
まとめ
人工知能と遺伝子工学は、単なる未来の概念ではありません。それらは私たちの現在の世界を造り変えつつあります。過去の変革的テクノロジーと異なり、これらは今後数十年の人類史を向上させることも、破壊することもできる潜在力を秘めています。私たちの社会がどちらの方向に進むかは、目前に迫るリスクと恩恵を見極める私たちの能力にかかっています。
