『AIの時代』（2021年）は、人工知能の進化、そしてそれが生活のあらゆる側面にますます統合されていく様子と、AIと倫理・安全保障・経済・人間の経験そのものとの関係をめぐる深遠な問いを検証する一冊です。
本書を読むと得られるもの――まったく新しい世界
人工知能（AI）の影響力は、理論上の応用をはるかに超え、今や世界文明の実体ある一部となっています。AIは急速に進化し、創作芸術から高度な兵器システムに至るまで、あらゆるものに影響を及ぼしています。AI開発のスピードと日常生活への浸透は、そのガバナンスと倫理的な使用に関する重大な問いを投げかけています。社会とその指導者たちがAIの進化にどう向き合うかは、現代を決定づける課題です。
本要約では、AIの起源を探り、現在の能力を評価し、その未来の軌跡を考察します。さらに重要なのは、AIテクノロジーによってますます形作られつつある時代に生じる、重大かつ複雑な問いを深く掘り下げることです。
チューリングから現在まで
AIは、理論上の概念から機械学習のような高度なテクノロジーへと急速に進歩し、私たちの期待を打ち破り続けています。
機械が人間レベルの知能を示せるかどうかを見極める先駆的な評価法を提案したのは、20世紀の科学者であり哲学者でもあったアラン・チューリングでした。彼のアイデアは、数学のテストではなく創造的な課題を機械に与えるというものでした。チューリングが説明した実験では、人間の評価者がコンピュータと別の人間の両方と文字で会話をしますが、どちらがどちらかは知らされていません。評価者はその後、機械が自然言語能力を通じて人間らしい応答・推論・感情的知性を示す能力を判断します。
このアプローチは、言語の流暢さ、問題解決、新しい情報への適応といった課題に対する機械の能力を試すことに重点を置いていました。数学的な卓越性だけでは不十分でした。知能に関するチューリングの基準、いわゆるチューリングテストは今日でも影響力を持ち、速度や精度の指標を超えたAI進歩の重要なベンチマークを形作っています。
研究者たちは、ルールベースのコードだけでは人間の認知を再現できないことに気づきました。そこで、ニューラルネットワーク――機械学習に用いられるノードのネットワーク――を用いた技術が開発され、AIがあいまいで不完全な情報を私たちと同じように学習できるようになりました。AIに分子構造と抗生物質の有効性の十分な例を与えれば、科学が予見しなかった強力な新薬を予測するでしょう。古典小説やニュース記事を与えれば、独創的で、しばしば不気味な物語を生み出すでしょう。
プログラムに指示通り正確に動作するよう命令するだけでなく、トレーニングデータに基づいて学習するコードも開発されています。
生物学の分野では、タンパク質の折りたたみ構造を予測するシステム「AlphaFold」がこれをよく示しています。DNAデータでトレーニングすることで既存の科学をはるかに上回る精度を達成し、生物学者が信じられない規模で理論を検証することを可能にしました。
そのために科学者たちは、実験的に決定された17万以上の3Dタンパク質構造を含む「タンパク質データバンク」などの巨大なデータベースを利用しました。また、3D構造が不明な数百万のタンパク質配列を含む「UniProt」などのデータセットも使用しました。これらのトレーニングセットからの情報を組み合わせることで、AlphaFoldは適切に折りたたまれたタンパク質がどのようなものかを学習し、まだ解明されていないタンパク質についても一般化しました。多くの改良を重ねた結果、このトレーニングはタンパク質折りたたみの予測において前例のない成果を生み出し、疾患と薬物相互作用のより深い理解への可能性を開きました。
数多くの利点がある一方で、AIには限界があり、それはしばしばバイアスや予測不可能な誤りを通じて明らかになります。
トレーニングデータの欠陥や人間の監視不足は、システムの出力を大きく歪める可能性があります。例えば、Microsoftのチャットボット「Tay」は、一般ユーザーとのやり取りの後に人種差別的・性差別的な言葉を吐き出し始めました。また、情報を処理する際の文脈の欠如は、人間なら犯さないようなAIの失態を引き起こします。
ChatGPTのような大規模言語モデルは、AIシステムを膨大なテキストデータセットでトレーニングし、言語と文章の仕組みに関する微妙なパターンを学習させます。これらのシステムは文の中で次に来る可能性が最も高い単語を予測し、流暢で人間らしいテキストを構築します。大規模モデルは、正確さや真実ではなく、テキストシーケンスを流暢に続けることを最適化します。したがって、監視がなければ、もっともらしいが完全に捏造された、あるいは非倫理的なテキストを自信を持って生成する可能性があります。Tayの例で見たようにです。
したがって、AIが倫理と社会的利益に確実に一致するよう、説明責任を組み込むことが極めて重要です。各国が専門資格、基準、コンプライアンス監視を導入しているのは、テクノロジーの成長が自然に減速することはないからです。しかし、適切に導かれれば、AI弁護士、アシスタント、さらには芸術家といった、人間文化の多様な美しさを反映する驚くべき創作作品を生み出す可能性があり、刺激的な未来が待っています。
グローバルネットワーク
強力なデジタルプラットフォームは今や現代生活に不可欠なものとなり、世界中の数十億人のユーザー体験を最適化するためにAIに大きく依存しています。ソーシャルメディア、eコマース、検索エンジンなどのサービスは、私たちが目にする情報や製品をカスタマイズするためにアルゴリズムを使用しています。
これは計り知れない利便性をもたらす一方で、説明責任に関する複雑な問いも提起します。AIがコンテンツをキュレーションする際、意図せず社会の分断を助長したり、民主主義に不可欠な学術的議論を制限したりする可能性があります。
Facebookはこの緊張関係を示しています。そのアルゴリズムは、プラットフォームへのエンゲージメントを高めるために、ユーザーの好むコンテンツや友人を表示することに優れています。しかし、その同じアルゴリズムが、最近の選挙で扇情的な誤情報が急速に拡散するのを可能にし、怒りやクリックベイトに基づくデジタル的な視野狭窄を生み出しました。しかし、潜在的な解決策にも声を検閲するリスクがあります。このプラットフォームは、有害な投稿や偽アカウントに対抗するため、コミュニティ基準と削除手続きを拡大してきました。しかし、それでも間違いは必然的に発生し、物議を醸すが重要な視点を共有する活動家やジャーナリストをブロックしてしまう可能性があります。
こうしたモデレーションの仕組みは、微妙な文脈を分析する際のAIの欠陥を浮き彫りにします。機械はあらゆる状況を完璧に判断することはできません。特にユーモアや政治的異論などを含むコンテンツはそうです。問題のある素材を検閲することは、社会の回復力を築く、好ましくない考えへの健全な接触を制限することになるのでしょうか。私たちは社会がどのような道徳的・知的原理に従って生きることを望むのでしょうか。そして、AIがこうした社会的期待に確実に従うようにするにはどうすればよいのでしょうか。
ますます高度になり、そのため透明性の低くなるAIにコンテンツのモデレーションと形成を依存するにつれ、こうした選択の政治的・技術的な影響は依然として不明です。進歩のペースが速すぎて、多くの国はAIを自国の文化の中で導入すべきかどうか、またどのように導入すべきかを判断できていません。これは、AIがそれを使用する文化ではなく、それを開発した文化によって決定される特定の社会的想定を内包していることを意味します。
そして、政府だけがプレイヤーではありません。見てきたFacebookの例は、AIを使用する大企業が競争上の優位性を維持するために地政学的な状況に影響を与え得ることを示す良い例です。知識が力であるなら、知識の流れを誰がコントロールしているのかを自問する必要があります。
全体として、AIの技術的進歩は、人間の異論そのものと同じくらい古い問いを提起しています。意見の相違、誤情報、認識された真実は、常に公共の場で競い合ってきました。しかし、現代テクノロジーの世界的な規模と高度さが、これらの問いを増幅させています。この素晴らしいテクノロジーを最大限に活用する世界を築くなら、AIに関する私たちの決断の広範な影響を考慮することが重要です。
安全保障と防衛
AIが知識の獲得と応用において人間を模倣し、しばしば凌駕する様子をすでに目撃していますが、未来への刺激的な約束とともに、より暗い影響力も作用しています。
1940年代の核兵器開発と同様に、AIは防衛技術に革命をもたらすと期待されています。兵器の標的化、ドローン群の調整、ネットワーク防衛などの分野へのAIの統合は、歴史的な前例のない新たな危険をもたらします。核攻撃を開始することを各国に思いとどまらせる「一線を越える」こととは異なり、AIは人間の制御を曖昧にします。さらに、攻撃能力の拡大は安全保障戦略を深刻に複雑化させています。
例を見てみましょう。AIによって可能になった自律型サイバー兵器は、解き放たれた後、独立してネットワークの脆弱性を探索する可能性があります。それらはコードを適応させて意図した以上に拡散する可能性があり、認識されたエスカレーションリスクに基づく従来の抑止モデルは信頼できなくなります。敵対的なマルウェアがAIを利用して攻撃をシステムの不具合に偽装する場合、適切な対応のための時間内に気づくことも困難になります。
冷戦時代の核ドクトリンは、危機を防ぐために明確な脅威シグナルに依存していました。しかし、こうした新しい防衛力学には曖昧さが付きまとい、国際的な平和対話に不安定性をもたらします。
さらに、防衛の戦略面に統合されたAIは、複雑な作戦中に意図せず偏った方法で指揮官に助言する可能性があります。現在の認識ソフトウェアは、照明条件や角度がわずかに変わると基本的な物体を区別するのに苦労することがあります。顔認識や行動パターンに基づいて標的を決定することをAIに任せてよいのでしょうか。戦闘状況でAIが下す決定に対して、誰が責任を負うのでしょうか。
放射線関連の事案について米軍に助言するために「軍隊放射線生物学研究所」のような組織は存在しますが、AIについて助言する同等の組織は存在しません。これは、世界最大の軍事大国が、現場でAIを誤用することに対しても、予測不可能な方法でAIが自国に対して使用されることに対しても脆弱であることを意味します。
したがって、防衛計画は新たなリスクと現在の安全保障技術の現実とのバランスを取らなければなりません。私たちは未来を見据えると同時に、現在AIが実際にどのように機能しているかを理解しなければなりません。しかし、このテクノロジーが出現しつつある今、私たちには国際的に倫理規範と協力チャネルを発展させ、責任ある成長を導く機会があります。
弾丸が外交に先立つ必要はありません。これまでのように。学術的協力と政治的便宜を通じて、AIが最初に脅威となることなく安全に進歩することは可能です。しかし、今行動する先見性がなければ、AIが前例のない方法で世界秩序を揺るがすのを目撃することになるかもしれません。
AIと人間のアイデンティティ
AIがかつて人間特有と考えられていた能力を示すにつれ、その進歩はテクノロジーと人間のアイデンティティとの関係について哲学的な問いを提起しています。システムは現在、芸術、音楽、文学などをますます高度に創造し、新たな創造的可能性を可能にしています。しかし、長い間私たちに意味を与えてきた主観的な領域に機械が侵入するにつれ、合成的な充足感に過度に依存するリスクが浮上しています。
AIコンパニオンを利用する子どもたちは、パーソナライズされたアドバイスにあまりに慣れてしまい、人間の多様性が比較して物足りなく感じられるかもしれません。そして、テクノロジーが内面のバイアスに沿って情報をフィルタリングすれば、代替的な視点の理解も損なわれる可能性があります。イノベーションは、回復力を築く好ましくない刺激への健全な接触を制限する可能性があります。
新たなAIの創作物が人々の役割を置き換えるにつれ、私たちの多くは居場所の喪失にも苦しむかもしれません。クリエイティブ職から技術職まで、ほぼすべての産業に大きな混乱がすでに見られています。絵筆の背後に人間がいることは、どのようなときに重要なのでしょうか。人間の創造者がいない芸術作品や歌から、人間の経験について学ぶことにはどのような意味があるのでしょうか。
現在、会話中の表情、声のトーン、構文を分析して内面状態を推測する感情検出アルゴリズムを考えてみましょう。いくつかの応用は、苦しみを隠している人々を特定することで危害を防ぐことを目的としています。韓国ソウルの麻浦大橋は、このランドマークが高リスクの場所となった後、AI自殺予防システムを導入しました。ディープラーニングによる映像解析を備えたCCTV映像を使用して、AIセンサーが危険にさらされている人々を特定し、緊急サービスに介入を警告します。
しかし、人々の主観的な状態を論理的に判断することは、非人間的だと見なされるリスクを伴い、そのアイデアから人々を遠ざける可能性があります。こうしたシステムの有効性のバランスを取る必要があり、テクノロジーが人間のニーズを孤立させることなく拡張するようにしなければなりません。麻浦大橋での自殺率は、AIシステム導入以来75％以上減少したと報告されていますが、そもそもそのような高い自殺率につながった根本的な社会情勢には対処していません。
他の大きな地殻変動と同様に、誠実に導かれれば、AIは目的の概念を再形成し、計り知れない可能性を実現するでしょう。倫理的な優先事項がAIの進歩を方向付ければ、アクセスと発見の改善は多くの場合、人々を高めるでしょう。十分な境界が設定されれば、人間がテクノロジーへの依存なしに創造し、探求し、つながる領域が保護されるでしょう。十分に慎重な先見性があれば、AIは人間の人生の旅を損なうのではなく、照らし出すことができます。リスクは相当ですが、可能性も同様に大きいのです。
AIと未来
印刷機が発明されたとき、初めて情報は教会の手書き写本を超えて一般の人々により身近なものになりました。その後、インターネットの登場により、私たちは世界中の情報を見つけることができ、地球の反対側のニュースや科学的発見にリアルタイムでアクセスできるようになりました。
印刷機やインターネットと同様に、AIは私たちが情報にアクセスし理解する方法に、もう一つの計り知れない変革をもたらすと期待されています。医学的洞察から芸術的驚異に至るまで、人間らしい推論と創造の新たな能力がこの可能性を日々明らかにしています。しかし、どんな移行にも変化は破壊的でもあり得ます。すでに、テクノロジーに反感を持つ人々や、無責任に使用する人々が見られます。進歩には、AIが害よりも助けになることを確実にするための積極的で倫理的な指導が必要です。
AIを広く採用する社会は、さまざまな文脈でいつ・どのように制御を委ねるかを決定する選択に直面します。環境モニタリングのような分野では、限られた人間の感覚では検出できない生態系の動態を追跡するアルゴリズムに完全に委ねることができるかもしれません。
法執行のような他の分野では、アイデンティティを分析する際にバイアスが生じやすいテクノロジーによって憲法上の権利が確実に保護されるよう、人間の監督が必要です。2020年、デトロイト警察は犯罪容疑者を特定するために顔認識システムの使用を開始しました。しかし、複数の人種バイアス監査で、このソフトウェアはアフリカ系アメリカ人とアジア人の顔を正確に識別する際のエラー率が最大96％に達することが判明しました。
このエラーは、主に白人の顔で構成されていたAIのトレーニングデータに由来していました。このようなシステムの責任ある開発には、AIをどのように使用すべきか、どのようなバイアスが組み込まれているか、そしてシステムがコミュニティを裏切ったときに誰が責任を負うのかについて、慎重な問いが必要です。公民権の侵害を理由とする世論の批判と訴訟を受けて、デトロイト警察はこのテクノロジーを廃止しました。
しかし、デジタルアシスタントやAIガイドなしの現代生活を想像することは困難です。私たちの継続的な依存は思考そのものを形作り、外部のメカニズムが基本的な機能を担うようになります。啓蒙思想家たちは、個人を政治的単位の中で第一のものとみなし、理性の目的を人間の可能性を解放することと定義しました。AIが私たちの好みだと事前に判断したものに基づいて情報へのアクセスをフィルタリングすると、それは私たちの自由を制約し、民主社会におけるその有用性に影響を与えます。
とはいえ、これはAIの非難ではありません。イノベーションは文明のあらゆる側面に影響を及ぼさずにはおかないからです。こうした倫理的・道徳的な問いを十分に早い段階で提起することで、これらの落とし穴を避けながらAIを社会に取り入れることができます。テクノロジーと知恵のバランスを取る文化は、価値観を損なうことなく、今後の激動の時期を乗り切るでしょう。そして、進歩が倫理的な優先事項に根ざしていれば、人工知能は私たちの共有する人間性を依然として強化するかもしれません。未来を形作る唯一の方法は、現在に関与することです。
まとめ
人工知能は、狭い範囲に特化したシステムから、機械学習のような柔軟なテクノロジーへと急速に進歩し、あらゆる領域で私たちの期待を超え続けています。しかし、AIの開発が倫理的ガイドラインなしに進めば、無限の可能性とともに重大なリスクが出現します。AIがかつて人間特有と考えられていた能力を示すにつれ、テクノロジーと人間のアイデンティティおよび社会との関係をめぐる哲学的な問いが生じています。
進歩と知恵のバランスを取り、境界を設定し、混乱よりも向上を優先することで、AIは人生の旅を損なうのではなく、照らし出すことが期待されます。この移行期を人類が誠実に導くことで、この素晴らしいテクノロジーを最大限に活用することが確実になります。
