『邪悪なロボット、殺人コンピュータ、その他の神話』（2021年）は、人工知能をめぐる恐怖を煽る誇張された言説を切り捨て、AIが実際にどのように機能するのか、そしてSFが描くディストピア的シナリオがなぜ空想の域を出ないのかを明快に解説します。顔認識から自動運転車に至るまで、現代の驚くべきAI技術を探求しながら、これらのシステムがポップカルチャーに描かれる超知能マシンへと進化できない理由を明らかにしていきます。
本書で得られるもの：AIがもたらす未来の現実的シナリオ
想像してみてください。2045年。人工超知能が意識を獲得し、ナノ秒単位で自身のコードを数百万回も書き換えました。今や、その知性はどの人間よりもはるかに賢く、数時間のうちに世界のインフラ—電力網、金融システム、軍事兵器庫—を掌握しています。
かつて頂点捕食者として君臨した人類は、もはや取るに足らない存在です。機械は私たちを憎んでいるわけではなく、ただ資源を最適化しているだけで、炭素ベースの生命体は非効率なのです。これが「シンギュラリティ」—AIが人間の知性を超え、私たちの制御を超えて暴走する時点—です。悪夢のような話ですよね？ 幸いなことに、このシナリオが現実になる可能性は低いのです。その理由は、現在のAIは人間のように思考・推論・理解することができないからです。
AIには常識、記号的推論、そして知識を異なる領域間で転移する能力が欠けています。ディープラーニングのような高度なアプローチでさえ、洗練されたパターンマッチングに過ぎず、真の知能ではありません。今日の狭義のAIから、意識を持つ汎用知能への道筋は存在しないのです。本書では、AIと私たちの未来の実像をお伝えします。アルゴリズムバイアス、雇用喪失、自律型兵器、ディープフェイクなど、現実に生じる問題と、SF映画の域を出ない問題とを明確に区別します。
実存的脅威か、それとも過大評価された技術か？
2011年、IBMのワトソンは『ジェパディ！』で人間のチャンピオンを打ち負かし、大きな話題となりました。多くの視聴者には、人工知能がついに人間レベルの知性を達成したか、あるいは超えたように見えました。しかし重要なのは、ワトソンは実際のところ意味のある思考や推論ができたわけではないということです。それは本質的に、膨大なデータベースから統計的パターンマッチングによって尤もらしい答えを特定するという、信じられないほど洗練されたパーラートリックを披露していたに過ぎません。
そこには理解も真の把握もなく、ただ途方もなく巧妙な数値計算があるだけでした。それ以来、AIは一般の意識に爆発的に浸透し、その社会的影響に関する予測はますます深刻なものになっています。イーロン・マスクは「私たちの最大の実存的脅威」と呼び、故スティーブン・ホーキングは「人類の終焉を招く可能性がある」と警告しました。しかし、こうした懸念は正当なものなのでしょうか？ ここで重要なのは、AIとAGI（汎用人工知能）の区別です。現在のAIシステムは狭い専門家であり、チェスを指す、顔を認識する、テキストを予測するといった特定のタスクには秀でていますが、その知識を他の領域に転用することはできません。
囲碁で圧倒的な強さを誇るシステムが、突然あなたの休暇を予約しようとはしないのです。この狭義のAIは、主体性、目標、そしてプログラムを超えて動作する能力を根本的に欠いているため、実存的脅威となることは決してありません。さらに重要なのは、AIはおそらくAGIへと進化することはないということです。哲学者が「機械の中の幽霊」と呼ぶもの—意識、自己認識、主観的経験という、人間を人間たらしめる名状しがたい性質—を考えてみてください。AGIには、単なるパターン認識ではなく真の理解が、単なる相関関係ではなく真の推論が、そして最適化された出力ではなく意識的な意図が必要なのです。
現在のAIアーキテクチャは、これらの性質を達成する道筋を示していません。AIは情報を経験することなく処理し、意味を理解することなく応答を生成し、真の意志なくタスクを実行します。結論は？ AIが私たちの生活と働き方を変えることは間違いありませんが、実存的脅威という物語は誇張されすぎています。今後私たちが本当に取り組むべきは、AIの具体的な影響に責任を持って対処することです。
AIの現実的脅威
つまり、レプリカントが人間と見分けがつかない姿で私たちの中を歩く『ブレードランナー』のシナリオは差し迫ってはいません。しかし、現実的になる必要はあります。限られた能力であっても、AIは世界を根本的に作り変えるでしょう。そして多くの課題に思慮深く対処しなければなりません。
私たちは何を懸念すべきでしょうか？ おそらく最も憂慮すべき応用から始めましょう。自律型兵器です。無人航空機へのAI強化—顔認識ソフトウェアや標的識別システムを含む—はすでに配備されています。人間が引き金を引かない場合、その倫理的意味は重大です。これらのシステムは誤作動を起こしたり、標的を誤認したり、十分な監視なしに配備されたりする可能性があります。また、自律型兵器が非国家主体に拡散したり、世界の安全保障を不安定化させたりするリスクもあります。
幸いなことに、国連特定通常兵器禁止制限条約のようなイニシアチブは、これらのシステムを規制するための基本原則の策定に取り組んでいます。AIのセキュリティが重要となるのは兵器だけではありません。サイバーセキュリティも独自の課題を突きつけています。もしAGIが存在したなら、それは大惨事を招く可能性があります。超知能システムが世界中のネットワークのあらゆる脆弱性を同時に探り、人間が対応するよりも速く機密システムに侵入することを想像してみてください。現在のAIでさえハッキングされる可能性は十分にあります。ただし、悪意のあるコマンドを受信した自動運転車の場合など、介入できる人間がまだループ内に存在します。希望の光は？
AIはすでに脅威を前例のない速度で検出することでサイバーセキュリティを強化しています。セキュリティ上の懸念を超えて、自律型アプリケーションが重要な瞬間に単に故障するという日常的リスクもあります。原子力発電所でAIが制御調整に失敗する、あるいは医療診断AIががんの兆候を見逃す、といったことを想像してみてください。これはAIに限ったことではありません。ソフトウェアの不具合がマリナー1号の発射失敗を引き起こし、スリーマイル島原発事故の一因となりました。
しかしAIは、従来のソフトウェアよりも厳密なテストが難しいため、潜在的にさらに危険です。ここで、私たちの多くが直接遭遇するテクノロジーに行き着きます。自動運転車です。自動運転車による死亡事故がいくつか発生しており、多くの場合センサーの故障やソフトウェアが道路状況を誤解釈したことが原因です。規制の取り組みは始まっていますが、責任の枠組み、試験基準、そしてクルマが一瞬の安全判断をどのように下すべきかといった重要な問題は未解決のままです。技術は進歩していますが、ガードレールはまだ建設中なのです。
AI時代の雇用環境への適応
多くの人にとって最も切実な恐怖—AIについて語るにせよAGIについて語るにせよ、夜も眠れなくなるような不安—はこれです。「私の仕事は奪われるのか？」 その懸念は完全に理解できます。雇用を失うことは、経済的不安からアイデンティティや目的の喪失に至るまで、壊滅的な個人的影響をもたらします。そして大量解雇は波紋のように広がり、地域経済を冷え込ませ、社会福祉サービスに負担をかけます。
仮にAGIが存在したなら、確かに大量失業の深刻な脅威をもたらす可能性があります。すべての領域で人間レベルの知性を持つシステムは、理論上、法務分析から創造的執筆、戦略的計画まで、人間ができるあらゆる認知タスクを実行できるでしょう。しかし、現在のAIはどうでしょうか？ 実際にそのような能力を持っているのでしょうか？
ここで少し視点を広げてみましょう。人類が自動化による雇用の脅威に直面したのは今回が初めてではありません。農業革命の時代、機械化された農業は何百万人もの農業労働者の仕事を奪いました。産業革命では、繊維労働者や職人たちが機械に生計を奪われました。より最近では、ワープロの普及がタイピング専門職を消滅させ、オンラインショッピングが無数の小売店を閉店に追い込みました。米国労働統計局によると、小売業の雇用は2017年から2020年の間に14万人以上減少しました。それぞれの移行には痛みを伴う適応が必要でしたが、いずれも破滅的とはならず、経済は進化して新たな機会を生み出しました。
では、現在どのような仕事が自動化の対象となっているのでしょうか？ 定型的なデータ入力、基本的なカスタマーサービス、単純な財務分析はすでにAIが処理しています。さらに先を見据えると、自動運転技術は最終的にトラック運転手や配達員—何百万人も従事する職業—に影響を与える可能性があります。しかし、その裏返しがあります。AIは同時に雇用も生み出しているのです。テクノロジー業界はAIトレーナー、プロンプトエンジニア、アルゴリズム監査人を採用しています。
医療分野では、患者データとともにAI診断を解釈する専門家の役割が増えています。クリエイティブ産業でも、人間の判断とAIツールを組み合わせた職種が成長しています。鍵となるのはトレーニングと適応です。企業はすでにAIリテラシーとツール統合に関するワークショップを提供しています。大学はカリキュラム全体にAIスキルを組み込んでいます。オンラインプラットフォームは、機械学習の基礎から業界特有のAI応用まで、あらゆるスキル向上の機会を手軽に提供しています。
よく言われるように、AIがあなたの仕事を奪うのではなく、AIを使いこなせる人があなたの仕事を奪うのです。雇用環境は確かに変化しますが、根底から覆ることはありません。歴史が示すように、人間は驚くほど適応力があり、今回の移行も例外ではないでしょう。
嘘をつくAI
2016年、マイクロソフトはTayというチャットボットをTwitter上に解き放ちました。24時間以内に、Tayは人種差別的で扇動的なコンテンツをまき散らすようになり、オンラインで遭遇した最悪の内容をオウム返ししていたのです。Tayは悪意を持っていたわけではなく、設計された通りのことをしていただけでした。パターンから学習するということを。しかしこれは、AIが無邪気な誤りであれ意図的な悪用であれ、人を欺くことができるという、居心地の悪い真実を浮き彫りにしました。
AIはさまざまな方法で嘘をつきます。ときには単純に幻覚を見るのです—もっともらしく聞こえるが完全に作り上げられた情報を生成します。また別のときには、悪意ある行為者によって真に欺瞞的な素材の作成に利用されます。フェイクニュースを例に取りましょう。これらは正規のジャーナリズムを模倣し、世論を操作するために意図的に作り上げられた物語です。AIを活用したツールは現在、信じられる引用やでっち上げの統計を含む、説得力のある偽記事を大規模に生成することができます。
2016年の米国大統領選挙中、Facebook上のフェイクニュース記事は主要報道機関のトップ記事よりも多くのエンゲージメントを生み出しました。BuzzFeedの分析によると、正規のニュースの730万に対し、870万という驚異的なシェア・リアクション・コメント数を記録しています。AIはこれをさらに容易に、より巧妙にしました。さらに厄介なのはディープフェイク—人々が決して言っていないこと、していないことを、あたかも言ったかのように、したかのように説得力を持って描写するAI生成の動画や音声です。
2018年、ディープフェイク動画はオバマ元大統領が決して行っていないスピーチをしている様子を映し出しました。2019年までに、ディープフェイク検出企業Deeptraceはオンライン上で約15,000本のディープフェイク動画を特定し、その数は6か月ごとに倍増しています。政治的操縦、詐欺、嫌がらせへの影響は甚大です。
次に、AIロボティクスの不気味の谷があります。ハンソンロボティクスが製作したソフィアのようなヒューマノイドロボットは、人間のように見えるだけで、ある種の欺瞞を実践しています。彼女は表情を模倣し、アイコンタクトを維持し、会話に応じることで、意識と理解の錯覚を作り出します。これらのシステムがよりリアルになるにつれて、信頼、感情的操作、そして本物の人間との交流とシミュレーションを区別する私たちの能力に関する課題が生じます。
こうした課題にはどのように対処できるでしょうか？ 規制は登場しつつあります。EUが提案するAI規制法には、自動化された意思決定の透明性や、操作的AIへの制限に関する条項が含まれています。AI生成コンテンツへの透かしの義務付け、より優れた検出ツールの開発、人々がAIシステムと対話する際の明確な開示要件の確立は、いずれも重要な一歩です。テクノロジーがこれらの欺瞞を生み出しました。思慮深いガバナンスが私たちの道案内を助けてくれるでしょう。
データが抱える問題
2002年、オークランド・アスレチックスは、限られた予算で勝てるチームを作るために統計分析を用いて野球界に衝撃を与えました。「マネーボール」アプローチは、見過ごされていた選手たちの隠れた価値を明らかにし、データ駆動型の意思決定が従来の直感を上回る可能性があることを証明しました。それはあらゆる分野での成功の青写真のように思われました。
2007年、アン・ミルグラムはニュージャージー州司法長官に就任し、この同じ哲学を刑事司法にもたらしました。彼女は、どの被告人を裁判前に拘留すべきか、どの被告人を安全に釈放できるかをデータで判断したいと考えました。その結果が、被告人のリスクスコアを評価するアルゴリズム的意思決定システム（ADS）の創設でした。客観的で効率的、そして人間のバイアスから解放されている。有望に聞こえます。しかし、深刻な問題があります。ADSは現在広く普及しており、刑事司法だけでなく、採用判断、ローン承認、保険料設定、さらには児童福祉評価にも使用されています。その影響は日々何百万人もの生活に及んでいます。
ここからが厄介なところです。刑事司法において、COMPASのようなリスク評価アルゴリズムは、同様の犯罪歴を持つ白人被告人と比較して、黒人被告人を高リスクと判定する可能性が有意に高いことが研究で示されています。2016年のProPublicaの調査では、黒人被告人の偽陽性率が白人被告人のほぼ2倍であることが判明しました。採用の分野では、アマゾンは自社のAI採用ツールが女性からの応募を系統的に格下げしていることを発見しました。なぜなら、そのツールは男性が優先的に採用されてきた過去のデータから学習していたからです。アルゴリズムは本質的に、過去の差別を将来の決定に刻み込んでいたのです。
この問題は医療と金融の分野でさらに深刻化します。保険料や信用力を決定するアルゴリズムは、人種や収入と相関する郵便番号やその他の代理変数を使用することが多く、実質的にコミュニティをレッドライニング（特定地域を差別的に排除すること）しています。2019年に『サイエンス』誌に掲載された研究では、2億人以上のアメリカ人に使用されている医療アルゴリズムが重大な人種バイアスを示しており、同等に病気の白人患者よりも黒人患者に提供されるケアが少ないことが判明しました。
実際に何が起きているのでしょうか？ ADSは与えられた悪質なデータを制度化しているのです。過去の融資データが差別的慣行を反映していれば、アルゴリズムは差別することを学習します。犯罪データが特定地域の過剰な取り締まりを反映していれば、アルゴリズムはそれと同じコミュニティを標的にします。これは批評家が「データ原理主義」と呼ぶもの—データは本質的に客観的で、アルゴリズムは中立的であるという誤った信念—を反映しています。データは人間の決定、社会的不平等、歴史的不正義を反映しています。アルゴリズムはこれらのパターンを大規模に増幅します。
解決策には、アルゴリズムの透明性、定期的なバイアス監査、そしてシステムが害を及ぼした場合の説明責任を義務付ける強固な規制が必要です。データは意思決定に情報を提供できますが、監督なしに意思決定を下すべきではありません。ここに真実があります。AIは重大な課題を突きつけています。
機械は私たちを襲いに来るのか？
そしてAIが社会にさらに深く組み込まれるにつれて、思慮深い適応と規制が不可欠になります。しかし、機械が突然人間の知性を超えて制御不能に陥るというディストピアSFの「シンギュラリティ」は、現在も将来も、そうした現実的な問題の一つではありません。AIとAGIの違いを覚えていますか？ AIは狭く特定のタスクに秀でています。AGIはすべての領域で人間レベルの知性を持つでしょう。現在のAIが人間よりも全般的に賢くなることは決してありません。AIは洗練されたツールであり、思考する存在ではありません。AGIについてはどうでしょうか？ 私たちはまだその技術を持っていません。そしておそらく、持つことはないでしょう。
人間の心が実際にどのように機能するかを考えてみましょう。人間は常識的推論を使います。つまり、すべての氷に触れなくても、氷が冷たいことを知っています。私たちは記号的推論を使います。すべての哺乳類が温血動物で、クジラが哺乳類なら、クジラは温血動物に違いないと理解するのです。私たちは構成的に学習します。「ソテー」「ニンニク」「ほうれん草」を知っているシェフは、即座に「ニンニクほうれん草ソテー」を作ることができ、ゼロから始めることなく、他の数十種類の食材のソテーに応用できます。AIはこのような学習を単純にできません。現在のAIはまったく異なる学習パラダイムに依存しています。教師あり学習は、ラベル付きの例でアルゴリズムを訓練します—システムに「猫」とタグ付けされた数百万枚の猫の写真を見せて、パターンを認識するまで繰り返します。
強化学習は報酬と罰を通じて教えます—前進を報酬し、転倒を罰することでロボットの歩行を訓練するように、一つのスキルを習得するのに数百万回の試行が必要です。自然言語処理はテキスト内の統計的パターンを識別します。各アプローチは超専門化されており、猫を認識するよう訓練されたAIは、まったく新しい訓練なしには犬を識別できません。知識の転移も、柔軟な理解もなく、特定のタスクへの狭い最適化があるだけです。
では、より新しく、より洗練されたアプローチはどうでしょうか？ ディープラーニングは階層化されたニューラルネットワークを使用して、大規模データセット内のますます抽象的なパターンを見つけ出します—単純なエッジの認識から複雑な形状、そして物体全体へと進みます。これにより、画像認識や言語処理における驚くべきブレークスルーが可能になりました。しかし、ディープラーニングは依然として根本的には理解ではなく相関によって動作しています。何百万もの例に基づいて何が通常起こるかを識別するのであり、それがなぜ起こるのか、何を意味するのかを識別するのではありません。因果関係や文脈の真の理解なしには、それは大規模なパターンマッチングに留まります。
ここで有用なアナロジーがあります。信じられないほど速く考える犬を想像してみてください。どんな人間よりも何千倍も速く情報を処理します。確かに印象的です。しかし、どんなに速く考えても、その犬は皮肉を理解することも、数学の定理を証明することも、人間が映画で泣く理由を理解することも決してできないでしょう。AIも同じ根本的な限界に直面しています。ですから安心してください。シンギュラリティは当分到来しません。
最終まとめ
本書—スティーブン・シュワルツ著『邪悪なロボット、殺人コンピュータ、その他の神話』—の主な要点は、AIが自律型兵器、ディープフェイク、アルゴリズムバイアス、雇用喪失といった現実の課題を突きつけており、それらには思慮深い規制と適応が必要だということです。しかし、超知能マシンが支配するディストピア的な「シンギュラリティ」への恐れは根拠がありません。なぜなら、現在のAIは真の理解・推論・意識ではなく、狭いパターンマッチングに依存しているからです。AIは社会を大きく変革する一方で、人間のように思考する能力も、SFに描かれる汎用人工知能へと進化する能力も根本的に欠いています。
以上で本要約は終了です。お楽しみいただけたなら幸いです。よろしければぜひ評価をお寄せください。フィードバックは常にありがたく受け止めています。次回の要約でまたお会いしましょう。
