『人工知能』（2019年刊）は、複雑に進化し続けるAI分野を深く掘り下げ、その実社会での応用と、大衆メディアでしばしばセンセーショナルに描かれる姿とを対比させる一冊です。AI技術が様々な分野に与える影響、それが提起する深刻な課題、そして倫理的なジレンマを探求します。また、AIの歴史的発展をたどり、画期的な成果と、この分野に根強く残る大きな障害の両方に光を当てています。
この本の要点：人工知能の過去、現在、未来を、誇張なしで解説する実用的ガイド
通勤中、あなたの車が自動で交通状況を読み取り走行する。音声アシスタントにスケジュールを確認すると、こちらの意図を理解するだけでなく、必要なことを先回りして教えてくれる。これはもはやSFの世界の話ではなく、AI（人工知能）がもたらした日常の現実です。AIは、自動運転車や顔認証から産業用ロボット、チャットボットに至るまで、「知能」に似た何かによって動くテクノロジーを包含しています。
しかし、AIが私たちの生活に急速に浸透するにつれ、利便性だけでなく、深遠な問いも突きつけられています。知能とは何か？会話したり問題を解決したりできる機械は、真に知能を持つと言えるのか？メラニー・ミッチェルの『人工知能』はこれらの問いに取り組み、人間と機械の両方における知能の本質を探ります。
この探求は学術的なものだけにとどまらず、機械が人間の認知機能を模倣し、しばしば凌駕する時代において、人間であることの意味を問い直すものです。AIは人間の生産性を高め、医療や法律などの分野に革命を起こすのか、それとも私たちより賢くなり、仕事を奪うのか。さらには、AIが民主主義の基盤を損なったり、人類の生存を脅かしたりする可能性はあるのか？といった、より暗く、より切迫した懸念にも向き合います。
AIの最初の進歩は1950年代に達成された
AIの物語は20世紀半ば、ニューハンプシャー州ダートマス大学に集まった一群の先見者たちが、テクノロジーへの楽観主義に満ち、機械知能の開発における主要な課題に取り組もうとしたことに始まります。彼らの最初のプロジェクトは望むような結果をもたらしませんでしたが、その後のブレークスルーの基盤が築かれました。その一つが1957年、アメリカの科学者フランク・ローゼンブラットが「マークIパーセプトロン」を発表したことです。この初期のAIモデルは、人間の脳と同様の方法で情報を処理するように設計された、原始的なニューラルネットワークでした。
これは機械がデータから学習し、意思決定できることを示した重要な前進であり、将来のAI開発への布石となりました。1960年代、AI分野は熱狂的な高まりを見せました。ノーベル賞受賞経済学者ハーバート・サイモンのような著名人がAIの可能性について大胆な予測を行い、機械が人間のできるあらゆるタスクを実行できる未来を予見しました。しかし1970年代までに、人間の能力に匹敵する汎用人工知能の実現の複雑さが明らかになるにつれ、初期の興奮は薄れていきました。これが最初の「AIの冬」、すなわち資金が削減され、AIの実現可能性に対する懐疑論が広がった時期です。こうした困難にもかかわらず、1980年代には、特にエキスパートシステムの開発を通じて、AIへの関心が再燃しました。
これらのシステムは、複雑なルールと知識ベースを用いて、医療や工学などの分野における特定の問題に対処することで、人間の専門家の意思決定能力をシミュレートしました。エキスパートシステムは、AIの実用的な応用と、専門領域において人間の能力を拡張する可能性を示しました。インターネットの出現と利用可能なデータの爆発的増加は、1990年代から2000年代にかけて、ビッグデータと機械学習の時代をもたらしました。この時期の特徴は、コンピューターに膨大なデータセットへのアクセスを与え、自律的な学習を可能にしたことです。この時代の集大成が2010年代のディープラーニング革命であり、ニューラルネットワークの大幅な進歩によって推進されました。複数の層を備えたこれらのネットワークは、増大した計算能力と革新的な訓練技術を活用し、画像認識や音声認識などのタスクにおいて前例のない精度を達成しました。
ディープラーニング技術は数多くの産業に革命をもたらし、自動運転車や高度な自然言語処理システムの開発を可能にしました。しかし、こうした進歩にもかかわらず、ディープラーニングシステムには、特に文脈を理解する能力において限界があることが示されています。例えば、ニューラルネットワークは標準的な画像の中のスクールバスを一貫して認識できても、回転させた画像では同じバスを識別できないかもしれません。これらのシステムはまた、自動運転や他のアプリケーションにおいて、人間なら簡単に避けられるような視覚的な手がかりを誤って解釈し、エラーを引き起こすなど、現実世界での課題にも直面してきました。このような問題はあるものの、私たちは今、新たな、そしてさらに楽観的なAIの時代に突入しています。
大規模言語モデルは、これまでに作られた中で最も複雑なソフトウェアかもしれない
現在の人工知能の時代は、生成AIの出現によって定義されます。このAI技術の一分野は、膨大な量のデータから学習し、その中のパターンを認識することで、テキスト、画像、音楽、動画などの新しいコンテンツを創造する能力を持っています。生成AIの変革力は、創造的タスクの自動化、ユーザー体験のパーソナライズ、複雑な問題解決シナリオのシミュレーションにまで及びます。ChatGPTやDALL-Eのような生成AIツールは、テクノロジー愛好家の想像力をかき立てただけでなく、その能力で業界の専門家をも驚かせました。
AI分野のパイオニアであるテレンス・セイノフスキーは、その進歩のレベルに驚きを表明し、不気味なほど人間らしいコミュニケーション能力を持つ異星の存在に遭遇したようなものだと例えました。これらの印象的な能力にもかかわらず、これらの大規模言語モデル（略してLLM）が人間の知能とは根本的に異なることを認識することが極めて重要です。LLMは、世界中のテキストデータベースから情報を抽出・統合することに長けており、超人的とも言える偉業を示します。しかし、その知能の様式は、明らかに非人間的なままです。これらのシステムがどのように機能するかを理解するために、ChatGPTのようなチャットボットの背後にあるプロセスを考えてみましょう。「ジャガイモに関する面白い事実を教えて」といったプロンプトが与えられると、ChatGPTは入力を継続的に新しい出力へと洗練させることで応答を生成します。
これは、ディープニューラルネットワークの一種であるトランスフォーマーネットワークによって動いています。最初のステップでは、単語を数値パターンに変換し、それらが相互作用して、「面白い」という形容詞とそれが修飾する名詞「事実」との関係のような、意味のある関連性を計算します。この計算プロセスには合計約100もの層が含まれ、単語間の相互作用が分析され、テキストコンテンツに変換されます。大規模言語モデルの本質は、先行する単語に基づいて、シーケンス内の後続の各単語の確率を予測する能力にあります。
LLMにおける「大規模」とは、利用するデータセットの膨大さを指し、それには数千億もの接続が含まれます。これらのモデルは、ウィキペディアやRedditのようなサイト、膨大な数のウェブページ、デジタル化された書籍、さらにはコンピューターコードなど、インターネットから収集された広範なテキストコーパス（総計約5000億語）で訓練されます。参考までに、人間の子どもが10歳までに触れる単語は約1億語です。
AIは多くの困難なタスクを非常に得意とするが、本当に「知的」かどうかを判断するのは時期尚早だ
生成AIは、テキストや画像を生成する技術を習得しただけでなく、「創発的な能力」も示しています。これらの能力には、ビジネススクールや司法試験のような標準化テストに合格したり、複雑な数学的問題を解決したりすることが含まれます。このような偉業から、一部の人々はこれらのシステムがある種の意識へと向かっており、単にこれらのモデルの規模と複雑さを増大させるだけで、真の汎用知能へのギャップを埋められるかもしれないと推測するようになりました。しかし、この見解は普遍的に受け入れられているわけではありません。
批評家は、これらのシステムは真の知能の具現化というよりも、高度なオートコンプリートツールに近いと主張します。例えば、発達心理学者のアリソン・ゴプニックは、「知能」という用語がこれらのテクノロジーにとって適切な記述子ですらないかもしれないと主張しています。この議論は、重要な区別を浮き彫りにします。知能は、言語の流暢さやテストの受験能力よりもはるかに多くのものを含むのです。生成AIの能力は、いくつかのパラドックスと限界を明らかにしています。アメリカのロボット工学者ハンス・モラベックは1988年にパラドックスを指摘し、AIは特定の知的タスクでは大人に匹敵する一方で、1歳児が持つ基本的な知覚や常識のスキルに苦労すると述べました。例えば、生成AIは会話における冗長性や文脈の理解につまずくことがあります。チャットボットが、アメリカには「K」で始まる州が4つあると主張しながら、カンザスとケンタッキーを2回ずつリストアップする、といった具合です。
さらに、これらのシステムが標準化テストに合格する能力は、見かけほど知能を示すものではないかもしれません。ここで「データ汚染」の問題が重要になります。人間とは異なり、AIシステムはインターネットベースの膨大なデータセットでの訓練中に、潜在的なテスト問題に触れている可能性があります。この事前接触が、見かけ上の能力を人為的に膨らませている可能性があります。さらに、AIの応答の堅牢性は、プロンプトの特定の言い回しに非常に敏感であり、パフォーマンスに大きな不整合をもたらすことがあります。もう一つの重大な懸念は、AIのパフォーマンスを測定するために使用されるベンチマークの信頼性です。研究によると、AIは根本的な概念を真に理解することなく、データ内の統計的な近道を悪用することを学習できることが示されています（例えば、医療画像における定規の存在を悪性腫瘍の識別に利用するなど）。
これらの欠陥は、AIが真に推論し理解する能力は依然として限定的であることを示唆しています。生成AIはその言語能力と問題解決能力で感銘を与え続けていますが、依然として重大な課題が残っています。これらのシステムが示す知能は、特に文脈の理解、新しい状況への知識の一般化、人間の相互作用の機微の把握において、人間の知能とは根本的に異なります。私たちが前進するにつれて、重要な問いは、AIが何ができるかだけでなく、その機能がどれほど人間の知能の深さと広がりを真に反映できるか、ということです。
AI導入の潜在的報酬は計り知れないが、リスクも同様に大きい
では、AIの未来はどうなるのか？私たちは社会に一体何を解き放ってしまったのか？この分野の専門家にその質問をすると、一般的に返ってくる答えは「わからない」です。この不確実性にもかかわらず、生成AIはデジタルコンピューターやスマートフォンの変革的可能性に匹敵する、重要な技術的マイルストーンを表しているようです。実際、AIはすでに様々な分野で目覚ましい進歩を遂げています。
科学と医学においては、タンパク質の折り畳み予測に革命を起こし、気候モデルを強化し、ブレイン・コンピューター・インターフェースを改善しています。これらの進歩は主に、AIが膨大なデータセットを解析・分析する能力に由来しており、データ解釈に大きく依存する分野での更なるブレークスルーを約束します。最も期待されているイノベーションの一つは、信頼性の高い自動運転車です。これは交通事故に関連する死亡者数を劇的に減少させる可能性があります。AIはまた、人間の労働者を退屈で危険なタスクから解放する可能性を秘めています。例えば医療分野では、AIが膨大な量の事務処理を処理することで、医師が患者ケアにより集中できるようになるかもしれません。同様に、AIを搭載したドローンが地雷を探知するために開発されており、この危険なタスクから人間を完全に排除できる可能性があります。
しかし、AI技術の展開には重大なリスクも伴います。大きな懸念事項の一つは、既存のバイアスの増幅です。警察の顔認証技術で人種的偏見の事例が報告されており、偏った健康情報を拡散するチャットボットや、人種的に偏った画像を生成するDALL-Eのような画像生成プログラムなど、他のAIアプリケーションでも同様の問題が発生しています。さらに、AIが偽情報の拡散に利用される可能性は憂慮すべきものです。チャットボットのようなツールは、すでに大規模に誤解を招くコンテンツを作成するために利用されています。加えて、AI音声クローニング技術の台頭は詐欺の新たなリスクをもたらし、これらの進歩が持つ両義的な性質を浮き彫りにしています。
進化し続けるAIの状況を進んでいくにあたり、AIが人間の生活を改善する可能性への楽観主義と、それがもたらすリスクに対する警戒とのバランスを取ることが極めて重要です。倫理的な考慮事項に取り組みながら、社会の幸福を高める方法でAIが発展することを確実にすることが、その潜在能力を最大限に活用し、危険を軽減するために不可欠です。この二面的なアプローチは、AIの未来を全人類にとって有益な結果へと導く助けとなるでしょう。
AIを人間にとって危険にするのは超知能ではなく、AIシステムがしばしば驚くほど間抜けであるという事実だ
AI技術は著しく進歩しましたが、汎用知能の達成や、人類の優位を脅かす超知能体になるには、まだ遠い道のりです。AIコミュニティにおける真の懸念は、自我を持った機械による差し迫った支配ではなく、AIが社会に与えうる深刻な影響です。これまで見てきたように、これらの懸念には、潜在的な雇用の喪失、AI技術の悪用、そしてこれらのシステムに内在する信頼性の低さとセキュリティの脆弱性が含まれます。アメリカのコンピューター科学者ダグラス・ホフスタッターは、AIが人間性を追い越すことについてではなく、それが表面的な手段で人間の認知能力や創造性に匹敵することについて、根深い恐怖を表明しています。
彼は、ショパンのような偉人によって体現される人間の業績の本質が、もしAIが単純なアルゴリズムを使って彼らの創造的成果を複製できるようになれば、価値を損なわれる可能性があると懸念しています。こうした懸念にもかかわらず、AIが人間のような知能に到達する、あるいはそれを超えるという恐れは時期尚早であるというのが共通認識です。今日のAIは、人間の脳の複雑さと適応性を欠いています。それはしばしば脆く、訓練された特定のシナリオの外ではつまずきます。この脆さは、音声認識から自動運転に至るまで、AIシステムが予期せぬ変化にロバストに対処できないという形で現れます。経済学者のセンディル・ムッライナタンが言うように、AIに関して最大のリスクは「機械の知能」ではなく「機械の愚かさ」かもしれません。
彼は、AIシステムは真の理解を欠いているために、訓練データでカバーされていない異常な状況に遭遇するまでは適切に機能するかもしれず、それが壊滅的な失敗につながる可能性があると主張します。この考え方は、AIが達成できる「特化型知能」と、人間の持つ適応的で幅広い推論を可能にする「汎用知能」との違いを強調しています。AIの限界がもたらすより広範な影響もまた厄介です。特に、説得力のあるリアルな偽メディアを通じて偽情報を作成・拡散する際に非倫理的に使用されやすいという点が問題です。この悪用は、社会の信頼と誠実さに対する深刻な脅威を意味します。これらの課題に対応して、AIコミュニティ内外で、厳格な倫理基準、より優れたセキュリティ慣行、より堅牢なシステムを提唱する動きが高まっています。この集団的な努力は、AIの悪影響を軽減し、その可能性を責任を持って活用することを目指しています。
つまり、超知能AIは差し迫った脅威ではありませんが、真の懸念は現在のAIがどのように使用され、その潜在的な社会的影響が何であるかにあります。焦点は、これらの目先の課題に対処し、リスクを最小限に抑えつつ、人類に利益をもたらす方法でAIが発展することを確実にすることに置かれるべきです。ここまで、メラニー・ミッチェル著『人工知能』の要点を見てきました。人工知能は、楽観的な実験から、産業を再形成し、その能力と倫理的使用についての議論を引き起こす、深遠な技術的勢力へと変貌を遂げました。
最後に
生成AIは、自動化と革新の能力を備え、ヘルスケアの進歩などの機会をもたらす一方で、バイアスや偽情報のリスクといった課題も提示します。人間のような知能にはほど遠いものの、AIの現在の応用は革命的であると同時に問題含みでもあり、社会にとって有益な結果を確実にするためには、注意深い監視と倫理的配慮が必要です。
