『AIの設計者たち』（2018年）は、デジタル技術と人工知能の最前線に立つ研究者、科学者、起業家、思想家たちへのインタビューをまとめた一冊です。技術の進歩のスピード、自動運転車の普及時期、汎用人工知能（AGI）のブレイクスルーの可能性については、彼らの間でもほとんど意見が一致していません。しかし、AI技術が社会、経済、そして生命そのものの核心を、想像を絶するかつてない方法で揺るがす運命にあることは確かです。
この要約のポイント：AIの仕組みとその影響を大局的に見る
最新のSF映画から日常のニュースまで、人工知能（AI）は至るところにあります。しかし当然のことながら、AIをめぐる細部についてはほとんど意見が一致していません。自動化は大量失業を招くのか？ 従来の車はすぐに自動運転車に取って代わられるのか？ 私たちはロボットの支配者に支配される運命にあるのか？
意見のばらつきが大きいにもかかわらず、AIとその潜在的影響をめぐる議論では、最も悲観的でセンセーショナルな声が中心になってしまいがちです。もちろん、AIは経済に現実的な脅威をもたらします。しかし、マイナス面だけに注目すると、AIが世界を再形成し、仕事を再定義し、医療などに大きな恩恵をもたらす可能性を見落としてしまいます。この要約では、AIの仕組みから、将来どのように私たちを助け、あるいは害するかまで、包括的な視点を提供します。また、著者が本書のためにインタビューした23人のAI専門家の意見の概要もお伝えします。ここで学べることは：
- AIが「猫」とは何かをどう学習するか
- キラーロボットを恐れるべき理由
- ライブコンサートのチケットがますます高額になる理由
さまざまなディープラーニング手法でAIはタスクをこなせるようになる
子どもの頃を思い出してください。初めて猫や猫の写真を見たときのことを覚えていますか？ 猫が何であるかを完全に理解するまでに、何匹の猫を見る必要がありましたか？ おそらく、1匹か2匹見ただけで、他の動物と簡単に区別できたでしょう。
こうしたごく少数の例から学ぶ学習は、人間には簡単で自然なことですが、AIにとっては非常に難しいものです。AIが猫とは何かを理解するには訓練が必要で、現在では多くの場合、ディープラーニングという機械学習の手法が使われています。これは過去10年間のAIの大きな進歩を支えてきた技術です。ここでのポイント：さまざまなディープラーニング手法によって、AIはタスクを完了できるようになります。 AIが猫、犬、コーヒーカップを認識する訓練を受ける場合、すべてはニューラルネットワークから始まります。これは、人間の脳にあるニューロンを模倣した「ニューロン」の複数の層を持つソフトウェアです。
科学者がニューラルネットワークを訓練するのによく使う手法がいくつかあります。そのひとつが教師あり学習で、これはAIにラベル付きの訓練例を大量に与えるディープラーニングの一種です。訓練後、猫の写真をAIに見せると、画像のピクセル群がニューラルネットワークを流れ、機械が「これは猫だ」と確認することを期待します。たとえ正しく推測できても、このAIは「猫」という言葉が何を意味するのか、猫が何をするのか、生きているのかといった理解はまったく持っていません。AIがそうした理解を得るには、グラウンデッド言語学習によって教えられる必要があります。
これは、文章や単語を画像、動画、実世界の物体と関連付けるディープラーニングのアプローチです。こうした技術によって、ディープラーニングには多様な応用の可能性が生まれます。例えば、グラウンデッド言語学習はAIの言語スキルを発達させ、Siriのようなパーソナルアシスタントに役立てられます。また、ディープラーニングはすでにゲームをプレイする訓練にも使われており、最も有名な例のひとつにAlphaGoがあります。多くの囲碁の対局を観察して訓練されたAlphaGoは、ついに人間の最強チャンピオンを打ち負かしました。
ディープラーニングには限界がある
AIがチェス、囲碁、将棋で最高の人間プレイヤーに勝つ様子を見れば、誰もが感銘を受けるでしょう。しかし、それがどれほど画期的でも、何らかの汎用知能に近づいたわけではありません。AIは依然として、特定の狭いタスクをこなすことしか得意ではないのです。AlphaZeroを例に取りましょう。
AlphaZeroは、チェスや囲碁のような、決定論的で2人対戦、完全に盤面が観察可能なボードゲームをプレイできるようディープラーニングで訓練されました。しかし、AlphaZeroがこれらのゲームに優れていても、もし別の種類のゲーム、例えばポーカーを学ぶように言われたらまったく役に立ちません。ここでのポイント：ディープラーニングは限界があります。 チェスや囲碁とは異なり、ポーカーは不完全情報のゲームです。部分的にしか観察できず、プレイ中に「盤面」全体を見ることはできません。そのため、ポーカーをプレイするAIには、機械が実際には見えない手を推定するためのアルゴリズムが必要です。
AlphaZeroにはそれができません。プレイしているゲームには盤上の駒だけが存在すると仮定するよう設計されているからです。したがって、現時点でAIは、特定の訓練を受けた1つのタスクしかこなせません。しかし、ディープラーニングとニューラルネットワークのもうひとつの大きな問題は、それらを教えるために使うデータにあります。人間は、意図していなくても偏見を持ちうることは周知の事実です。例えば、警察活動において、統計的に一部の地域が他よりも多くパトロールされていることがあり、結果的にそれらの地域についてより多くのデータを持つことになります。
もしAIがそのような偏ったデータを使って訓練されると、システムはどこで犯罪が起きやすいかについて偏った予測を下す可能性があります。ディープラーニングの限界から、この技術だけではAI開発の次の段階である汎用人工知能（AGI）にはおそらく到達できないでしょう。AGIには常識、つまりこれまで遭遇したことのない状況について推論する能力が必要です。しかし、その課題は研究者がAGIを実現する方法を探ることを妨げてはいません。機械に常識を持たせようとする試みはいくつかあります。ひとつの方法は、論理ルールの形でできるだけ多くの知識の断片をAIの「頭脳」に詰め込むことです。
しかし、この手法はあまり実用的ではありません。潜在的なルールや状況が無限に存在するからです。あるいは、機械が世界を観察し、物事の仕組みを非構造的に学習することを通じて、常識が自然に現れることを期待する研究者もいます。しかし、もうひとつの選択肢があるかもしれません。ニューラルネットワークと従来の論理ルールを組み合わせたハイブリッドシステムを使ってAGIを創り出すことです。その方法を次のセクションで詳しく見てみましょう。
ハイブリッドシステムがAIのさらなる進歩の鍵になるかもしれない
長年にわたり、さまざまな機械学習手法が支持されたり見放されたりしてきました。これはディープラーニングの概念にも起こった現象です。この技術は1950年代にはすでに登場していましたが、1960年代には役に立たないと切り捨てられました。しかし今日では再び主要な機械学習手法となっています。ディープラーニングは将来のAIにおいて間違いなく役割を果たすでしょうが、その限界のために、AGIを創り出すための唯一の技術とはなり得ません。
むしろ、AGIの開発には、研究者が複数の機械学習手法を組み合わせたハイブリッドシステムを作る必要があるかもしれません。ここでのポイント：ハイブリッドシステムがAIのさらなる進歩の鍵になるかもしれません。 人間の脳は生来の学習能力を備えて作られています。子どもこそが、大人の知能未満の状態から確実に知能をスケールアップさせる唯一の例です。このため、多くのAI研究者が子どもを研究し、私たちの学習を可能にする脳の基礎構造を解明しようとしています。ある神経科学者であり研究者のデミス・ハサビスは、強化学習を他の手法と組み合わせることが、AGIへの最も実現可能な道だと信じています。人間の場合、これはドーパミンシステムを通じて行われ、脳内のシナプスが報酬信号を受け取ると強化されます。
これをAIで模倣するには、機械にタスクを繰り返し試行させ、成功するたびに「報酬を与える」方法があります。もちろん、人間は他の多くの方法でも学びます。私たちは、歩き回って探索を通じて知識を集める教師なし学習をたくさん行っています。もし科学者が、大量のデータを与える必要なしに、AIがこのように学習する方法を解明できれば、AGI開発においてほぼ間違いなくブレイクスルーが起こるでしょう。人間の脳と同様に、AIも基礎構造を持って作られ、その上にディープラーニング技術で訓練される可能性があります。こうしたハイブリッドシステムは、応用面では複雑になりうるものの、新しいものではありません。
すでに今日の自動運転車に導入されています。どういうことかというと、自動運転車は路上でどのような判断を下すべきかを理解する必要があります。車の知識の一部はディープラーニングで得られたデータから得られますが、すべての状況が予測できるわけではありません。
つまり、人間が、車が遭遇する可能性のある状況と、それに対する適切な応答を想定したルールを組み込む必要があるのです。自動運転車は確かにエキサイティングですが、AIにはもっと多くの応用分野があります。次に、それらのいくつかを見てみましょう。
人工知能は誰の人生もより簡単に、より良くする可能性を秘めている
近年、AIが人間が意図せずプログラムしてしまうかもしれない偏見やステレオタイプを強化する可能性について、多くの議論がなされてきました。多くの学術研究者がAIにおけるバイアスの問題を理解し、それに対応するためにアルゴリズムを修正しています。しかし、これを逆転させて私たちの利益のために使うこともできます。つまり、AIを使ってバイアスを排除することができるのです。自分の内面にあるバイアスを特定し修正することはずっと難しいですが、
コンピューター科学者のフェイフェイ・リが指摘するように、テクノロジーを通じて私たち自身のバイアスが反映されるのを目にすれば、それを修正する方法を見つけられるのです。このように、バイアスをなくすことは、AIが人々の生活を改善できる一例に過ぎません。ここでのポイント：人工知能は誰の人生もより簡単に、より良くする可能性を秘めています。 AIを使って偏見を根絶することは非現実的ではありません。実際に、Affectivaではすでに導入されています。Affectivaは、コンピューター科学者で起業家のラナ・エル・カリオビーによって創設されました。彼女は、機械の単なる「賢さ」ではなく、感情的知性について考え始める必要があると信じています。Affectivaはアルゴリズムと自然言語処理技術を用いて、バイアスのないAI採用ツールを開発しました。
応募者は書類の履歴書ではなく、ビデオインタビューを提出し、AIが候補者の非言語コミュニケーションスキルと質問への回答に基づいてランク付けを行います。その結果、このシステムを試験導入した企業Hirevueでは、採用時間が90％短縮され、新規採用者の多様性が16％増加しました。エル・カリオビーのもうひとつのプロジェクトは、自閉症スペクトラムの子どもたちを支援するために設計されています。彼らはしばしば他人の感情を読み取ることが困難です。彼女と研究者たちは、人の感情を「読み取り」、装着者にその感情についてフィードバックを与えることができる特別なタイプのメガネを作りました。そのメガネをかけた子どもたちは、最終的にアイコンタクトが増え、人の顔を見たときに感情の理解が深まりました。
こうした特化した用途だけでなく、機械知能が一般の人々の助けになる方法は数多くあります。それは、洗濯物をたたむような単調で日常的な作業を代行できるロボットから始まり、そうすることで私たちの時間を解放してくれます。しかし、それだけではありません。Googleのエンジニアリングディレクターであるレイ・カーツワイルによれば、いつか私たちの血流の中にナノロボットが漂うようになる可能性が高いのです。これらの微小なロボットは、免疫系を助け、寿命を延ばし、さらには私たちの脳をインターネットにつなげるかもしれません。
人工知能は科学の進歩を、特に医療において促進する
今日、アメリカの病院や介護施設に足を踏み入れると、多くのストレスを抱えた医師や看護師を見つけることでしょう。医療従事者は長時間勤務し、タイトなスケジュールをこなし、燃え尽き症候群やストレスに極めて弱くなっています。それだけでなく、医師や看護師が急かされることで、患者が受けられるはずのケアの質が低下しています。実際、現在アメリカの病院における死因の第3位は、医師のミスです。
幸いなことに、医療はAIが大きな支援を提供できる可能性がある分野のひとつです。起業家のオレン・エツィオーニが主張するように、AIと医療を統合するための積極的な措置を取らないことを選ぶことは、より多くの命を失わせることを許容しているのと同じなのです。ここでのポイント：人工知能は科学の進歩を、特に医療において促進します。 医療は巨大な産業であり、その中でAIが活用できる方法は多岐にわたります。現在、ニューラルネットワークは、画像の中に例えばコーヒーカップが写っているかどうかを認識する訓練が可能です。同様に、放射線画像に腫瘍が存在するかどうかを認識する訓練もできます。
同じく、うつ病などの精神疾患の診断は、現在、自殺念慮などの症状の自己報告に大きく依存しているため困難です。しかし、うつ病には特定の顔や声のバイオマーカーがあることもわかっています。ただ、人間がそれらを察知するのは難しいのです。顔や音声のスキャンを行えるAIにとっては、かなり簡単かもしれません。もしロボットが患者ケアの一部を担当できるようになれば、医師や看護師の時間が解放され、本当に必要な場所に振り向けることができます。アルゴリズムを使って患者情報を解釈し、臨床医、患者、家族にフィードバックを提供すれば、時間を節約し、コミュニケーションを改善できるでしょう。しかし、科学におけるAIのメリットは医療だけにとどまりません。
科学研究の分野でも役立つ可能性があります。オレン・エツィオーニが主導するSemantic Scholarプロジェクトを見てみましょう。最新の研究を把握するために、科学者は膨大な数の論文を読みこなさなければなりません。Semantic Scholarは、科学者が読みたいと思われる論文を表示し、その論文の中から重要な発見を見つけ出すことで支援します。ここまでAIが世界にもたらす良い面を見てきましたが、次のセクションでは潜在的なマイナス面について見ていきます。
人工知能は兵器化される可能性がある
中世の弓矢から、今日の軍隊が使用する特殊な爆弾やドローンに至るまで、人類の破壊能力が時代とともに大幅に増大してきたことは周知の事実です。今日では、一般市民でさえ、小型爆弾で兵器化できる可能性のあるドローンにアクセスできます。幸いなことに、この種の兵器は拡張性に乏しいものです。1台のドローンが搭載できる爆弾は1つだけで、操縦者も1人です。つまり、その破壊能力は限られています。
理論的には、どんな兵器も大量生産されて国の軍隊を武装するのに使われる可能性があります。しかし幸いにも、そうした事態を防ぐための国際的な制裁と軍事的な備えがあります。現在私たちに欠けているのは、自律型兵器に対する国際的な管理体制であり、この兵器があればたった一人が致死性のドローンの艦隊全体を遠隔操作できてしまいます。ここでのポイント：人工知能は兵器化される可能性があります。 自律型兵器が潜在的にこれほど危険な主な理由のひとつは、極めて高い拡張性を持つことです。たとえば1000万機もの自律型ドローンからなる大艦隊を、わずか5人の操作員がコントロールルームで監視し、ボタンひとつで発射することができます。
さらに、これらの自律型兵器は、特定の人々を攻撃したり殺害したりするようにプログラムされる可能性があります。例えば、ある国の12歳から60歳までのすべての男性を標的にすることができるのです。自律型兵器の開発には、他にも大きなリスクが伴います。ひとつには、各国がこの技術を最初に作り出そうと軍拡競争に突入する可能性があります。自律型兵器は敵によるハッキングにも脆弱で、ある国が自国の兵器によって攻撃されるという事態も起こり得ます。これらの考えられる問題を考慮すると、自律型兵器技術を開発し続ける限り、私たちはリスクを理解し、必要な予防措置を講じることが不可欠です。政府の規制は技術の悪用を防ぐ一つの方法であり、研究者は最初から可能な限り最も安全なシステムを設計することを確実にすべきです。
もちろん、AIが兵器化される方法は実際の兵器以外にもあります。例えば、広告は機械学習の技術を使って人々の投票行動に影響を与えることができます。これは実際に、ケンブリッジ・アナリティカがFacebookのユーザーデータを2016年のトランプ陣営の選挙支援に利用した際に起こったことです。しかし、こうした兵器化の種類よりもさらに憂慮すべきことがあるかもしれません。それは、大規模な雇用喪失の脅威です。
ユニバーサルベーシックインカムや教育手当てで雇用の自動化問題を解決できる
10年後、人生で一日も働く必要がなくなることを想像してみてください。それはユートピアのように思えますか、それとも悪夢でしょうか？ あなたの答えがどうであれ、AIの存在感と能力の高まりは、特に反復的なタスクを効率的に完了する分野で、多くの仕事をすぐに自動化する可能性を意味しています。近いうちに職を失うかもしれない人々の例としてよく挙げられるのは、レジ係、トラック運転手、会計士、工場労働者などです。
では、収入を得るために働けなくなったとき、人々はどうやって生きていくのでしょうか？ この問題にはさまざまな解決策がありますが、著者がインタビューした人々のほとんどは、将来何らかのユニバーサルベーシックインカム（UBI）が必要になるだろうという点で同意していました。ここでのポイント：ユニバーサルベーシックインカムや教育手当てで、雇用の自動化問題を解決できるかもしれません。 長期的には、ある国の経済の十分に大きなセクターが自動化された場合、UBIが必要になる可能性があります。AIはビジネスの生産性を劇的に高め、それによって生まれた収益を、月々の手当てとして国民に還元できるのです。問題は、UBIが本当に必要になるのかどうかです。
結局のところ、歴史上大規模な技術革命が起こるたびに、雇用の大規模な喪失が予測されてきました。もちろん、時間とともに特定の仕事は確かに消えましたが、その代わりに常に新しい仕事が現れてきたのです。ほんの数年前までは、例えばソーシャルメディアに関連した仕事は存在しませんでした。今では、たくさんあります！ 仕事が自動化されてしまう人々にとっては、手厚い教育プログラムが解決策になるかもしれません。失業した個人が勉強し新たなキャリアを築くために給付金を支払う政策を、各国が採用することもあり得ます。これは条件付きベーシックインカムと呼ばれることが多い提案です。
幸いなことに、私たちは自分の人生のあらゆる側面をロボットに仕切られることを単純に受け入れないでしょう。人間的なつながりを伴う経験を引き続き大切にします。たとえば今日、デジタル音楽をほんの数ドルで購入することができます。しかし、ライブコンサートに参加するには、数百ドルかかるかもしれません。
ですから、人々を鼓舞し、つながりを生み出すことに焦点を当てた職業は、ロボットが私たちの生活にますます溶け込むにつれて、より高収入になる可能性が高いのです。雇用喪失は確かに心配ですが、研究者の中には、AGIがもたらすさらに大きな脅威に注意を向けるべきだと感じている人もいます。彼らは、この技術が黙示録的な事態を引き起こす可能性があると信じているのです。
汎用人工知能の潜在的なマイナス面は激しく議論されている
疑いの余地なく、AIの台頭は多くの懸念をもたらしてきました。しかし、人間のようなAGIがもたらす脅威ほど広く知られたものはないでしょう。ロボットが人類を凌駕し、私たち全員よりも速く、賢く、強くなったらどうなるのか？ ロボットの支配者に支配される世界は、おそらく今のところは厳密にSFのシナリオにとどまっています。
しかし、哲学者のニック・ボストロムをはじめとする少数の研究者によれば、AGIの創造を目指すミッションがどのようにして悲惨な結末を迎える可能性があるかを考える価値はあります。ここでのポイント：汎用人工知能の潜在的なマイナス面は激しく議論されています。 ニック・ボストロムが最初に提唱したペーパークリップ問題という思考実験を聞いたことがあれば、AGIの潜在的な危険性を示す最も有名な例に触れたことになります。あるAIがペーパークリップ工場の運営を任されたと想像してください。時間とともに、AIは工場を運営しペーパークリップを生み出す能力が徐々に向上し、効率が上がっていきます。最終的に、AIはあまりに賢くなり、ペーパークリップを作る最善の方法は、人類から支配権を奪い取り、全世界をペーパークリップに変えることだと気づきます。
このシナリオはわざと漫画的に描かれていますが、AIが私たちがプログラムした目標を達成することにあまりにも優れすぎてしまう可能性を示すことを意図しています。著者がインタビューした研究者のほとんどは、ボストロムの例は非現実的だと考えており、ペーパークリップシナリオを回避する方法はいくつかあります。ひとつには、単純にペーパークリップを作るAIに、例えば送電網を制御する権限を与えなければいいのです。さらに、AIを価値体系や善悪の概念とともに設計し、できるだけ多くのペーパークリップを作ることだけを唯一の目的としてハードコードされないようにしておくでしょう。AGIによる支配を防ぐ方法はさらにあります。最も過激なもののひとつは、機械だけでなく人類そのものをアップグレードする必要があると考えるブライアン・ジョンソンによって提案されました。
そのためにジョンソンはKernelという会社を設立し、神経科学を使って私たちの脳を「ハック」し、コンピューターチップの埋め込みやその他のデバイスによって認知能力を高めることを目指しています。AGIを実現する正確な時期については専門家の意見も分かれています。しかし重要なのは、私たちがこれらの問題に真剣に取り組み、知能が私たちに匹敵する機械とまもなく共存するかもしれない世界に備えることです。
最後のまとめ
ディープラーニングとニューラルネットワークの進歩により、人工知能は特定の狭いタスクを完了することが非常に得意になりました。しかし、私たちはまだ汎用人工知能の時代からは遠く離れており、それには教師なし学習、ハイブリッドシステム、神経科学の進歩が必要です。たとえ私たちの生涯でAGIの出現を見なくても、医療や軍事におけるAIの役割は拡大し続け、人類にとって新たな課題をもたらすと同時に、大きな恩恵をもたらすでしょう。
