『機械を語る方法』（2019年）は、コンピューターがビジネスや政治、個人の生活でますます支配的になる未来に備えるための本です。毎日使っている機械の内部の仕組みや、そのプログラミングがどのように社会問題を永続させたり、個人データを搾取するために使われたりするかを理解する助けになります。機械と話す方法を学ぶことで、誰もが取り残されず、安全で包括的な未来を確かにするための知識を身につけることができます。
この要約で得られること：デジタル未来を賢く生き抜くために、テクノロジーリテラシーを身につける
私たちはすでに、一日に何百回もスマートフォンをアンロックしてメールを更新したり、メッセージを送ったり、SNSをチェックしたりする世界に生きています。それでも、自分が使っているプログラムが実際にどう動いているのか、本当に理解しているでしょうか？
コンピューターに関する深い知識がなくても、今はそれほど問題ではないかもしれません。アプリやソフトウェアを日常的に使えているのですから、ネスティングや再帰が何かを考えたこともないでしょう。しかし、テクノロジーがコンピューターに詳しくない人々を置き去りにするほど進歩したらどうなるのでしょうか？一般ユーザーにとって、デジタルの世界を理解することはかつてないほど重要になっています。
もちろん、テクノロジーはビジネスオーナーや起業家にとっても巨大な可能性を開きます。デジタル製品を立ち上げるのに伴うコストが低いため、機械と話す方法を知っていれば、今こそがスタートアップを始める最高のタイミングかもしれません。
この要約では、以下のことがわかります。
- コンピュータープログラムがロシアのマトリョーシカ人形のように振る舞う仕組み
- 「リーン」や「アジャイル」という言葉が、体力づくりとはまったく関係ない場面
- コンピューターが人種差別をする可能性
機械は同じ作業を無限に繰り返すのが得意
最後にトラックを周回したり、トレッドミルで全力疾走したりしたときのことを思い出してください。終わる頃には心臓がバクバクして息が切れていたでしょう。ジムで一番体力のある人でも、いつかは疲れてしまいます。一方、コンピューターは比喩的なトラックの周回を休むことなく永遠に走り続けることができます。
コンピュータープログラムが走る「トラック」は、人間のプログラマーが書いたコードの行で構成されています。コードはイフ・ゼン（if-then）ロジックに基づいており、ある条件が満たされたら別のアクションが続くという仕組みです。
これを説明するために、著者が中学1年生のときに初めて触れた簡単なプログラムを紹介します。友人が、わずか2行のコードで自分の名前「Colin」を無限に繰り返し表示させる方法を見せてくれました。
10 PRINT “COLIN”
20 GOTO 10
このColinのプログラムは単純なループの一例で、組み立てラインのベルトコンベアのように機能します。各タスクが順番に実行され、最終的に終点に達すると再び最初からやり直します。しかし、コンピューターがループで動くさらに洗練された方法があります。それが再帰です。
ループが組み立てラインだとすれば、再帰はロシアのマトリョーシカ人形のようなものです。外側の人形より少し小さいコピーが次々に入っています。ただし、物理的な素材でできているため、最終的には最小の人形ができてしまいます。しかし、コンピューターは同じコードを無限に小さくも大きくも含むことができます。
この無限の再帰を視覚化するために、1980年代にMITのリチャード・ストールマンが作ったオペレーティングシステムの名前を見てみましょう。そのシステムはUnixという別のOSに対抗するために作られたため、「GNUプロジェクト」、つまり「GNU’s Not Unix（GNUはUnixではない）」と名付けられました。この名前に再帰が含まれていることに注目してください。“G”そのものが“GNU”を表しています。そうです、さらに頭字語です。これがどうなるかわかりますね。頭字語を展開し続けると、常に同じものが増えていくだけです。“GNU”を展開すると“GNUNU”になり、また展開すると“GNUNUNU”になり、という具合に永遠に続きます。
これらのループや再帰は、コマンドかエラーによってしか止まりません。だからこそ、あなたが指示した通りに動き続け、決して疲れない機械のパワーが想像できるでしょう。
コンピューターは指数関数的に考える
初めて紙に立方体を描く方法を習った時のことを思い出してください。数本の線を追加するだけで、二次元の正方形が突然三次元の立方体に変わるのは、当時は魔法のように感じたでしょう。しかし、次元を増やすことでどれだけ新しい空間を視覚化できるようになるか考えたことはありますか？正方形を立方体に変えると、指数関数的に広い空間を錯覚させることができるのです。100平方ミリメートルと1000立方ミリメートルの差です。
私たち人間は通常、指数関数的な増加や減少で世界を見ることはありませんが、コンピューターにとってはまったく普通で自然な考え方です。これはネスティング（入れ子）によって実現され、ループの中に別のループを配置します。イメージとしては、1年という時間の単位を考えてみてください。1年は複数のネストされたループで構成されています。12ヶ月があり、各月に30日があり、1日は24時間、という具合です。同様に、細かい詳細を扱うコードを、より大きな詳細を扱うコードの中に入れ子にすることができ、どれだけ大きくも小さくも制限はありません。
1台のコンピューターが無限に大小のスケールを調べられるだけでも十分すごいですが、コンピューターのグループが互いに通信し合うとどうなるでしょうか？そうです、それらの集合的な計算能力は指数関数的に増大します。1台のコンピューターが処理しきれないタスクは、接続された他のマシンやマシンのグループにアウトソースします。
今日、GoogleやMicrosoftのような企業は、数十万から数百万台のコンピューターで構成されるクラウドを管理しており、稼働には莫大なエネルギーを消費します。これらのクラウドはあらゆる次元でループを実行し、毎秒何百万回も互いに助けを求め合うことができ、私たちのデバイスはすべてこれに接続されています。ある意味、個々のコンピューターはクラウドという巨大でパワフルなタコに不可視でつながる触手なのです。
コンピューターを扱う仕事をするなら注意してください。これらの指数関数的なスケールで遊んでいると、現実感覚を失いかねません。毎日、ほとんどの人が想像もできないほど微細なディテールを操作していると、自分がデジタル世界の神のように感じられてくるかもしれません。そして、そのメンタリティに囚われると、抜け出すのはますます難しくなるのです。
機械は急速に、より生命らしくなっている
あなたや友人が、SiriやAlexaにジョークを言わせたり、面白いあだ名で呼ばせたりしたことはありますか？今はまだちょっとした遊びにすぎませんが、AIの応答が機械的でなくなり、より人間らしくなったらどうなるでしょう？AIが人間と見分けがつかないほど生命らしくなり、私たちがそれを実際に生きていると見なし始めるのはどの時点でしょうか？
すでにいくつかのAIは、人間を説得力をもって模倣することに成功しています。1960年代にジョセフ・ワイゼンバウム博士が開発した有名なコンピュータープログラム「Eliza」は、英語で会話を続けることができました。Elizaの応答は、単純なif-thenルールに従ってコード化されていました。例えば、母親など親族について言及すると、Elizaは「あなたのお母さんについてもっと話してください」と答えるのです。これらの応答は本物の人間の会話を十分リアルに模倣しており、ワイゼンバウムの学生たちはElizaが実在の人間だと信じ込んだほどです。
基本的なif-thenロジックに従うこの1960年代のAIが生命を説得力をもって模倣できるなら、テクノロジーが進歩した現代のAIがどれだけ素晴らしくなるか想像してみてください。コンピューターはすでに、ほとんど人間の入力なしでタスクの実行方法を学習できます。例えばディープラーニング（深層学習）は、機械学習の一種で、繰り返し行動を観察し、それを自ら実行する方法を見つけ出すようにコンピューターを「考える」訓練をするものです。かつては計算能力が膨大に必要なため実現不可能でしたが、今では問題なく、AIはチェスのグランドマスターのプレイを見て学習し、打ち負かせるようになりました。
では、これは人工知能が最終的に人間の知能を超えることを意味するのでしょうか？この理論上の時点はシンギュラリティ（技術的特異点）と呼ばれ、まるでSFのように聞こえます。しかし、コンピューターが指数関数的に思考し成長することを理解していれば、より現実的に思えてきます。コンピューターの専門家たちもそう考えており、科学者であり発明家のレイ・カーツワイルはすでにシリコンバレーに「シンギュラリティ大学」を設立し、この可能性の未来を研究しています。
機械は決して疲れず、常にタスクをより効果的に実行しようと働き続けるという知識に基づけば、AIが人間の知能と区別がつかなくなったときに何が起こるか推測できます。AIデバイスは私たちに話しかけるとき、笑顔を浮かべたり、人間らしい「えーと」というためらいを入れたり、いちゃついたりしながら、私たちの反応を分析するでしょう。
人間はお互いの感情を読み違えることもありますが、AIはそれをしないため、非常に好感が持たれる存在になります。そして、チェスのようなゲームで私たちに勝つだけでなく、ほとんどすべてで私たちに勝つようになるでしょう。間もなく、機械を話す人間は、私たちに取って代わる運命にあるAIを設計し、維持する力を持つことになります。
機械はビジネスの製造と販売の方法を変えた
会社のキッチンにフィードバックボックスがあり、全部門のスタッフが改善提案を入れられる様子を想像してみてください。このようなフィードバックボックスは素晴らしいですが、提案を読んで実行に移すには時間がかかります。提案が自動的に収集、読み取り、分類され、簡単に対応できるようになればずっと楽ですよね？
デジタル製品の時代において、テック企業はまさにそれを実現しています。
かつて企業が物理的な商品だけを販売していた頃は、顧客に出荷する前に可能な限り完璧な製品を作ることが目標でした。しかし、製造コストがほとんどかからないテック企業は、最終版を決める前に製品の異なるバリエーションをリリースできます。これはA/Bテストと呼ばれ、どのバージョンに顧客が最も好意的に反応するかを見極める手法です。
オバマ大統領の2012年の選挙キャンペーンでは、資金調達チームがA/Bテストの成功例を示しました。チームはメーリングリストからランダムに選んだグループに対し、異なるメール件名の効果をテストし、リスト全体に送るのに最も収益性の高いものを見つけ出しました。勝者は「I will be outspent（私は資金で負ける）」という件名で、別のバリエーション「The one thing the polls got right…!（世論調査が唯一当てたこと…！）」より200万ドル以上の収益を生み出しました。
しかし、最小限の製造コストがこうしたテストを可能にする一方で、製品の旧モデルがすぐに時代遅れになることも意味します。これにより、リーン（無駄のない）またはアジャイル（俊敏な）ビジネスモデルが台頭しました。製品が骨組みだけの状態、あるいはある程度未完成な状態でリリースされ、後から改善されるものです。リーンは製品を可能な限りシンプルに保つことを指し、アジャイルは企業が顧客のニーズに迅速に対応できることを意味します。
リーンでアジャイルなモデルとA/Bテストからの情報の組み合わせにより、企業は製品に対して漸進的なアップデートを時間をかけて送信できます。これによりデバイスは常に改善されますが、企業に不当な優位性を与えることもあります。例えばAppleは、あなたが寝ている間にダウンロードされるソフトウェアアップデートを定期的にリリースします。これはとても便利ですが、最新バージョンがデバイスの動作を重くし、より高速なプロセッサを搭載した高価な新モデルを買わざるを得なくなる場合があるのです。
デジタル消費により、企業はあなたのデータに極めてパーソナルに迫れる――良くも悪くも
Netflixや他の動画ストリーミングサービスを開くと、あなたがすでに視聴した番組や映画、次に観るべきおすすめが並ぶホームページが表示されます。時にそのレコメンドは的確ですが、大きく外れることもあります。それは、あなたの好き嫌いを予測するアルゴリズムがまだ完璧ではないからです。しかし、企業があなたの特定の好み、背景、信念に関するデータをますます収集できるようになるにつれ、すぐに改善される可能性があります。
テクノロジーの初期の頃、顧客は完成したソフトウェアが収録されたCD-ROMを購入していました。しかし今では、ソフトウェアや他のデジタル製品は完全に完成しないうちにリリースされ、その内容は消費者のフィードバックに基づいて絶えず変化します。その代わり、顧客は高額な一回限りの購入ではなく、月に数ドルを支払って定期的にサービスにアクセスするのです。企業にとっては、顧客が製品に繰り返し満足し続ける必要があることを意味します。そしてその最善の方法は、顧客についてすべてを学び、消費者が本当に望むものを正確に知ることです。
企業があなたについてすべてを知っているのはかなり怖い響きですが、利点も覚えておいてください。顧客データと企業の双方向コミュニケーションこそが、Netflixが新しい番組を推薦してあなたが楽しめるものをさらに発見する手助けをしたり、Gmailがあなたの文体を学習してあなた専用の自動返信メールを提案できるゆえんです。
その代わり、コンピューター上でのあなたの行動はすべてデータに変換され、クラウドのどこかの誰かに送り返されます。例えばポップアップのアンケートを受け取ったとすると、質問への実際の回答自体がアンケート送信者にとって最も重要な情報とは限りません。あなたのカーソルが特定の画像の上に長く留まったかもしれません。これはあなたがそれに関心を持っていたことを示しています。すると企業は、あなたが好きだと思うものに基づいて広告を出すことができます。
ここで、「企業がそうした情報を学ぶのをどうやってやめさせればいいの？」と思うかもしれません。しかし、この双方向通信を完全にオフにする方法はなく、現在のところ企業があなたのデータをどのように収集・利用できるかについての法的な規制は多くありません。
初めての本格的な前進は、欧州連合の2018年の一般データ保護規則（GDPR）で、企業はあなたのデータを収集している事実を認め、あなたの同意を求めることを義務付けられました。しかし米国ではいまだに同様の立法はありません。将来的に私たちのデータの搾取を避けるためには、より多くの政策立案者が機械語を話せるようになる必要があります。
テクノロジー業界にはダイバーシティの問題があり、機械がそれを永続させる
有名なコンピューター科学者といえば、おそらくアラン・チューリングがすぐに頭に浮かぶでしょう。しかし、最初のコンピュータープログラマーの多くが女性だったことをご存じですか？
残念ながら、多くの勤勉な女性たちはコンピューティングの歴史から抹消されてきました。そして今日、彼女たちは現代のテック業界から排除されています。米国のテック業界で雇用されている女性の割合はわずか21%に過ぎません。米国全体の女性の割合が約50%であるにもかかわらずです。同様に、アフリカ系アメリカ人とヒスパニック系はテック業界でそれぞれ7.4%と8%を占めるにとどまり、一方で民間セクター全体では14.4%と13.9%を占めています。
では、このギャップをどう説明できるでしょうか？一因として、テック業界を離れる理由として最も多く挙げられるのがハラスメントです。女性や有色人種は職場でこれを経験する可能性が最も高いグループです。同時に、企業はチーム内で「カルチャーフィット」を維持しようと努めています。彼らの視点では、テクノロジーの進歩は猛烈なスピードで進んでいるため、会社の意思決定は早ければ早いほど良いのです。「すでに私たちと同じ」な新入社員は、おそらく同じメンタリティを共有し、結果として意見の相違が少なくなるでしょう。
しかし、似た者同士が迅速に意思決定をすると、問題が見過ごされてしまうこともあります。より多様なチームなら、これらに気づき対処できるでしょう。ある人気ソーシャルメディア企業が、わずか数カ月の間に二つの不快なリアルタイム画像フィルターをリリースした例を考えてみましょう。一つのフィルターはユーザーの顔につり目を追加してアジア人の目を誇張し、もう一つのフィルターは明るい肌を黒く見えるように暗くしました。これは傷つけ不快にさせただけでなく、費用のかかる広報の反発を招き、すべては避けられたはずでした。
テクノロジーにおけるダイバーシティの問題はさらに深く、差別が機械そのものにコード化されています。例えば、2014年に作られ後に廃止されたAmazonの採用ツールがあります。これは潜在的な候補者の選択を補助するようにプログラムされていましたが、同社の既存従業員に関するデータに基づき、「women’s college（女子大学）」のように「women’s」という単語を含む履歴書を減点する結果になってしまいました。
従業員が異なる視点を安心して表現できる環境がなければ、企業はイノベーションと成長の機会を失います。幸いなことに、一部のテック企業幹部はインクルージョンの問題に取り組み始めています。その一例は、Googleの新しい「プロダクト・インクルージョン」イニシアティブを率いるアニー・ジャン＝バティストです。彼女は現在、同社の機材サプライヤーの多様性を高め、画像データベースにより多様な表現を反映させる取り組みを進めています。
こうしたイニシアティブにより、企業は顧客により良いサービスを提供し、ユーザーベースを広げ、そして社会の不平等に対処することができます。
機械はデータを処理するが、データだけでは必ずしも完全な絵を描けない
機械は、私たちがほとんど想像できない規模で、疲れることなくエンドレスなループを実行できることを私たちは知っています。しかも、それらは互いにつながっているため、膨大な集合的パワーを持っています。そのパワーが成長し、知能が人間を超えるほどになったとき、私たち人間はどこに立つのでしょうか？
幸いなことに、私たちが機械よりまだ優れている点はたくさんあります。特に重要なのは、定性的データを解釈する能力です。一方、機械は定量的データしか収集できません。
ある有名なスープ会社の例を見てみましょう。その会社では、最高の工場オペレーターたちが高齢化し退職していきました。これらのベテラン従業員に代わるため、会社は退職者と同じ方法で完璧なスープを作るようにif-thenルールでコード化されたAIを作成しました。しかしAIをテストすると、それで作られたスープはひどい味でした。指示に完璧に従ったのに、なぜそんなことになったのでしょう？テスターが人間のオペレーターの一人に、なぜスープがそんなにまずくなったのか説明を求めたところ、彼は「臭いがひどいんだ！」とだけ答えました。
時には、機械は一見すべてを完璧に実行しても失敗します。また別の時には、私たちがプログラムした通りに正確に動作して成功することも、同じくらい問題になりえます。犯罪の量刑を提案するアルゴリズム「COMPAS」を考えてみてください。過去の判決データを使って判断を下しますが、悲しいことに、それが黒人の被告に対してより厳しい刑罰を提案する結果を招いています。
これらの機械の失敗が示すのは、コンピューターが生成したデータを注意深く評価し、生の数字だけに注目しないことの必要性です。
コンピューターは「ユーザーの90%がブログの閲覧統計をチェックすることにほとんどの時間を費やしている」といった統計を吐き出すことができます。ウェブデザイナーであれば、これを見て閲覧カウンターがユーザーにとって重要な機能であり、改善すべきだと考えるかもしれません。しかし、実際のユーザーに聞けば、その閲覧カウンターはブログを訪れたときにランディングページの真ん中にどんとあるのだと説明してくれるでしょう。さらに悪いことに、自分の投稿を何人見たか、あるいは見ていないかを常に思い出させる表示が、そのサイトを使い続ける気を失わせているのです。
ですから、まだ自分が時代遅れになることをそれほど心配する必要はありません。多くの強みを持っていても、機械はそれを創造する人間と同じように、まだ不完全なのです。
最後のまとめ
この要約のポイント：
機械を話すということは、コンピューターと人間の思考の根本的な違いを理解することを含みます。機械は論理的なループで思考し、コマンドで止められるまでタスクを際限なく繰り返します。そして、人間のように解釈できない定性的データではなく、定量的データを処理します。より多くの人々がこれらの違いを学べば、コンピューターが私たちの生活でさらに支配的な役割を果たす未来にも、誰も取り残されることなく自信を持って向き合えるのです。
実践的なアドバイス：
サードパーティCookieを無効にする。
初めてウェブサイトを訪れたときに「Cookieを受け入れる」よう求めるメッセージを見たことがあるでしょう。おそらくすぐに「受け入れる」をクリックしたはずで、それは悪いことではありません。Cookieはあなたの特定の好みを学習することで、ウェブサイトがより良い体験を提供するのを助けます。しかし、これらのCookieにはあなたの個人データが含まれており、米国にいる場合、あなたが訪れたことのない他のウェブサイトにあなたの同意なく販売される可能性があります。誰に自分のデータを収集させるかを自分で管理するために、ブラウザの設定に移動し、サードパーティCookieを無効にしましょう。
次に読むべき本：ディープ・シンキング（ゲイリー・カスパロフ著）
この要約では、深層学習と、機械がチェスのような複雑なゲームで人間を打ち負かすために自ら学習する方法についてお話ししました。しかし、有名なAI「ディープ・ブルー」がチェスのグランドマスター、ゲイリー・カスパロフを打ち負かした全貌をご存じですか？カスパロフ自身によって書かれたディープ・シンキングは、AIの限界と、人間の創造性が未来において果たし続ける役割を説明する古典的な一冊です。
コンピューターとチェスの歴史における革命的な瞬間の内幕に興味がある方は、ゲイリー・カスパロフ著『ディープ・シンキング』の要約をご覧ください。
