『アラインメント問題』（2021年）は、AIの発展の歴史であると同時に、これから起こることへの予言的な警告でもある。学習データに内在するバイアスから、進歩の極端な速さまで、ブライアン・クリスチャンはAI問題の潜在的な危険性とその解決策を詳細に描き出す。
この要約から得られること：AIプログラムは人間の最悪の部分を映し出す鏡である
誰に聞いても、AIについて何らかの意見を持っている。「仕事はもっと良くなる」「私たちの仕事を奪う」「世界平和をもたらす」「世界を破壊する」。AIが何に進化していくのか、誰がそれを使うのか、どのように使うのか。まだ分からないことは多い。しかし確実にわかっているのは、AIが猛烈なスピードで発展し、十分なテストもされないまま世に解き放たれており、そのプロセスの中で、私たち自身について何かを教えてくれているということだ。
AIがしばしば示す衝撃的な振る舞いのひとつが、バイアスと人種差別だ。なぜそうなるのかを理解するためには、19世紀、フレデリック・ダグラスが世界で最も多く写真を撮られた人物だった時代まで遡る必要がある。本要約では、その後2010年代前半まで旅を続け、ある若い開発者が、白いマスクを着けない限り自分のAIロボットが自分の顔を認識してくれないことに気づいたエピソードにたどり着く。最後に、これらの物語が私たちに与えてくれる希望と警告について語ろう。
AIはしばしば人種差別的である
2015年、ジャッキー・アルシネという若いウェブ開発者は、友人がGoogleフォトで写真を共有したという通知を受け取った。アプリを開くと、新しいユーザーインターフェース（UI）が導入されているのがわかった。GoogleのAIが写真を「卒業式」や「ビーチ」などのカテゴリーに自動分類するようになっていたのだ。
アルシネは黒人である自分と親友が一緒に写っている自撮り写真を見つけた。その自撮りのキャプションには「ゴリラ」と書かれていた。フォルダを開くと、彼と友人の写真が何十枚も入っており、他には何もなかった。
彼はすぐにTwitterでGoogleフォトを告発した。2時間以内に返答があり、Googleは問題解決に取りかかった。2023年時点での最善の解決策は、UIから「ゴリラ」のカテゴリーを削除することだった。黒人を誤って分類することなくゴリラを識別させる方法は、いまだに見つかっていない。
なぜこういうことが起きたのかを理解するには、19世紀で最も多く写真を撮られた人物、フレデリック・ダグラスまで遡る必要がある。
有名な奴隷制度廃止論者であるダグラスは、写真技術が一般に広まり始めたことを喜んだ。それまで黒人の表象はもっぱら白人によって描かれた絵の中にしか存在しなかった。そうした絵は黒人の特徴を大げさに誇張し、人間というより動物のように描くことが多かった。ダグラスは、写真が黒人により正確な表象を与えると信じていた。そのため彼は喜んで写真に収まり、黒人が写真を撮ることを奨励したのだ。
これは良い出発点だったが、問題は表象だけではなかった。問題はテクノロジーそのものにまで及んでいた。本質的に、カメラ自体が人種差別的だったのだ。というのも、フィルムは特殊な化学コーティングを施されて作られており、そのコーティングは、撮影される人や物がさまざまな光の下でどう見えるかに基づいて開発されていたからだ。
映画フィルムで良い画質を得るため、ハリウッドは白人女性（最初のモデルはシャーリーという名前だった）をカメラの前に座らせてフィルムを最適化する方法を取った。フィルムのコーティングは、シャーリーが最も美しく映るように開発された。このプロセスは、肌の色が濃い人々を完全に無視していた。
幸いにもこの問題は1970年代にコダックによって解決された。ただし、公民権運動の成果としてではなく、家具会社や菓子会社がメディアでの自社製品のより良い写真表現を求めていたからだ。そこでコダックは、暗い色も含めてフィルムを最適化し始めた。（コダックにとって）嬉しい副次的効果は、まったく新しい市場が開かれたことだった。その一方で、何十年もの間、白人以外の正確で鮮明な表現が写真や映画に欠けていたという負の遺産も残った。
アルシネの時代に話を戻すと、AIが黒人を人間として認識しない、あるいは黒人の顔をまったく認識しない事例が見られる。
人種差別がテクノロジーとどれほど深く絡み合っているかを理解したところで、次のセクションでは、現代のAIがなぜこの問題を克服できないのか、そしてそのために何が行われているのかについて話そう。
包摂的なAIを作るには
2010年代初頭、ジョイ・ブオラムウィニという大学院生がロボティクスのプロジェクトに取り組んでいた。彼女が使っていたロボットは顔認識の訓練を受けており、いないいないばあを教えようとしていた。ただひとつの問題は、ロボットが彼女の顔を認識しないことだった。プロジェクトを完了させるためには、友人に代役を頼まなければならなかった。数年後、彼女が香港を訪れた際、社交ロボットのデモンストレーションを見学する機会があった。やはりロボットは、ツアーグループの全員を認識したが、彼女だけを認識しなかった。結局、そのロボットは彼女のいないいないばあロボットと同じオープンソースコードでプログラムされていたことが判明した。
最終的に、ブオラムウィニは問題を特定した。元のプログラムは「Faces in the Wild（野生の顔）」というデータセットの写真で訓練されていたのだ。調べてみると、その画像は圧倒的に白人男性に偏っていた。濃い肌の女性の画像は5パーセント未満だった。ブオラムウィニのロボットが彼女の顔を認識しなかったのも無理はない。
彼女は自分が発見したことを共有するため、いくつかのテクノロジー企業に連絡を取った。肯定的に応じたのはIBMだけだった。IBMは彼女の結果を検証し、その後データセットの改善とアルゴリズムの再訓練に取りかかった。数週間のうちに、黒人女性の顔を識別する際のエラーを10分の1に減らすことに成功した。
この話はほんの始まりにすぎない。AIが未来の潮流となるのか、それとも私たちを破滅させるのかを考えるとき、私たちは今よりももっと深く過去を掘り下げる必要がある。本質的に、AIは与えられた訓練の質以上のものにはなれない。新しいオープンソースのAIプログラムが問題行動を起こすのを目にするとき、それはおそらく、AIがインターネットで学習しているからだ。インターネットは人間が作り出したものであり、人間は必ずしも望ましい行動ばかりを示すわけではない。
ここでの警告は、開発者たちが、テクノロジーを形づくる歴史と人間性の本質を理解せず、新しいテクノロジーを急いで世に出すことで大きな過ちを犯してきたということ、そしてそれが私たちの未来に脅威をもたらすということだ。
まとめ
AIを人類の歴史から切り離して開発することはできない。これらのプログラムは、訓練に使われるデータセットの質以上にはなれない。黒人を写真や映画から誤って表象し、あるいは排除してきたアメリカの歴史が、白人男性に大きく偏ったデータセットを生む道を開いてきた。この具体的な問題を是正する唯一の方法は、データセットを変えることだ。しかしより大きな教訓は、テストもせず、多様な視点も取り入れずに新しいAIテクノロジーを世に出すことは、無謀であり、人類に害を及ぼす可能性があるということだ。
