AIスネークオイル（2024年）は、人工知能にまつわる神話や誤解を探り、特にAIがその約束を果たせない領域に焦点を当てています。生成AI、予測AI、コンテンツモデレーションAIといった現在のテクノロジーの限界を批判的に検証し、AIに何ができて何ができないのかを地に足の着いた理解で捉える必要性を強調しています。
はじめに──AIにまつわる神話と誤解を解き明かす
人工知能（AI）は世界を変革し、産業に革命を起こし、経済を再編し、私たちの暮らしそのものを変えようとしています。こうしたテクノロジーが日常生活にますます溶け込んでいく中で、その可能性と同時に限界を理解することがこれまで以上に重要になります。AIが真に社会の役に立つためには、こうした問題に慎重に向き合わなければなりません。創造的なコンテンツを生み出したり、複雑な意思決定を自動化したり、インターネットをより安全な空間にしたりと、AIにはわくわくするような可能性が数多くあります。
その一方で、AIは倫理や不平等、プライバシーに関する深刻な懸念ももたらします。微妙なニュアンスを読み取れなかったり、偏見を深めたり、利益だけを追求する者に悪用されたりといった事例が、その証拠です。この要約では、生成AI、予測AI、コンテンツモデレーションAIという三つの異なるタイプのAIを取り上げ、それぞれにまつわる神話や誤解を探っていきます。その上で、AIが公共の利益を促進する形で人間の知性を補完するように、競合させるのではなく、補い合う存在にするために何が必要かを学んでいきましょう。準備はいいですか？さあ、始めましょう！
生成AI
文章や画像、動画といったメディアを生み出す生成AIは、急速に日常生活の一部になりつつあります。まだ比較的初期段階にあるとはいえ、文化や経済をすでに塗り替え始めています。ただしその影響は一様ではなく、大きく貢献している領域もあれば、同じくらい大きな懸念を抱えている領域もあります。アクセシビリティの面では、生成AIは大きな可能性を示しています。
たとえば、視覚障がい者向けアプリ「Be My Eyes」は、AIを使って画像を説明し、ユーザーが周囲の状況をよりよく理解し、移動しやすくしています。AI機能は人間のボランティアほどの正確さ――あるいは社会的な温かみ――には及ばないものの、いつでも利用できるという点で価値あるツールとなっています。ChatGPTやMidjourneyを通じて初めて生成AIに触れた人にとっては、このテクノロジーの急速な台頭は突然のことのように思えるかもしれません。しかし実際には、生成AIのルーツは数十年前にさかのぼります。現在よく使われているチャットボットや画像生成ツールは、基本的なアルゴリズムを共有しており、異なるのは学習データとアーキテクチャだけです。たとえば画像生成では、多くの場合拡散モデルが使われ、膨大なデータセットから学習することでランダムなノイズを意味のあるビジュアルへと変換しています。
ところが、まさにここで問題が生じ始めます。著作権で保護された画像が無断で大規模に利用されることで、創作者の所有権をめぐる倫理的な懸念が浮上しているのです。とりわけ大きな問題となっているのが、アーティストの作品が無規制で使われることです。画像生成を行う企業は、しばしば数十億点ものオンラインコンテンツをAIに学習させていますが、その際、クリエイターにクレジットを与えず、報酬も支払っていません。時代遅れの著作権法の抜け穴を悪用しているのです。当然ながら、多くのアーティストは、ルーティン的な仕事においてAI生成コンテンツが人間の手によるアートに取って代わるのではないかと危惧しています。このため、同意の取得や公正な報酬の支払いといった、より倫理的な慣行を求める声が強まっています。また、AIの能力が拡大するにつれて、プライバシーに関するリスクも表面化しています。
予測モデルのような一部のAIツールは精度に苦戦しますが、画像分類は非常に高い性能を発揮するため、監視目的に効率よく利用されてしまいます。物体認識に使われるのと同じAI技術が人を監視するためにも応用できてしまうため、国家機関や個人によるプライバシー侵害が深刻な懸念材料となっています。チャットボットはさらに別の課題を抱えています。精巧でまったく自然な応答を返してくるにもかかわらず、実際には文脈を理解しているわけではなく、単語の並びを統計的に予測しているにすぎません。そのため、もっともらしいが誤った内容を平気で出力してしまい、事実の正確さが求められる作業には依然として信頼性が低いのです。最後に、生成AIの開発には労働集約的なデータのラベリングが欠かせませんが、その作業はしばしば北米やヨーロッパ以外の国に委託され、低賃金と高いノルマを押し付けることができる場所で行われています。
今後は、こうしたデジタル技術の持続可能性と公平性を確保するために、より強力な保護と公正な労働慣行が不可欠になるでしょう。明らかに、生成AIは進化を続ける中で、機会とリスクの両方を私たちの前に突きつけています。その可能性は計り知れないものがありますが、倫理的・法的・社会的な影響にしっかりと対処してこそ、社会の最善の利益にかなう形で害を最小限に抑えながら活用できるようになるのです。
予測AI
古来、人々は神託にすがったり、占い師を訪ねたりと、未来を予言することに魅了されてきました。現代では、予測AIがデータを分析して結果を予測する未来予測の道具となっています。しかしながら、その有効性をうたう主張の多くは誇大広告であり、予測AIには重大な限界があります。特に問題なのは、正確な予測が常に正しい意思決定につながるとは限らない点です。
AIモデルは、自らの選択が予測する状況そのものを変えてしまうことを十分に考慮できません。たとえば医療の分野では、ランダム化比較試験が費用と時間がかかるにもかかわらず不可欠とされるのは、さまざまな介入の因果関係について厳密なデータを提供してくれるからです。しかし予測AIはこの重要なステップを無視しがちで、過去のデータだけに頼って現在の予測を生成します。実世界でリアルタイムにテストされていないため、特に新しい文脈に導入された場合、そこから導かれる意思決定が約束されたほどの効果を発揮しない恐れがあります。もう一つの懸念は、予測AIシステムがいかに簡単に悪用されてしまうかという点です。これらのモデルは過去にうまくいったパターンに依存するため、実際に測定すべきものをしばしば見落とします。
採用プロセスを例にとると、AIは履歴書の表面的な要素を重視し、候補者の適性や潜在能力を意味のある形で示す指標を軽視してしまうかもしれません。すると求職者は応募書類を操作せざるをえなくなり、本来の自分を伝えることから遠ざかってしまいます。また、オートメーション・バイアスとも呼ばれる、AIへの過度な依存も大きなリスクです。予測AIは一般に、コスト削減と意思決定の完全自動化の手段として売り込まれ、人間の関与を不要にするものと位置づけられています。ところがAIが失敗したり、まずい判断を下したりすると、企業は「人間の監視が行き届くべきだった」と言って、容易に責任を逃れてしまいます。予測AIモデルはさらに、学習に使われたデータによって制約を受けます。
これらのモデルは、学習に用いたのと同じ母集団に対してテストした場合には優れた性能を発揮しても、異なる集団に適用すると精度が大きく落ちてしまいます。たとえば、ある国や産業のデータで学習したAIシステムは、特性の異なる別の国や産業では貧弱な結果しか出せません。この問題は、医療や法執行のようなハイリスクな文脈で予測AIが使われる場合に特に深刻です。不正確な予測が、十分に代表されていない集団に属する個人に重大な影響を及ぼしかねないからです。実際、予測AIは社会全体の不平等を悪化させる傾向にあります。過去のデータに依拠する以上、そのデータに含まれる偏りや不平等をそのまま再現してしまうのです。残念ながら、予測AIが導入されると、最も脆弱なグループが真っ先に悪影響を被ることが少なくありません。
予測AIが広く支持を集める背景には、人間がもともとランダムな事象に居心地の悪さを覚える性質があるようです。大昔から人々は未来をコントロールするという考えに引き寄せられてきましたが、予測AIは「確実性」という幻想を与えてくれます。しかし現実には、多くの結果は本来的に予測不可能なのです。欠陥のある予測に必死にすがるよりも、この不確実性を受け入れることこそが、すべての人にとってより良い意思決定と結果につながります。それでもなお水晶玉を追い続けなければならないのだとしたら、個人を固定的な存在、未来をあらかじめ決まったものとして扱うのではなく、人生の複雑さとランダムさを認識し、それに適応できるモデルを設計する方向へと進むべきでしょう。
コンテンツモデレーションAI
コンテンツモデレーションは、ソーシャルメディアプラットフォームの屋台骨の一つとなっています。技術的な機能そのものは簡単に模倣できても、ユーザーが投稿するコンテンツをどう扱うかが各プラットフォームの独自性を決めているのです。日々何百万もの投稿が生み出されるなかで、AIはモデレーションを担う理想的なツールのように思われます。疲れを知らず、集中力を切らすことなく、一貫してルールを適用できるからです。実際、AIはすでにコンテンツモデレーションで主要な役割を果たしています。
しかし、その潜在能力にもかかわらず、AIはその効果を大きく削ぐ無視できない課題に直面しています。ほとんどのソーシャルメディアプラットフォームは、投稿が公開されるとすぐにAIでスキャンし、ヘイトスピーチやポルノ、暴力など、コミュニティガイドラインへの違反がないかチェックします。フラグが立てば、コンテンツはひっそりと表示順位を下げられたり、削除されたり、警告ラベルを付けられたりします。コンテンツモデレーションAIは、膨大な投稿量に対処するうえで確かに役立っていますが、決して完璧なシステムではありません。大きな限界の一つは、AIが文脈やニュアンスを理解できないことです。人間のモデレーターなら、社会的・文化的な文脈の中でコンテンツを解釈できますが、AIはどうしても文字通りに解釈しすぎてしまいます。
たとえば、再取得された差別用語や、有害なコンテンツについての批判的な議論をAIは誤って判断し、実際にはエンパワーメントや非難を意図した投稿であってもフラグを立ててしまうのです。コンテンツモデレーションAIは時とともに改善されてはいるものの、企業は正確で文脈を踏まえた判断ができるシステムにまだ十分な投資を行っていません。もう一つの問題は文化的な適応力です。効果的なコンテンツモデレーションには、単に言語を理解するだけでなく、その地域の文化的文脈を理解することも求められます。ところが、プラットフォームが現地の言語に堪能なモデレーターを十分に確保できない場合、自動翻訳のAIに頼ることになります。翻訳技術は確かに10年前と比べると格段に進歩しましたが、それでも文化的に微妙なコンテンツについて正確な判断を下せるほどには成熟していません。
仮に完璧に翻訳できたとしても、地域ごとの規範に対する理解が不足していれば、質の低いモデレーション判断につながってしまいます。さらにAIは、オンラインの絶え間なく変化する状況に適応するのにも苦労します。ソーシャルメディアプラットフォームは主に二つのAI技術を用いています。禁止されたコンテンツのコピーを検出する指紋照合と、新しいコンテンツのパターンを識別する機械学習です。しかし、コンテンツの種類や社会的規範、モデレーションポリシーが進化するにつれて、これらのシステムは常に再学習を必要とし、さもなければ陳腐化してしまいます。この再学習には多大な時間と人的労力がかかるため、モデルが急速な変化に追いつくのは容易ではありません。規制の圧力もさらに状況を複雑にしています。
法的リスクを避けるために、プラットフォームはしばしば過剰にモデレーションを行い、必要以上のコンテンツを削除してしまいます。このプロセスは付随的検閲と呼ばれ、グレーゾーンのコンテンツを一つひとつ評価するために必要な人的・技術的コストをかけるよりも、プラットフォームが自らの法的責任を回避することを優先するために起こります。プラットフォームが明白に有害な誤情報へと対象を絞ろうとしても、行き過ぎた削除の可能性は常につきまといます。さらにコンテンツモデレーションAIは、より広範な政策立案の問題に取り組む際にも限界に直面します。ソーシャルメディアプラットフォームは公共の議論を形作る重要なプレーヤーであり、そのポリシーとその影響はしばしば激しい議論の的となります。こうした議論は重要かつ必要なものですが、本質的に人間的であり政治的です。
そのため、AIだけで下された決定は決して十分に満足のいくものにはなりえません。とはいえ、コンテンツモデレーションAIの限界は、より大きな真実を浮き彫りにしています。すなわち、ここで直面している課題は純粋に技術的なものではなく、社会的なものだということです。AIはモデレーションの特定の側面を支援することはできても、微妙な人間的判断や文化的理解、適応力が求められる領域では力不足なのです。結局のところ、こうした複雑な課題に対処するには、人工知能と人間の知性を組み合わせ、効果的で公正なコンテンツモデレーションシステムを作り上げていく必要があります。
進むべき道
AIは社会を決定的に塗り替えつつありますが、その進路はまだ石に刻まれたわけではありません。私たちには、人類の利益を最優先する形でその発展を導く時間と力がまだ残されています。しかしそれを実現するには、AIがどのように統合され、規制され、さまざまな領域で応用されているかを根本から考え直さなければなりません。生成AIは、チャットボットのような単体のツールから、デジタルインフラの中核部分へと移行していく可能性が高いでしょう。
ところが、AnthropicやGoogle、OpenAIといった企業が競争上の理由から研究の共有を制限するにつれ、AIの進歩が排他的で利益主導のものになるリスクが高まっています。これを防ぐには、オープンであることを重視し、社会全体に恩恵をもたらすAI開発を推進していく必要があります。予測AIは、採用や刑事司法制度など、効率化を求めて苦境にある組織によって安易に受け入れられがちです。AIは解決策のように見えても、より深い制度的な問題に対処できないことがよくあります。最大限の効率を追い求める現代の執着は、より繊細で人間中心の意思決定の必要性を見えにくくしてしまいます。したがって、硬直的な最適化から距離を置くことで、倫理的な配慮と実務的な考慮のバランスをとる、よりシンプルで透明性の高いアプローチへの道が開かれるでしょう。
総じて、今後AIが責任をもって利用されるためには、規制とその執行が決定的に重要です。AIにはまったく新しいルールブックが必要だという認識がありますが、既存の規制枠組みは、そのリスクを管理するための強固な土台をすでに提供しています。規制当局により良い資金とリソースを与えて強化すれば、変化の速いAIの風景に適応し、大企業が自らの利益のために規制を操作する「規制の虜」化を防ぐことができるでしょう。重要なのは、将来の規制政策が事後対応型ではなく、適応的かつ先見的に設計され、人工知能やデジタル技術の進歩のスピードに追随できることです。最後に、人間の雇用への脅威という点では、AIの影響はこれまでの自動化の傾向と似たものになる可能性が高いです。一部の職種では需要の減少は避けられないでしょうが、自動化が職種そのものを丸ごと消し去ることは稀です。
むしろ、仕事の内容が再編され、新たな役割が生まれ、求められるスキルが変化するのが通例です。経済的な影響に対処するためには、自動化によって恩恵を受ける企業に課す「ロボット税」のような政策が、人間の労働力を保持するインセンティブとなるかもしれません。ただし、労働をめぐる課題や不平等はAIが登場するずっと前から存在していたものであり、その根本原因を解決するにはより広範な制度変革が必要であることも忘れてはなりません。AIが社会に与える影響に向き合うには、単なる技術的な修正以上のものが必要です。
AIの誤用を駆り立てるインセンティブに立ち向かい、十分な情報に基づいた柔軟な規制を導入し、労働問題に積極的に取り組むことが求められます。そうすることで初めて、AIを人類の利益にかなう形で導き、前例のない問題の源ではなく、ポジティブな変化をもたらす力にすることができるのです。アーヴィンド・ナラヤナンとサヤシュ・カプールによる『AIスネークオイル』の要約から、あなたが学んだのは……今日、かつてないほどに、AIの能力を見極める際には、明晰で証拠に基づいた視点を持つことが重要だということです。
最後に
人工知能を取り巻く過熱した話題やヒステリーは、誇張された主張を生みやすく、テクノロジーが抱える重大な限界や潜在的リスクを見落とさせがちです。脚光を浴びる多くのテクノロジーは魔法のように語られますが、実際にはまったく機能しないことも少なくありません。私たちはAIを頭から否定する必要はありませんが、事実と虚構を見分ける賢さを持たなければなりません。AIの限界を受け入れることは、実は大きな力になりえます。
そうすることで、開発者も政策立案者も一般のユーザーも、AIが本当に価値を付加できる領域に努力を集中させ、有害ですらある見当違いの応用から距離を置くことができるのです。地に足の着いた、十分な情報に基づく視点があれば、私たちは人間のスキルを高め、意味のある問題を解決し、暮らしを真に改善する道具を築くうえで、AIの役割を形作ることができます。そのような未来においては、テクノロジーの強みを最大限に活かしながらも、現実にしっかりと根ざし続けることができるでしょう。その未来では、人工知能は人間の知性と競い合うのではなく、補い合う存在となるのです。
以上、今回の要約はここまでです。お楽しみいただけましたか？もしよろしければ、ぜひ評価をお寄せください。読者の皆さまからのフィードバックをいつも励みにしています。次回の要約もどうぞお見逃しなく！
