『シリコンバレーを手懐ける』（2024年）は、人工知能という危険な領域と、ビッグテックが私たちの生活への支配を強めている現状を巡る、緊急の旅へとあなたを誘います。テック大手が世論と政府の政策の両方を操作する仕組みを発見すると同時に、AI開発の実際の可能性と危険性について学ぶことができます。実践的な解決策と具体的な政策提言を武器に、AIが人間を支配するのではなく、人間のために役立つ未来のために戦う知識を得られるでしょう。
この本の要点：知識と行動でAIの操作に抵抗する
人工知能は、あなたの日々の経験を微妙な形で形作っています。スマートフォンを開くたび、メールを読むたび、SNSを閲覧するたびに、AIシステムがバックグラウンドで静かに動作し、提案を行い、あなたが目にするものを調整しています。こうした小さなやり取りが積み重なり、情報の処理方法、意思決定、世界の見方に大きな変化をもたらします。本書では、現在のAIシステムの実際の能力を明らかにし、洗練されたインターフェースと磨き上げられたマーケティングメッセージの裏側で何が起きているのかを詳しく見ていきます。
AIが生成したコンテンツを見分ける実践的な方法、個人情報を守る方法、どのAIツールを信頼すべきかを賢く見極める方法を学べます。こうした洞察はテクノロジーへの意識を高め、仕事でも私生活でもAIを効果的に使うための明確な指針となるでしょう。まずは、これらのシステムが実際にどう機能し、どこで不十分なのかを見ていきましょう。
現在のAIは、私たちが必要としているものではない
人工知能は、技術的ブレークスルーと進歩に満ちた未来を約束しています。しかし、人気のチャットボットやクリエイティブツールを含む現在のAIシステムには大きな限界があり、その信頼性と有用性に深刻な疑問が投げかけられています。これらのシステムがどう機能し、どう失敗するのかを見ていきましょう。ChatGPTがその代表例です。
その会話は一見賢そうに見えますが、背後にある仕組みは別の物語を語っています。このシステムはデータパターンに基づいて次の単語を予測しているだけで、実際の理解や論理的思考を欠いています。これが研究者の言う「ハルシネーション（幻覚）」、つまり人工的な自信をもって提示される虚偽の主張につながります。いくつかの例を見れば、これは一目瞭然です。法学教授の経歴について尋ねられたChatGPTは、架空のセクハラスキャンダルをでっち上げ、存在しないニュース記事への参照まで付けたのです。別のケースでは、羽毛2キログラムはレンガ1キログラムよりも軽いと主張しました。
こうした基本的な誤りは、見せかけの知能と実際の理解との間のギャップを示しています。視覚系AIも同様の問題を抱えています。「年老いた賢者がユニコーンを抱きしめている」画像の作成を求められたシステムは、ユニコーンの角が人物を突き刺している不穏なシーンを生成しました。それでも人物の表情は穏やかなままでした。AIはこの明らかな矛盾を見逃したのです。また、ビーチの風景に象を隠すよう指示された際には、象の形をした雲を描き、隠すという概念を理解できていないことを示しました。これらの問題は、より大きな課題を指し示しています。AI技術は広くリリースされる前に、さらなる開発が必要なのです。
現在のシステムは流暢な文章や印象的な画像を生成できますが、基本的な推論能力を欠いています。事実を検証できず、簡単な数学の問題を解けず、論理的一貫性を維持できません。現実世界での影響はすでに表面化しています。法律AIシステムは架空の裁判例を引用し、弁護士が恥ずかしい訂正をして裁判官に謝罪する事態を引き起こしました。医療チャットボットは懸念すべきアドバイスを提供しており、スタンフォード大学の研究では、正しい情報を提供できたのはわずか41%でした。こうしたシステムは信頼性の低さにもかかわらず、AI開発における経済的要因のために展開され続けています。
企業は、機械の理解と推論という根本的な問題を解決するよりも、既存のアプローチをスケールアップする方が簡単でコスト効率が良いと考えています。市場への性急な投入は、技術的な問題以上のものを生み出し、深刻な社会的リスクへの扉を開きます。信頼性の低いシステムと急速な展開の組み合わせが、広範な害を生む完璧な条件を作り出しているのです。欠陥のあるAIツールが社会に広がるにつれ、単なる技術的欠陥をはるかに超えた危険がもたらされています。選挙干渉からプライバシー侵害まで、これらのリスクは早急な対応を必要としており、それを理解するには、すでに私たちの世界にどれほど深く影響を及ぼし始めているかを認識することから始まります。
最も緊急性の高い脅威
AIシステムの根本的な欠陥は深刻な懸念を引き起こしますが、社会への急速な普及が差し迫ったリスクを生み出しています。技術的問題は現実の脅威へと成長し、今まさに私たちの世界を変えつつあります。AIシステムがかつてない速さと説得力で偽コンテンツを作り出す中、公共の信頼は深刻な試練に直面しています。2023年のスロバキア選挙では、偽の音声録音が国中に拡散され、有力候補が選挙の不正操作を計画しているという虚偽の主張が流されました。
これは孤立した事例ではありませんでした。同様のAIの手口はすぐに他の国々にも現れ、地方選挙と国際紛争の両方を標的にし、情報戦のあり方を変えています。こうした欺瞞は個人の安全にも及び、犯罪者に人を騙してお金を盗む新たな手段を提供しています。AIは現在、声をコピーし、リアルな動画を作成する能力が非常に高く、経験豊富な専門家でさえ詐欺に引っかかります。想像してみてください。親が子どもとそっくりの声の電話を受けるのです。犯罪者はコピーした声を使って誘拐を偽装し、金銭を要求します。この技術は非常に進歩しており、2024年初頭までに詐欺師たちは、本物の企業幹部そっくりの偽のビデオ通話を使って香港の銀行から2500万ドルを騙し取りました。
偽動画について言えば、ディープフェイク技術は個人の尊厳と、私たちが目にするものをどこまで信頼できるかに対する直接的な脅威となっています。偽コンテンツの作成は今や迅速で安価、そして非常に説得力があります。2024年初頭にテイラー・スウィフトに起きたことを見てください。AIが生成した性的な画像が数時間以内にオンラインで拡散し、4chanコミュニティから発生して削除されるまでにソーシャルメディアで数百万人に達しました。同年8月、トランプはスウィフトとそのファンが彼の選挙運動を支持していると誤って示唆するAI生成画像を共有しました。彼女は過去に民主党候補を支持してきたにもかかわらずです。この問題は学校にも広がり、生徒がクラスメートの偽の性的画像を作成しています。一部の労働者はこの技術を使って同僚や上司の偽の録音を作成しています。
プライバシー問題はこうした個別の出来事を超えています。現代のAIシステムは巨大なデータ収集ネットワークのように機能し、常に個人情報を収集・分析しています。誰かがAIシステムを使うたびに、そのデータはトレーニング素材となり、収集され、分析され、時には予期しない形で漏洩する可能性があります。自動車会社は現在、適切な同意や明確なルールなしに、位置情報、携帯電話のメッセージ、さらには私生活の詳細な情報まで、大量の個人データを収集しています。AI言語システムも個人情報を漏洩し始めています。たとえばChatGPTは、まったく無関係のユーザーにプライベートな会話を表示したことがあります。
こうした相互に関連する脅威は、より大きな構図についての疑問を提起します。今日私たちが目にする技術的問題は、企業の役員会議や投資会議でなされた選択を反映しています。お金の流れを追うと、単なるコーディングエラーやシステムの不具合をはるかに超えたパターンが明らかになります。そのパターンは、なぜこれらの問題が良くなるどころか悪化し続けているのかを説明するかもしれません。
シリコンバレーはいかに私たちを操るか
シリコンバレーのテック大手は、業界のあらゆるレベルに深く根ざした欺瞞の網を作り上げています。世論と政府の政策に対する彼らの計算された操作は、大手テック企業が実際の監視を阻止しながら、リスクの高いシステムを市場に投入する方法を示しています。すべては責任あるイノベーションという慎重に構築されたイメージを提示しながら行われています。この操作はソーシャルメディアキャンペーンから学術研究への資金提供にまで及び、AI開発について偽りの安心感を生み出しています。これらの企業がどう変化したかを見てみましょう。
Googleは「邪悪になるな」というシンプルなルールから始まりました。OpenAIも人類を助けたいと言って非営利組織として始まりました。しかし2024年までに、OpenAIは複雑な取引を通じてMicrosoftと結びつき、最初の920億ドルの利益のほぼ半分をMicrosoftに約束しました。CEOのサム・アルトマンが一時解雇された際、従業員は忠誠心を示すパフォーマンスをしました。しかし私的な情報筋によれば、彼らが本当に守りたかったのは、会社の評価額が860億ドルになる株式売却の予定でした。利益を一度も出したことがないにもかかわらずです。このパターンはシリコンバレー全体で繰り返されており、初期の理想主義が利益追求の決定に取って代わられています。テック企業の幹部は巧妙なPRキャンペーンを展開して世論を欺き、慎重に練られたメッセージと戦略的なタイミングを使っています。
彼らは将来のAIの危険性についての書簡に署名する一方で、現在の問題への解決策を阻止しています。Metaの主任コンピューター科学者ヤン・ルカンは、AIが作り出す虚偽情報は管理可能な範囲にとどまると主張しました。ちょうど彼の会社が、基本的な技術スキルがあれば誰でも簡単に偽コンテンツを作成できるLlama-2を開発していた時期にです。あるいはGoogleを見てください。誤解を招くGeminiのデモを公開して株価を5%押し上げました。製品プレゼンテーションにおいて、誠実さよりも市場での利益が優先されることを示しています。業界の影響力の規模は拡大し続けています。2023年、AIロビー団体は450組織に急増し、前年の2倍になりました。ヨーロッパのテック関連のロビー活動費はわずか12か月で1億ユーロを超え、EU委員会のリーダーとの会合を84回確保しました。一方、公共利益団体が発言の機会を得たのはわずか12回でした。
OpenAIのサム・アルトマンは両方の立場を完璧に演じました。公には規制を支持しながら、彼のロビイストたちはEUのAI法を弱体化させ、著作権の免除を推進しました。影響力は私的な経路を通じても及んでおり、権力と影響力の影のネットワークを生み出しています。Facebookの共同創業者ダスティン・モスコビッツは、ワシントンの主要機関全体に地位を得たAIアドバイザーのネットワークに資金を提供しています。彼らの意見はAIに関するホワイトハウスの大統領令を形作り、テック関連の資金はAI法を起草する議会スタッフを支援さえしています。企業は政府とテック職の間に経路を作り出しました。元英国副首相のニック・クレッグがMetaのトップ幹部になったり、元フランス当局者のセドリック・オーがAIスタートアップに参加した後、EUのAI規則をほぼ阻止したりしました。政府と産業の間のこうした回転ドアは、公的監視を損なう利益相反を生み出しています。
このように集中した企業権力は、明確なルールをこれまで以上に重要にしています。企業の影響力とバランスを取り、AIが利益だけでなく公共の利益に役立つことを確実にするために、具体的で拘束力のある保護策が必要です。テック業界が世論と政策の両方を掌握している現状は、遅延の余地を残していません。
今すぐ必要とされる本質的な保護策
シリコンバレーの集中した権力と操作に直面する中で、AIの未来のための不可欠な保護策として、3つの基本的な保護が浮上しています。データ権利、プライバシー保護、透明性というこれらの中核的要件は、曖昧な約束ではなく、具体的で強制力のある基準を伴う、意味のある監視システムの基盤を形成しなければなりません。データ権利はこの戦いの最前線に立っています。エド・ニュートン＝レックスというAI研究者兼作曲家は、Stability AIでのトップの地位から身を引くことで注目を集めました。
彼は、クリエイターの作品を許可なく、または対価を支払わずに使用するシステムに我慢できませんでした。彼の立場は「データの尊厳」を求める動きを引き起こしました。AIシステムが創造的な作品や個人データから学習する際に、人々が報酬を受け取れるようにするという考えです。音楽のロイヤリティのように考えてみてください。誰かの作品がAIシステムの構築に役立つたびに積み重なる少額の支払いです。しかし、創造的権利の保護は問題の一部を解決するだけです。個人のプライバシーは、規制されていないAIシステムから同様の脅威に直面しています。欧州連合の最近の動きは前進の道を示しています。
2023年後半に可決された製造物責任指令は、誰かがプライバシー侵害を主張した場合、企業に証拠の共有を義務付けています。これは、訴訟を立証するための技術的障壁を取り除くことで、一般の人々が大手テック企業に異議を唱えるのを助けます。これにより、より多くのコントロールが人々の手に戻ります。この可視性の必要性は、透明性を意味のある改革の中心に据えます。スタンフォード大学、MIT、プリンストン大学の研究チームは、労働者の扱いから安全対策までを網羅する100のチェックポイントからなるテストを構築しました。すべてのAI企業がそのテストに不合格でした。
より良い基準があれば、企業はトレーニングデータの入手先を文書化し、テスト方法を共有し、外部の専門家に作業の確認をさせることが求められます。企業はまた、システムの問題や悪影響を追跡して報告する必要があります。これら3つの保護策は、AI開発を変革するために連携して機能します。すべてのトレーニングデータに適切に支払いが行われ、プライバシー侵害が自動的な罰金を引き起こし、科学者がAIシステムの問題を自由に調査できるシステムを想像してみてください。確かに、進歩は遅くなるかもしれませんが、危険なテクノロジーを急いで進めるよりはましです。このビジョンを実現するには、新たな法的権限が必要です。
米国データプライバシー保護法は出発点となる枠組みを提供しますが、より強力な実効性が必要です。企業に責任を負わせるEUのアプローチは、別の有望な道を示しています。成功は、企業寄りの人物やキャリア官僚ではなく、独立した技術専門家に執行を担当させることにかかっています。批評家は進歩を阻害することを心配するかもしれませんが、強力なルールはイノベーションを殺すのではなく、より良い結果へと導きます。安全規制は製薬会社が新薬を作るのを止めませんでした。むしろ、それらの薬をより安全にしました。AI保護策は、企業が基本的人権を尊重するシステムを構築するよう促し、シリコンバレーの巨大な影響力に対抗できるほど強力な監視を生み出すでしょう。
これらの保護策を組み合わせることで、AIの進化は根本的に変わるでしょう。企業は、自社のシステムが害ではなく助けになることを証明し、作業を示し、負債を支払い、間違いを修正する必要があります。道のりは遅く見えるかもしれませんが、利益ではなく人々に奉仕するAIにつながります。
行動を起こす
これらの不可欠なAI保護策を実施する道は、政府や企業だけでなく、個人と集団の行動にあります。課題は困難に見えますが、歴史は組織化された市民が強力な技術的利益に効果的に立ち向かい、変革的技術の開発を再形成できることを示しています。トロントのQuaysideプロジェクトの物語は、この力を完璧に示しています。Googleの親会社であるAlphabetは、トロントのウォーターフロントにセンサーで満たされた地区を建設する計画でした。
市長、首相、テックリーダーの支持を得て、プロジェクトは確実に進むように見えました。しかし、地元の活動家ビアンカ・ワイリーがプライバシーと公的監視について疑問を投げかけ始めました。彼女の小さなグループは運動へと成長し、民間企業に公共空間を管理させることの問題点を浮き彫りにしました。彼らの粘り強い努力は実を結び、2020年までに世論の圧力でAlphabetはプロジェクト全体を中止せざるを得なくなりました。企業の利益よりも公共の権利が優先された重要な勝利です。人々は抗議以外にも多くのチャネルを通じて変化を起こせます。「Fairly Trained」認証の成功は、賢い消費者選択の影響力を示しています。
このプログラムは、トレーニングデータに対して適切に支払いを行っているAIモデルに承認の印を与えます。Adobeは風向きを察知し、AIシステムのためにアートワークのライセンスを取得し始めました。企業が利益を維持しながら、クリエイターの権利を尊重し、倫理的なAIを構築できることを証明しています。こうした消費者の取り組みを基に、専門家グループは集団の力を発揮し始めています。MicrosoftのDesignerソフトウェアが偽ポルノの作成を可能にした後、アーティストやクリエイターはボイコットや公開キャンペーンを組織しました。彼らの統一された声により、テック企業は自社製品が引き起こす可能性のある実際の害と向き合わざるを得なくなり、製品設計と実装に大きな変更がもたらされました。市民参加は市民集会を通じて拡大し続けています。
フランスは「大国民討論」で可能性を示しました。これは100万人以上をテクノロジーの社会的役割についての議論に参加させました。彼らの意見は実際の政策転換につながり、公開フォーラムが技術開発を形作る方法のモデルを生み出しました。AIに焦点を当てた同様の公開討論は、技術的知識とコミュニティの知恵の間のギャップを埋めることができます。教育は責任あるAI開発の重要な要素です。議会のAIリテラシー法は、AIに何ができて何ができないかを人々に教えることを目指しています。こうしたプログラムを支援することで公共の知識が構築され、テック企業へのより強力な監視と、社会全体でのAI実装に関するより情報に基づいた決定につながります。
こうしたアプローチは明確な戦略に統合されます。草の根の組織化と制度への圧力を組み合わせ、テクノロジーを開発するより良い方法を作り出すことです。永続的な変化を生み出すには、責任ある企業を支援し、有害な慣行に反対し、政治的行動を求め、一般市民が技術的決定に関与し続ける新しい方法を構築するという、複数の路線で同時に取り組む必要があります。今のところ、人々にはAIの開発方向を形作る時間がまだありますが、この窓は永遠に開いたままではありません。AIが日常生活により深く織り込まれるにつれて、その方向性に影響を与える機会は縮小していきます。しかし、こうした成功事例は、組織化された市民が依然としてテクノロジーの道筋を導き、AIが企業の利益を増やすだけでなく人々を助けることを確実にできることを証明しています。鍵は、一般の意見がまだ違いを生み出せるうちに断固として行動することにあります。
まとめ
ゲイリー・F・マーカス著『シリコンバレーを手懐ける』の要約では、人工知能が革命的な進歩を約束しながらも、現在は深刻な欠陥を抱えたテクノロジーとして機能しており、私たちのプライバシー、安全、そして見聞きするものを信頼する能力を脅かしていると学びました。問題は深く根ざしています。基本的な論理エラーを犯し誤情報を拡散するAIシステムから、安全よりも利益を優先しながら実際の監視を妨げるテック大手まで。しかし、AI開発の変化を強制してきた成功した市民運動が示すように、集団行動を通じて希望はあります。
消費者としての選択、組織的な活動、政策議論への公共参加を通じて、私たちはこのテクノロジーの進化を形作ることができます。ただし、AIが企業の利益だけでなく公共の利益に役立つことを確実にするために、今行動する必要があります。以上で本書の要約は終わりです。お読みいただきありがとうございました。ぜひ評価をお寄せください。フィードバックをお待ちしています。次回の要約でまたお会いしましょう。
