『無責任マシン』（2024年）は、大規模な組織やシステムが、しばしば論理や説明責任に反する決定へと至る過程を探求する。官僚主義、歪んだインセンティブ、構造的複雑性が、責任を拡散させ、悪い結果を不可避にする環境をいかに生み出すかを検証する。経営サイバネティクスの知見を活かし、こうしたシステム上の欠陥を特定し対処する戦略も提案している。
この記事から得られること：組織が説明責任を隠す仕組みを学び、システムの失敗を見抜き修正する
大規模な組織では、自分が責任者だと認める人を一人も見つけられないことがよくあります。依頼は様々な部署にたらい回しにされ、ルールは石に刻まれたように硬直的で、誰も本当の意味で判断を下す権限を持っていないように見えます。このパターンは一夜にして生まれたものではありません。社会が責任と意思決定を扱う方法における隠れた変化を反映しています。プロセスが人間の判断に取って代わり、「システム」に従うことが個人の懸念に耳を傾けることよりも重要になっているのです。
この要約では、個人の責任が硬直した枠組みの背後に消えていった理由、決定を標準化することが結果を歪める仕組み、そしてコントロールを取り戻すための戦略を学びます。実際の事例を通じて、誰も覆すことのできない指示に盲目的に従うのではなく、個人によりよく役立つためにシステムがいかに再設計され得るかが見えてきます。2023年、Fox NewsはDominion Voting Systemsに7億8,750万ドルを支払いました。
複雑なシステムでは説明責任が失われる
これはアメリカ史上2番目に大きな名誉毀損訴訟の和解金でした。この訴訟は、Dominionが2020年の選挙を不正操作したという数ヶ月にわたる虚偽の主張を中心に展開されました。しかし裁判資料は、Foxの幹部であるロン・ミッチェルらが、告発者たちを内心では「変人」と呼びながらも、ドナルド・トランプの敗北について正直に伝えれば視聴者を失うことを恐れ、彼らの主張を放送し続けていたことを示しています。内部の人間はその話が虚偽だと知りながらも、それを押し進めざるを得ないと感じていたこの断絶は、2021年1月6日の議会襲撃事件を想起させます。あの時も多くの参加者が、自分たちが望んでいなかったと主張する結果に巻き込まれていました。
このような瞬間は、大規模なシステムが、個人が完全にコントロールできない決定へと滑り落ちていく様子を明らかにします。一見すると、非倫理的な選択は悪意から生じるに違いないと思いがちですが、このような事例は別の現実を示唆しています。ルール、戦略、企業の圧力が、個人的に疑念を抱く物語を誰も止められない環境を作り出していたのです。同様のパターンは他の大規模組織にも見られます。1999年4月、アムステルダム近郊の空港で、440匹のジリスが書類上の小さな問題のために産業用シュレッダーで処分されました。ペット取引のために北京から輸送されたものの、正しい輸入書類なしに到着したのです。
経営陣はスタッフが「形式的に」正しい判断を下したと主張しましたが、恐怖した一般市民は、グロテスクな結末に至るまで自動操縦で動き続けたシステムを目の当たりにしました。このような事例は、一部の観察者が「説明責任の吸収装置（アカウンタビリティ・シンク）」と呼ぶものを浮き彫りにします。すなわち、現状を維持しつつ、決定に対する個人の所有意識を取り除くルールと権限委譲の構造です。形式的な方針が意思決定者を非難から守り、反復作業を効率化するという論理があるのです。しかしこれらの方針が予期せぬ事態に直面したとき、誰も介入してそれを覆すことができないまま、手遅れになるまで事態は進行します。
時間とともに、個人の責任に対するこうした防御策がシステム機能不全の源泉になり得ます。個人の責任からプロセス駆動型の行動へのこの移行は、マネージャーや専門家が、対立を避けるため、法的リスクを減らすため、あるいは業務の一貫性を保つために、自らの裁量を制限することが多い世界を反映しています。その結果として、明確な個人の責任を問えないまま破滅的な結果が起こるシステムが生まれるのです。このように責任が拡散する仕組みを認識することで、大規模な組織がなぜこれほど頻繁に困惑させる――そして時に衝撃的な――結果を生み出すのかが見えやすくなります。
システムが異質に感じられる理由
2017年、YouTubeの幹部たちは、奇妙なアニメのパロディが子どもたちに推奨されていることに気づいたとき、誰も意図していなかった顔の見えない意思決定の連鎖に直面していました。なぜこんなことが起きたのでしょうか？ 同社は「エンゲージメント」を最優先事項と定義し、このアルゴリズムへの執着が独り歩きを始めたのです。誰も子どもを怖がらせようと個人的に選んだわけではありません――コンテンツが何であれ、視聴時間を最大化することにシステムが向けられていたため、ただそれが起こったのです。
多くの人は、企業が時に初歩的な人工知能のように振る舞い、自動操縦で動くルールやインセンティブを使うと論じます。影響力のある幹部でさえ、自分の管理下で起きている意思決定の網の目を完全には把握していないかもしれません。複雑な仕組みでは、手続きがあまりにも精巧になりすぎて、システム全体の振る舞いがもはや個人の意図と一致しなくなります。哲学者たちはこれを「中国語の部屋」という思考実験になぞらえてきました。密閉された部屋の中で、中国語をまったく理解していない人が、一連の指示に従って機械的に中国語で書かれた質問に答えるというものです。書かれた応答は外部の人には首尾一貫して見えますが、その背後に真の理解はありません。組織のブラックボックス的な性質も同様に、真の責任がどこにあるかを特定するのが難しいため、説明責任から組織を守ることができるのです。
同様の問題は、特定の学生グループを予期せず罰することになる自動採点システムや、他のすべてを犠牲にして単一の指標に固執する企業目標にも現れます。こうしたパターンは「ペーパークリップ最大化」シナリオに似ています。これは、できるだけ多くのペーパークリップを作ることに設定された仮想AIが、他の優先事項を破壊してしまうというものです。悪意があるわけではありません――ただし、指示に過剰なまでに忠実に従っているのです。システムのルールが人間の判断を覆い隠すときはいつでも、同じ力学が生じます。組織が個人のコントロールを超えて成長する傾向があることを理解すれば、なぜ組織がこれほど異質に見えるのかがいくらか明確になります。組織は、狭い目標には役立つかもしれないが倫理的・実践的な懸念を無視するフィードバックループと硬直した手続きを発達させるのです。
だからといって、これらの結果の背後に理由がないわけではありません。ただ、その理由は特定の意思決定者よりもシステムに属しているということです。この力学を認識することで、誰が優先順位を設定するのか、ルールがどのように執行されるのか、なぜ特定の決定が通常の人間的価値観から切り離されているように見えるのかについて、より思慮深い問いが生まれやすくなります。真の監視は、特にその仕組みが誰にも説明できないほど複雑に見える場合に、どのシステムも検証されないまま動かされないことを確実にすることにかかっているのかもしれません。
内部構造を解剖せずに複雑なシステムと向き合う方法
1948年、数学者ノーバート・ウィーナーは、移動する航空機に自動照準器を固定し続けるフィードバックループが、大規模組織が情報を処理する方法をも形作るかもしれないと提唱しました。彼は、過剰なフィードバックは行動の激しい変動を引き起こし、少なすぎると標的が逃げていくと気づきました。この洞察がサイバネティクスを生み出しました。後に、神経ネットワークが人間の心を安定させる仕組みを研究していた英国の心理学者ロス・アシュビーや、これらの原理を実在のビジネスに応用した経営コンサルタントのスタッフォード・ビアに影響を与えたのです。彼らのメッセージは、巨大な組織の内部メカニズムを隅々まで解剖する必要はないということでした。
代わりに、各部分を定義された入力と出力を持つ「ブラックボックス」として扱い、どの部分も過負荷にならないように明確なフィードバックループを配置することができます。よく使われる例はシンプルなリス用のケージです。ケージの温度、光、その他の要素はそれぞれ小型の自己完結型コントロールで調整でき、人間が絶えず手を加えなくてもリスの健康を保てます。アシュビーは、システムが取り得る状態の数を「バラエティ（多様性）」と呼びました。外の世界が多様に変化するなら、それに対応できるだけの適応力が必要です――そうでなければ混沌が生じます。ビアはこれを発展させ、組織が不必要な詳細をフィルタリングし、重要な信号だけを増幅することで複雑性に対処できることを示しました。意思決定に影響を与えないデータは単なるノイズに過ぎないため、成功するシステムは行動を引き起こす情報に焦点を当てるのです。
また、災害が迫った場合に通常の階層を迂回できる緊急チャネル――電車の「赤いハンドル」のようなもの――も含まれ、リーダーシップが迅速に対応できるようにしています。誰がどの入力を監視するのかを確立し、各部門の責任を現実的にコントロールできる範囲に制限することで、マネージャーは管理不能な細部に溺れることを避けられます。組織が一貫して行うことは、どんなミッションステートメントよりも雄弁であることが多いのです。フィードバックループと「バラエティ・エンジニアリング」を重視することで、各チームやサブシステムがその能力の範囲内で機能できるようになります。
すべてのブラックボックスを開けて、各配線やコードの行を理解する必要はありません。このアプローチは、明確な説明責任と、予測不可能な状況を乗り切るための十分な柔軟性を組み合わせるものです。大規模な組織がしばしば独自の論理で動いているように見える理由、そしてその力を抑制する枠組みをどのように設計できるかを浮き彫りにしています。
富は知性と同義ではない
1881年、ジョセフ・ウォートンは経営の地位を高めるためにペンシルベニア大学にビジネススクールを設立しました。しかし数十年経った後でも、多くの経済学者が貸借対照表の読み方すら学ばずに卒業しています。このギャップは、収益性の高い企業を経営することが知的厳密さを保証するわけではないことを示唆しています。むしろ、リーダーは洗練されたモデルや財務報告の背後に不確かな決定を隠し、能力があるかのような錯覚を与えることができるのです。抽象的な理論で訓練された経済学者は、生産や間接費の即物的な現実を見逃しがちです。
一方で、標準化された会計に過度に依存するマネージャーは、どの製品が実際に利益を生んでいるかについて歪んだ見方をしてしまうことがあります。例えば、あるスキンケア会社が、高価格のローションが安価な大量生産ラインよりも優れていると結論づけるかもしれません。なぜなら、マーケティング予算全体が「期間費用」――各製品に割り当てるのではなく、単一の期間に認識される費用――として計上され、安価な製品は直接製造コストをすべて負担しているからです。安価なラインを外部委託することは賢明な動きに見えるかもしれませんが、隠れた物流や品質の問題が短期的な節約を帳消しにしてしまう可能性があります。結局、コンサルタントやミドルマネージャーはデータを再解釈しようと躍起になり、何が本当に間違っていたのかがさらに曖昧になります。誤解を招くデータと誤った選択のこの連鎖は、富の創造が知性の信頼できる指標であるという考え方を弱体化させます。大きな利益が特定の戦略に報いることは事実ですが、それらの戦略は時に誤った前提や選択的な会計実務に基づいているのです。
名門経済学プログラムの卒業生は優雅な数式を操れるかもしれませんが、実際の台帳やコストセンターの言葉を知らなければ、非現実的な解決策を処方するリスクがあります。同時に、企業のリーダーは内部の意思決定ではなく外部報告のために設計されたルールに従うことがあります。教訓は明快です。誤って適用された指標は優先順位を歪め、視野を狭め、表面的な成功が真の知恵を覆い隠す広範なシステムに拍車をかけるのです。
データがどのように収集され、整理され、武器化されるかを理解することは、抽象的なモデルを暗記するよりも重要です。真の洞察を示すのは、金銭的利益だけではなく、この認識なのです。こうした構造的な盲点を認識することで、私たちの判断力は鋭くなり、短期的には魅力的に見えても、最終的に誰もが細則を後悔することになる決定から身を守ることができます。
システムが適応できないとき、危機が生まれる
1997年、20億ドルを超える取引がGeneral Electricの収益を一時的に底上げした後、同社は四半期の数字を歪めないために突然工場を閉鎖し、1,000人以上の従業員を解雇しました。この動きは指標を整然と保ちましたが、かつてリアルタイムの情報を扱っていた中間管理職層を剥ぎ取り、組織全体の回復力を損ないました。その後10年間で、短期的な金銭的利益を優先すること――いわゆる「株主価値革命」――が広まりました。それは少数の著名なCEOとその仲間に報いましたが、他のすべての人々に負債と不安を積み上げたのです。
より多くの企業がコスト削減、業務の外部委託、金融工学による負債の組み換えに奔走するにつれて、かつて潜在的な問題を警告していた内部フィードバックループを徐々に失っていきました。企業の意思決定は四半期目標の達成にかかっており、幹部たちは「ランク・アンド・ヤンク」政策――業績に関係なく従業員を評価し、下位10％を解雇する――を主宰していました。こうした戦略は紙の上では効率的に見えましたが、経済的ショックが予期せず到来した場合、多くの企業がもはや適応できないという事実を隠していたのです。やがて、賃金が停滞し、地域経済が一時しのぎの対策に依存するようになるにつれて、コミュニティ全体や産業界がほつれていきました。こうした目先の数字への盲目的な追求は、統治におけるより広範な変化と並行していました。公共機関が、交通ネットワークの運営や防衛プロジェクトの承認といった主要な機能を民間企業に外部委託することで、企業の効率性を模倣しようとしたのです。大口契約と外部コンサルタントが主導権を握る中で、国家自体が、真の危機が発生したときに対応を調整する能力の多くを失っていきました。
こうして民間部門も公共部門も、2000年代後半の住宅ローン崩壊に対して準備不足のまま直面することになりました。金融大手はほとんど認識していなかった巨額のサブプライム資産を抱えており、危機に捉えられたのです。労働者階級のコミュニティの多くがその余波に苦しみ、不満がより広範なポピュリスト的反発へと変わっていきました。これらの運動はより速い解決策を約束しましたが、構造的な原因に取り組むことはほとんどありませんでした。いったんシステムがそのエネルギーのすべてを短期的な成果に注ぎ込むと、人生の厄介な転機に対処する能力を失ってしまうのです。穏やかな状況ではスムーズに動くモデルも、真のストレスの下では崩壊し得ます。四半期利益や予算の「効率性」への一途な追求が社会を危険なほど無防備にすることを認識することが、より柔軟で人間中心の組織――世界がスプレッドシートの期待に応えることを拒んだときに、崩壊するのではなく進化できる組織――を設計する第一歩なのです。
組織を単なる利益マシンとして扱うのをやめよう
音楽的要素を重ねて変化し適応する作品で知られるブライアン・イーノは、かつてサイバネティクスを擁護した経営コンサルタントのスタッフォード・ビアと共通の立場を見出しました。二人とも、創造的であれ企業的であれ、大規模なシステムは単一の目標に固執するのではなく、複数の入力をやりくりするときに最もうまく機能すると考えていました。イーノのジェネレーティブ・ミュージックは継続的なフィードバックを通じて進化し、ビアは組織も同様であるべきだと信じていました。複雑性に直面しても説明責任を保持するためです。四半期利益や硬直した目標のために重要な信号を無視することは、長期的な回復力を犠牲にした短期的な勝利につながるだけです。
中心的な考え方の一つは、企業は単一の指標を最大化するだけの単純なロボットのように振る舞うべきではないということです。企業がコスト削減や四半期利益の向上だけに焦点を当てると、特定の信号を増幅し、他のすべてを無視することになります。これは短期的な勝利につながりますが、組織とより広い経済の両方を不安定化させます。提案されている対策の一つは、無制限の負債と有限責任を使って買収資金を調達する慣行を終わらせることです。投資家が企業の債務をより多く負担しなければならないとすれば、無謀な借り入れを抑制し、マネージャーに長期的な影響を検討するよう促すでしょう。これらの改革は、より大きな思考の転換につながっています。
経済理論はしばしば、成長や利益のような単一の尺度を最適化しようとし、他のすべてを犠牲にして一つの目的を追い求めます。そうではなく、組織の決定は、支払い能力を維持し、従業員を支援し、革新するという複数の目標のバランスを取る芸術家のモデルに従うべきです。マネージャーを短期的な債務返済の鉄の支配から解放することで、長期的な視点で考え、労働者、顧客、地域コミュニティからのフィードバックを尊重する余裕が生まれます。この考え方は、実際の双方向コミュニケーションを備えたより良いフィードバックチャネルの構築にも役立ちます。
例えばソーシャルメディアは混沌としているように見えるかもしれませんが、膨大なデータを使える信号に凝縮する現代のツールに支えられれば、真の市民参加の可能性を秘めています。説明責任を個人の非難として見るのではなく、多くの決定が単独のアクターがコントロールするには大きすぎるシステムの中で行われていることを受け入れることができます。耐え難い結果を警告する堅牢な「赤いハンドル」警報を確保することで、人々の懸念を、真の変化を促せる場所へと導くことができるのです。真の説明責任は、システムがボトムラインの結果だけでなく、多様な優先事項への認識を促すときに現れます。
最終まとめ
ダン・デイヴィス著『無責任マシン』の要点は、今日の多くの組織が硬直したプロセスと狭い指標にあまりにも依存しているため、説明責任と適応力が失われているということです。誰もが「システム」を信じるよう促されますが、システムが道を踏み外した場合にそれを修正する権限を持つ人は誰もいません。責任を回復するには、データ駆動型の目標が真の人間的判断を沈黙させてはならないと認識することから始まります。無謀な負債を制限し、明確なフィードバックループを作り、情報に基づく裁量を認めることで、自動化された手続きの支配を緩めることができるのです。
こうした取り組みはすぐには成功しませんが、真の監視への一歩一歩が、より少ない危機とより人間的なバランスを意味します。少しの決意があれば、組織は、組織に依存する人々によりよく奉仕するために進化することができます。
