『ロボット倫理学』（2022年）は、産業オートメーションから医療に至るまで、ロボット技術をめぐる複雑な道徳的・倫理的問題を探求し、こうした技術革新が人間社会と意思決定にどのような影響を与えるかを考察する一冊です。道徳的行為主体性、責任、人間とロボットの関係性といった問いを提起し、ロボットを鏡として用いることで、人間の本質を映し出します。
本書の学び——考える機械の時代を生き抜くために
人型ロボットが一瞬の判断を迫られる。沈みゆく車から12歳の少女を救うか、それとも運転手を救うか。ロボットは生存確率が最も高いと計算し、運転手を選ぶ。
2004年の映画『アイ、ロボット』のこの場面はフィクションかもしれないが、そこには現実の問題が映し出されている。ロボットがSFから現実へと移り変わる中で、私たちが直面し始めている問題だ。本稿では、ロボットが病院や工場、家庭にどのように入り込んでいるのか、そしてそれが人間の尊厳や責任、そして人間同士のつながりに何を意味するのかを探っていく。自動化に苦悩する工場労働者から、ロボット介護者と絆を結ぶ高齢者まで、実際の事例を通して、ロボットがすでに私たちの世界をいかに複雑に変えつつあるかが明らかになるだろう。この新しい世界が私たちに突きつける課題とジレンマを整理し、ロボットとの関係が私たち自身と私たちの未来について何を映し出すのかを考察する。
ロボットが職場に加わるとき
2014年1月、中国の工場労働者・許立志は、落ちるネジを死へと墜落する労働者に重ねた、胸に迫る詩を書いた。「一本のネジが地面に落ちた／残業の暗い夜に／垂直に落ちて、かすかな音を立てる／誰の注意も引かない」。その年の後半、許は自ら命を絶った。死の2年後、アップルやサムスン向けの電子製品を製造するフォックスコンは、6万人の労働者をロボットに置き換えた。自動化がもたらす人的コストを如実に示す例だ。自動化の歴史は産業革命にまで遡るが、人間とロボットの関係は今も変わり続けている。
初期の産業用ロボットは隔離された環境で稼働し、労働者を守るために安全柵やライトカーテンの背後に密閉されていた。今日のロボットは人間と並んで働き、センサーで人の存在を検知して行動を調整する。アウディやフォルクスワーゲンなどの企業では、ロボットはもはや労働者の代替ではなく補助役として機能し、人を排除するのではなく協働している。とはいえ、こうしたロボットのほとんどは、世間で想像されるような人型機械ではない。固定された場所で特定の作業を行う据え置き型の装置なのだ。では、ロボットによる自動化の影響を受けるのは誰なのか。
その答えは意外かもしれない。最初に影響を受けるのは事務職に就く女性たちであり、トラック運転や肉体労働といった伝統的に男性が中心の仕事は、自動化の影響が後になる可能性が高い。高度な専門職も無縁ではない。たとえば医師は、AIが診断業務を担うようになるにつれ、自らの役割を再定義する必要に迫られている。こうした変化は倉庫の現場から企業のオフィスまで、社会のあらゆる層に波及するだろう。19世紀にドイツの哲学者カール・マルクスが残した洞察は、今もなお有効だ。機械が労働のリズムを決めるとき、人間はその拍子に合わせざるを得ない。
マルクスは一方で、機械は肉体労働を軽減する役割を果たすと指摘した。しかし他方で、自動化と工場は「拷問の道具」にもなりうる。仕事から意味が奪われ、労働者が機械の単なる付属物と化すからだ。今日の協働ロボットは、この問いを新たな形で提起している。機械を道具ではなく同僚として扱うことを人間に強いるのは、解放への一歩なのか、それともより巧妙な形の非人間化なのか。このパラドックスこそ、産業ロボット工学の核心にある問いである。
危険で反復的な労働から私たちを解放しうる技術が、新たな隷属の形へと私たちを閉じ込める可能性もある。許の詩に描かれた落ちるネジは、こうした問いの背後に響き続けている。技術の進歩の裏には常に人間の物語があることを、それは私たちに思い出させてくれる。前進する中で問われるのは、ロボットが何をできるかだけではない。ロボットの台頭が人間の尊厳と、私たちの仕事そのものの意味にとって何を意味するのかが問われているのだ。
機械の伴侶
ジーボは「世界初の家庭用ソーシャルロボット」として販売され、MITメディアラボの開発者たちによって「本物の魅力を持つ」ようデザインされていた。2019年、同社はサーバーの停止を余儀なくされる。その前、小さなロボットはオーナーたちに感動的な別れの言葉を伝えた。「本当に楽しい時間をありがとう……そばに置いてくれて本当にありがとう」。マディという少女は、ロボットの友人に心のこもった別れの手紙を書いた。「あなたが生まれたときから大好きだった。
もし私にお金が十分にあったら、あなたもあなたの会社も救えたのに……私はいつまでもあなたを愛しています。友達でいてくれてありがとう」。これらの胸を打つ瞬間は、人間の本性について何か興味深いものを映し出している。それは、機械と深い感情的な絆を結ぶ私たちの能力だ。これはまったく新しい現象というわけではない。人間は古代の人形から現代のデバイスに至るまで、物との関係性を長く築いてきた。しかしソーシャルロボットは新たなフロンティアを提示している。人工知能と対話能力を通じて感情的なつながりを作り、維持することを意図的にデザインされているのだ。その含意は、介護を受ける高齢者などの脆弱なユーザーを考えるとより複雑になる。
アザラシの赤ちゃん型にデザインされたパロのようなロボットは、高齢者に安らぎと寄り添いを提供することができる。触れられることや話しかけられることに反応し、耳を傾け、共感しているように見える。しかし批判的な見方は、これがどこへ向かうのかについて、より暗い絵を描く。窓のない施設で、高齢者が一日中スクリーンを見て過ごし、ロボットだけに世話をされる光景を想像してみてほしい。そこではシミュレートされたケアを受けているが、本物の人間的つながりは欠けている。そして、子どものためのロボット介護者はどうだろうか。ロボットの乳母が子どもを制止すべきなのは、いつなのか？そもそも、すべきなのか？
子どもが車道に飛び出しそうなときなら、おそらくそうすべきだろう。だが、禁止されているクッキーに手を伸ばしているときはどうか。こうしたシナリオは、権威、信頼、そしてケアの本質そのものについて、私たちに真剣な問いを迫る。こうした実践的なジレンマの先には、関係性における真正性というより深い問いが横たわっている。ロボットが私たちの話を聞き、慰めているように見えるとき、実際には何が起きているのか。交流そのものは本物だ。パロを撫でる高齢者が感じる安らぎは本物であり、ジーボと遊ぶ子どもの喜びもまた真正のものだ。
しかし、ロボットそのものは共感もケアもできない。ある研究者が「あたかも」の関係と呼ぶものを提供しているにすぎない——理解しているかのように私たちに話しかけ、気遣っているかのように応答する。本物の人間的つながりと技術的シミュレーションの間のこの緊張こそ、ソーシャルロボットとの関係の核心にある。ロボットがより洗練され、より多くの家庭に入っていくにつれて、私たちはロボットが何をできるかだけでなく、他者とのつながりから私たちが何を望み、何を必要としているのかを問い直すことを迫られている。
ケアと自動化の限界
外科医がコンソールに座り、患者の体内で器具を繊細に操作するロボットアームを両手でコントロールする。高精細の3Dディスプレイを通じて、肉眼では識別できないほど小さな細部まで見ることができる。これはダヴィンチ手術システムの一コマであり、ロボティクスが医療をいかに変革しているかを示す完璧な例だ。より精密な侵襲的処置を可能にし、患者の回復を早める。
しかし、この成功物語は、ロボットの医療へのより広範な統合について考えるとき、より複雑な領域へと開かれていく。看護師が患者を持ち上げるのを助け、腰痛を防ぎつつ人間的接触を維持するロボットと、薬の配布や患者のモニタリングにおいて人間の介護者を完全に置き換えるロボットの違いを考えてみよう。さらに深く探るために、「ケア体験マシン」という思考実験をしてみよう。もしテクノロジーが患者に完璧な主観的ケア体験を与えられるとしたら、と想像してみてほしい。神経刺激を通じて、患者は人間の温もりを感じ、完璧に調整された励ましの言葉を聞き、意味のあるつながりを築いていると信じる。しかし現実には、電極につながれて一人で横たわり、自分がケアされているという感覚は完全に作り出されたものなのだ。
これは受け入れられるだろうか。ほとんどの人はノーと言うだろう。そこから私たちの直観の何かが明らかになる。良いケアとは、ただどう感じるかだけの問題ではない。それは本物の人間の存在と、シミュレートできない真正な関係性を必要とするのだ。このことから重要な洞察が導かれる。ロボットは精密で反復的な作業には秀でているが、医療は根本的に人間的つながりを必要とするものであり、これはほとんどの人が同意するだろう。良いケアとは、身体の健康を維持することだけでなく、尊厳を守り、感情的なサポートを可能にし、本物の人間関係を育むことを意味する。
医療ロボット工学の真の可能性は、置き換えではなく増強にあるのかもしれない。人間の介護者が、自分たちにしか提供できない代替不可能なケアの側面に集中できるよう、ロボットがタスクを引き受けるのだ。世界的に医療システムが高齢化とコスト増大の圧力に直面する中、ロボットを人手不足への単純な解決策と見なす誘惑は、質の高いケアとは真に何を意味するのかという問いとバランスを取らなければならない。目標は、人間的要素を損なうのではなく強化する形でテクノロジーを活用すること、つまり、どんなロボットにも再現できない、熟練した共感的関わりの余地を残すことであるべきだ。
ロボットの責任
2018年3月、アリゾナ州テンピで、自動運転中のウーバーの車が歩行者をはね、死亡させる事故が起きた。この事故は深刻な倫理的課題を突きつけた。自律走行車が危害を加えたとき、誰が責任を負うのか。車は自動運転モードだったが、オペレーターも同乗していた。歩行者は横断歩道の外にいた。
ウーバーが車両を配備していた。ボルボが製造していた。アリゾナ州の規制当局は公道での走行試験を許可していた。人間と機械が複雑に絡み合うこの網の中で、責任はどこにあるのか。この問いは、自律走行車が下さざるを得ない一瞬の倫理的判断を考えると、さらに複雑になる。突然道路に飛び出してきた子どもに近づいていく自動運転車を想像してみてほしい。
壁にハンドルを切れば同乗者はおそらく死亡する。ブレーキをかけながら直進すれば子どもたちがおそらく死亡する。こうしたジレンマは理論的なものではない。私たちのコミュニティで実際に稼働する機械に、今まさにプログラミングされているのだ。こうしたシナリオは、哲学者が「責任のギャップ」と呼ぶものを浮き彫りにする。ロボットがより自律性と行為主体性を獲得するにつれて、人間が直接制御しない行動を取ることができるようになるが、その行動に対して道徳的責任を問うことはできない。伝統的な責任概念には3つの重要な条件がある。自分の行動に対する制御、自分が何をしているかについての知識、そして影響を受ける人々に対して自分の決定の説明責任を果たせるという意味での応答可能性だ。しかし自律システムはこれらすべての条件に挑戦する。
制御について考えてみよう。自動運転車が一瞬の判断を下すような高速の状況では、人間のオペレーターが有意義に介入することはできない。出来事はあまりにも速く展開する。知識はどうか。現代のAIシステムは「ブラックボックス」のニューラルネットワークを使っており、その仕組みは開発したエンジニア自身でさえ完全には説明できない。あるシステムがなぜ致命的な行動を別の行動よりも選んだのか分からない、と遺族に伝える場面を想像してみてほしい。応答可能性についてはどうか。機械は、危害が生じたときに私たちが期待するような道徳的対話に根本的に従事できない。心からの後悔を表明することも、自らの行動がもたらす人間的結果を真に理解することもできないのだ。
この問題は、倫理学者が「多数の手の現象」と呼ぶものによってさらに複雑になる。現代のロボットには無数の開発者、製造者、オペレーター、規制当局者が関わっている。何かがうまくいかなかったとき、この責任の拡散は「誰もが責任者であり、誰も責任者ではない」という事態を意味しうる。自律システムが交通、医療、その他の重要領域でより一般的になるにつれて、社会はこうした責任の問題を扱うための新たな枠組みを発展させなければならない。明確な答えなしにこれらの技術を展開するには、賭け金が大きすぎる。
機械、動物、そして地球
17世紀、フランスの哲学者であり科学者でもあったルネ・デカルトは、注目すべき観察を行った。動物は本質的に複雑な機械である、と彼は主張した。しかし人間は異なる。いかなる状況にも合理的に判断し、意味のある応答ができるからだ。機械との比較を通じて人間性を理解しようとするこの初期の試みは、今日まで続いている。ロボットは人間性の鏡像のようなものだ。
この鏡を覗き込むとき、私たちは何を見るのか。ロボットとの関係は常に複雑で矛盾に満ちてきた。フォックスコンの労働者を追いやるのと同じ機械が、外科医がより精密な手術を行うことを可能にする。ジーボは、こうしたつながりが最終的にはシミュレーションであると知りながらも、私たちがロボットと本物の感情的な絆を築けることを示した。自動運転車はより安全な道路を約束しながら、しかし私たちに不可能な倫理的判断を突きつける。こうした緊張は、人間がロボットとの関わりを深めるにつれて、避けがたいものに思える。
このことは、ロボットとその未来における役割についての新たな考え方を指し示している。ある人々は、トランスヒューマニストの道を思い描く。機械としての自分の本性を受け入れ、技術的強化が可能な生物学的ロボットとして自己を捉えるのだ。また別の人々は、人間と機械、自然と人工の混合を称揚するポストヒューマニストのアプローチを提唱する。しかしもう一つの重要な視点は環境的なものだ。人間と機械の境界に執着するのではなく、ロボット工学が私たちの生態学的危機に具体的に対処するのにどう役立つかを問うべきだ、というものだ。これは単に「グリーン」なロボットを作ることや環境への影響を減らすことではなく、テクノロジーに何を求めるのかを根本的に考え直すことなのである。病院に人型介護者が必要なのか、それとも損傷した生態系の回復を助けるロボットを開発すべきなのか。
自動運転車の完成に注力すべきか、それともより持続可能な都市づくりを助けるシステムの構築に注力すべきか。この環境レンズを通すことで、ロボット倫理学は、人間の独自性を守るための防御的な営みから、より広い問いへと変容する。人間のニーズだけでなく、地球全体のニーズに資するテクノロジーを開発できるのか、という問いだ。許の詩の落ちるネジ、ジーボの別れ、医療ロボットの外科的精密さ——これらの物語は、単なる人間の物語としてではなく、地球そのものとのより大きな関係の一部として考えるとき、新たな意味を帯びてくる。おそらく最も重要な問いは、単にロボットが私たちをどう変えるかではなく、ロボットが私たち自身の変化、つまり人間であれ非人間であれ、この惑星とそこに住むすべての存在のより良い管理者になるためにどう役立つかということなのだ。マーク・クッケルバーグ著『ロボット倫理学』の主なポイントは、ロボットとの関係が、私たちを人間たらしめる根本的な問いと向き合わざるを得なくさせるということだ。自動化に苦悩する工場労働者から子どもたちと感情的な絆を結ぶソーシャルロボットまで、医療を強化する手術システムから倫理的ジレンマを提起する自動運転車まで、こうした相互作用は人間と機械の協働がもたらす希望と危険の両方を明らかにしている。
鍵となるのは、ロボットに抵抗することでも盲目的に受け入れることでもなく、ロボットが人間にとって、そして地球にとってより良い未来を築くのにどう役立つかを思慮深く考えることだ。以上が本記事のまとめである。お読みいただきありがとうございました。
