リアルサウンドテックに、Netflixのオリジナル映画『デンジャー・ゾーン』について書きました。
AIが人間より正しい判断を下す世界で、“理解できない”判断にどう向き合うべきか？｜Real Sound｜リアルサウンド テック
本作は、近未来を舞台にしたSF戦争アクション映画で、ドローンパイロットだった主人公が左遷されて、AIアンドロイドの上官の部下となり、核戦争を阻止するために戦う、というお話です。
テック連載で取り上げていますが、テック的なポイントは2つ、AIアンドロイドが上官であることと、主人公がドローンパイロットであるという点です。
その2つを軸に人間とAIの倫理観について考えることができる作品と考え、戦争における倫理や適切な判断とはなんなのか、というテーマで書きました。
主人公は、安全なアメリカの基地から、遠い国の戦場をドローンで爆撃しています。ドローン爆撃の問題については、SF作品ではない『ドローン・オブ・ウォー』などでも描かれる問題です。
それだけだと、SFでなくても描ける時代になっているわけですけど、本作はその主人公がAIアンドロイドの部下となり、戦場のリアルを知るという点に面白みがあります。AIアンドロイドの方が人間の命を尊重できているということがたびたび描写され、主人公は戦場では感情を殺してより多くが助かる選択を冷徹にくだすべきだという考えなんですね。AIのが人間味あるわけです。
AIは人間以上に高度な知性を持っています。そのAIがこれが正しい選択なんだと突き付けられた時に人間である我々には明らかに間違った選択に見えた時、どうするのか。本作はそんなことを問いかけています。ラストの展開に納得いかない人は多分、けっこういると思うんですが、観客である僕らは人間ですからね。
以下、原稿作る時の構成とメモです。
—————
Thesis
AIが倫理観で人間を超えた時、我々はどうしたらいいのか
Point３つ
・ドローンという最新軍事テクノロジーの倫理的運用とは・・・主人公の決断は正しいか
・感情を理解するAIが言う。人間は感情が不十分なのかもしれない
・人間より賢く強く感情も豊かなAIに人間が教わることはあるか
ドローンの国際的規制 – 国際法学会 “JSIL” Japanese Society of International Law
Intro
配信情報
↓
概要：優秀なドローン操縦士が判断の責任を問われ配置移動。そこで極秘に開発された人間型のAIロボットの上官の部下となり、核戦争を止めるために奔走する。
↓
見どころ：AIを上司に持つというユニークな発想が持ち味のSF戦争アクションだ。
本作は、人間の倫理感とは何かを伝える。ドローン操縦の空爆で仲間を犠牲にした兵が感情を持つAIの元で何を学ぶのかが、本作の見どころとなっている。
Body1 ドローン空爆の是非
38人の兵士を助けるため、命令無視して2名の兵士を犠牲にした主人公。
実践は未経験。戦場はドローン操作のモニター上でしか知らない。
自分は冷静な判断をしたと信じている主人公。
人間に感情は邪魔だ。だから人間は不完全だと考えている。冷静な判断に感情は妨げでしかないと
↓
そういう冷静な数字での判断は機械の方が得意なはずだが、むしろこの映画では人間の主人公がそういう考えを持ってい る。
↓
しかし、主人公はAIの上官に連れられグラウンドのレベルの戦場のリアルを知ることになる。
孤児院の子たちは、ドローンの空爆で親を亡くしたと語られショックを受ける主人公。モニターの中では犠牲者はただの数字。しかし、グラウンドではそれらの数はおびただしい人生を破壊していることだと気が付く。
ドローンの軍事利用はしばしば人命軽視のテクノロジーとして描かれてきたし、民間人が犠牲になったというニュースもたびたび報じられてきた。
映画「ドローン・オブ・ウォーでは、そのことに葛藤する主人公が描かれる。「アイ・イン・ザ・スカイ 世界一安全な戦場」でも幼い少女か大勢の命かという選択が描かれる。
ドローンという題材は、テクノロジーと倫理を考える上で有効な題材だろう。
Body2 感情豊かなAIの上官
感情は邪魔だという主人公に対して、AI上官のリオは感情豊かだ。主人公の恋愛関係をからかったり、民間の病院にワクチンを届けたり、民兵をみだりに殺さずに説得してみたりと人命重視で、人間的な感情にあふれている。
もしかしたら人間は感情が不十分なのかもしれないぞと語るリオ。
その不十分さを示す例として差別が描かれる。白人兵士がロボットを差別する様子が描かれている。
そして、ドローン空爆で孤児となった子供たち、戦争における倫理観とは何か。アメリカは何のために戦争を戦っているのか、自国の利益だけを考えて人命を奪うのは倫理的と言えるのかなどの問いかけがなされていく。
AIのリオは人間の兵士ならば考えない結論にたどり着く。それに対して主人公がどのような決断をくだすのか。
Concl
AIは人間よりも優れた倫理観、どこにも偏らない倫理観を手にすることができるのかを本作は問う。しかし、たとえそれが実現しても人間にそれが正しいと判断できるだろうか。主人公はどこまでも人間であるのだ。
AIとドローン兵器というテクノロジーが私たちにそれを突き付けてくる。
———————
メモ終わり。
AIの上官というアイディアがやはり面白いですよね。実際、いろいろなところでこれからは人間がAIの判断に従うということが起こるんでしょう。その時、人間は何も考えずにそれは正しいのだと従うものなのか、自分ならどうするのかなと考えてしまいました。金融取引の世界ではそういう事態は普通に起きていますが。
関連作品
