リアルサウンド映画部に、『劇場版 PSYCHO-PASS サイコパス PROVIDENCE』について書きました。
AI時代を考えるために必要なこととは？ 『劇場版 PSYCHO-PASS』が導いた一つの答え｜Real Sound｜リアルサウンド 映画部
テーマは刑法です。サイコパス世界は特異な刑法システムです。シビュラシステムが全ての刑を司るような。現実に、AIを司法に活かせるかという試みがデてきているし、警察も治安維持に導入を進めています。AIと刑法の組み合わせは全体主義と結びつきやすい、この映画にはその危機感があると思います。
そういうことをテーマに映画について語ると、今日的で読み応えのあるものになるかなと思い、この視点で書いてみることにしました。
以下、原稿作成時のメモと構成案。
——————
AIと刑法の現実の歴史とサイコパスを重ね合わせる
全体主義の起源とは、、、AIと全体主義の神話的な部分はあるのか否か
神、人、AI。。。あるいは自由意志はあるのか。
【動画公開】『テクノロジー的全体主義――AI・DNA・GAFA』オンライン講演会｜慶應義塾大学出版会 Keio University Press
Point３つ
– 刑事司法におけるAIの活用状況とは
予測的治安維持・・・PredPolはケント警察が使用。特定の場所における特定の時間帯の犯罪の可能性を予測する。
個人ベースの予測、犯罪統計を使用して被害者または犯罪者として犯罪に関与する恐れが高い個人またはグループを予測する
COMPAS System・・・再犯予測システムの問題点。アルゴリズムがブラックボックスであるという点。MIT Tech Review: 機械は偏見を持つのか？ 犯罪者予測システムの是非を問う
AIが人間のバイアスを減らすという可能性の指摘・・Kleinberg etal.が開発したMLアルゴリズム。裁判を待っている間にどの被告が追加の犯罪を犯すか、または裁判所から逃れようとするかを予測することを目的にしている。
– 全体主義とAI。。。しかしAI規制もまた全体主義的に機能するリスクはある。同時に画一化された世界では、それへの抵抗はたやすくテロに見えてしまう（常森の行動はまさにそれ）
安心・安全と全体主義。。。治安が良くなれば人はそっちを選ぶ
20世紀とは別の形で全体主義はやってくるのか。。テクノロジーの全体主義、、、複数性と自発性
人文的な法VSテクノロジーの対置となる。どちらに軍配を上げずに拮抗させるという結末
Intro
AIがいよいよ身近なのとなってきた。
先日、東京大学の五月祭でAI模擬裁判を見た。
チャットGPTというAIに裁かれるという体験
法治国家は法によって社会を支配・統治するシステム。。ここにAIが入るとどうなるのか。
サイコパスはそれを描く作品
Body1現実の刑法でもAIは利用される
サイコパスの世界観の根幹をなすのはシビュラシステムによる犯罪係数によって人を裁くというコンセプトだ。まだ犯罪をしていなくても係数が高いと執行対象となる。
↓
これは現実にも犯罪予測を用いる警備や治安維持システムが既に存在している
再犯予測システム、COMPAS System
AIの偏見も指摘され問題となっている。
こうした例は実は世界にかなりあるのだ。
予測的治安維持・・・PredPolはケント警察が使用。特定の場所における特定の時間帯の犯罪の可能性を予測する。。。。これによって効果的に警官の人員配置が可能になる。
個人ベースの予測、犯罪統計を使用して被害者または犯罪者として犯罪に関与する恐れが高い個人またはグループを予測する
今後、そうしたものはますます精緻になり、いつの間にか利用されているようになるだろう。
サイコパスの犯罪係数は全く突飛な発想ではなく、わりと現実的な問題設定である
Body2 AIと全体主義
20世紀の全体主義とは違う形で21世紀の全体主義はテクノロジーによって進むのか。
シビュラシステムは、全能の神のようにふるまう。
これに従い、人は人生の決断をしている。仕事や結婚相手まで。
自発性（ハンナ・アーレント）を失っていると言えるか
この作品は治安維持部隊の物語なので、安心と安全にかかわる議論をすべき。
安心・安全を求める市民は監視社会か、予防刑法化を必ずといっていいほど、望んでしまう。全体主義を自ら望む。
それに抗する人は、たやすくテロリストのように見えてしまう。今作の常森が最後にとった行為はまさにそういう行動であった。
人文的な法とテクノロジー的な法であるシビュラの対置が物語の柱となる。
人文的な法を捨てずに、拮抗させるべきという発想はこれからの私たちの社会にとって重大な示唆だ。
—————-
メモ終わり。
AIの偏見とは人間の偏見なんでしょうけど、それが仕組み化されてしまえば、社会全体のルールとなってしまう。再犯予測システムなんてものも、人の類型や属性判断を含むでしょうから、偏見が交じるのは免れないでしょうね。そういうものに頼る社会にこれから現実はなっていくのかどうか、そういう時代にもどう行きていくべきなのか、この作品には様々な示唆があったように思います。
関連作品
