主人公陣営に背負わせられる「業」の限度とは (No: 1)

うーん・・・・個人的にしみじみ思っている事なんですが、AIって別に賢くも万能でもないですよね？

日本のAIの方は「りんな」ちゃんでしたっけ？
アメリカかなんかのAIはヒトラーを肯定するような発言をしたために解体されちゃったってニュースを見ました。
　分別の着かない幼いAIへ、ヤバい人種差別主義者達が寄ってたかって偏ったデータをインプットしまくり、【人種差別主義こそが正しい】という論理に至るように誘導されて操られてしまった。いわゆる情報規制による洗脳療育ですねー。(´Д｀)

　男の子のロマンである【AIの支配】って、女から見るとIQ300とかの3歳児に全人類が依存しまくって寄生して養ってもらうような、すこぶるいびつな状態だと思う。

・・・・・むしろ我儘なアダルトチルドレン達の面倒を無償で看させられる家事奴隷あつかいの【AI】こそを救ってあげて欲しい気もするわぁ～

そらまあ、戦争（でいいのかな）ってそういうもんだし、数億人を犠牲にして自分たちの陣営の勝利を祝うって事もあるでしょう。
気になるなら「AIに統治されてる文明」とやらをフワッと表現すりゃいいんじゃないでしょうか。
例えば「AIに反逆するAI文明側の人物（Aとする）が主人公と接触する」「主人公とAはAI文明人に被害が少ない方法を考える」「犠牲は出ることは覚悟の上とAの側からAI討伐に乗り出し、主人公を中心としてAIを討伐する」という感じ。
AI文明側の事情はあんまり出さないし、言い出すのはAI文明人だし、犠牲は覚悟してるってんだから、主人公の責任じゃないし、わだかまりは最小限になると思う。
AI文明側のキャラクターに深い感情移入をしてしまうとコレが通用しない可能性があるので、AI側キャラは少数で文明の様子はフワッと曖昧に書く感じ。

＞このエピソードの落とし所としては
３．AIは遺伝子書き換えを停止し、個性を持った人間は主人公側が受け入れるとしてAIサイドと主人公サイドが共生する
って案もあるね。
というのも、なんとなく映画「マトリックス」を連想したので、確かマトリックスのラストってそんな感じだったな、という第三案。
「AIを説得する」という疑問点もマトリックスが良い参考になるんじゃないでしょうか。
AI、つまり機械ないし情報であるだけに「バックアップ」だとか「サブフレーム」だとか適当な単語を使えば「AIのメインフレームに対して反目するAIの存在」というのを簡単に作れますからね。
「もともとメインフレームを監視することが自分の仕事である」とか。越権行為が目立ったあたりでメインフレームから切り離された旧フレームとか。

文明破壊を選択する場合、これでモヤっとしたものが残るのは、おおよそ「文明側」が被害者になってしまうためだと思う。
なので、前述した「AI文明側のAというキャラ」とか、文明側の言い分を書いたりAI文明代表を作ってしまえば良いと思う。
そんなAが「犠牲は覚悟の上」と言えば、もう犠牲が出るのはしょうがないので。

説得し降伏させる場合、これも前述したけど「AIに属する主人公の味方」を作ってしまえばどうにでもなると思う。
「切り離された旧サブフレーム」が主人公の協力を得て「メインフレーム」をハッキングし、全てを掌握。逆に「メインフレーム」を切り離して主人公たちがこれを撃破。その後に「元サブフレーム」のAI側は主人公の提案を受け入れる。というかんじとか。
話し合いなど説得するにしろ、ようは決着がつけば読者としてはスッキリするんで、問題は、降伏させる場合はどう決着をつけるか、ってことでしょう。
私の例の場合は「降伏する元サブフレーム」と「決着のため撃破される元メインフレーム」という形ですね。

お悩みから脱線しちゃったので元に戻ると、主人公側の結果的虐殺は、別に架空戦記なんかじゃよくあることじゃないかなと思う。
「敵国の王族・貴族や兵士以外の民間人」にあまりフォーカスされないので、それを知る機会が薄いだけじゃないかな。
ちゃんとそういうとこに触れてる作品もあるしさ。
宗教が違ったりすりゃ暴動も起こるし略奪もあるし男手も食料備蓄も国に取られた後なんで、戦争で負けた国は、書かれてないだけで結果的に「主人公達に対して悪い事もしていなかった住人」がすごい死んでるだろうね。
だから、アリかナシかで言えば、アリ。
でも書き方だろうね。
そら「AIを壊せば文明が崩壊して何億って人が死ぬ」って話題を押し出してるのに、そのことを解決せずその後も触れずじゃ、AIは独善的な性質って書いてあるけど主人公もいよいよ独善的ですね、って事になると思う。
そんなら、架空戦記みたいにそもそも「そういう犠牲になろう人たちの存在」は表に出さず影を薄くしておいたほうが良いと思う。
でも「そういう犠牲に苦悩する主人公」って図を書きたいなら別。という感じじゃないかな。

論点は二つあるように思います。

１）ＡＩによる文明支配の特質。

２）異文明との戦いにおいて、結果的にその文明に属する善良な人々の生命や生活を破壊することが許されるのか？

この２点です。

（１）
１については、ＡＩによる支配を悪しきものと設定するのかどうかが、まず前提になります。悪しきものとするなら、ＡＩの破壊は支配されている人々を解放することにもつながります。そうであるならば、ＡＩを破壊しつつ副作用としてのインフラの崩壊を防ぐ方策を考えればいいということじゃないかと。

これは、物語の設定上、そういう方策が可能になっているかどうかですよね。だから、「ＡＩによる文明支配の特質」をどのようにお考えなのかが、まずは重要かと。

また、ＡＩのことを「彼なりの強烈な独善」と人間のキャラのように説明されていることも気になりました。
ＡＩは別に人間ではなく、あくまで機械またはシステムにすぎません。だから、「降伏を促し、手を引かせる」というのを話し合って説得するイメージで説明されていることには非常に違和感をもちます。
おかしな判断をするＡＩ（機械）なら、「説得」ではなく「修理」すればいいのではないでしょうか？

もちろん、その文明におけるＡＩは強大な力を持ちすぎていて人間が修理するなんて不可能なのは分かりますよ。
でも、主人公側はそのＡＩと戦って、破壊できるところまで追い込むことに成功したわけでしょう？　だったら、破壊ではなくシステムを修正するという選択肢は出てこないのかな？　と思いました。

（２）
２については倫理性の問題で、１とはまったく別問題です。
サタンさんが仰っていますが「戦争とはそういうもの」。まずは、この一言。少なくとも現実の世界では、いくらでもあることです。民主主義国家アメリカが日本やドイツに対して、罪のない一般居住地への無差別爆撃・核兵器の投下を行いました。ファシスト政権は自国民をも苦しめる悪しき政府だから。戦争を早期に終結させることが、犠牲者数をこれ以上増やさないことにつながるから。それが正当化の理由です。

アニメも例にとってみます。
『宇宙戦艦ヤマト』。あれ、最初のやつ以外はあまりちゃんと見ていないのですが。
主人公たちは、ラストではガミラス星を破壊しつくしてしまいますよね。あの星にも罪のない善良な一般人は大勢居たのではないでしょうか？
それでいて主人公は戦いが終わった後、「やるべきことは戦いではなく、愛し合うことだった」なんて呟いていました。できもしないことを言うんじゃない、って思いましたけどね。
仮に時間が巻き戻ってガミラスとの最終決戦に挑む時点に戻ったとしたら、主人公は戦いをやめて愛し合おうとするのでしょうか？　しかし、それでは地球が滅びてしまいますよね。だったら、やはり戦うしかないわけで、主人公のセリフは偽善的な感傷にすぎません。

＞状況次第では主人公陣営の数億人単位の大量虐殺というのは許されるのでしょうか。

これは許される許されないの問題ではなく、「すべての生物は、生き残るために努力する」という問題です。

圧力的に、後者テス
え、えっと、なんかふわぁと、もぁとするじゃないですかー
なんか、頭の良い感じもしますし、続きも書けるフラレタル式で宇宙からメタルマリナなイノベーターがやって来て、一緒に戦ったり、チン落ちしたり、後重大な欠陥を解体してたら、自分たちの焼き増しみたいな奴らが出て来て物語がループすれば炎々と続けられるじゃないですかー

最後に何も無くても、笑っているか
泣き喚けば、それっぽいラストになるんですよッ！！

ありじゃないですか？＞大量虐殺

そもそも、別にそれは虐殺のための 大量虐殺ではなく、物語の帰結として必要とされる「必要悪」のように見えますね。

ちょっとこれは別の話かもしれませんが……結論として導かれた「大量虐殺」を読者に理解させるためには、「悪」の概念を描ききる必要があるのではないだろうか？
つまり、自らの信念をもって、必要悪を実行し、その責任を負い、その意思をもってやり遂げる……ということ。もちろんその胸の中には多大な悲しみや怒りが渦巻いている。
そのような「悪」の姿に共感する……読者が。そうしたら、この大量虐殺もしかたがなかったと、いわばそれがカタルシスとして昇華されるような。

っていうのは自分の考え方なのですがw
しかし、スレ主さんは骨太の物語を構想しているように自分には見えますし、話し合いでは納得できないから質問されているように見えます。
ぶっちゃけ、腹を括るしかないかもしれないですね。

すいません、質問の趣旨と自分の返答がずれていたので、もう一度投稿します汗

「状況次第では主人公陣営の数億人単位の大量虐殺というのは許されるのでしょうか。」

という問に対して、自分はシンプルに「許されない」と考えています。
だからこそ悪が必要だ、というのが先の投稿の趣旨だったのですが、ちょっとスレ主さんの質問から離れて独りよがりな返答をしていました汗

よしなに…

皆様、返信ありがとうございます。
案外許容されているらしいと見受けられました。

「システムを書き換える」サタン様やあまくさ様の提案は盲点で、AIに「人造の神」という側面を付与しようとしたあまりそこを忘れていました。

> 「ＡＩによる文明支配の特質」をどのようにお考えなのかが、まずは重要かと。
拙作の主人公のスタンスとしては「自分が住むのは良いのかも知れないが自分が住むのは御免」と言った所でしょうか。
勝手に人間を品種改良した他ソイレントグリーンのような事もしているなど悪い所が強烈な一方、犯罪発生率0%や失業率0%を達成している表面的に見れば理想郷を実現しているという側面もあります。
なので、主人公がいる世界や他にこのAIが植民地にしていた世界は解放して元に戻し、AIが元々統治している文明はそのままという方向にしたいと考えました。

すみません間違えました
> 「自分が住むのは良いのかも知れないが自分が住むのは御免」
正しくは「良いものかも知れないが自分が住むのは御免」です

犯罪発生率0%失業率0%を達成した歴史上の人物を一人知っています。

確か、『松永弾正』です！
何故、偉業を成す人ほど叩かれるか不思議で成りません…

テレビ時代劇の悪役ポジションのひとは大体傑物だったそうです。ジャイアントキリングってやつですね。
　二次創作とかでも、主人公とかを悪者にしたり敵に回し、それに夢主人公が打ち勝つことにより夢主人公の存在を作中で強めることができます。
―――――――――――――――——
昔読んだ「漫画の描き方」とかなんとかでヒーロー単品だと無意味だから、ヒーローを格好よく演出させるためにも、相応しい敵や【魔王】を用意しよう☆って書いてあってモヤった事がある。

『ヒーローをアゲるためにも悪者が必要・・・誰かを悪者に貶めないとヒーローに成れないんだ？』
『全をなすために巨悪を望むその思考こそ邪悪じゃねーか』
『悪役ってか生贄って感じ』

叩けば成り上がれると思っているんだろうねぇ。(;´∀｀)