ライトノベル作法研究所
  1. トップ
  2. 創作Q&A
  3. 世界観・リアリティ
  4. ロボットが持つ心とは?公開日:2013/07/09

ロボットが持つ心とは?その4

  井戸中カエルさんの質問 2013年07月01日

寿甘さんの意見2013/06/30

 『われはロボット』を買ったまま、まだ読んでいない者の意見です。アシモフは全く読んでいません。というか、SF自体あまり読みません。

 心とは何か、それは「その人(ロボット)が固有の考えを持ってること」ではないかと思います。言い換えると、個性があるということです。

 人が何から相手の心を感じるのかと考えると、恐らく相手の言動ではないかと思います。その言動に、その人らしさが現れていることが、相手の心を認識する上で重要ではないでしょうか。
 人が相手の心を推測しようとするのは、同じ状況にあっても人の心は千差万別で、同じ反応をするとは限らないからです。
 こういう状況ならこう判断する、と決まっている相手の心を慮る必要はありません。

 もっとも、固有と言いましたが、別に変わった考えである必要はありません。犬が家の前の道を歩く人に吠えた時、「ああ、今うちの愛犬は外を通る人を警戒したのだな」と人は感じます。それが何度も続く内に、「うちの犬は不審な相手に警戒感を強く抱く犬だ」という個性・特徴が生まれます。

 そういう意味で、特別に変わった考えや反応、言動である必要はないと思いますが、「今の行動はうちの犬の考えた結果だな」と感じることが必要と思われます。

 私は買ったことがありませんが、話しかけると答えるぬいぐるみがあります。でも、あれに心があるとは、普通は思わないと思います。
 その理由は、決まった答えを機械的に繰り返すからです。どう見ても、同じ種類のぬいぐるみは皆同じ反応・返事をすることが予想されます。
 こういう対象には、心は感じ難いと思います。
 何を言っても聞いても全く同じ反応をする人間の群の一人一人に、私は心を感じません。

 では、行動や反応の違い、即ち個性が何によって生まれるのかと言えば、判断の違いです。
 そして、それは、思想・哲学・好みや趣味嗜好・その時の気分・心身の状況・その人の経験や知識などがもとだと思います。

 こうしたことは、人間の肉体や、生きてきた経験と切り離せません。

 人間は、同じことを同じ教師から学んでも結果が異なります。その学びから何を考えるのか、何が記憶に強く残り、何が残らないのか、それがどういう思考パターンを生むのかが違うからです。
 それゆえ、同じ状況に置かれた場合に、どう先を予想し、どう判断するかも、それぞれ違います。

 そういう意味で、同じ知識や経験をインプットされ、同じ反応をするようにプログラムされたロボットに、本当の意味で心、即ち個性を感じることは難しいのではないかと思います。

 もし、可能性があるとすれば、経験を蓄積することで、より優れた判断をできるようになるロボットか、最近の将棋ソフトのように、一瞬のうちに何億通りもの計算をして、より賢い・その場に相応しい判断をできるようになった場合かと思いますが、同じ経験をしたロボットの判断が同じである間は、ロボットに個性が生まれたとは言えないと思います。

 個性という観点からは、ただ単に早くて正確で最も適切な答えを導き出せるものが一番優れているとは言えないのです。
 「みんな違ってみんないい」、そうロボットについて言えるようになってこそ、本物の心があると言えます。

 そう考えると、本当の意味で心を持ったロボットとは、自分で芸術作品を作り、それを理解できない相手に、「自分はこう考えたのだ」「ここに自分の思いがこもっている」と主張できるようなものではないか、とも思います。

 例えがあれですが、その辺の蛙を捕まえてきて知恵を発達させ、絵を描かせたら、上手い下手は別として、その蛙だけのオリジナル作品と人は認識すると思います。
 同じように、その辺のロボットを連れてきて同じことをさせて、そこにそのロボットらしさ、オンリーワンな何かを感じることができるようになって始めて、人はロボットに心を持たせることができたと言えるのではないでしょうか。

 擬似的に心があるような反応をするロボットは遠からず作れるでしょうが、本当の意味で心を持たせるのは、まだまだ難しいと思います。

 心と作るとは、機械でできた新しい人種を誕生させることと同義だと、私は考えます。

あまくささんの意見2013/07/01

 改稿スレではお世話になりました。あまくさです。
 心についての「哲学的、衒学的、宗教的な議論」というのはどんなものなのか、よくわかりませんが。

 我思うと我思う。ゆえに我有りと我思う。

 こんな感じですかw?
 ま、要するに、心、魂、意識、思考、認識、コギト、クオリア、意志と表象、対自存在、梵我一如。そういうものがイコールなのか、少しずつ違うものなのか、もしかしたら全然似て非なるものなのか。そういう問題なんですよね。
 これらのうちの幾つか、または一部は、人工知能で再現(というか模倣というか)できるかもしれませんが、できないものも幾つかあるでしょう。で、できないもの(魂、梵我、ひょっとしたら心も)については、実在するのかどうか、誰にもわかりません。あれ? 衒学的?

 創作技術の問題としては。
 ん~。
 SFでは、けっこう古典的なテーマかもしれません。
 一応参考図書として、手塚治虫『鉄腕アトム』、フィリップ・K・ディック『アンドロイドは電気羊の夢を見るか?』 』を挙げておきます。

 後者は、ほとんどタイトルだけで回答になってますねw 映画化作品『ブレード・ランナー』も面白いです。先刻承知なら申し訳有りません。
 『アンドロイド~』『ブレード・ランナー』には、人間とまったく見分けがつかないアンドロイドが登場するのですが、心理テストで反応を測定して見破るという設定がありました。しかし、あまりにも違いが少ないので、主人公(人間)が自分もアンドロイドなのではないかと疑心暗鬼になるくだりがありました。

井戸中カエルさんの返信(質問者)2013/07/02

> ま、要するに、心、魂、意識、思考、認識、コギト、クオリア、意志と表象、対自存在、梵我一如。そういうものがイコールなのか、少しずつ違うものなのか、もしかしたら全然似て非なるものなのか。そういう問題なんですよね。

 「心」がいちばん一般的で、あいまいで、ずるい用語ですね。だから使ってますw
 心の実在を示す最有力候補がクオリアだと思いますが、それ自体漠然としていて、実証不能。創作上うまくモチーフに使えれば素敵なんですけど。

 少なくとも私は「私の心が実在することを知って」います。でも、他者にそれを証明することができません。
 ただ、心の実在を「信じる」ことはできる。では、どうすれば信じさせることができるか。
 フィクションに置き換えれば、心を持たないはずのロボットに心が宿ったことを主人公が確信した、そのときに、なにをもって主人公はそれを信じたのだろうか、納得のいく描写の方法はあるか。そんな疑問がわいたのです。

> 一応参考図書として、手塚治虫『鉄腕アトム』、フィリップ・K・ディック『アンドロイドは電気羊の夢を見るか?』を挙げておきます。

 アトムの絵がついた文房具を使っていたのは小学生の頃だし、『ブレードランナー』の封切は1982年ですよ。古典的すぎるw 私の記憶劣化能力を甘く見ていますねw

> 『アンドロイド~』『ブレード・ランナー』には、人間とまったく見分けがつかないアンドロイドが登場するのですが、心理テストで反応を測定して見破るという設定がありました。しかし、あまりにも違いが少ないので、主人公(人間)が自分もアンドロイドなのではないかと疑心暗鬼になるくだりがありました。

 言われてみると、ハリソン・フォードのモノローグ(ナレーション)でそんなことをつぶやいてた気が。なんだか暗くじめじめした、オリエンタルでどことなく閉塞的な背景と、ラストの青空との対比ばかり鮮やかにイメージに残っていて、当時、中身はちゃんと理解できなかったかも知れません。
 原作の「~電気羊~」も読んだ方がいいでしょうね。
 ありがとうございました!

あまくささんの意見2013/07/02

>少なくとも私は「私の心が実在することを知って」います。

 アプリオリに「心の実在を知っている」と言えるのは、自分の心についてだけなんですよね。
 ゆえに。
 自分の思考にバグがあって、「自分の心は実在する」と思い込んでいるのは錯覚である可能性は無いのか? まず1点、そういう問題があります。

 次。
 「自己の心の実在を他者に証明することができない」ということは、裏返せば「他者の心の実在を知ることは不可能」ということと同義。
 したがって。
 ロボットの心の実在を確認することは不可能。自分以外の人間の心の実在を確認することは不可能。これも同義なのです。

>フィクションに置き換えれば、心を持たないはずのロボットに心が宿ったことを主人公が確信した、そのときに、なにをもって主人公はそれを信じたのだろうか、納得のいく描写の方法はあるか。そんな疑問がわいたのです。

 心を持たないはずのロボット。
 それ以前に、「自分以外の人間の心も実在しないかもしれない」。「ひょっとしたら、自分の心が実在していると思い込んでいることさえ錯覚かもしれない」。
 この2点は、押さえておく必要があります。
 物語の中で表現するかしないかは別として(表現しない方が賢明かもしれない。難解になりすぎるから)、書き手は前提として認識しておく必要があります。

>古典的すぎるw

 なんのw
 創作を離れれば、紀元前のインド人とかが窮極まで議論していたテーマなんだから。SF黄金時代の作家たちは、それくらいのことは知り尽くした上で作品を書いています。それと少なくとも同じレベルに立った上で始めなければ、今から「古典的」なテーマに取り組む意味はありません。
 あれ? 衒学的?

井戸中カエルさんの返信(質問者)2013/07/03

 うわ来ちゃったやっぱりw……どうしよう。

>自分の思考にバグがあって、「自分の心は実在する」と思い込んでいるのは錯覚である可能性は無いのか? まず1点、そういう問題があります。

 つまり、私(の心)が実在することは、私にとって、アプリオリに、無条件に与えられた公理のようなものですから疑うことすらできませんが、いま仮に「超越者」の存在を想定して、その者からみて私が矛盾する公理系であるならば、その矛盾性により、「私は私を認知している。だから私は実在する」という命題を含め、私が導くいかなるアポステリオリな主張も真なる命題とはならない可能性があります。

>「自己の心の実在を他者に証明することができない」ということは、裏返せば「他者の心の実在を知ることは不可能」ということと同義。
>ロボットの心の実在を確認することは不可能。自分以外の人間の心の実在を確認することは不可能。これも同義なのです。

 私という閉じた系のなかでは、「私が実在する」ことと「私が実在することを私は信じる」ことは同じことを意味しますが、論理的客観性に期待して様相論理学の手法に倣い、「真である」ことと「真であると信じる」ことを別々に考えます。すると、「私が実在することは客観的に確認不能で、ことによるとそれは間違いかもしれないが、それでもなお、私は私の実在を信じる」事態も成立します。
 先に「信じることができる」と記述したのはこういう意味でした。
 また、そうであるなら、他者の心の実在も「信じる」ことができると思います。
(うん。あまくささんの口車に乗せられて衒学趣味に引きずられているなw)

>それ以前に、「自分以外の人間の心も実在しないかもしれない」。「ひょっとしたら、自分の心が実在していると思い込んでいることさえ錯覚かもしれない」。

 コギトへの直観にはじまる自己の実存の観念をもってそれでよしとはならない。そもそも、「心の元素」であれ「心という物質」であれ、また複合的な実体であれ、そんなものは物理的に存在しないのであって、つまり心とは一種のメカニズムを指示する概念にすぎないのだ、と言うこともできます。

 肉体と切り離して存在し得る「魂」を信じている人々にとってはひどく挑発的な主張に聞こえるでしょうね。

 そうすると、これに対して、物理的な世界の確かさなんて、結局物質同士が確かめ合うことから生じているのだ。その根源を究極まで掘り下げて超弦振動やら量子重力の場までたどって、そこにあるのが「法則」と「法則に基づく情報の伝播」でしかないことが明らかになれば、物質こそ「見かけの存在」になり果てるのではないか。宇宙の全ては情報であるとさえ言えるのではないか。
 そんな反論に発展するかもしれません。

 そう考えると、既存の物理的尺度で定量化できないものだとしても、「統合制御された情報のダイナミクス」として表される「心」は、その実在性を帯びてくる気もします。
 さらにいえば、心こそが「心」の実在を信じることができる、というのは、「物理的実在を保証するものもまた物理的実在である」のと同程度に妥当であるように思います。
(あー、もう、いいかげんにして切り上げないと……w)

>物語の中で表現するかしないかは別として(表現しない方が賢明かもしれない。難解になりすぎるから)、書き手は前提として認識しておく必要があります。

一生懸命分かりやすく書こうとしても、こ~んなに難解になっちゃう。絶対書いちゃいけないと思う。少なくとも私の文章力では。

>創作を離れれば、紀元前のインド人とかが窮極まで議論していたテーマなんだから。SF黄金時代の作家たちは、それくらいのことは知り尽くした上で作品を書いています。

 真に意味のある創作は深い思慮を通過したものでなければならない。胸に刺さるお言葉です。もちろん私などは大悟徹底というような境地に至ることなどできず、テキトーなところでごまかしてしまうのでしょう。それでも、自分の限界をわきまえつつ、分からないなら分からないなりに「それはよく分からない」と表明するのも、あるべき姿勢のひとつに思えます。

 以前書いたもので、死者となったヒロインについて、神(語り手)が、
「彼女は私と同じものになった。いや、そうではない。私の一部となったという言い方もできるが、それも正確ではない」
 と言及する場面がありました。死後の世界について描写をごまかしたのですが、あまくささんがこの表現を評価してくれたのを覚えています。
(最後、創作論に戻った……つもりw)

あまくささんの意見2013/07/03

 すみません、創作論の方ですね。

 少しだけ、前提の整理を。
 ロボットに「心があるかのように振舞わせること」は、理論的には可能なのではないかと思います。現実でも、それに近いものはいずれは実現するのかもしれませんね。
 しかし、人工知能をいかに精緻にしても、本当に心を持っているのか、あるいは心を持っているように見えるだけなのかを判別することは不可能。「私の心が実在することを知っていても、それを他人に証明することは不可能(他者の心の実在を知ることは不可能)」だからです。
 そして、それは極論すれば、ロボットだけではなく「他者としての人間」についても言えること。
 ここまで私が言おうとしていたことは、以上です。

 さて。
 創作物において、ロボットに心があるように見せる方法です。
 これは、技術さえあればそう難しいことではないと思います。そもそも小説やアニメのキャラは実在する人間ではないわけで、巧い人ならそれを実在する人間のように活き活きと表現しますよね?
 基本的には、それがロボットであっても同じ。アトムやDr.スランプが好例。他にも色々あるでしょう。

 ですが。上の2例は、どちらもロボットがアッケラカンと人間味豊かです。
 そういうものではなく、「ロボットの心」そのものをテーマにしたいのなら。単に人間味豊かな人間のキャラと何が違うのかを考えないといけませんよね?
 そこがポイントだと思います。
 あくまで、方法の一つという話ですが。
 前半に書いたようなロジックで、自我の実在(または非実在)というような思考に読者を引きずりこむという仕掛けもあるんじゃないかなと。

 ロボットなんだけど、驚くほど人間味豊か → しかし、本当に心があるのかどうかはわからない → そもそも心って何?
 こんな感じです。

sureさんの意見2013/07/02

 心…ですか。
 難しい問題ですね。
 ロボットは心が無い物の代名詞としても使われてしまうこともあり中々曖昧です。
 私のなりに考えますと…ですが。

 『人知を超える』『心が込もっている』でしょうか。

 先ず『人知を超える』から。
 人間が何かをしなくてもロボットが勝手に動いたり(もちろんプログラム以外の結果で)何かの出来事が重なって、不思議とその物の周囲でしか起きないとかそういうのが、まず多いでしょうか。

 例えば、前者は何もしていないのに勝手に動いてしまう…などです。
 自我があるものが多いですね。

 後者は、人形を持った人だけが祟られるだのなんだの…とかです。

 この辺は主に怪談が多いですね。
 人間の魂が入っているのもあるみたいですが。
 これは主に、パッと出てくるものが多いですね怨みとかある日命を持った…とか。
 どちらかと言えば情緒性にかけるものも多い様です。

※物って『命』と『心』がよく、混合されているので今回、二つは分けて考えない事にします。

 で、『心が込もっている』です。
 これは人間の感情が大きく影響します。
 人間そのものの意思を受け継いでいたり、理解し会えたり…。
 明確な自我や情緒性に富んでいるものも多い様です。

 例えば、誰かの忘れ形見だったり、大切にされたり…時々逆もありますが。
 誰かの意思が入っていたり、生まれ変わり…なんて事もあるみたいです。

 これも元は人間と言う事もありますね。
 出生はじっくり時間をかけたものが多いですね。
 自我が強い分、基本出生を覚えているものは少ない様です。

 ちなみに私は鋼の錬金術士や、FF9、ディズニーのウォーリー、オズの魔法使いなんかをおすすめします。
 命や心についての記述が多く、参考になるかと。
 …ラノベは心当たり無いです。ごめんなさい。

 え~以上です。失礼致しました。

トータスさんの意見2013/07/01

 ふと浮かんだモノを一つ。
 『あるみちゃんの学習帳』 だったはず、うろ覚えですが。

 週刊ヤングジャンプで掲載され、先週最終話だったかと・・・

あらすじ
 大財閥の老人のたっての願いにより作られた人の心を持ったロボット・あるみ。
 自分を人間だと思っていた筈が、実は精巧に作られたロボットだという事を知った。
 では、何故自分がロボットなのか?
 それは、祖父と思っていた相手の願いにより、孫娘そっくりの身代わりだった事を知った。
 自分の兄だと思っていた相手が、実は創造主だった。
 そして、オリジナルたる相手は、交通事故により死亡していた。
 その祖父は、己が権力を行使してでも孫を蘇らせんとした理由。
 ただ一人残された孫の為に、生きる気力を与える事だった。
 引き籠りの兄は祖父の財産を食い潰し、夜な夜な変な発明に没頭する毎日。
 己が生活費・メンテナンス費を賄うべく、バイトに精を出すロボット・妹。
 その妹に恋をしたDT。そいつを排除せんと悪巧みに走る兄。その兄を実力で以て排除し、その恋を実らせたい妹。
 恋人がロボットである事を知っても、それを受け入れ、好きだと告白するDT。そんなモノはまやかしだと断じ、監視ロボ・アシモフ《爆弾》を送り付ける兄。その兄の幼馴染にして、婚約者な財閥経営者などが繰り広げるコメディ。

 理想の妹=生前の妹
 ケンカ別れして仲直り事すら出来なかった相手と、もう一度他愛ないケンカをする事を望み、何度も修正を施した。

 さて、心・魂・命を獲得したロボットは、どう違うのか?
 以前から自分がロボットだと知っているか、それとも最初からそう言うモノだと定義しているのかで違いは有るかと思われます。

 心の成長を続けた結果、人と変わらない行動をとる事が出来る。
 人と代わりなくある事が当たり前で有れば、それが普通と捉える。
 人として考えて行動させれば、人と遜色の無いロボットに出来るかと。
 一寸しゃちほこばった固い感じを残せば無機的な印象が残るかと。

 『アウター・ゾーン』《少年ジャンプ・漫画》にも、心を持った人と変わりないロボットの話がありました。
(光原伸『アウターゾーン』の第3巻に収録されている第15話『ロボット嫌い』というお話です。)
 酒に明け暮れる一人の人間《=ロボット》。
 退屈紛れにロボットを狩りの獲物に見立て、壊し続ける。
 ある時、自分がロボットである事を知り、自分は人間の筈だと、ロボットなんかじゃないと、混乱しながら自分の頭を吹き飛ばした。
 それをロボット《監視》は見届け、新たな実験用ロボット《カップル》を招き入れる。
 人の心を手に入れる為に、人と言うモノを知る為に・・・

 とまぁ、思い出したので、参考までにどうぞ。

須賀透さんの意見2013/07/03

 光原伸の『アウターゾーン』は、1991年~1994年までジャンプで連載されていたオカルトテイストの各話完結のマンガです。わたしは中古本屋で買って一気読みしました。たとえるなら、『世にも奇妙な物語』のマンガ版といった感じでしょうか。
 このマンガの中に、アンドロイドが登場する『終わりの町』というお話があったことを思い出しました。
 それをご紹介いたします。

《アウターゾーン/終わりの町 あらすじ》
 地球の植民星でくらす住民は、過酷な環境にもまれるうちに人間味を失っていた。
 道ばたで人が亡くなっても、困っている老婆がいても誰も気にとめようとしない。
 そんな考え方に馴染めないリサは、ある日、仕事中に機械に巻き込まれそうになる。
 必死に助けを呼ぶが、当然のごとく作業員たちは無視する。
 死を覚悟するリサ。だが、すんでのところでルークという男性に助けられる。
「どうしてわたしを助けたの?」
「どうして? 当然のことじゃないか」
 ふたりは惹かれあい、やがて愛し合うようになる。
 ある日のこと、リサはテレビで衝撃的なニュースをみる。
 ルークは、廃棄処理場から逃亡中のアンドロイドだったのだ。
「ぼくは機械だ。愛を語るなんておこがましい」
 ひとりで去ろうとするルークをリサは引き留める。
「一緒に逃げましょう」
 クルマに乗って、リサとルークは砂漠に逃げ出す。
 ふたりを追跡する警官のクルマがすぐうしろから迫っていたが、運はふたりに向いていた。
 あの岩のところまでいけば、逃げ切れる。
 しかし、運はそこでつきた。
 クルマから身をのりだして振り返ったリサの胸を、警官の銃弾がつらぬく。
 リサは即死し、クルマからころげ落ちた。
「リサ!」
 彼女が死んだことは理解できたが、それでもクルマをUターンさせ、リサの亡骸の元に引き返すルーク。
「なんだ? あいつ戻ってきやがった。撃て撃て!」
 ルークは銃撃にあい、乗っていたクルマごと破壊された。
 炎上するクルマをみつめ、警察官のひとりがつぶやく。
「なんでこいつは急に引き返したんだ? さっぱり分からん。しょせんアンドロイドか」

 ――了――

 すこしふくらませれば短編が書けそうなほど、プロットがしっかりしたストーリーですね。
 あらすじを書いて、あらためて気づきました。
 こんなお話を週刊連載していたというのがおそろしい……。

携帯版サイト・QRコード

QRコード

 創作Q&Aは小説を書く上での質問・悩みをみんなで考え、研究する場です。
 質問をされたい方は、創作相談用掲示板よりお願いします。

質問に対する回答・意見を送る

『ロボットが持つ心とは?』に対する意見を募集します! 
投稿されたい方はこちらのメールフォームよりどうぞ。

カスタム検索