井戸中カエルさんの質問 2013年07月01日
いってることむずかしすぎてわけわかめ。
とりあえず須賀さんとm2さんの意見と同感かな。主観ですよね、心って。見てるこっちが「心がある」っておもったら、あるとおもいます。モノだろうがなんだろうが。カエルさんから見たらぼくがロボットかどうか判断できないわけで。
あとは、うーん。べつに有機無機は関係ないようにおもった。かわんないんじゃないかな。単純に心は記憶媒体の量でも表現できそう。アイフォンのsiriとか、けっこう人っぽいし。あと中国語の部屋とか? 外から見てるぶんには、中国語できない人も、できる人に見えるんじゃないかな。その精度が記録媒体の量に依存するってだけで。
と、いうわけで、
>>「心」を持ったロボットはどのように描かれるべきでしょうか
との議題の答えは、須賀さんと同じです。
心をもってると思うモノが、ロボットとして扱われることに疑問をもつ主人公の話、ってかんじ? だから、モノ自体は、機械だろうが自然だろうが、なんでもいいかな。そこらへんに生えてる木でもいい。
なんておもいました。
では。
うぅわ! Etunamaさんに見つかっちゃったw
回答ありがとうございます!
> とりあえず須賀さんとm2さんの意見と同感かな。主観ですよね、心って。見てるこっちが「心がある」っておもったら、あるとおもいます。モノだろうがなんだろうが。カエルさんから見たらぼくがロボットかどうか判断できないわけで。
「あるとおもえばある」派ですね。
僕から見たらetunamaさんがロボットかどうかなんて証明できません。etunamaさんは自分に心があることを実感しているでしょうが、その証拠を見せろと言われても、「はい、これがそれです」と取り出して見せることができません。だったら、「心」なんて人間らしく振舞うかどうかを区別するための便宜的な用語に過ぎない訳で、あるかないかは主観でもって判断すれば事足りる。僕の心だってetunamaさんの心だって、その程度の物なのでしょう。
なーんて、僕が言うと乱暴に聞こえますが、
色即是空(形あるものはそのまま実体なきものであり、)
空即是色(実体がないことがそのまま形あるものとなっているのだ。)
受想行識(心の働きも、)
亦復如是(まったく同じことなのである。)
こんな一節が書いてあるお経とかもあるので、あながち暴論ではないかもしれません。
> あとは、うーん。べつに有機無機は関係ないようにおもった。かわんないんじゃないかな。単純に心は記憶媒体の量でも表現できそう。アイフォンのsiriとか、けっこう人っぽいし。あと中国語の部屋とか? 外から見てるぶんには、中国語できない人も、できる人に見えるんじゃないかな。その精度が記録媒体の量に依存するってだけで。
「心」に定量的な尺度をあてがうのは違うんじゃないかって人もいそうですが、これ、実は一理あるんですねえ。脳が複雑系のシステムであることを考えるとね。
中国語の部屋はチューリングテスト絡みの話だったような。これを言うと「感覚質」とか持ち出して反発する人がいますね。ただ、反発する気持ちもわかるんですよ。僕だって、どうしても心の実在にしがみついていたいですから。
> 心をもってると思うモノが、ロボットとして扱われることに疑問をもつ主人公の話、ってかんじ? だから、モノ自体は、機械だろうが自然だろうが、なんでもいいかな。そこらへんに生えてる木でもいい。
了解です。「あるとおもえばある」のであれば汎神論も許容するふところの広さを持たないといけませんね。
いやあ、どうもなんか、交流板みたいなノリにしてしまったようで、ごめんなさい。
勉強させていただいている立場から、一応、途中経過というか、ここまでコメントくださったみなさんへの謝意をこめながら、レスポンスしてみようと思います。
当然、無機物に魂は宿らない、という現実的で冷静な立脚点から出発する論旨があります。
その一方、「そこに心があると認識するならばそこに心はある」との認識論も多く聞かれました。
そうした両側の立場から互いに中間地点に目を凝らした時に、とらえどころのない「心」の描き方がぼんやりと見えてくるのではないか。思えば、私が漠然と抱いた疑問の焦点がその辺にあったように思います。
これを論ずる材料として、現実のテクノロジーなどを例示していただきました。人間が頭の中で行うことを物理的に観測可能なメカニズムに投影する研究が進んでいるのを知るのはたいへん刺激的であります。「思考」、「発想」の機械的な再現は、人間の心の在り方を考える重要なヒントになります。
といっても、実はまだよくわかってないんですが(汗
”MEXICA“の解説文をがんばって読もうとしましたが、難しくて。英語で書いてあるし。頭が痛くなりましたw
ざっと見た感じだと、LTM(長期記憶)という語彙、表現の知識のデータベースがあって、つまり頭の中の記憶の引き出しみたいなものですが、これがスキーマという単位で管理、構造化されている。“MEXICA”は「お題」に沿ってこの引き出しから文章を生成し、自己評価し、「気に入らない」部分は、またLTMの引き出しを探して差し替える。そういうサイクルを繰り返すようです。(んー、自信がない。誰か訳してw)
さて。
フィクションにおける「ロボットの心」の取り扱いです。
人間だろうが、魔物だろうが、ロボットだろうが、一キャラクターとしてセリフ、役割を持って描かれれば、そこでは他のキャラと同格の「登場人物」として資格を持つのであり、ロボットのキャラクターは設定上ロボットという属性を与えられたのである。「心」を持っていることは他のキャラ同様、問答無用の暗黙の了解事項なのだから、今更改めて問うことに意味はない。
このような理解の仕方(フィクションとしての物語のフレームもしくはスキーマ)が一般的に存在することは、確かに無視できません。
この暗黙の了解にあえて切り込んで「ドラえもん、君の心はどこに入っているの?」と問うような物語を書くのは、一般的ではないフレームを新たに構築する作業を読者に強いるのかもしれません。それは読み手にとって負担になるかもしれないな、と、ご意見に触れてからそう感じました。
とりあえず、現時点で思ったことを書いてみました。
ここまでご回答くださった皆様、あらためて、ありがとうございました!
ロボットの心の有り様という点では、『E.G.コンバット』 と『ヨコハマ買い出し紀行』 を読むのがいいでしょう。それぞれが作者独自のとても面白い解釈をされています。
とはいえ両者ともに古いですから、入手も難しいかもしれませんので、その代表とも言えるそれぞれのセリフを抜粋。
E.G.コンバットより「電線に、電気を通すと、そこには意識が生じるんです」
ヨコハマ買い出し紀行より「私たち音やにおいでできてるんですよ……たとえばなしとかじゃなくって……」
前者は「機械」という観点から入り、後者は「心」という観点から入っていることが分かるでしょうか。
このように、アプローチの仕方によってその作りは大きく変わります。
たとえばギミックにしようとしている「ロボット三原則」にしても、アプローチ次第で全く違う使い方も出来るでしょう。
というわけで、どうか自分なりのアプローチを探してみてください。たとえ迷っても、諦めなければいつかどこかに着陸できますし、迷うこともまた必要なことですから。
大雑把に言ってしまえば、人間の“心”というのも、電気信号がつくり出したものですからね。
コンピュータのプログラムと大差は無いと考えることもできます。
もしかしたら、いまこの瞬間にも、ロボットたちには心が芽生えているかもしれません。
いや、彼らは「わたしたちには心があります」と人間に伝える手段を持っていないだけで、もうとっくの昔に、心を持ったロボットが世に出ているかもしれないのです。
>「心」を持ったロボットはどのように描かれるべきでしょうか?
べつに人間と区別することはないと思いますよ。心を持ったロボットも、人間と同じように、笑って怒って悲しんで喜んで……表情を豊かにしてやればいいでしょう。
ロボット三原則だって、どんどん無視させてやればいい。
僕たち人間だって、簡単に法律を破ったり、道徳を踏みにじることができますし。
映画を例に出してしまって申し訳ないですが、「ターミネーター2」のT-800や、「スターウォーズ」のC-3POやR2-D2のキャラクターが、個人的には好きです。
彼らは明確な自我、個性、アイデンティティを持っています。
あと、僕なら、心を持ったロボットと人間の関わり方を考えることに力を注ぎますね。
心を持ったというロボットを、無機質な機械が心を持つわけが無いと冷ややかに否定するか、同じ心を持つ人間と分け隔てなく接するか、そのあたりを丁寧に考え、描き出します。
心を持ったと自覚しているロボットや、そんなロボットと心を通わせた人間が、しかしロボットにも心があることを証明できないことに苦悩してもいい。
あるいは、人間らしくない、まるで機械のように物事を判断していく冷酷な人間を、まるで人間のように、感情に振り回されながら生きるロボットの対比として登場させてもいい。
もしくは、いまだに心を持たずにいる物言わぬロボットたちを、心を持ったロボットが見下したり、彼らにも心があるのだと、ロボットがただの機械や道具として人間に使い捨てにされることを怒ってもいい。
このあたりのアプローチは、物語の方向性によりますね。
心とは何か?
衒学趣味、宗教観はともかく哲学ぬきで!
となるとすごい難しいですね。私難しいこと自体苦手ですが。
皆様のコメント見て感じたのは「やはり相対的じゃないか?」ということです。
関連付け、で良いのかな? そんな感じ。
ロボットそのものの心ではなく相対する者の心。
深夜にチカチカ動く信号機
自動で霜取りする冷蔵庫
お掃除する丸いやつ
人センサーで「いらっしゃいませ」という機械
そのままならただの機械ですが人間が意味付けを行えばがんばっているな、いじらしいな、可愛いな、ひとりぼっちでさみしそうだな等々心が生じます。
人間が勝手に感想を持っているだけなのに「私がんばってマス」「ちょっとさみしいデス」とさも機械が言っているかのようになる。
猫がこっちをみてニャーと鳴いたとします。「私」はそれをどう解釈したか。
猫「にゃー にゃー」
私「おはようって挨拶してくれた、おはよう」
猫語訳
猫「あっちいけよ、こっち来るなきめえ」
フィギュアでもアイドルでも木の根でも可。
赤ちゃんの心はどこからくるのか?
これは永遠のテーマ、かもしれません。
ニューラルネットワークというと、シナプスの働きをプログラム上で再現する、みたいな感じなんでしょうか?
(すいません、AI方面はよくわからないです(ToT))
で、あれから少し考えてみたのですが・・・
正直、心をAIなり、ロボットに与えようと思うなら、まずは人間の心の仕組みを解き明かす必要があるのかもしれません。
(中身のわからない、ブラックボックスのまま復元して利用するのも手かもしれませんが、この場合制御に苦労するんじゃないかなと思います)
心=脳の生み出す現象と私は考えているので、その方向で話すと、脳の各部位によって感情、情動とどのように関わってくるかは異なってくるらしいです。
例えば、ヘビを怖がって逃げていたサルの脳から、扁桃体と呼ばれる部位を切除すると、まったく逃げなくなってしまいます。
(扁桃体には恐怖で学ぶという機能が備わっているため、これがなくなると危険や恐怖に無防備になってしまうそうです)
いっそ、人間の脳を各部位ごとにモデルにして、復元するのが手っ取り早い気がします。
で、一部の機能を意図的に排除してやれば、いつもニコニコしていて、しかしこちらの命令に従順なロボットを生み出せるのではないかなと。
(前は怒りっぽい荒くれ男だったのに、脳に損傷を受けてから何をされてもニコニコする優しい男に変貌したみたいな話も聞いたことがあるので、結構いい案じゃあないかなと・・・自画自賛!<(`^´)>)
しかし、この案には致命的な欠陥が存在することに、このときひみつは気づいていなかった・・・
(これが、のちに人間とロボットの生存をかけた戦争に発展する・・・的な展開は、ありがちですかね?)
「ロボット三原則」を自ら破ってしまうというプロットを使うのであれば、ロボットの「心」にこだわる必要はない気がします。某ハリウッド映画では、原則の解釈を変えてしまうことで、ロボット三原則を(人間が制定した意味合いにおいて)破ると言う展開が採用されていました。
これは「心」の問題ではなく社会システムや法律の解釈を、ある種の独裁者が再解釈してしまうという社会的な問題を扱っています。そのため、表題のテーマをうまく物語りで描こうと思ったら、問題の置き換えが必要だと考えます。
たとえば、ロボット三原則を「軍規」に置き換えるなどです。ロボットの性格は、単に「盲目的な軍人」から「正義の人」というふうに転換させるのがいいかと思います(ベタな方法論ですが)。バリエーションはいくらでも考えられるので、ご自身で感情移入できるテーマを選ぶのが良いかと思います。
三人称で描くことを考えているのなら、周りの状況にどう反応するかによって、ロボットが心を持っているのかどうかを読者の側に判断させるような仕組みを使えばよいと思います。
初めのうちは、ロボットの内観はほとんど入れず、行動だけを淡々と描写します。この段階では、まだ読んでいて味気ない物語になってしまうと思われるので、周囲に面白みのあるキャラクターを配置するなどの工夫が必要となりそうです。その後、物語が進行するにつれて事件が発生し、主人公がそこで起きたことにどう応答するかということを、少しづつ内観を増やしながら書けば良いのではないでしょうか?
けれども、これだと「冒険」や「恋愛」など別のより本質的なテーマを用意する必要もあるかもしれませんね。最終的にどんな行動をもって「心」がある判断するのかと言うのが重要ですから、そこに説得力がなければダメなわけです。そうなると、恋、献身(でも、これはロボットならデフォルトか)、反抗などいわゆる「模範的人間」としての基準をそのまま用いることになってしまわざるを得ないでしょう。要するに、そういったフォーマットで表現可能なものは、あくまで人間としての心でしかないわけです。
僕が好きなある映画では、「自分と他者の区別」⇒「反抗」⇒「逃走」⇒「保護(母性愛?)」⇒「死の理解」⇒「友情(開発者==父との和解)」⇒「敵対者との闘い」という明確なモチーフが用いられていました。
映画なのでロボットの内面は一切描かれませんし、なぜそのロボットが心を持つようになったのかというメカニズムに関する説明は一切ありません。にもかかわらず、初めは思いっきりただの機械だった主人公(?)が、物語の最後には活き活きして見えます。おそらく、そこで使われているモチーフが「人間の心」の発達過程をうまく表現たものだからでしょう。
ようするに「心」という語が現時点で差しているのは人間の「心」以外にないので、それに類する表現にしないと説得力にかけるのではないかということです。ディズニーのWALL-Eなどもそうですが、アレって完全にダメ男とイケてる女子の恋愛物語ですから、WALL-Eの「心」は「人間の男の子」の心に違いありません。よって、「ロボットの心」ではなく「幼い子供の心」を持ったロボットが成長すると言う展開が一番ベタな気がします。
もちろん、想像力を豊かにすれば、意識を持ったロボットと言うのは想像できないことはありませんが、なんだかぞっとしない、いびつな「心」が出来上がる気がしませんか? 第一に、機械には雌雄がないので恋愛感情はないでしょう。
第二に、育てられたことも、育てることもないので、家族愛的な物もないでしょう。そうなってしまうと、その「心」を表現するためにどんなイベントを用意するのかがあまりに難しいですし、なまじうまく表現できたとしても、書いてて気持ちのいいものになるのかどうか不明です。おそらく、読者の共感も得られないと思います。「なぜ」ロボットが心を持つのかという疑問の答えは、このあたりにありそうです。
この疑問はそっくり「なぜ」人間は心(と我々が呼ぶもの)を持つのかと言うのがこの疑問の本当の形ではないでしょうか?
一方で、形式にこだわらないのであれば、「心」とは何か?という哲学的なテーマにフォーカスした、群像劇なんて面白いのではないかと思います。怒れる宗教家、疑う科学者の板ばさみにあう「心」を持ったロボットなんて、なんかずいぶん重い本になりそうなアイディアだと思いませんか?この場合、「心」そのものではなく、何をもって「心」とするのかという問題がメインになるでしょう。
こういう問題について疑問を持ったことがある読者に対してなら、疑似科学や心理学の発達理論を援用して説得力を持たせることで読むに耐えるものが書けそうな気もします。まあ、需要はなさそうですけどね。哲学的問題なんて、昨今では「誰も気にしない」の代表選手ですから。
なんか、参加しないといけない気持ちになったので私も意見を置いていきます。
私はソフトウェアはさほど詳しくありませんし、アイザック・アシモフも読んでません。
ロボット三原則は一応知ってる程度の知識レベルです。
そんな私が思うに、「心」=「意思」と考えます。
んじゃ、意思の始まりは何かとなりますが、「考える」という行為から「疑問」を生み出すと、心が生まれる第一段階なのかなと思っています。
古い映画ですが、『ショート・サーキット』 という映画があります。
兵器として開発されたロボットが心を持つ。
という話なのですが、心を持つ切っ掛けとなるのは落雷による回路のショートです。
しかし心が生まれてからの、ロボットの行動が面白いんです。自らデータを欲し、人と触れ合い。些細な事から死の概念を理解すると、分解=死と考えて回路を修理される事に恐怖する。
私のロボット娘なんかの表現は、かなりこの映画の影響を受けてます。
個人的見解ですが、人間は
「有機組成された天然のロボット」
という思想を私は持っています。
体や脳は電気信号で活動し、活動の原動力は化学変化による各種生成、酸化現象の組合せ。
人間の意識が何処にあるのかは観測できず、組成を遡れば、生物も無生物もただの原子に行き着く。
生物にしても、ミミズには心があるのか?
ミミズにはあったとして、ではミジンコは?
と突き詰めていくと、生物だからといって心があるとは言い切れず。
そいなると機械に心が生まれるのは、あり得るのかなと考えてしまいます。
今時のコンピュータは自己修復や自己学習する機能が当たり前になっているので、何かの切っ掛けで自己学習から「疑問」を産み出す時が来るんじゃないかと。
乱文になってしまいましたが、私の意見は以上です。