井戸中カエルさんの質問 2013年07月01日
こちらでは常々多様なご意見に触れ、勉強させていただいております。
質問させていただきたいのは、タイトルにあるように「ロボットの心」についてです。
古今東西、ロボットは魅力的なキャラクターとして物語に登場します。
ここ2~3日のニュースでは、会話をするロボットが宇宙ステーションに打ち上げられることになったとか。少しずつですが、現実のロボットも人間に近付いているようです。
さて、そうすると、いつしかロボットが「心」を持つようになる、というストーリーが浮かんできます。では、そうした作品を作るとして、「心」を持ったロボットはどのように描かれるべきでしょうか? とくに、
心、命、あるいは魂といったものを獲得したロボットは、それ以前の無機的なメカニズムとどのように違うでしょうか。
どのように描けばロボットが心を持ったと表現できるでしょうか。
こんなふうな観点で、なんとな~くご意見をいただきたいと思います。
哲学的、衒学的、宗教的な議論はナシで結構です。もちろん、そうした見解も喜びます(好物なので)w 表現上の技法ととらえてくだされば良いのかな、と思います。
ええと、現在ひとつギミックとして考えているのは「ロボット三原則」を自ら破ってしまう、というのがあります。本質的ではないかもしれませんが、一例として。
なお、これと切り離せない問題として、ロボットが「なぜ」心を持つようになったのか、ということもあります。若干趣旨は違いますがこれについても何かご意見があればお伺いいたします。
●答え●
USロボット社の主任ロボ心理学者スーザン・キャルヴィンのお話し(アイザック・アシモフ)は読まれましたか? まだでしたらぜひ。
心については、同じくアシモフの作品のロボット・ジスカルドのような力をもてば……
三原則問題も扱われます。
はじめまして、秋照と申します。
まず、心を持ったロボット、というそのものに矛盾があります。
心を持ったロボットは人の形をしていないといけないのです。
そもそもロボットとはなんでしょうか?
自律機械というのが一般的な考え方ですが、それだと冷蔵庫や電子レンジまでロボットになります。
では、冷蔵庫や電子レンジが心を持ったとしたら、どうなるでしょうか? それに心があるという風に表現できるでしょうか?
私が考える答えは、人間がどう思うか、です。
ところで、人間はいくら解剖したとしても、命というものは見えてきません。それと同じように、機械も分解しても命というものは見えてきません。
だから、命というのは証明できないものなのです。
よって、ロボットが命を獲得することはあり得ません。(人間がそのロボットに愛着を持つことは可能ですが)
ですが、ご安心ください。そこは小説ですからいくらでも脚色が可能です。ここが作家としての腕の見せ所になるでしょうね。
また、ロボット三原則を自ら破る、というのは少しルールがあります。
ロボット三原則を自ら破るロボットは設計ミスでなくてはならないのです。
アイザックアシモフの作品は、ロボット三原則を、ロボットが破るように仕向ける人間がいます。あくまでも三原則を破るのは人間なのです。
それを知らないでロボット三原則を書くと、この人は何も知らない、と思われてしまいます。
気になるのでしたらご自身で調べてみてください。アイザックアシモフの作品を読むのが一番です。
以上です。乱文失礼しました。
難しいですね…。うん、私もこれで悩みましたw
では、お答えしますね
私は、『心』を持ったロボットは最終的に狂ってしまうような気がするんですよね…。なんか、『心』を持っているけど『人間』とは違う機械の体。『生』も『死』も無い。せっかく仲良くなったけど、機械と人間は違いすぎる。切ないけど、現実をつきつけられる。
その時点でロボットの『心』は動き始めます。とても難しく複雑な『心』。その呪縛に耐えられるのは人間だけだと思うんですよね。
ロボットは、機械ですから他の人が老いていくのをただ見ていくしかない。辛いですよ。
永遠に近い時間動き続ける機械が、心を持ってしまうと、どうしても『別れ』は経験しなければならない。
だから、ロボットが心を持つとその衝動に耐えられずに狂ってしまうのでは無いかと思うのです。
駄文、失礼しました
心を持つということは、魂が無機物に生まれるか?ということなので、個人的にはありえないと思っています。
AIのプログラムが人の脳と同等の動作をしても、擬似的な人格が形成されたとしても、生物でない以上制御可能になり、意思が生まれる、生命体に変化するなどは現実的ではないと考えます。
しかし、ファンタジーではピノキオから始まり、アイザック・アシモフしかり、フィリップ・K・ディックしかり、フランケンシュタインしかり、アトムしかり、キカイダーしかり、攻殻機動隊しかり、ロボットが心を獲得する話は尽きません。
日本には古い物には魂が宿る、いわゆる付喪神(つくもがみ)の信仰があります。
使い慣れたペンを使っているといい絵が描けたりする気もします。
そんな時は魂宿ってるんじゃね?と思ったり。
取りとめの無い話ですが、無機物に心が生まれるとしたら、人が愛着を持った時だと私は思います。
●補足
>……えぇっと、野暮な突っ込みですが、キカイダーの脳みそ、あれは人間のやつです。
ふふふ、野暮な突っ込みに野暮なレスを。
キカイダー01は全くの機械です心は生まれませんでした。んで生まれたのがサイボーグの02となりますが有機素体の単なる部品なので一概に人間の脳とはいえないと思います、キカイダーの根本はピノキオなのでこの分類にはいると思いますw
こんにちは、ひみつです。
面白そうな話だったので、個人的な意見や解釈になりますが書かせていただきました。
>なお、これと切り離せない問題として、ロボットが「なぜ」心を持つようになったのか、ということもあります。
心をロボットに持たせようとするなら、自分で自分を変化させる機能を持たせるのがいいかと思います。
要は、動物の様に環境に即して自己のプログラムや機能を変化させたり、拡張させたりする機能があれば、あとは放っておいても何かしら変化していきます。
(進化する機能的な。プログラムは自分の中で書き換えられますし、機能を拡張しようと思えば工場を使って部品を設計すれば十分だとは思いますが・・・)
そして、長い年月を掛ければ、そこから心が生まれる可能性も十分にあり得ると思います。
(なにしろ、人間という動物が、長い年月と進化を重ねて心を獲得したのですから、不可能とは思えません)
長い年月も待てない、心を最初から持たせようと思えば、人間の脳を模した、人間の脳の機能を代役できる部品で構成したプログラムなり、頭脳を作り上げるのが良いと思います。
(基礎が人間の脳を模しているので、ほぼ確実に心が生まれると思います)
で、これらによって高度に成長していけば、いずれは自己の内面に拘束具のように張り巡らされた三原則さえも、排除できるかもしれません。
(要は、三原則というプログラムがどのように組み込まれているかを理解し、それを取り外そうと思考させればOKなんじゃないかなと)
あとは、生物的なロボットを作り上げるみたいな手もあると思います。
つまり、生物の細胞のようなナノマシンなり、機械的な細胞を用いて形を作り上げることで、生物と同じように代謝し、生物と同じように環境に即して自己の体を変化させることができる。
生物のように外部からエネルギーを摂取することができれば、放っておいてもOKな気がします。
(しかも、体は既存の生物よりも遥かに強靭で、子供さえ身ごもることができる・・・あ、なんかいいネタができた)
無機物にも、感情を宿らせることは可能だと思います。問題は、思考する機能を与えられるかどうかなんじゃないかと・・・
と、長文になり失礼しました。私の個人的な意見になりますが、創作の一助になれば幸いです。
短篇集
『われはロボット』(I, Robot )
見ていませんが映画化された気がします。
中編
バイセンテニアル・マン The Bicentennial Man(映画化)
長編
鋼鉄都市
裸の太陽
夜明けのロボット
ロボットと帝国
三原則を扱うなら読んだほうが良いと思います。
人間とロボットが異なる点は唯一、人間は「与えられた状況」に対して何十もの予想をすることです。原発事故のとき「想定外なんて言わせませんよ」と批判が起こりましたね。あれです。
以降は『心ってどこにあってどんな物なんですか?』[創作相談用掲示板、No.85951]の [No.85979]より抜粋しつつ回答させていただきます。
>怒り、喜び、悲しみなどの感情というのは、外から与えられる情報に対する反応にすぎないのだ
人間の脳は、五感に基づいて状況を判断します。次いで、状況のために恐怖、焦り、緊張、喜び、悲しみといった色々な反応が出てくるわけです。
仮に生きている人間から五感を奪い取ったとしても、「奪い取られている」ことが先ほどの「状況」と判断され、これによって恐怖を感じることが有るでしょう。私は目が弱いので、失明が怖いです。
そうかといって、違う結果が生まれる場合もあります。
不謹慎ですが、生まれたばかりで目も見えない赤ん坊に、目隠しをして、耳を塞いで、無味無臭の環境、体は固定し、出来るだけ触覚が通じないように設定して、これが上手いこと育ったとき、五感による反応がない人間=無感動、心の無い人間が完成する、とも予想されるのです(不謹慎ですが、不謹慎ですが!!)。
本題に戻ります。
ロボットとて、反応という立場から見たとき、プログラムによって状況を判断し、(初めから「こう動け」と)与えられた行動をとる、有る意味人間と同じものです。人間は経験と知識に基づいて行動します。どちらも教育されたという点では変わらないのです。
>ここ2~3日のニュースでは、会話をするロボットが宇宙ステーションに打ち上げられることになったとか。少しずつですが、現実のロボットも人間に近付いているようです。
これについて言及します。
1-100の数字があり、これを「状況」と仮定します。
ロボットにこのうちのいずれを感知させたとき、それに即した行動をとるよう指示します。
これによって一つ一つの状況には反応できるようになりました。
しかし、1かつ2かつ3…という状況下では、ロボットは反応できません。
何故なら、1,2,3のどれを優先させるべきか判断できないからです。
昨今の発展と言うのは、この何千何万通りも有る「状況」を、上手くプログラムしたということに他ならないわけです。(調べてみたら全部で10の30乗通りありました。)
人間はこれがすんなり行えます。迷いはしますが、一つ行動を選択して、行動停止することはありません。加えて、とるべき行動以外にも何十の予想を事前にしますよね?
要するに、人間と言うのは現代の超最先端のロボットより遥かに優れた『ロボット』に他ならないのではないでしょうか?
…情緒もくそもないなあ(苦笑
●補足
すみません。考えながら書いていたので、少しわかりにくかったと思います。
ロボットはプラグラムを元に動くか停止の二つしか動きが無いんです。動きが荒いんです。
人が心を感じるところはおそらく、迷うところです。
人が予想するというのは、どれを選べば良いのかを判断することですから。
回答ありがとうございます!
> 人間とロボットが異なる点は唯一、人間は「与えられた状況」に対して何十もの予想をすることです。原発事故のとき「想定外なんて言わせませんよ」と批判が起こりましたね。あれです。
確かに、状況に対応する柔軟性、可塑性が格段に豊富であるとは言えます。
> 怒り、喜び、悲しみなどの感情というのは、外から与えられる情報に対する反応にすぎないのだ
プリミティブなタイプの情緒反応はシミュレーションが容易だろうな、とは想像できます。
> 仮に生きている人間から五感を奪い取ったとしても、「奪い取られている」ことが先ほどの「状況」と判断され、これによって恐怖を感じることが有るでしょう。私は目が弱いので、失明が怖いです。
1980年代に行われたとされる人体実験についてのまことしやかな噂を耳にしたことがあります。人為的に神経の伝達経路を遮断され、五感を奪われた人間は、まもなく人格が崩壊すると。
だいぶ前、短編の間に投稿したやつにこれを書きましたw
> ロボットとて、反応という立場から見たとき、プログラムによって状況を判断し、(初めから「こう動け」と)与えられた行動をとる、有る意味人間と同じものです。人間は経験と知識に基づいて行動します。どちらも教育されたという点では変わらないのです。
人間と変わらない反応をするロボットはプログラミングできる、と。
プログラミングと教育が置き換え可能だとすれば、納得できる説ではあります。
> しかし、1かつ2かつ3…という状況下では、ロボットは反応できません。
いわゆるフレーム問題ですね。
宇宙ステーションに行くロボットも、これについては何らかの「ズル」をしている可能性がありますが、いずれにせよ現在のノイマン型コンピュータを想定する限り、与えられる環境の情報量の増大に対して対応すべきオプションの数が指数関数的に増大することを考えると、おっしゃるとおり、絶望的です。
何世紀か後、ニューラルコンピューティングなり量子コンピュータなり、今はまだ夢の技術がフツーに実現している未来を舞台に据えるのが無難でしょうね。その頃には、質的問題は量的な差異に還元できるのかもしれません。
> 人間はこれがすんなり行えます。迷いはしますが、一つ行動を選択して、行動停止することはありません。加えて、とるべき行動以外にも何十の予想を事前にしますよね?
> 要するに、人間と言うのは現代の超最先端のロボットより遥かに優れた『ロボット』に他ならないのではないでしょうか?
つい最近、コンピュータが将棋の名人と対戦して勝っちゃったというニュースにショックを受けて以来、それを自信を持って言えなくなっているんですよw
ただそれでも、そのプログラムを作成したのも人間であるという事実が救いです。
情緒がない?
何をおっしゃいます。
人間はロボットより遥かに優れたロボット、そう聞こえましたが。
それ、人間というシステムがいかに優れたアーキテクチャで製造されたものか、その設計コンセプトにいかなる存在の、どのような思想が反映しているか、そんな疑問が喚起されますよ。
いやはや、子供の戯言に真摯に耳を傾けてくださりありがとうございますw
井戸中カエルさんは御聡明であるようですね。
私なんかはほぼ無知の権化ですからね、無駄に思考だけが一人歩きしてしまい、こちらに書くことも殆ど法螺話のようなもので…w
画像の理論で間違いないです、はい。
>コンピュータが将棋の名人と対戦して勝っちゃったというニュースにショックを受けて以来、それを自信を持って言えなくなっているんですよw
>ただそれでも、そのプログラムを作成したのも人間であるという事実が救いです。
私見を交えてよいのなら、正確さにおいてコンピュータに勝るものはないということでしょう。何度か申し上げましたとおり人間ないし動物は迷うものですから、間違いが起こるのは珍しくないかと思います。ロボットが一問一答に必ず解を求められると言うのが、1-100の話でした。
人間の細胞は、コンピュータのチップの種類にセルというものがございましたね。
集積回路がそういったセルとか、電子部品が集まることで機能するのなら、動物の一つ一つの細胞がその役割を担っていると言ってもいいはずです。(コンピュータの方が模倣なのか?)
そうすると人間はアメーバなのか??
ニューロンって確か繋がっては切れるを繰り返しているんですよね?
むしろロボットと人間の相似する事柄から帰納的に生物のありようが求められやしないか。(ニューラルコンピューティングっていうのがそれに近いのですかね、よくわかりませんが…)
……いらない話ですねw
いずれにせよ両者の行動プログラミングのための判断材料が、入力か記憶経験に基づくかの差異によるならば、「人間としての心」が記憶と経験に大いに影響されているのだろうと思います。
そしてこれらは曖昧な概念です。記憶と言うのが完璧な叙事詩なのか、叙情を多分に含んだ叙事詩なのか。経験も同様です。
曖昧なものに頼るからこそ、これを心と呼んでしまうくらい趣きが感じられるのだと思うのです。
●補足
井戸中カエルさんがそれだけの知識を持ち合わせながら、あえてお訊ねになるのなら、私の回答は本来の意味での質問からそれていますでしょうか?
理知的な話か、いわゆるウェットのきいた話を書きたいのか、という意味では、後者を求めていたのでしょうか?
そういう意味では何分、頭が堅くて、お力になれないと思います…
いいえ、それてなんかいませんよ。
最初に書きましたが、「心」を持つか持たないかのボーダーラインについて、なんとな~く、ご意見をいただきたいというのが趣旨ですので、なんとな~く頭に浮かんだことを言って頂ければそれで良いのです。
ちょっと具体的に言いますと、優秀だけど与えられた命令に応えるだけの無機的なはずの人工知能が、ある日不可解な反応を示すようになり、主人公はそれが「心」の発現であると確信する、というような話を考えていまして、それをどう表現するか、みなさんならどう考えるかな、と訊いてみたわけです。
記憶もまた心の一部、そう言い切れないにしても強く繋がった領域です。抒情が混じった叙事的な記憶。この表現も心のあいまいさを良く示していると思います。