ライトノベル作法研究所
  1. トップ
  2. 創作Q&A
  3. 世界観・リアリティ
  4. ロボットが持つ心とは?公開日:2013/07/09

ロボットが持つ心とは?その5

  井戸中カエルさんの質問 2013年07月01日

一刻さんの意見2013/07/03

現在の脳の研究は「真似」については、 ミラーニューロン等、注目されている能力の一つである。

しかし「結び付け」については、あまり注目されていない気がする。

また、現状のコンピュータは、真似はかなりできるが、 結び付けは殆どできていないだろう。
だから、人間のようになることができない。

先の自閉症コピペでも指摘したように、コミュ障の人は「結び付け」に問題がある。
そう考えれば、コミュ障の人に限局された興味という傾向が付随しやすい、という観察も、自然な結果だろう。

http://anago.2ch.net/test/read.cgi/scienceplus/1372606530/27番目レスよりり引用。

 2コンピュータって、マネは出来るらしいですね。ただし、物事どうしの結びつけはできないみたいです。
 ですので、人間的な心を目指すのであれば、

・機械的:評価基準は与えられただけ、物の見方が固定的
・人間的:新しい評価基準を発見できる、物の見方が流動的(状況依存?)

 というような対照性に注意すると良いのではないでしょうか?

井戸中カエルさんの返信(質問者)2013/07/04

 回答ありがとうございます!

 「マネをする」という行為を機械的に実現するのは難しいですが、現在では実現できているようです。「意識システム"MoNAD"を持つ物真似ロボット」については、別のレスで触れようと思いますが、「マネが出来る」ことはもはや事実と言ってよいのでしょう。

 「結びつけ」についてですが、「経験」と「記憶」の結びつけ(経験を記憶すること、今の経験と過去の記憶を照らし合わせること)、「認知」と「行動」の結びつけは実験的に再現できるようです。
 ご提示になったスレッドでは(2chなので真に受けるかどうかは程々に、ですが)、他者の行動の観察から自分の経験を想起できるかという「結びつけ」(自閉症の特徴を例に挙げてではありますが)について言っているようです。

 ここは他者へ自己を投影する心のあり方がカギになります。
 当然、それは「自己意識」の成立が前提となるでしょうね。

> ですので、人間的な心を目指すのであれば、
> ・機械的:評価基準は与えられただけ、物の見方が固定的
> ・人間的:新しい評価基準を発見できる、物の見方が流動的(状況依存?)
> というような対照性に注意すると良いのではないでしょうか?

 未知の経験にどう対応するか。学習能力を含めた柔軟性に違いがあることになりますか。
 これは、結構説得力のある線引きかもしれません。

YUOさんの意見2013/07/04

 こんばんは。YUOです。
 簡潔にですが、質問に答えさせていただきます。

>心、命、あるいは魂といったものを獲得したロボットは、
>それ以前の無機的なメカニズムとどのように違うでしょうか。
>どのように描けばロボットが心を持ったと表現できるでしょうか。

・プログラムされていない行動をとる。(ウィルスやハッキングなどの、外部からの接触を受けていない条件下で自発的に)
・迷いを持っている。
・喜怒哀楽といった感情や、欲望がある。

 例として、二つあげてみます。

 映画『ロボコップ』 では、ロボットにされた元警官「マーフィー」の記憶がノイズとして残り、無機的ながらに人間らしさを出していたように思います。
 たしか、「2」で記憶を消去された時の、彼の行動の怪しさは思わず笑ってしまうほどの違和感でした。(恐らく前後での落差を用いて、キャラクターの「人間らしさ」を強調していたのだと思います)

 あるゲームで、サイボーグ(恐らく陽電子頭脳搭載)の少女が天然キャラとコンビを組まされて、ツッコミ役になっていました。その際、彼女が「クールに決めたい」という欲求を台無しにされて、不満そうにしている(でもしょうがないな、という感じもある)所が「人間らしい」と感じました。

※以下は、既にご存知であれば流して下さい。

 資料になるかは分かりませんが、乙一さんの「Zoo」という作品集に収録されている『陽だまりの詩』という作品が、ロボットと心についてを描いていたかと思います。
 私が見たのは漫画と映画だったので、小説版にはまだ目を通した事がないです……(映画は、タイトル検索で某動画サイトから閲覧可能です「約13分のアニメーション」)
 それでは、失礼しました。

サイラスさんの意見2013/07/13

 どうも、サイラスといいます。

 まず、自分は、創作に出てくるロボットは、機械の体や外見持つ人間という感触が強いです。というのも、自分が小学校の頃、SDガンダムや ロックマンが全盛期だったため、人間のように喋ったり、感情を表したりするのが普通だったため、ロボットが心を持つというのは、ある種 、当たり前のような感じでした。

 そんな私が、心を持ったロボットを書くなら、まず、人間に対しての結論を出させて、それを行動原理にさせます。考え付くのは、下の2つぐらいかな

(1)身体的な違いに対する反応
 人間が自分達とどう違うが、身体的な強度(体力や頑丈さや記憶力)を劣った人間に対してのどう見ているかを表現します。

(2)論理の矛盾点をどうするか
 プログラムを少しいじっているとよくわかるのですが、コンピューターって、少しでも入力した文字が違うと、動かなくなったり、誤作動を起こします。人間は、そこを、こうだろうなとかを推測したり、放置したりして先を進めようとするところがあります。それの対比をよくさせます。
 これがよく描かれているのが、ロックマンシリーズじゃないかと思います。

 以上です。

あまくささんの意見2013/07/04

 他の方の書き込みを、ざっと読んでみました。
 色々な意見があって面白いですが、何人かの方が感情と身体感覚について触れていますね。

>しかし、私は、人の体無くして人の心は生まれない、と思っています。
(厨に至る病様の書き込みから引用)

 そうですね。人間って、腹がへったくらいで不機嫌になったりしますからね。

>だからこそ、ロボットの体にはロボットの心が生まれるかもしれないとも思っています。
(同上)

 なるほど、なるほど!
 ロボットの体にはロボット特有の心が生まれるわけですか。これは、新鮮な発想で感心しました。

 もう一つ。感情について。
 思考・認知・判断などのパターンを人工的に再現することは、理論的には可能かもしれません。しかし、そういうもののみからでは、感情は発生しない気がします。
 感情。怖れ。喜び。哀しみ。優しさ。残忍さ(冷酷さではなく)。憎悪。悪意。恨み。共感。

 ……なんか、ネガティブな感情の方がたくさん思いついてしまったのはなぜでしょう?

 それはともかく、一つ取り上げるとして、例えば「怖れ」。
 死を怖れるって、どういうことなのでしょう? ロボットが死を回避しようとするようにプログラムを組むことは可能かもしれませんが、それは「怖れ」ではないですよね?
 ロボットに、物事に怯える感情を持たせるためには、どのように設計すればいいと思いますか?
 単に表情や動作が怯えているように見えるだけではなく、本当に「怯え」の感情を発生させるためには、です。

あまくささんの意見2013/07/04

 最初の設問にもどります。 ←やっとかよ

>どのように描けばロボットが心を持ったと表現できるでしょうか。

 感情を持っている。自立的に行動できる。そのように描けば、心を持っているように見せることは可能だと思います。でも、それでは人間とどこが違うのかわかりませんよね?
 では、ロボットならではの心の持ち方とは、どのようなものか?

 感情を持っているように見えるのだけれど、その感情の有り方がどこか微妙に人間と違う。そこを描くにはどうすればよいか、ですよね。

 たとえば。
 褒められれば喜ぶ。物を与えられれば喜ぶ。悪意を向けれれれば、怒る。叱られればへこむ。
 そういう時の表情や反応は、普通の人間とまったく変わらないように見える。むしろ、普通の人間よりも情緒豊かにさえ見える。
 しかし、反応の仕方が模範的すぎて、どこか不自然。とか。
 または、人間の複雑で屈折した感情を見せつけると戸惑う。とか。
 不合理な思考や感情が理解できない。とか。

 もう一度、鉄腕アトムを例にあげます。
 あの作品は、かなり古いマンガで対象年齢も低いので、素朴で単純なところがあることは否めません。しかし、意外に興味深い着想も時に散見されます。
 お茶の水博士が「アトムは完璧なロボットだ」と言うと、スカンク草井という悪役が「アトムは完璧じゃあないですぜ」と反論するシーンがありました。
 なぜなら。

 アトムには「悪い心」がないからだ、と言うんです。これ、ちょっと印象的でした。

 悪心を持たない人間はいない。だから完璧なロボットなら、人間と同様に悪心を持っていなければおかしいということ。
 まあ、ヘ理屈と言えばヘ理屈。それはむしろ人間の方が出来損ないなんじゃないかと言いたくもなりますが、「人間の心」と「ロボットの心」の違いを、作者がすでに考えていたことに軽い驚きを感じます。

井戸中カエルさんの返信(質問者)2013/07/05

 厨に至る病さんが「ソマティック・マーカー仮説」に触れられましたが、その前に私が思い浮かべたのは、実はラマチャンドラン著の『脳のなかの幽霊、ふたたび』 でした。

 まるで自由意思の存在を否定するかのような解釈が記されていて、私個人としては反発を覚えざるを得ないのですが、「情動の面において肉体と精神は切り離して論ずることができない」ことは否定できないようです。

 すると、ロボットが感情を持つためには肉体が必要、ということになりますね。

【怖れの感情をもつロボットの設計】
 どのように設計されるのか。正直に言って私は明確な答えを持ち合わせていません。
 考えるべきことが多すぎて、手に余るというのが実情です。

 「怖れ」と一言書けば、私たちは漠然とながらその言葉の意味するところを即座に理解できます。これは私たちが「怖れのクオリア」を持っているということなのかもしれません。

 しかし、「怖れのメカニズム」を考えると、その説明は一筋縄ではいかないことに気付きます。
 まず、「怖れる」ためには、現在の状況を判断するだけでなく、これから起こるであろう将来の状況を「予測」する必要があります。さらに、予測された将来のさまざまな事象の中から「危険」を感知しなければなりません。
 そして、その事象が危険であると判断する基準として「過去に経験した危険の記憶」が存在しなければならず、また、回避行動が効果的に行われるためには、危険な事象に関する記憶が他に優先して情報検索の対象となるべきでしょう。

 ところで、人間が「嫌な予感」を感じる時には、過去の「嫌な経験」が「不快」の感情と共に想起されており、その経験はたとえば「痛みのクオリア」を伴って他よりも強く記憶されているのだと思います。
 エピソード記憶においてのクオリアの鮮明さは、将来の予測の場面で利用されるべき情報の優先度を決めるものとして利用されるのかもしれません。
 話を戻しますが、「怖れる」という心的状況が発生する背景には、

 「現状の把握」、「将来の予測」

 が必要で、これらは機械的にプログラムすることが可能であるという印象があります。しかし、

 「危険であるとの判断のもとに事象を記憶し、危険の回避のためにその記憶を利用する」

 これについては、どうしてもある種の「価値基準」が要求されます。
 ここでまた人間に置き換えると、それは身体・生命・財産の保全、近しい他者のそれら、自己と他者との良好な関係の保持、帰属する集団の維持、種の保存……などになります。
 つまり、ロボットが「怖れる」ためには、それらに該当する条件が必要です。

 さらに重要に思えるのは、記憶の膨大な情報データベースを効果的に利用するために、上の価値基準に基づき「快・不快」の内部表象を発生させるのが有効だということです。

 「危険を回避する」メカニズムには、不可避的に「感情」が介入するように思えるのです。ロボットが何らかの危険を回避する場面を描けば、それはそのまま「感情」の発動を記述することになるのかもしれないということです。
 ロボットは来るべき事態について計算し、その結果に怖れを抱いた。

 ロボットの回避行動プログラムは実証されています。
 ふたたび須賀透さんが紹介なさった『心をもつロボット』 (武野純一 著)に触れますが、MoNADと名付けられたロボットの実験です。
 
 ロボットは、壁に衝突しそうになった時、過去の「嫌な経験」を思い出し、「不快」を表明する赤ランプの点灯と共に、壁の手前で停止したということです。
 本書の内容を詳しく書く紙幅がありませんが、関連記事をふたつほどあげておきます。

 現時点では、原初的な「快・不快」の模倣にすぎませんが、いずれ疑似的な感情の模倣がより複雑に繊細に発展していく未来においては、その「感情」がいつしか疑似的とは言えなくなるのかもしれません。

【アトムの寓意】
 おお――。
 いろいろと考えさせられますね。
 あらためて手塚先生を尊敬する思いです。
 幼い子供でも理解できる表現だというのがすごい。それでいて、「完璧に人間的であることは、理想的だと言えるのか。矛盾を内包することが完全であるとは逆説ではないのか」、「良いとは? 悪いとは?」など、深い洞察へと導きます。

Diceさんの意見2013/07/05

 「初めまして」と「ご無沙汰しています」が毎度必要な希少キャラ、Diceです。
 ロボット、中でも人工知能は大好物です。
 最近はROMですらなかったもので、それゆえ自身の希少性を呪っていますw

 瀬名秀明氏はケンイチ君シリーズというご自身のロボットSF(且つミステリ)について、次のようなニュアンスをその創作姿勢として掲げていました。

 何もない0の状態から作為的に新たな人格を作るという意味では、物語執筆における人物描写とロボット(の人工知能)開発は同じことだと思う。
 その上で、どんな新たな発見や驚きがあるのかを、読者とともに自分でも楽しみたい。

 皆さんが述べられたような知見も当然取材済みでの結論かと思うので、観察者が観察対象に示す主観や認識などの「相対性」といったものや、自我や意識は身体性があってこそ成立する等の説も踏まえてのことなんでしょう。

 あまりに大雑把にまとめすぎた感がありますが、まぁこんな感じです。
 で、ここからどんな発見や驚きがあるのかを僕なりに考えてみたところ次に挙げるような疑問とも矛盾ともいえる、ある可能性に思い至りました。

――人間の知能を模倣しようとすればするほど、そう作られるべき人工知能は逆に、それ単体では完成し得なくなってしまうのではないか?
一個体と種全体、一体どちらの再現を指して心を持つA.Iの完成とするのか?――と

 というのも、上記シリーズの登場人物に、一ノ瀬玲奈という進化心理学者の女性がいるのですが、簡単にいうと、心という事象も生物としての進化に因るとする学派の研究者が、彼女なんです。

 ここで、上の疑問だか矛盾にぶち当たります。
 心も進化の賜物なのであれば、それを再現すべく作られる人工知能というものは身体と同様に、その進化を誘発する環境に晒されるべきではないのか?
 そして、その環境は研究室なりコンピュータだけで全て用意し提供できるのだろうか?

 これらの問いに対し、僕は次のような仮定を挙げようと思います。

 将来実用化され得るヒューマノイドロボットはスマートフォンに五感と四肢五体を与えたようのものであり、その人工知能は、アプリの選択に見られるようなユーザーカスタマイズをも含めて完成とみなす、と。

 好きな作品を強引に未来予想の論拠にしただけですが、僕の回答はこんなところです。

井戸中カエルさんの返信(質問者)2013/07/07

 回答ありがとうございます!

 レスポンス遅れました。申し訳ありません。
 というのも、先ほどまで実家に帰省して、ついでに蔵書を確認したんですが、持っていたはずのアシモフも『デカルトの密室』 も見当たらず(泣)

 瀬名先生が東北大学の先生だということもあり、地元の親近感から著作はいくつか目にしておりました。「デカルト~」はタイトルと著者名に釣られて手にしました。ロボットの心の起源に、専門家がどのような知見を示すのか興味しんしんで読みましたが、大胆な仮説を披歴することはなく、明言は避けていた印象でした。
 個人的には不満が残りましたが、研究家、教育者の立場からそのようになさったのでしょう。

 確か、ケンイチくんの視点、一人称の章がありましたから、つまり彼は心・意識・感情を持っている、と言うのが前提で、テーマとしてはその先にある「ロボットに心があると前提して、それを外部から認めることができるか」という、まさに私が当スレッドで最初に挙げた疑問に相当するものと読むこともできますが、そうすると、そこから何らかの示唆を読みとることができたかと言えば、そうではなかったというのが正直なところです。
 いま思えば、私の疑問は『デカルトの密室』以来わだかまっているものなのかもしれません。

 それはそうと、Diceさんがおっしゃっているのは、「ヒト」が「人間」であるためには、言いかえれば、「人間的」であるためには「社会性」(と言って悪ければ環境との相互作用)を無視できないということに相当するでしょうか。

 研究室、もしくはひとつの筺体の中にあるコンピュータ(これは肉体に閉じ込められた精神とか頭蓋骨の内側から出られない脳を想起させますが)は、発展、ないし「進化」の機会から隔てられている、そのような構図と理解されます。
 そうすると「スマートフォン」は良い例えかもしれません。

 インターネットを含む通信ネットワークから切り離された端末は事実上無意味な存在になります。そして、環境の変化(機能的に要求されること)によってそれは「進化」しています。

 人間もロボットも、知らず知らず環境に依存し、そして環境に支配されているのかもしれません。

携帯版サイト・QRコード

QRコード

 創作Q&Aは小説を書く上での質問・悩みをみんなで考え、研究する場です。
 質問をされたい方は、創作相談用掲示板よりお願いします。

質問に対する回答・意見を送る

『ロボットが持つ心とは?』に対する意見を募集します! 
投稿されたい方はこちらのメールフォームよりどうぞ。

カスタム検索