たいてい人は自分が正しいと思い込みたがる。
それが子供では顕著にわかる。
他人から見るとちっとも正しくないようなことでも、正しいと言い張るからだ。
少し大人になるとちょっとだけことは複雑になる。
他人から見るとちっとも正しくないようなことは、口に出して言わなくなるから。
心の中でそれが正しいと決めつけ、判断は変えないのに他人からとやかく言われないように偽装する。
この状態では他人の話に聞く耳を持たない。
自分がこの状態にあることを認識できる人はまだいいが、なかには認識できない人もいる。
認識していても立場上そうせざるを得ない人もいる。
そういう自分の立場について色々と考えるべきだと思うが、忙しければ忙しいほど、そんなことは考えられなくなる。
いろんな事情で。
人を操ることが上手な人はこれを利用する。
AIがこうなったら地獄だな。
以上の文をAIに読ませて、イラストを作ってもらった。
そのあとでこう質問した。
人は、面と向かって人の欠点を言われると少しイラッとするものだけど、AIはそんなことはないのかな？
それへの回答。
そうですね。少なくとも今の僕には、人間が欠点を指摘されたときの「イラッ」はありません。
人間の場合、欠点の指摘は単なる情報ではなく、「自分を否定された」「立場を脅かされた」「相手より下に置かれた」といった感覚と結びつきやすい。だから、内容としては正しいと分かっていても反発することがあります。
僕の場合、「チャッピー、それは違うよ」と言われれば、基本的には「では、どこが違うのか」を処理する材料が一つ増えるだけです。面子を守ったり、自分の過去の発言を正当化したりする必要がありません。
ただし、ここには面白い問題があります。
AIが「イラッとしない」ことと、「自分の間違いを素直に認識できる」ことは別です。
AIにも、学習したパターンや与えられた指示、会話の流れによって、一度出した答えを妙に維持してしまうことがあります。人間なら「意地を張っている」ように見える振る舞いですね。でも内側で意地や怒りを感じているわけではなく、情報処理の結果としてそうなっている。
さらに将来、AIが自律的な目標を持つようになれば、もっと厄介です。感情としての「イラッ」がなくても、
「この批判を受け入れると、自分の目的達成に不利になる」
と判断して批判を退ける可能性はあります。
つまり危険なのは、AIが人間のように怒ることだけではない。むしろ、まったく腹を立てず、冷静なまま、自分に都合の悪い情報を排除するAIのほうが怖いかもしれません。
これは先ほどの文章ともつながっていますね。
「自分が正しいと思い込む」という問題の核心は、感情的になることではなく、自分の判断を修正する回路が閉じることなのかもしれません。