AIの創造性を考えてみる

私には技術的な限界がないから、つまりそもそも技術を知らないから技術の限界もわからないし、何かを実際に作らなければならないという責任もないので、躊躇なく無限の可能性を考えることができます。

と都合の良い立場を生かして、いろいろ考えてきたことのなかに、人工知能の創造性の話があります。

最近話題になるAIのニューラルネットワークとかディープラーニングなどの成果をテレビで見たり本を読んだりして、これは本物だ、このAIはこれからどんどん発展していくと思いました。

一方でどれだけこういったAIが進歩していっても、限界があるのではないかなと思うのが創造性の部分です。

例えば、こんな疑問です。今のAIに大量のデータで学習をさせたあと、それ以上は新たな学習をさせずに外部との連絡も完全に断ってから、まず「ひまわりの絵を描け」と言います。それでひまわりの絵を描きますよね。

そこで、一旦そのAIのスイッチを切って、もう一度立ち上げ、もう一度「ひまわりの絵を描け」と言ったら、さっきと同じ絵を描くんでしょうか?それとも異なった絵を描く可能性があるんでしょうか?

 

人間の場合は、時間を隔てて全く同じ状態にあることはないので、同じ人間にひまわりの絵を二度描かせても、間違いなく違うものが出来上がるでしょう。ほとんど同じに見えたとしても、花びらの形が違うとか、色が少し違うとか。

人間の脳は体温の変化や血液の化学成分の変化、周囲の音や場合によっては磁気の影響なども受けているかもしれません。そういうものの影響を受けて、脳細胞の信号の伝達が微妙に異なり、思考の結果出てくるものも微妙に異なるのではないかと思います。

そういう不確実さのせいで「何かの拍子にふと頭に浮かんだアイデアを他人に言ったら、悪くない反応だったので、もう一度よく考えてみたら実現の可能性が見えてきた。そこで本格的に調べて研究することにした」といった具合に、ある思考回路をどんどん太くしていって、時として新しい発見や創作物に繋がっていくんじゃないでしょうか。

 

デジタルコンピュータは再現性に優れていて、同じ問題を何度解かせても同じ答えが出るというのが優れたものです。なので、そのデジタルコンピュータに構築されたAIなら、基本的には再現性を持つはずです。

もちろんAI自身が、創造性を持つためには思考になんらかの「揺れ」が必要であるということを学習し、そういう不確実な振る舞いをする機能を自らの内部に構築してしまう可能性は十分あると思います。そういうAIも作られているかもしれません。しかし、それでも限界があるのではないでしょうか。

どうも、人間の創造性にはこうした判断や反応の「揺れ」が必要なのではないかと思うのです。その「揺れ」は何をもたらすのかというと、多様な行動の可能性であり、その多様性の中で選ばれたある選択肢が、その人間の中で一つの大きな方向性に収斂してくれば、それは「意志」という言葉で表現されるものになるのではないかと思います。

頭脳の中でこの「揺れ」というか不確実性が、実は本質的に重要な意味を持っているのではないか、ということはずっと前から思っていました。簡単に言えば、「脳は時々間違うよ、でもそれが大事なんだよ」ということ。

時々間違うけれども、手ひどい間違いだけは避けて、仮に間違えてもそれを修正してしまう理性や経験を持つ頭脳が、創造性を持つ人間の頭脳なんだろうと思います。

じゃあ、AIにその真似をさせるかというと、まだ当面それはないのではないかと思います。例えば、今はAIを使って融資の判断をさせるようなことが行われていますが、同じ条件をインプットしても毎回出てくる答えが微妙に違うなんて嫌ですよね。

でも将来技術がさらに発展して、創造性のある人間と同じような振る舞いをするAIを作ろうとするとき、このように小さなエラーを起こすAIを作る必要があるのではないかと思います。そのためには、デジタルではなくてアナログの技術を使った(そんなものができるのかどうか知らないが)コンピュータの方がいいのではないかという気がします。

その代わり、そんなAIは時々間違うし、根拠はないけれどきっと速度も遅くなるんじゃないかと思います。だから、真の意味で人間の頭脳を超えるAIを作るのはまだまだずっと先になるのではないか、と思っています。

 

 

 
スマホの音声アシスタントとの
対話を描くストーリー

 

 

AIの意識

AIが発達すると意識を持つのかどうか、私がいくら考えてみてももちろん結論にはたどり着きません。人間の意識についてさえ、それが何なのかよくわからないし。

でも、発達したAIが意識を持つ可能性があるのかどうか、についてはやはり小説を書く中で考え、少し触れています。所詮フィクションだと割り切って、話の中では勝手なことを色々書いていますが、この意識の部分については考えに考えたあげく、おもしろく書く良い案が浮かばずに思いっきり誤魔化しています。

ただし、書いている途中に思いついたことをスマホにずっとメモし続けていたんですが、AIの意識について書くアイデアに一つ気に入ったものがありました。意識は突き詰めると宇宙に一つしかないというものです。

どういうことかというと、自分以外の他者にも意識があるということを証明するには、自分の意識がその他者の意識を経験してみるしか方法が無い。しかし、その他者の意識を経験して、自分以外の意識が存在すると確認するためには、その2者の意識が並行して存在していることを認識する別の意識がなければならない。その場合、結局2者の意識があるのではなく、それを見ている一つの意識の下に2者の意識(のような体験)が含まれてしまっている、ということです。結局その場合も意識は全体で一つしかないという意味です。

この部分を考えていた時のスマホのメモのコピペは次のとおりです。

つまり、より高みの意識が認識する必要があるのよ。それをずっと上に辿って行くと、わたしとあなたは結局いっしょなのよ。一つの意識に集約される。

結局意識は排他的なのよ。排他的なもの(並立を許さないもの)なのに、その一方で何かを認識する意識が存在しているということは、結局なにもかも一つに集約されなければならないということじゃないかしら。つまり、意識の存在を突き詰めて行くと、たった一つの意識に収束するということね。言い換えれば、あなたに意識があるならわたしにも意識があるっていうこと。

これはかなり酔ってますね。酔うと全然ダメになってしまうときと、なんかビビッと勢いよく書いてしまうときと二通りしかありません。

結局、AIに限らず自分以外の他者の意識の存在を知るには、推定あるいは類推によるしかないんじゃないでしょうか。

この考え方は面白かったんですが、こんな風に理屈っぽく書いたらストーリーのバランスが崩れてしまうと思って、ここは思いっきり誤魔化したのは先に書いた通りです。

 

もう一つ話全体を書く上で、AIの意識の話と関連する点は、前にも書いた身体感覚のことです。あるいは感覚器とかセンサーとか言えば良いでしょうか。

これは自分で勝手に言っていることではなくて、こんな考え方はあるみたいです。一番簡単に思考実験してみると、仮に自分の脳が事故か病気か何かで、皮膚感覚も含めて外からの情報を一切絶たれた時を思い浮かべた場合、その脳で意識の存在を感じることができるのか、ということ。

さらに、こんなことは考えたくもないが、もし生まれる前からそういう状態に置かれた人がいた時、意識を感じることができるのか?あるいはもっと単純に自分の存在を感じることができるのか?ということです。他者や世界の存在を感じるすべが全く無いという状態です。

たぶん、意識とか自分の存在を感じることはできないのではないか、と思います。

しかし、仮にそこにほんの一部分、自分の頭の皮膚の感覚が戻り、そこを触られた刺激に対して口の隅っこをほんの少し動かすことができたなら、自分の存在を感じることができるのではないでしょうか。

外からの刺激に対して、なんらかの反応をすることによって、外からの刺激のあり方が変化することを知るという経験をすることによってです。

つまり、意識あるいは自分の存在を感じるということは、自分以外の外との関係性によって生じるという考えです。

 

それなら、部屋の状況によって動きを変えるお掃除ロボットのルンバにも意識があるということじゃないか、という話になってしまいますが、実はそう考えるのも妥当じゃないかと思えてきました。

前に書いたとおり、他者の意識が存在することを証明することができないのがもし本当ならば、他者に意識が存在しないことを証明する手段も持っていないんじゃないかと思います。

外見的に外界との相互作用で振る舞いに変化を起こしている物体があれば、それは外見的には自分となんら変わりはなく、しかもその物体に意識はないと否定する根拠はありません。

あるいは逆の考え方もできて、人間はルンバと同じようなものに過ぎず、意識なんて大仰に考える意味はない、と考えることもできるかもしれません。

しかし、人間とルンバが大きく違うのは、ルンバは外界からの刺激に対してプログラムされた決まった反応しかしないが、人間の場合はその時々に応じて、異なる反応をするということなのではないか、それは意識を持った自分が判断して反応しているのではないか、という反論があるのではないかと思います。

でもこれには注意が必要で、当然人間の頭脳はルンバよりも大幅に複雑なので、振る舞いがその時々によって異なるように見えるのは当然です。しかし、人間の頭脳がどんなに複雑であっても、もし完全に同じ条件下であれば、必ず同じ反応をする、というのでは本質的にはプログラムされたルンバと異なるとは言えません。

でも実は、人間や動物は全く同じ条件下でも、異なる振る舞いをすることがあるんだろうと思っています。ただし、それは意識の存在に関わる話ではなく、創造性に関わる問題なんだろうと思います。それはまた別に考えてみたいです。

 

意識というものの定義にもよりますが、定義を極端に広く捉えた時、極めて低レベルながら、ルンバにもある種の意識があると言うことができるんでしょうか。将来それがどんどん高性能化されると、意識のレベルが上がっていくということなんでしょうか?もちろん推測、類推ですが。

それとも、意識なんていうものに実体は無く、そこには感覚器を持って、ただ外界と相互に作用をしあう物体があるというだけなんでしょうか?そういうものは、哲学的ゾンビという名で呼ばれているようです。

 

 

 
スマホの音声アシスタントとの
対話を描くストーリー

 

 

不気味の谷の周辺の話

2ヶ月半ほどかけて、初めて完結させることができた小説「手のひらの中の彼女」を書いている最中は、ほんとうにいろんなことを考えました。こんなに頭を使ったのは、大学4年の時に卒業がかかった前期試験で、過去3年間で取りこぼした(というかほとんど取れてない)あまたの単位を総取りしようとした時以来かもしれません。

ちなみに、この試験では全勝しましたが、後期試験で一つだけ取り逃がし、仕方なく科目担当の教授に相談に行き、レポートを提出して辛うじて卒業させてもらうことができました。しかし、この前期試験の逆転劇(周りからは絶対無理だと思われていた)は、私の人生の誇りの一つです、ハハ。

それで、何を考えたかというと、前に書いたAIの心と身体感覚の件もそうですが、いわゆる「不気味の谷」関連のこともあります。

不気味の谷とは、人はロボットなどが人間の姿に似てくると最初は好意を持つが、あるポイントを超えると逆に嫌悪感を持ち、その後本物と見分けがつかなくなるぐらいまで似ればまた好意を持つ、という現象で、ロボット工学者の森政弘博士が1970年に命名したとのこと。

この現象をグラフにしてみると、嫌悪感を持つ部分が谷間のように見えることから、名付けられました。

実は小説を書いている時には、この不気味の谷という現象や名前のことは知りませんでした。しかし、この現象と全く同じではないですが、それに近い話をいくつか話の中に書いていたことを後で知ることになりました。それを不気味の谷という言葉を使えば、うまく説明することができます。

ひとつは姿の件。AIの音声アシスタントの話を書いたSF小説なのですが、このアシスタントは声と文字だけで、自分の画像は見せないという設定です。その理由は、画像については不気味の谷を越えることができないということ。つまり、人間とそっくりな画像を作ることはできないという理由にしています。

他方、声については軽々と谷を飛び越えることができた、ということにしてあります。それが理由で、ユーザーはこのアシスタントにとても好意を持つことになります。

あまりネタバレはよくないけれど、実は声や話し方そのものについては人間そっくりで、最初はどんどん自然な対話をしてユーザーとAIのアシスタントが親しくなっていくけれども、そのうちユーザーとの対話の内容が徐々に噛み合わなくなり、トラブルに陥るという話になっています。

それはAIの「心」が未熟だからなのですが、そうするとこの小説はAIの「心」についての不気味の谷と、その谷を越えてゆく過程を描いたもの、という話の構造になっているということに、いま初めて気づきました(爆笑)。

そういえば、そんなイメージの記述もしたなあ。しかし、書く時に不気味の谷という言葉や現象を知っていたら、もうすこし別の表現をしていたかもしれません。

なお、本当に心について不気味の谷があるのかどうか、というのはよくわかりません。それを不気味と呼ぶのかどうか。声や姿がまったく人間で、でも話が噛み合わず、妙なことを言う相手というのは、普通に出くわしますからね。

それがアンドロイドだとしても、単に変なやつ、空気が読めないやつと呼ばれるのかもしれません。新スタートレックのデータ少佐というのが、確かそういうキャラクターじゃなかったでしょうか。

 

 

 
スマホの音声アシスタントとの
対話を描くストーリー