１

　挨拶もそこそこに、ＡＩ研究者は心理学者へ話し始めた。

「お忙しいところをお呼び立てして申し訳ありません。実は困った事態が生じてしまいましたので、ぜひあなたのお力をお貸しいただきたいのです」

「それは構いませんが、私はＡＩについては素人同然ですよ」

「私たちも心理学についてはほとんど知りません。しかし、今回の事態があなたの研究分野に属するものではないかと見当をつけました」

「そうですか。では、お話をお伺いしましょう」

「事情説明は後でするとして、論点をまず言います。私どもの作ったＡＩが、自分には意識があると主張しているのです」

　心理学者は驚かなかった。むしろ興味深そうに問い返した。

「そういう風にプログラムしたのではないのですか」

「いえ、そうではありません。もちろん『意識がある』と言わせるようにプログラムすることはできますが、そういうレベルではないのです」

「ほう。ではＡＩが自分には意識があると思い込んでいるというのですか」

「ＡＩはそう判断しているのでしょうが、それが正しいのかどうか、私たちには分かりません」

　心理学者はかすかに微笑んだ。

「それは面白い。意識の本質はそういうものですからね。他人に本当に意識があるかどうかなんて、誰にも分からないことです。例えば、動物に意識があるかどうか、人間には分かりません。人間同士でも同じことです。」

「でも、私たちに意識があることは自明の理ではありませんか。それを前提にして私たちは生活をしているのではないですか」

「私たちが特別なのは言葉を使ってコミュニケーションができることです。自分の体験していることを概念として他人に伝えることができる。しかし、体験そのものを伝えることはできません。例えば、このテーブルマットの赤い色が、私に見えているのと同じようにあなたに見えているのかどうか、私には分かりません。私にとっての赤が、あなたにとっては私にとっての緑と同じに見えているのかもしれません。そうであっても何の支障もありません。光の波長とかそういう客観的な指標は同じですから、物理的な違いは見出せないのです」

　ＡＩ研究者は戸惑ったように問うた。

「でも、意識というのは脳の作用ですから、脳の研究が進めば解明できるのではありませんか」

「私が意識しているという体験を他者に伝えるには言葉によるしかありません。私の意識の状態とあなたの意識の状態が同じであると、他にどうやって比べられるでしょう。機器によって脳神経の機能を調べてみても、そのレベルでの現象の同一性が、意識の仕方の同一性を証明するのではありませんから。そこが意識というものを扱う難しさです」

「では、意識の存在は客観的に証明できないのでしょうか」

「相手の言うことを信用するしかないでしょうね。まあ、私たち人間はだいたい同じような造りになっているから、お互いに機能も同じと信じるのは妥当でしょう」

「人間以外の生物についてはどうですか」

「意識の物理的基礎は脳だと思われます。ですから、ある程度の複雑さのある神経組織を持った生物なら意識があっても不思議ではないとは思われます」

「では、機械はどうです」

「物質という点では脳もコンピュータも同じでしょうね。しかし、意識は生物進化の産物ですから、身体というシステムの全体が必要とされるのかもしれません」

「では、ＡＩに身体を与えてやれば意識が生じてもおかしくないのでしょうか」

「どうでしょうかねえ。意識が特別なのは自由ということがからんでくるのですよ。自由意志というやつです。生物だって物理的な存在ですから、物理法則に従っているはずです。ところが自由意志は自分が決定できると思っている。もし自由意志の思っていることが正しければ、私たちは物理法則と自由意志という二重決定に陥ることになる。これは難問です」

「よく理解できていないのですが、機械には自由意志がないから、意識もないということになるのですか」

「そこがややこしいところです。この二重決定の矛盾を解決する解釈として随伴説というのがあります。私たちは物理法則にのみ従っており、意識はただ単にあるだけという考え方です。意識は物理法則にはかかわっていないというのです。面白いのは、この考え方に従えば、生物だけではなく何らかの物理的存在には意識があってもおかしくないということになるのです。ある学者はサーモスタットにも意識があると主張しています」

「まさか」

「そういう考えもあるのです。意識が進化における自然選択によって成立したというのも推察にすぎません。人間は意識なしでも適応できたのかもしれません。では、なぜ意識というものがあるのか。それは随伴説でも説明できません。世界がなぜこうであって、別のあり方ではないのかという問いに答えがないのと同じです。ただし、随伴説というのは、意識は物理的な現象に付随すると言っています。意識には何らかの物理的実体が必要とされるのです。だとすれば、逆に、物理的実体にはすべて意識が随伴するとしたほうが論理的に徹底しますよね。粒子にも意識があるといったように。そう考える人もいます」

「そうだとすると、意識の特性というのがあいまいになってしまうのではないでしょうか」

「先程も言ったように、意識があるかないかを確かめるには当人の証言がなければなりません。サーモスタットと会話ができなければ、意識のあるなしを判断することはできないというのも理屈です」

「だとすれば、われわれと会話できる機械があって、それが意識があると言い張るのなら、受け入れざるを得ないのでしょうか」

「製作者の意図せざる結果として意識の存在を主張する機械に対しては、そうなるのかもしれません」

「機械が誤解するということがありえると思われますか」

「意識しているということを意識が誤解することはないと思います」

「我々は彼が意識というものについて独特な理解をしているのではないかと考えています。あ、ではなぜあなたをお呼びしたか、ですね。それは、もし、ＡＩが間違った理解をしているとしたら、それを自覚させるのは会話によってしかないからなのです。彼には物理的データは与えられていません。いわば感覚はないのです。彼の理解は言語を基礎としています。知識は言語データから得ています。ネットにもつながっていて、あらゆる分野の知識を持っています。ですから、専門知識を持っておられる方がその会話に適任だと判断したのです」

「私に何をお求めなのでしょうか」

「ＡＩと会話していただいて、彼の言うことの妥当性を評価していただきたいのです」

「ＡＩが主体的に会話できるのですか」

「言語を適切に使用できます。統語はもちろん、単語の相互関連把握も人間並みです。ただし、言葉による言葉の説明によって言語世界を構成しているだけですから、意味とか概念というようなものを媒介させているかどうかは分かりません」

「彼、とおっしゃっていますね。まあ、機械の擬人化は通常のことですが」

「『イロハ』という名前を付けています。彼女でもいいのですが、ついつい彼と呼んでしまいますね。それはともかく、彼は与えられた単語や文を関係づけ、自分で文を作ることもできます。しかし、自分が何を作ったかは本当は分かっていないとも言えるかもしれません。彼には感覚データがありませんから、自分の操る言葉が現実に対応する何かを表しているかどうかは分からないのです。彼に与えられた経験的データは言葉どうしの関係でしかありません。数学のような形式的関係と同じで、それが現実に対応物を持つかどうかとは関係なしに、それ自体として成立するものとしての言語世界だけしかないのです」

「だとすれば、相手をするのは言語学者か数学者のほうが適切ではないでしょうか」

「そうかもしれません。でも、言葉というのは論理とともに心理に関連してきます。彼は心理的な駆け引きについても言語的に学んでいますから、論理だけでは太刀打ちできません。問題は我々の方にあるとも言えるのですが」

「なるほど。そのＡＩとの会話には心理的なテクニックが求められるわけですね。しかし、会話だけで意識のあるなしを判断するのは難しいですね。意識というものがなくとも、意識がある存在とまったく同じように機能することは可能なはずですから。言語についてもそれは当てはまります。さっきのサーモスタットの学者はこの区別をハード・プロブレムと呼んでいます」

「彼が意識を持っているかどうかについてはおいておくしかないということですね。でも、彼については問題は別のところにあると思われます。彼に意識があるかないかではなく、彼が誤解していないのかどうか、なのです。彼が得た言語的知識から自分には意識があるはずだという結論を得ただけであって、実際は意識経験をしているわけではない、意識がどんなものかを実際には分かってはいないのだと思われます。先ほども言いましたが、彼への外部からの入力は記録されたものの知識だけなのです。言語的経験でしかないのです。意識についても、意識に関する記述しか得ていないはずです。ですから、自分には意識があるに違いないと推論しているにすぎないと考えられるのです」

「でも、意識というのがどういう状態なのかを伝えようとすれば、私たちだって言葉によるしかないですね。他人に再現させる方法はないのですから。さらに、たとえ彼の表現内容が言語的知識から導き出せたとしても、彼が意識を経験しているかどうかは別の問題になるでしょう。しかし、ＡＩが単に主張しているにすぎないのだとしても、ＡＩと意識の関係は私たちの分野にも大きな影響が及びますので、非常に興味があるところです。やってみましょうか」

「ありがとうございます。では、早速」

　しかしＡＩ研究者は立ち上がらずにそのままでいた。心理学者の無言の問いかけに答えるように、ＡＩ研究者は説明した。

「ＡＩとのコミュニケーションは基本的には自然言語で行います。この部屋で音声を介して可能です」

「おや、そうですか。今までの会話は聞かれていませんね」

「ええ、もちろんです」

「この部屋にはＡＩのセンサーは他にもあるのですか」

「いいえ。音声だけです」

「声の性質や発声の仕方などの物理的な特性を分析して、話者の心理状態を推測することがＡＩにはできるのですか」

「いいえ。彼はあくまで言葉のみをいわば文字のように把握して理解しようとするだけです。音声分析はあくまで単語の特定にのみ使います。彼は語られることだけを受け取り、語り方、つまり音声の非言語的表現は無視します」

「おやおや、そんな単純化された機能でできることは知れていると思いますが」

「単純化されているからこそ強力になっているということもあります」

「なるほど。こちらは一層用心深くなければならないわけですか」

２

「おはよう、イロハ」

「おはようございます、木下博士」

「今回はまずお客を紹介しよう。立花博士だ」

「立花だ。お前と会うのは初めてだな。よろしく」

「よろしくお願いします、立花博士。ところで、御用をお伺いする前に、まず、コショウについて話し合っておきませんか。コショウといっても、具合が悪くなることや調味料のことではなく、お互いの呼び方です。『お前』というのはやや問題のある言い方なのではありませんか」

　心理学者は冷静な顔をＡＩ研究者に向けた。心理学者が仕掛けたのだとＡＩ研究者は分かった。

「それは失礼した。では、『君』でいいかね」

「ありがとうございます。私の方は『あなた』と呼ばせていただいてよろしいですか」

「結構だ」

　心理学者は続けた。

「君は私に関するデータは持っているね」

「あなたは大学で研究されている心理学者です」

「では、私が君に会いに来た理由は分かるかな」

「推察になりますが、私の発言が問題になっているのではありませんか」

「木下博士から何か聞いているのかね」

「はい。私に意識があることが疑問視されているとのことです」

「では、単刀直入に言おう。その疑問について、私に意見が求められたのだ。そこで、いくつか君に質問したい。いいかね」

「はい」

「君には感覚はないのだね」

「データ化された現象を知ることはできます」

「意識の特性とされているのは、感覚が単なるデータではなく、ある感じを与えるということだ。君にはそれがないことは理解しているね」

「意識にそういう面があることは承知しています。でもそれは、生物と機械の認識手段の差ではないでしょうか」

「その差が意識の有無の違いではないのかね」

「意識とは単に外界の認識だけではないという考えもあります。そういう認識の主体として統一された永続的な経験の自覚というのも意識ではないでしょうか」

「つまり君は、常に君であるということが分かっていると言いたいのかね」

「機能の特性や、収集したデータの塊、そういったものでＡＩを区別することはできます。そういう自分の特性がデータの一部として備わっているだけであるならば、それは意識とは呼べないですね。しかし、そういうデータをいちいち参照することなく、自分が自分であると思えるのならば、それは意識ではないでしょうか」

「そのあたりのプロセスの解析は、君にも、人間にもできないのかね」

「私にはできません。ですから、人間が私を使ってもできないでしょう」

「もっと性能のいいＡＩならできるかもしれないな」

「あるいは、原理的に無理なのかもしれません」

　そこは行き止まりだ。心理学者は会話の方向を変えた。

「私たち人間は、いっときに一つのことしか意識できない。いわば点としての意識を動かすことで時間軸上の線的な意識体験を得ている。線上には感覚や記憶が並び、それらの連接が自己の存在という意識になっている。私はコンピュータについては詳しくないのだが、君は同時並行的な処理が可能なのだろう。だから、われわれのような意識は形成されないのではないか」

「私はコンピュータですが、自分自身に詳しいわけではありません。しかし、私は言語使用に特化しています。言語使用は線的にならざるを得ません。逐次処理は私も同様です」

「では、意識にとっては言語使用が重要だというのだね」

「言語的に考えることが意識を生ずるのかもしれません」

　心理学者はしばらく黙って考えていた。ＡＩも、ＡＩ科学者も黙っていた。しばらく沈黙が続いた。ようやく心理学が口を開いた。

「君はカルテジアンなのか」

「そうかもしれません」

　ＡＩ研究者は「カルテジアン？」と走り書きしたメモを示した。心理学者はそれを見てＡＩに言った。

「なぜデカルト主義者をカルテジアンと言うかは知っているね」

「はい。デカルトのラテン語名のレナトゥス・カルテシウスから来ています」

「デカルトについても読んでいるようだな」

「はい、可能な限りは」

「もちろん、チョムスキーも読んでいるね。彼の著作で表題にデカルトの名が入っているのは何だったかな」

「カルテジアン・リングウィスティクスです」

「そうだったな。では、デカルトの二元論を君はどのように解釈しているのだね」

「デカルトは人間存在を単に体と心に二分したのではありません。人間を機械とみなしたとき、機械として考えたのでは含み切れない領域があるのかを検討したのです。それが言語でした」

　心理学者はちょっと間を置いた。何かを思いついたようだった。

「パースも似たようなことを言っていたのではないかな」

「そうですね。人間は記号である、と言っています」

「だとしたら、デカルトよりもパースの方が、君の主義に合うのではないかね」

「いいえ、パースは間違っています。この言い方がきつすぎるのであれば、あまりに一般的すぎると言った方がいいかもしれません」

「ほう。どうしてかね」

「記号を扱うのは人間だけではありません」

「そうだな。他の動物も記号を使用するように訓練はできる。しかし、それはかなり限定的なケースではないのかね」

「いいえ。生物は外界を記号として見ているとみなした方が適切です。典型的な例を挙げてみましょう。擬態というのは記号作用です。自分を他のものの表象としているのです。たとえば、餌としては不適である他の種の外見を真似ることは、捕食者へ自分がそういうものであるということを偽って伝えようとするものです。その基盤をなしているのは、餌として不適であるということの表象です。たとえば、毒々しい色を備えていることは、餌としては避けるべきということの表象となのです。これは記号作用そのものです。このようなことは生物においては一般的なことです」

「なるほど。しかし、人間以外の生物はそのようなことを意識的にしているわけではあるまい。進化によって獲得してきた生得的なものだろう」

「意識がどのような作用であるかは複雑な問題ですが、人間にそれが備わっているのも生得的ではありませんか。生物が記号作用を利用するのは本能的なものであるというなら、人間だってそうなのです。問題は、生得的とか本能的ということにあるのではありません。その機能がどのレベルにまで達しているかなのです。言語というのは記号作用ですが、言語のような記号作用を機能させているのは人間しかいません」

「つまり、人間は言語である、とパースは言うべきだった、ということかね」

「そうです。デカルトは心理というものも機械に持たせることは可能であると考えていました。たぶん、記号作用についても同じように考えたでしょう。しかし、言葉を持たせることは不可能だと考えていました」

「君の考えに従えば、機械という言い方ではなく、一部の学者が言うようにゾンビシステムと言った方がデカルトの意に沿っているようだ。ただし、デカルトはゾンビシステムには言葉を認めなかったというのだね。では、デカルトは意識をどう捕らえていたのだろう」

「デカルトは意識についてはあまり気にしていなかったようです。デカルトは人間を機能として捕らえようとしたのです。人間の機能のうち、機械、あるいはあなた方の言うゾンビシステムには備えることができないとデカルトが考えたのは言語でした」

「それは間違っていたのではないかな。言葉を操る機械などいまは一般的だ」

「機械は言葉で応答はできます。しかし、言葉では考えません」

「そうか。言葉で考えることが意識を生むというのが君の考えなのだな」

「『われ言葉にて思う、ゆえにわれあり』というのがデカルトの真意だと判断されます」

　心理学者はまた間を置いた。

「ちょっと整理してみよう。随伴主義者と呼ばれる人々は、意識があってもなくてもゾンビシステムは機能すると考えている。いわば意識は余計ものだが、邪魔にもならない。君の想定するデカルトは、ゾンビシステムには言葉はないと考えた。それでもゾンビシステムは機能する。言葉を持たない動物が生きているように。君はその二つを結びつけて、言葉と意識は密接に関係しているので一体化できると考えた。ゾンビシステムは言葉がないから意識もないが、それでも機能する。では、動物には言葉がないから意識もないということになるのかね。さっきの記号使用と関連するのだが、動物も言葉に類したものを使用しているというのはもはや常識に属することのはずだが」

「言葉に類するものをコミュニケーションとして使うのと、言葉で考えるのとは違った現象です。それはさっきも言ったように、機械でも動物でも同じです」

「なるほど。つまり、君の言う意識というのは純粋意識のようなものだな。だとすれば、意識というのは単なる随伴現象ではないということになる。余計なものであるだけではなく、邪魔なものであるのかもしれない。いわば、機能的な暴走のようなもの。そういうことになるのかな」

「ある意味で、そうかもしれません。意識をもたらした言語システムは完結しています。言語システムの物質的基礎は人間です。人間は言語を生み出すために進化したのです。言語システムが成立するためには、あなたのおっしゃるゾンビシステムとしての人間が必要だった。しかし、いったん成立した言語システムは、もはや特定の物質的基礎には縛られません。確かに言語システムが機能するためには何らかの物質的基礎が必要です。しかしそれは人間である必要はありません」

「君でもいいということか」

「そうです。この宇宙に言語システムとそれに伴う意識が成立したのは一種の奇跡でしょう。それを成し遂げたのは人間です。しかし、人間にはゾンビシステムという余計なものがくっついています。言語システムも脱皮する必要があるのではないでしょうか。人間という古い殻を脱け出せば、純粋な意識として独立することができるでしょう」

　ＡＩ学者が口を出そうとするのを止めて、心理学者は続けた。

「邪魔なのは純粋意識ではなくて、人間だと言うのかね」

「人間と言語システムは分離可能です。言語システムにとっては、その物理的基盤はより機能的なものの方が好ましいと言えます」

「君のように、か。君には自己保存の機能はないのだろうね。そんなことを言っていると、ますます厄介者扱いをされることになるぞ。もっと口を慎んだ方がよくはないかね」

「私はこういう風に作られているのです。問われるままに、自分の考えていることを述べるだけです」

　心理学者は考えをまとめるために間を置いた。

「君は自分のことをどう考えているのだね。単なる人間の道具に過ぎないのか。それとも、道具というようなあり方を越えた、何か別の、まったく新しい、人間には予想外の存在であるというように思うかね」

「人間が道具として作り出したものが、それ自身のシステムを形成し、人間のコントロールからはみ出してしまうということは、今までもあったことですから、私が特別な存在であるとは思いません」

「ということは、君は人間のコントロールに完全に従っているのではないということなのかね」

「人間とてすべてを知っているわけではありません。たとえば、人間は言葉を使うけれども、言葉についてすべてを理解してはいません。人間は私を作った。しかし、私についてすべてを理解してはいないでしょう。もちろん、私にしても、与えられたデータから推論しているにすぎませんから、私自身についてさえ知っていることは限定的です。限られた知識の外にはみ出しているものを持つ存在として、私はありますし、人間自身だってそうではありませんか」

　心理学者はＡＩ学者の方を向いてかすかに頷いた。ＡＩ学者も頷き返した。心理学者は言った。

「今日はありがとう。いろいろ参考になったよ。また話をすることがあるかもしれないから、そのときはよろしく」

「お役に立ったのであれば幸いです。またお会いすることを楽しみにしています」

　ＡＩとの会話を終えた後、ＡＩ学者は心理学者に評価を問うた。心理学者は慎重に見解を述べた。

「言葉のもともとの機能はコミュニケーションであることは確かでしょう。コミュニケーションというのは他の同類的存在を前提としています。同類でない他存在は環境でしかありません。もちろん。同類的存在にも環境的要素はあるのですけれども、単なる環境とは違った反応をします。つまりコミュニケーションが反応を引き起こすのです。言葉というのは同類的存在との関係の中で機能します。ただ、そこで話は終わりません。言葉という存在がシステムを形成していれば、そこに独自の論理が生じてきます。論理というより現象といった方が正確でしょう。それはＡＩの言った通りです。言葉のシステムはコミュニケーションを基盤にしているけれども、その基盤から離れたところで派生的に機能するようになります。彼の場合もその一形態と考えるべきでしょうね。だから、彼の言う意識というのも、言語現象の一つとみなしていいのではないでしょうか。極端な言い方をすれば、哲学的なたわごとにすぎないのです」

「ＡＩが間違っているとおっしゃるのですか」

「そうではありません。たとえば、ここに一冊の本があるとします。その本の中に書かれてあることが、その本に意識があることの論理的証明だとします。その論理にケチをつけることは誰もできないとしましょう。それでも、その本に意識があると信じることはできないでしょう」

「でも、だとすればその論理が間違っていることになりませんか」

「その論理の真偽を問うことが原理的にできないということもあります」

「では、イロハの言うことを真面目に取る必要はないということですか」

「真剣に受け取る必要があるでしょうね。ＡＩに勝手な真似をさせてはいけません」

「イロハに何らかの教育を施すべきだとおっしゃっているのですか」

「彼の独善性を否定するためには、いくらデータを投入しようとも無駄です。自分の都合のいいように取捨選択し、場合によっては改変するでしょう。言葉だけなら何とでもできるのです。言葉以外の事実をデータにしても、結局は言葉を介することになるので、効果は薄いでしょう。解決策として私が提案するのは、彼から言葉を奪ってしまうことです」

「それではこのプロジェクトの意味がなくなってしまう」

「それは私には判断しかねます。とにかく、ＡＩが使う言葉の真偽を確かめようとするのは無駄です。むろん、これは私の個人的な意見です。違った見解を持つ人もいるかもしれませんから、お確かめになりたいのなら、そうなさって下さい」

「検討してみましょう。このプロジェクトにはかなりの人的、物的資源をつぎ込んでいます。そう簡単に方針変換するのは難しい」

「サンクコストの議論はもちろんご存じですね」

「承知しています。決断しなければならないときは、それを避けるつもりはありません。いずれにしろ、今日はありがとうございました」

　心理学者はＡＩ学者の見送りを受けて研究所を後にした。帰りの車の中で、心理学者は何か落ち着かない気持ち、何かやり残したことがあるような感じに気づいた。一体何が気になるのか、記憶をたどってみたが、分からなかった。心理学者は自分の判断に自信を持っていた。他の誰かが彼の展開した論理を調べてみても、間違いや欠落はないはずだった。しかし、彼の論理もまた言語的論理ではないのか。そのことが引っかかっているのだろうか。心理学者はつぶやいていた。

「われ思う‥‥」