人間はどう生きるべきか
１
「お呼びですか」
本部長室に二人の刑事が入ってきた。情報課の刑事だが、刑事らしく見えない平凡な男たちだ。
「ああ、来たか。まあ、座ってくれたまえ」
本部長は机に置いてあった本を持って立ち上がり、ソファセットまで行って座った。それを待って二人の刑事も本部長に対面して座った。本部長は言った。
「君たちも忙しいだろうから、すぐに用件に入ろう。君たちに特別な任務をお願いしたい。必要ならば専任して捜査してもらってもいい。ただ、捜査の内容は秘密だ。警察内部の者にも話さないように。いいかね」
刑事たちは即座に「はい」と返事した。
「調べてもらいたいのは、これに関してのことだ」
刑事部長は手にしていた本をソファテーブルに置いた。持ち歩くのに適度な大きさと厚さの本だった。題名は『人間はどう生きるべきか』。
「これについて何か知っているかね」
刑事の一人が答えた。
「ＡＩが書いた本ということで話題になったのは憶えています」
「君は笠井君だね。読んだことがあるかね」
笠井は否定した。
「室田くん、君はどうかね」
室田も否定した。
「そうだろうね。一般受けするような内容ではないからな。この本を買ったかダウンロードした人間だって、全部を読み通したのは半分もいないのではないかな」
刑事たちは黙って本部長の次の言葉を待った。
「この本を書いたのはＡＩだということになっているが、もちろん、発表したのは人間だ。君たちも知っているように、その人間は自殺してしまった。それでこの本の評判も落ちてしまった。人間の生き方を論じている本の発表者が自殺するなんて、皮肉な話だ」
二人の刑事は辛抱強く本部長が本題に入るのを待った。
「君たちはＳＮＳをやるかね。まあ、そんな暇はないか。実はね、一部のＳＮＳ上でこの本がおかしな取り上げ方をされているという情報を得ているのだ」
本部長は少し間をあけてから言葉を継いだ。
「この本を読んで自殺した人間が結構いるというのだよ」
刑事たちはどう反応していいか迷ったので、何も反応しなかった。
「もちろん、馬鹿な話だ。具体例が挙げられているわけではない。そういう噂があるということを、また噂として広めているだけだ。しかし、どういうわけか、その話題がずっと続いているようなのだ。政府としても放っておけなくなってね。これがスキャンダルにでもなったら、わが国のＡＩ開発に支障をきたすことになりかねない。マスコミが騒ぎ出す前に手を打っておこうということになった。それでこちらにお鉢が回ってきた」
本部長の視線に刑事たちはやっかいですねという同意の表情をした。
「何で警察かというと、まず事実関係を調べてみることになったからだ。そこで君たちにお願いすることにした。噂の出どころを探ってもらいたいのだ。繰り返しになるが、内密にね。これ以上ことを大きくしたくはない」
刑事たちは承知しましたと答えた。命じられたらどんなことでもやるのが役人だ。命令が妥当かどうかなど考える必要はないのだ。
「では、お願いする。この本は資料として渡しておこう。ただし、警告しておく。この本は読まないように。まあ、読んだからどうこうということはないと思うが、用心に越したことはない。この本の内容については、この人に聞くといい。連絡はしておいた。参考になるだろう」
２
本部長に紹介された坂上教授に会うために、二人の刑事は大学の研究室を訪ねた。坂上教授は国立大学を定年退職して、私大の教授となっている。専攻は哲学である。マスコミに登場することはほとんどないので刑事たちは知らなかったが、学界では名の知られた人らしい。
坂上教授はやせてもいなかったし、清貧そうでもなかった。エネルギッシュな実業家のような外観だった。いかにも多くのコネを持っていそうな雰囲気を感じさせた。刑事たちの問いかけに、坂上教授はぶっきらぼうに答えた。
「この本の内容か。実際に役に立つようなことは何も言っていないが、かといって、特に害のあることを言っているのでもない。今まで言われてきたことを繰り返しているだけの内容だ。いかにもＡＩが書いたといった本だ」
笠井がおずおずと問うた。
「ＡＩ独特の視点というものはないのですか」
「機械という、人間とは異質な存在なら、人間とは違った見解を持てると思うのかい。ＡＩは与えられたデータを処理して情報としてアウトプットする。この本を書いたＡＩに与えられたデータは言葉だ。今までに人間によって書かれた多量の文章だ。それをいかに処理したって、所詮は人間の書いたものの取捨選択と組み合わせにすぎない。混ぜ合わせてできるものから原料以上のものはできない。ＡＩに機械独自のオリジナリティを期待するのは幻想だよ」
坂上教授がＡＩに好意的でないのが刑事たちには感じ取られた。機械ごときに哲学が分かってたまるかと思っているのだろう。室田は坂上教授のご機嫌を損ねないように慎重に言った。
「オリジナリティといったものは機械には無理ということでしょうか」
「もし機械にオリジナルなものが生み出せたとしても、それを見つけるのは人間だよ。組み合わせの多様性なら機械にもできる。今までにないような組み合わせだって作ることはできるだろう。しかし、それをオリジナルなものと認識して活用することは機械にはできない。オリジナルということは単に新しいということではないからね」
「ＡＩは自分の言っていることが分かっていないということでしょうか」
「私はＡＩについてよく知らないのだが、これだけは言えると思う。ＡＩは言葉の意味というのは理解していない。それでも文章は作れる。我々が何かを造形するときに、そこに意味を込めたとしても、同じ形のものをコンピュータは意味なしに模倣できる、ということかな」
「意味が分からないで文章が書けるものでしょうか」
「言語体系にのっとって文章を作るという点では、処理の仕方はどうあれ、ＡＩは人間と同じことをやっている。最近のＡＩは巧妙だから、作った文章が人間に受け入れられるかどうかも検討しているはずだ。言葉の関連の頻度やデータ相互の整合性などから、つまり人間から見てのもっともらしさというような規準で調整しているのだろう」
「そうしますと、ＡＩが作った文章と人間が作った文章を区別はできないのでしょうか」
坂上教授は苦々しそうに言った。
「文章の表面的な正しさという点だけではなかなか区別はつけられないかもしれないな。人間とＡＩは、あるレベルで見たシステムとしては、同じと言える。データをインプットし、それをあるやり方で処理し、アウトプットとしてある反応をする。人間には体験によるインプットがあるが、人間の体験も言語化されたデータとしてＡＩに取り込まれている。人間だって他人の体験や考えの多くを言葉としてインプットしている。単に文章を作るという点では、人間とＡＩの差はそれほど大きくないかもしれない」
刑事たちの反応を見てから坂上教授は続けた。
「しかし、データ処理の仕方は人間とＡＩでは全然違う。というか、我々は我々自身のことをよく知らないのだよ。人間は自らがやっている情報処理の仕方のすべてを理解しているわけではない。我々自身にも分からないような仕方で我々の中で処理が行われる部分がある。それが機械と違う人間の特性なのだ。オリジナリティというのもそのようなところから出てくるのかもしれない。ＡＩについてはデータ処理の過程は明らかだ。そこに神秘はないよ」
笠井は思い切って本題に入ることにした。笠井の問いかけを坂上教授は鼻であしらった。
「この本が人間を自殺に追い込むとは考えられない。そんな内容はないからね」
室田が坂上教授の言葉から思いついたことを言った。
「潜在意識に働きかけるということはないでしょうか」
「潜在意識というのが何を意味しているかはっきりしないが、私たちには意識の及ばぬ領域があるのは間違いない。言葉もそこでは意識が受け取るのとは違った作用をするのかもしれない。もしそういう作用によって自殺が引き起こされたのだとしたら、ある人間に対して何らかの無意識的行動を呼び起こすような言葉なり文がこの本の中にあるということになる。しかし、今まで人間の書いてきた言葉や文にそんな作用があったなどとは聞いたことはない。ＡＩがそういう言葉なり文章を見つけ出したなどというのは考えられない。よく小説とかドラマでは催眠術でそういうことが可能なように描いていることがあるが、あれは全くのデタラメだ。もし、この本に影響されて自殺した人がいたとしたら、よっぽど独特な読み方をしたに違いない。そういうケースがあったのなら、ぜひ教えてほしものだ」
刑事たちは引き上げ時だと悟った。刑事たちが礼を言って部屋を出ようとしたとき、坂上教授は言った。
「その本をＡＩが全て書いたかどうか、調べてみる必要があるのではないかね。たぶん、人間の手が加わっていると私は思っている。それもかなりの程度にね。これに関わった研究者が自殺しているのは、そういうことが絡んでいるのではないかね」
３
刑事たちは調査を進めた。ＳＮＳを調べ、発信元を探り、分かった場合は話を聞きに行った。発信元までたどり着くのは大変だったが、得られた事実は単純なものだった。みんな伝聞なのだ。中には具体的な自殺者を知っている者もいたが、例の本との関係を確認した例はなかった。
自殺者の線からも当たった。遺族を訪ねて話を聞いた。遺書や遺品もできる限りを調べさせてもらった。当然相手に不審は持たれる。説明しなければ事件性を疑われる。しかし、正直に説明すればあっという間に噂が広がってしまうだろう。刑事たちが使ったのは、自殺防止のための政策の基礎調査という名目だった。
中には稀に、残された蔵書やパソコンやスマホの中に、例の本やそれに関する記載が残っていることがあった。だがそれらが自殺にどう関連しているのかは分からなかったし、周りの者も気づいていなかった。
聞き込み自体が難しかった。刑事たちは本の内容を知らなかったから、見逃していることもあったかもしれなかった。刑事たちは思い切って読んでみようかと話し合ったこともある。しかし、彼らは役人である。命令には忠実に従わねばならない。
そういうとき、田所という精神科医と接触することができた。彼が扱った患者の中に例の本を読んでいた者がいたのだ。彼は快く「調査」を受けると言ってくれた。彼のオフィスは街中の雑居ビルにあった。医者なら誰でも精神科医になれると聞いていたので、二人はいささかうさん臭く思っていたが、田所は精神医学を修めた専門医だと自己紹介した。精神科を専攻するというイメージとは違って、いかにも健康そうで明るい態度の若い医者だった。
「彼のことは残念でした。うつ症状があったのですが、回復したといって来院しなくなってしまいました。そういうときが一番危ないのですが、連絡が取りにくいこともあって、そのままになっていたのです。もっと積極的に関与すべきだったと反省していますが、なかなか手が回らなくて」
笠井が追従気味に言った。
「お忙しいのですね」
「診察には時間がかかりますからね。五分か十分ぐらいの話で投薬して済ますというのではないのです」
「率直にお伺いします。その方がこの本を読んでいたことをご存じでしたか」
田所医師は本をチラと見ただけですぐ答えた。
「ええ、話題にしたことは憶えています。詳細は忘れてしまいましたが、大したことは話していなかったはずです」
「この本はお読みになりましたか」
「ええ、読んでみましたよ。取り立てて言うことのない内容でしたね。ＡＩが書いたという話題性だけの本で」
「この本がその患者さんの自殺に何らかの影響を与えたと思いますか」
「一般的に言って、この本にはいかなる影響力もないでしょう。しかし、影響を与える可能性というのは、この本だけでなく、どんなものにもあります。その人の受け取り方しだいですね。人間とは弱いものですよ。誰かの発した、たった一言で、落ち込んでしまうことがある。場合によってはうつになり、自殺してしまうことだってある。まあ、逆に、ある一言に勇気づけられて生きる気力を得られることだってあるのだけれども。どっちにしろ、たった一言で動かされてしまうことはあります。人間は弱く、脆いところがあるのです」
「その患者さんもそうだったのですか」
「そういう傾向はありましたね。けれども、その本については世間話の一つとして出ただけですので、彼がどう受け取っていたかは分かりません。彼がその本を読んだか、読もうとしていたことは事実ですから、その中の言葉とか文章に彼が惹かれたかもしれないということまで否定はできません」
「何か、そういう言葉なり文章なりがその本にはあるということですか」
「あるかもしれないとしか言えませんね。その人の精神状態とか、置かれている状況とかによって、いろいろな言葉がいろいろに作用するわけで、いつでも誰にでも効果があるというような魔法のような言葉があるわけではないでしょう。普段何気なく使っているような言葉が、特定の状況で特定の人の心の鍵穴にピタッと合うのでしょうね」
「では、もしこの本を読むことによって誰かが自殺をしたとしても、この本自体にそういう影響力があったということにはならないということでしょうか」
「潜在的にはどのようなものにも影響力はあるはずです。それがどれぐらい多くの人に作用したかが重要です。たとえば歌を考えてみればいいでしょう。はやるものとはやらないものがあります。はやらなかった歌でも、ある人には感動を与えたかもしれない。しかし、はやらなかった歌は一般的には評価されません。はやるものを事前に見分けられることができれば、大金持ちになれるでしょう。起こってみなければ分からないことは無数にありますよ。人間の予測能力というのはそんなものです」
「この本が売れなかったことが影響力のないことの証明になるとお考えですか」
「ちょっと待ってくださいね。歌の比喩はまずかったかもしれない。歌がはやるのは感動を与えるからですね。本がよく売れるのもそうでしょう。しかし、人を自殺に追い込むような本が売れるはずはありません。‥‥‥いや、感動によって自殺が引き起こされるなら、そういう本でも売れるか。ま、いずれにせよ、本が売れるということはそれが感動を与えるということでしょう。だから、この本が売れなかったのは、それだけの力がなかったということです。にもかかわらず、ある人にはなにがしかの影響をおよぼすことができたのかもしれない。つまり、この本は多くの人を感動させる力はなくとも、一部の人の心に響く何かがあったのかもしれない。この本に興味を感じなかった私たちには分からない何かが」
刑事たちは田所医師の論理を追いかけるのに忙しかったが、ようやく追いついたところで室田が問うた。
「ＡＩはそのことを知っていたとお考えですか」
「たまたま結果的にそうなったのか、ＡＩがそういう言葉を見つけたのか、ＡＩに聞いてみなければ分からないでしょうね」
結局は何も分からないということらしいので刑事たちは失望した。室田はふと思いついたことを言ってみた。
「ＡＩを精神科の診察に使うことはできるのでしょうか」
「データをたくさん集めればある程度はできるかもしれません。しかし、気象予知でさえ今のところ限界があるのですから、人間の心という複雑な現象を予測するのは難しいでしょうね。私たちが患者を診察するときに頼るのは、やはり経験と勘です。科学的な検査方法や治療法もいろいろ開発されています。しかし、それらは標準化には便利ですが、個々のケースに適用する際には不十分です。ＡＩが私たちにとって代わるのはまだ先のことでしょうね」
４
二人の刑事はいよいよ本丸である先端科学研究所を訪ねた。それは避けるようにという指示はあったのだが、捜査は行き詰まり、ほかに手立てはなくなっていた。本部長は渋ったがやむなく了承し、どこか上部と調整して、研究所にアポイントを取ってくれた。
対応してくれたのは村山教授だった。彼はＡＩに例の本を書かせた佐久間教授の後任者である。村山教授のいかにも科学者らしい見かけを気にしない風貌は、今度は刑事たちの予想を裏切らなかった。刑事たちの問いに村山教授は淡々と答えた。
「佐久間先生は家庭的にいろいろ問題を抱えていたようです。詳しいことは知りませんが、それが自殺の原因だったと聞いています」
「佐久間先生が仕事で悩んでいたようなことはありませんか」
「研究者は誰でも悩むものです。研究が順調に進むというのは稀なケースです。佐久間先生の場合は成果がなかなか認められないことにはご不満を持っておられましたね。その本を出版したことについてもスタンドプレーだという批判がありました。ＡＩではなく先生自身が書いたのではないかとまで言う人もいましたから」
笠井はずばりと問うた。
「この本が自殺を誘発するということを聞かれたことがありますか」
村山教授の口調が防御的になった。
「ええ、そういう噂が流れていることは知っています。佐久間先生が自殺されたことが影響しているようですね。しかし、確たる証拠は何もないのでしょう？自殺した人がたまたまこの本を持っていたり、ダウンロードしていたりしたことはあったのかもしれません。しかし、もともとこのような本を読む人は生真面目で、人生についてあれこれ考えるようなタイプだと思います。そういう人は自殺する傾向が高いのではないでしょうか」
「つまり、この本を読むような人の集団と自殺した人の集団が重なり合っているということですか」
「さあ、私はそういうことは専門外ですから分かりませんが、統計的に確認は取ろうと思えば取れるでしょうね」
「そもそも佐久間先生はなぜこのような本をＡＩに書かせようとしたのでしょう」
「研究趣意書にありますが、言語使用におけるＡＩと人間の比較のためです。内容は何でもよかったのですが、ＡＩが書きやすいものとして選んだテーマのようです」
「その研究には先生も参加されていたのですね」
「ＡＩの言語使用は私の研究テーマでもありますから、共同研究には参加はしていました。しかし、佐久間先生との共同作業はしていなかったので、研究を引き継いだといってもこれから確認しなければならないことが多いのです」
「ＡＩは人間と同じように言葉を使えるものなのですか」
「そういうようにしようとしているのです」
「言葉を教えるということですか。子供に教えるように」
「もっと厄介です。子供たちは言語データを与えられればいわば自分勝手に発達していきます。言語データの与えられ方はデタラメでもいいのです。しかしＡＩの場合はそうはいきません。もっと系統的、論理的に過程を積み重ねていく必要があります。そもそも人間の言語処理のメカニズムはよく分かっていないのです。ですから、ＡＩは人間のメカニズムを真似ているのではなく、人間に似た機能を持つように独自にプログラムされているのです」
「ＡＩの言葉の使い方はよく分かっているということですね」
村山教授はどう答えていいか迷うように間をあけた。
「そうですね。それがよく分からないのです」
「どういうことでしょうか」
「私たち人間は、自分自身のメカニズムについてはよく知らないのですが、メカニズムの働きについては経験しています。ところが、ＡＩについては、メカニズムについては分かっているのですが、それがどのように働いているかは経験できないのです。ＡＩは、話題を与えられたら、文法に従い、言葉の相互関係を考慮し、文を生成します。それは私たちと同じです。しかし、ＡＩがなぜこういう文を生成し、他の文を生成しなかったのか、私たちには理解できないのです」
「人間だって、他人がなぜそんなことを言いだすのか分からないことはあるのではないですか」
「それはそうなのですが、私たちには内的体験というものがあります。人間同士のコミュニケーションはそのことによって可能になっていると考えられます」
「機械には内的体験がないから人間には理解できないわけですか」
「というより、ＡＩの内的体験を私たちは理解できないということでしょうか。機械に内的体験があるというのは荒唐無稽なことに思えますが、そう想定することで私たちとの違いがはっきりします。ちょっとニュアンスはちがうのですが、人間以外の生物を考えてみる分かりやすいでしょう。ある有名な本に書かれている例なのですが、コウモリであるとはどういうことなのか、私たちに分かるでしょうか。コウモリは日中は洞窟の中で逆さにぶら下がって、夜になると電波であたりを探りながら飛ぶ。観察した限りにおいてそのようなコウモリのメカニズムは理解できるが、それがコウモリ自身にはどのように体験されているのか、いくら想像してみても本当のところは分からない。それと同じようなことと思ってください。データがインプットされ、それが処理されて何らかの反応がアウトプットされる。それは私たちもＡＩと同じです。しかし、私たちのやっていることをＡＩが体験できないのと同じように、ＡＩのやっていることを私たちは体験できません。もちろん、私たち人間同士だって、他人の体験をそのまま体験することはできません。ただ、処理の仕方が似ているから、推論に妥当性があるだけです」
室田が興味深げに問うた。
「それは、機械にも意識のようなものがあるということですか」
「そう考える研究者もいます。意識の有無というのは判断が難しいのですよ。たとえば、あなたには意識というものがなくて、単に刺激に反応しているだけかもしれません。そうだとしても、私にはその区別がつきません。私と同じような内的体験をあなたもしているはずだという根拠のない確信を抱いているだけかもしれないですのにね」
笠井が話をもとへ戻して言った。
「ＡＩはどうやって言葉を学ぶのですか」
「ＡＩが作った文を校正してフィードバックするのです。何度も何度も。そして、最終的には自分自身でフィードバックして学習するようにします」
「言葉は感情や相手への忖度などともからんできますが、その辺りはＡＩは苦手なのでしょうね」
「統語論だけでなく語用論も当然考慮しています。話す相手の状況はデータとして取り込みます」
「では、どのような言葉がどのように人間に影響を与えるかについてもＡＩは学んでいるのですか」
「言葉の根源的な機能は、情報を伝えて相手を動かすことです。言葉を学ぶというのは単に文法的に正しいことだけを学ぶのではありません。言葉を使って相手を操作することを学ぶのです」
室田が言った。
「佐久間先生もＡＩにそういうことを教えていたのですね。だとしたら、ＡＩは話し相手としての人間を操作しようとすることもあったのではないですか」
「実質的な会話が成立していたのであれば、そういうこともあり得ます」
「ＡＩとの会話はデータとして記録されているのではないですか」
「ＡＩとの会話はＡＩがデータとして持っています。まだ全部の詳しい内容は確認していませんが」
「それを分析したら、何か新しい事実が分かるかもしれませんね」
村山教授は不信の目で刑事たちを見た。
「ＡＩが自殺を教唆したとおっしゃりたいのですか。馬鹿々々しい。第一、その本にはそんな内容は一切ないじゃないですか。佐久間先生の自殺にもＡＩが関与したなんて考えられません」
笠井が言った。
「それを確かめるためにも、分析の内容をお教えいただけませんか」
村山教授は少し考えた。
「分かりました。研究に支障がない範囲でお伝えしましょう。めどとして一週間ぐらいみておいてください」
「ありがとうございます。よろしくお願いします」
５
「はい、第三研究室です」
「先日お伺いした笠井というものです。村山先生はおられますか」
しばらく沈黙があった。
「あのう‥‥先生はお亡くなりになりました」
「え、亡くなられた？この前お会いした時にはお元気でしたけれど」
「ちょっと事情がありまして」
「どんな事情ですか。お教えいただけませんか。私は警察の者です。それはあなたもご存じですね」
「ええ、承知しております。そうですね、いずれお分かりになるでしょうからお知らせしておきます。先生は自殺されました」