査察者 Ⅱ
１
「君にもう一度フィールド28へ行ってもらいたいのだよ」
金山理事長がそう切り出したので、飛田は思わず叫んでしまった。
「何ですって。いい加減にしてくださいよ。あの時の私の評判はさんざんだったじゃないですか」
フィールド28というのは、飛田の所属している独立行政法人人工知能研究所が管理している実験場だ。人口減少のため放棄された地方都市に、ロボットをいわば放し飼いにして、人間のいない場でのロボットの生態を研究している。目的は主に二つあって、一つはロボットだけの乗組員による宇宙探査の基礎研究、もう一つは人類進化のシミュレーションである。そこの管理コンピュータであるオルトK4の報告に対する査察者として、かつて飛田が派遣されたことがある。人間の命令なしにロボットが独自に組織や社会を形成し得るのかを確かめる実験において、オルトKは狩猟社会の再現を行っていた。
金山理事長はもちろん飛田の反応を予期していたようで、一向に動じずに続けた
「確かに。君の軽いノリの文系的機転というのを理解できない人が多かったからね。でも、君のその特質が問題解決に役立ったのだから、今度もそれを期待したいのだ」
「いやですよ。お断りします。今度は理系の人にしてください」
「まあ、そう嫌わずに、話だけでも聞いてくれ。前にも話したことだけれど、ロボット三原則によって作られたロボは、人間のいない世界では純粋のエゴイストになる。エゴイストが社会を形成しうるかどうかは、理論的にも実践的にも、重要な問題だ。いかに合理的であっても、エゴイズムを越えられなければ集団を作ることはできない、という考えも有力だ。ロボに集団を作らせるためには知性以外の要素が必要というわけだ。オルトK4もそう考えたのだね。ただし、彼女のやったのは誤魔化しに近かったが」
オルトK4は女性として扱われていたので、理事長が「彼女」と呼ぶのは不自然ではないのだが、飛田は違和感を持った。フィールド28での経験が影響しているのだろう。金山理事長は続けた。
「確かに、人間の欲望や感情は進化論的に意味があって、知性というのはそれらを補助するために後から付加されたものにすぎない。欲望や感情はそれぞれの環境レベルに応じて順次有効な機能を発揮してきた。欲望だけでは対応できなくなって感情が発達した。欲望や感情だけでは対応できなくなると知性が発達した。知性は付加的な機能であって、欲望や感情に取って代れるものではない。もし性欲や愛情というものがなかったなら、人間は三世代もたたないうちに滅ぶだろう。結婚や子育てという面倒なことを損得勘定だけで誰が引き受けるものか。ルールや道徳といったものも、感情に根ざしているのだ」
「では、そういうロボを作る実験に変えたのですか」
「ロボに欲望や感情を持たせるのは難しい。欲望については自己保存への配慮ということで代替できるだろう。だが、感情については、その表出形態をまねることはできても、主体にとって持つ意味、つまり機能をロボに備えさせるのは至難の技だ。だから感情を合理的に解釈し、合理性によって似たような機能を働かせるしかないだろう。たとえば、道徳というものの合理的解釈は、他人のためにすることは自分のためにもなる、ということだ。情けは人のためならず。ただし、実際は人間はそんなことを考えて道徳的に振舞うのではない。思考の届かぬ奥底から湧き上がってくる感情が人を動かす。損か得かというのは後の解釈なのだ」
「そうだとしても、その二つの行動が機能的に同じものであるならば、道徳感情を合理性によって代替できるかもしれない、というわけですか。他人のためにしたことがめぐりめぐって自分の得になる。そういう計算を働かせるようにすればいい、ということですか」
「感情は合理的である、というのが進化論者の意見だよ。ただし、感情というものに組み込まれている損得計算は、進化という長い時間をかけて形成されてきたものだ。膨大なデータと予測困難性のためにコンピュータで真似ることは到底不可能だ」
飛田はしだいに興味をひかれてきた。
「思いやりということなら、他人の効用を自分の効用関数に入れるという方法がありますが」
「その場合の他人というのをどの範囲まで含ませるかが問題となるだろう。敵意を持っている他人の効用まで配慮する必要はないはずだから」
「それはそうです。博愛主義者のロボは騙されやすいでしょうからね。ではどうすればいいのでしょう」
「われわれが考えたのは、社会の理想的なシステムを構築して、そのシステムに合わせるようにロボに行動させるということだ。社会のシステムが同時に個々のロボのシステムでもあるようにする。そうすれば、データは単純化され、予測可能性は増す。むろん、そのシステムは自由で合理的なものでなければならない。全体主義的なシステムであったなら、わざわざそんなことをしなくても、もっと単純な方法で済むのだ」
「ルーカス・モデルですね」
「何だ、それ。スター・ウォーズか」
「いえ、経済学の理論ですよ。超合理的な主体を想定するもので、ひところいわゆる『一世を風靡』しましたが、その後に起こってきたのが、逆に人間の非合理的な側面に注目した行動経済学でした」
「歴史は螺旋的に登っていくということか。われわれのしようとしているのは、人間の非合理的側面を合理的に解釈して再現しようというのだから」
「それがうまくいかなかったのですね」
「どうしてそう言えるのだね」
「だって、私が派遣されるというのは、何か問題があるからでしょう」
「なるほど、察しがいいな。だが、うまくいったのだ。実は、うまくいきすぎたのが問題なのだ」
飛田は戸惑った。問題が複雑になるのは面倒だった。
「私には扱いかねるようですね」
「話が少しややこしくなったようだね。だが、もう少し続けさせてくれ。ロボットに自由で民主的な社会を形成させるには、ロボット三原則では不足だ。そこで、追加の三原則を作った。第一、ロボットは他のロボットに装着された資源を後者の同意なくして使用してはならない――これは共食いを防ぐためだ。第二、ロボットは自らの管理するモノは、自己の身体を含め、自由に処分してよい。ただし、このモノの中には他のロボットは含まれない――これは私有財産を認めるが、奴隷制は禁止するということだ。第三、上記二つの原則に反しない限り、ロボットは自己の利益の追求をしてよい――これはロボットに欲望というか動機というか、そういうものを与えることだ。人間のいない世界で、人間につくすこと以外の目的を持たすためだ。注目してほしいのは、他のロボットのモノを盗んではいけないとか、他のロボットを損傷してはいけないとか、そういういわば犯罪行為を禁止するような原則は組み込んでいないことだ。もしそういうルールが必要なら、ロボット自身が作らねばならない。もともと実験の趣旨がそういうことだからね」
「で、それはうまくいったのですね」
「そうだ。目指したシステムが自由市場経済に基づいているから、ロボたちは交換システムを形成した、自生的にね」
「それが問題なのですか」
「そうだ。ロボたちは市場は作った。しかし、協同作業はしなかった。オルトK4の作ったシステムを継承して実験がなされたのだが、ロボたちは一人で狩りをするか、一人で弓矢を作るだけだ。ただし、お互いの成果であるバッテリーと弓矢を交換はしている。中にはバッテリーを貯めることができたロボもあったが、そうすると奴らはバッテリーを使い切るまで仕事をしなくなる」
飛田は笑いだした。
「原始的なレベルで停滞しているのですね」
「そうだ。それでその状況を変えるために、奴らに協同作業をせざるを得ないように環境を変えることにした。ロボの以前の狩りの対象は兎型ロボだった。そこで狩の対象を鹿型ロボに変えたのだ。鹿は一人では捕まえるのは困難だ」
「兎と鹿ですか。まるでルソーですね」
「ルソーの場合は、協同で鹿を狩るか単独で兎を狩るかの選択の問題だった。フィールド28では全面的に兎を鹿に変えたのだよ。何か問題は起こることは予想していたが、想定外のことが生じてしまった。人間の介入があった」
「人間の？」
「現地にいた文化AI学者が過度の介入をしたらしい」
「文化AI学者が立ち会っていたのですか」
「彼らにすれば格好の研究対象だからね。フィールドワークの要望があったから許可をした。われわれにとっても貴重なデータの収集ができると思って。それが失敗だった。人間はコントロールが難しい要素であることを失念していた」
「私にその調査をしろというのですか」
「そうだ。相手は学者だから、デリケートな扱いが必要だ。強圧的にことは運べない。現地へ行って実態を把握する必要がある。どうだ、やってみてはくれないだろうか。前のことがあるし、君が適任なのだ」
「業務命令とあれば、従わざるを得ないのでしょうね」
「そうか、ありがたい。では早速彼女に連絡しておこう」
「え！またオルトK4ですか」
「心配するな。今度は人間の女性だ」
２
ドローンは再び飛田をフィールド28に運んだ。今度は出迎えがあった。三十代後半ぐらいの女性、細身で中背、長髪を後ろで束ね、日に焼けた素顔、胸元を開けたシャツ、作業用らしい太いパンツとスニーカー、いかにも野外活動家の姿だ。
「ようこそ。お待ちしてました。京阪神大学の須沢です」
「人工知能研究所の飛田です。差し入れを持ってきましたよ」
「ありがたいわ。ビールがなくなりかけていたところよ」
二人でコンテナを切り離すと、ドローンは例のごとく愛想なく飛び去った。須沢はフォークリフトのような形をした運搬機を操作してコンテナを持ち上げた。
「乗ってください。キャンプへご案内します」
狭い車内に二人して並んで座ると、意外な早さで動き出した。この前来たときと変わりない街の中を行く。外観からは建物が傷んでいる様子はないが、人がいないので荒廃の感じがある。道路の前方を何かが横切った。一瞬だったが、太く短いパイプのような胴体と、四つの細く長い足、胴体から突き出た潜望鏡のような頭部は識別できた。
「あれが鹿ですか」
「そう」
「速そうですね」
「ロボでは追いつけないわ。持続力もあるし。ところで、あなたの泊まるところは私のキャンプでいいかしら。」
「お気を使わずに。コンテナにテントが入ってますから」
「それでいいなら。では、さっさと片付けてしまいましょう。キャンプに着いたら早速尋問を受けるわ」
「尋問だなんて、単なる調査ですよ」
須沢はふふんと笑ったようだった。整った顔だから高慢に見える。外観通りの自信家なのだろう。
キャンプには組み立て式のキャビンがあった。貯水タンク、発電機、プロパンガスの設備もついていて、快適そうだ。中は二部屋の他に厨房とトイレ付ユニットバスもある。須沢は仕事場となっている部屋に案内した。もう一部屋は居間兼寝室となっているらしい。シンプルなテーブルの上のパソコンや資料類を片付けて私を座らせた後、須沢はコーヒーを出してくれた。
「何から始めましょう」
「あなたがここでフィールドワークをすることを許可されたときに、ロボに関しては一切の介入をしないという条件が付いていたはずですが」
「それは認めるわ」
「あなたはそれに違反したということのようですが」
「それも認めるわ。待って、事情を説明するから。私がここへ来た時は、ロボたちは兎を捕えて、その中にあるバッテリーを利用していた。兎自体は太陽光発電で動くのだけど、ロボ用のバッテリーが仕込んであるのは御存じね。狩りをするロボと弓矢を作るロボというように分業が行われ、バッテリーと弓矢が交換されるという市場は形成された。しかし、そこまでだったわ。ロボは協同作業をしなくともバッテリーを手に入れられるので、個々の取引以上の集団的行為は出現しなかった。そこで、連中――つまりこの実験を仕組んだ人たちは、協同作業でないとバッテリーが手に入らぬように環境を変えた。兎を回収し、鹿を放った。鹿は個々のロボ単独で捕えるのは困難で、集団で狩りをする必要がある。必要に迫られてロボは集団を形成すると期待された。しかし、そうはならなかった」
「なぜでしょう」
「彼らが利口すぎるからよ。集団的行為の問題点はその行為への各自の寄与を正確に測れないこと。それはロボとても乗り越えられない壁。だから狩りの成果は平等に分配される。そこにタダ乗りの機会が生じる。全力を出してもサボっても成果が同じなら、誰もがサボろうとするでしょう。そうすると狩りは成功しない。成功しないと分かっているような企てに誰が参加するでしょう」
「でも、狩りをしなければ、ロボはバッテリー切れになってしまう」
「そうね。だからロボたちも考えた。狩りの失敗が、単なる無駄足になるだけでなく、もっと大きな損失が発生することになるならば、参加者は狩りの成功のために努力するだろう。つまり、狩りにコミットさせるということね。そのために、狩りの参加者は事前に持っているバッテリーを差し出す。狩りが成功すれば、鹿のバッテリーの分配分と、差し出したバッテリーが戻ってくる。失敗すれば差し出したバッテリーは戻ってこない。いいアイデアでしょう」
「つまり、投資のようなものですね」
「そうね。ところがこのアイデアは実現不可能だった。猫の首に鈴をつけるというネズミのアイデアと同じね。誰が鈴をつけるのか。つまり、皆が差し出したバッテリーを誰が管理するのか。管理をまかされたロボが持ち逃げしない保証がどこにあるのか」
「なるほど。信頼というのは知性からは生まれてこない」
「そうね。窮してしまったロボは、私に気がついた。人間ならまかせられる、と」
「ロボが頼んできたのですか」
「そう。断ることができる？その提案を受けてあげなければ、ロボたちはみなバッテリー切れになってしまう。私の研究も成果なしにオシマイ。第一、ロボたちがかわいそうでしょ」
「人間的ですね」
「それは非難なの。それともほめ言葉？」
「客観的な評価です。それでうまくいったのですか」
「問題が一つあったわ。余分のバッテリーを持っているほど余裕のあるロボはほとんどいなかった」
「で、どうされたんです」
「その答えもロボが持っていた。私がロボたちにバッテリーを貸す。実際のモノとしてのバッテリーがなくても、帳簿の上で預かったことにする。ただし、狩りが失敗すれば、それは借財となる。ロボは人間に対してそれを踏み倒すことはできない。借財には利子をつける。借財が大きくなりすぎて返せるめどがたたなくなれば、破産となる」
「破産？」
「そう。ロボの機能を停止させてしまう」
「なるほど。人間がそれを保証してやれば、ズルをするロボはいないというわけですね。それでうまくいきましたか」
「今のところロボたちは、集団で狩りをして、うまくやっているわ。集団的行為がさらに発展して、より複雑な社会を形成するようになるかもしれない。実験としては、その方がいいのではないかしら」
「でも、違反は違反です。この実験の目的は、ロボたちが自分たち自身で集団を形成するための条件を探ることです。人間の介入を認めるなら、ややこしいことはせず、人間が命令すればすむことです」
「では、私にやめろというの。そうすれば、ロボたちはみな動かなくなってしまう。それでいいの」
「私にその判断を求めないでください。私は単に調査に来ただけですから。あなたにどうこうせよとは言いません」
「けど、あなたが帰って報告をすれば、私はここから追い出されることになるのでしょう？だから、同じことよ」
「私は嘘はつけません。たとえ嘘をついても、すぐにバレてしまうでしょう」
「そうね。あなたに無理を言っても仕方がないわね。でも、残念だわ」
「何か違ったシステムを考えればいいのでしょう。ここのロボたちに任せれば」
「彼らがこのままの存在では、うまくいくとは考えられないわ。ロボたちには存在への執念がない。いわば、生きる目的がないもの」
「生きる目的‥‥ですか」
「ロボの存在の目的は私たち人間には分かっている。ロボがそれを知る必要はないかもしれない。しかし、ロボを人間に似せようとするなら、彼ら自身の目的が必要となるわ。言いかえれば、生きる意欲を持たせることね。生きることへの執着を持たせること。それは存在することを無条件に選ぶ気持ち。もしそういうものがなければ、危険を察知して回避することはできないでしょう。回避の努力が、それに見合う価値をもたらさないならば、それはなされない。その価値とは、存在することと存在しないことの差。両者に何の違いもなければ、存在しようという努力は起こらない」
「ロボが自分の身を守ろうとするだけでは十分ではないと？」
「そう」
飛田はそれ以上の哲学的議論は避けた。金山理事長といい、この文化AI学者といい、何でそこまでロボにいれ込むのだろう。
「大体の事情は分かりました。今日はもう時間がなさそうだから、明日フィールドを見て回ります。それで調査は終了です」
キャビンに泊まれと勧める須沢に、査察者としての中立性を保つためと丁寧に断って、飛田は持参した食事パッケージで夕食を食べ、これも持参した簡易テントの中で寝た。
３
翌朝、飛田が須沢のキャビンの中で彼女の作ってくれた朝食を彼女と一緒に食べていると（結局、暖かな食事の誘惑には勝てなかった）、誰かが戸をたたいた。須沢がドアを開けると一体のロボが立っていた。ロボは事務的な声を出した。
「おはようございます」
「おはようK03、今日もよろしくね。食事がすむまで少し待っていてちょうだい」
「はい、承知しました」
須沢はドアを閉めてから、飛田に説明した。
「あれにバッテリーの管理を手伝わせているの。そんなことに手を取られていたら、研究ができなくなるから」
「どうやってリクルートしたんです」
「なぜか仲間外れにされて狩りに参加できないでいたロボなのよ。放っておけばバッテリー切れになってしまうので、雑用係として使っているの」
八時になるとロボたちが集まってきた。
「ロボにとっては、昼も夜も関係ないけど、私の方は日中が都合よいから、朝から開始するようにしているの」
ロボたちは決まった相手とチームを組んでいるようだが、バッテリーは個々に差し出す。K30はロボとバッテリーを確認して受け取っていた。
「ロボは瞬時にお互いを認識しあうことができるから、K30にはどの個体がバッテリーを出したのかを記憶できている。それだけじゃなくて、バッテリーの製造番号も確認するから、劣化したバッテリーがあれば誰のものかは分かるのよ」
「じゃあ、現物ではなく貨幣でも同じことですね。たとえば紙幣の番号と使った個体を記憶できるのだから、贋札は使えない」
「彼らの計算力と記憶力なら、電子的な貨幣でもかまわないのよ。唯一の障害は、ロボどうしが信用できないことね」
数組に分かれたロボが狩りに出かけて行った。須沢は彼らの行動を観察するために小型のドローンを三機飛ばした。
「全部はカバーできないから、特定のチームだけを記録しているの。もちろん、これだけでは十分なデータは得られない」
須沢の観察活動に飛田も付き合うことにした。鹿には劣るけれども、人間に比べればロボははるかに敏捷だ。しかも彼らは疲れることがない。彼らについて行くのは無理なことだ。須沢は一定の期間ごとに地域を決めて、そこで狩りをするチームの行動を観察することにしていた。
「ナワバリのようなものはあるのですか」
「いまのところははっきりしたナワバリというのはなさそうね。でも、チームによって好みの地域があるみたい。狩りの成績や、チームの技量によって、自然と偏りができてくるようね」
「そのうちナワバリが成立するようになって、チームどうしの争いが起こるのではないですか」
「そういうことが起こったら、興味深いわね」
須沢が観察に選んでいるのは、彼女がフィールド28をいくつかに区切って名付けているD6という地区だった。そこは元の中心市街地の一部と、その外に広がる放棄された住宅街と田畑を含んでいた。
「鹿は人工的な環境の方を好むのよ。それの方が動きやすいからかしら」
狩りは頻繁になされているようではなく、須沢と飛田が待機した地点で午前中に見かけたのは二件だけだった。それも鹿を仕留めた現場は見られず、逃げていく鹿と勢子のロボの姿を垣間見ただけだった。飛田は退屈して、須沢が持参した昼食を食べた後、彼一人で先にキャンプへ帰った。
三時ごろには全てのチームが帰ってきて、鹿から取り出したバッテリーを示し、朝に差し出したバッテリーを受け取った。空振りのチームはなかったが、獲物の頭数にはバラつきがあった。飛田はK30の動きを見ているうちに、このロボに見覚えがあるような気がしてきた。K30が仕事を終えて、須沢に報告をしたときに、飛田は横から声をかけた。
「お前はひょっとして、フライデイではないか」
K30は飛田の方を向き、平坦な口調で答えた。
「あなたからはそう呼ばれていました」
「当然、私のことは分かっていたのだな。何で声をかけてくれなかったんだ」
「用がありませんでしたから」
「まあ、ロボはそういうものか。ところで、あれからどうしていた」
「私にはREJ809765K11を破壊したという評判が立ってしまい、誰からも相手をされなくなってしまいました」
ロボには淡々とした事実の叙述であるのだろうけれど、やはり飛田には恨みごとのように聞こえた。
「そうか。知らぬこととはいえ、お前には悪いことをしたな」
須沢が事情を聞きたがったので飛田は手短に説明した。以前の実験の査察の過程でフライデイに出会ったこと。そのことがもたらした偶然により、オルトK4がでっち上げたエゴイズム抑止のシステムからフライデイが抜け出てしまったこと。エゴイストとなったフライデイがあるロボ（REJ809765K11）を破壊してしまったこと。
「私がフィールド28から離れた後も、しばらくはオルトK4のシステムは維持されていたから、フライデイはそこでの唯一のエゴイストのロボであったことになる。こいつは要領が悪いか、運が悪いか、どっちかだろうな。鶏小屋の狐という立場を利用できなかったようだ」
「へえ、K30にはそういう過去があったのね」
飛田は考え込んだ。フライデイを見つけたことで、あるアイデアが浮かんだのだ。飛田は須沢に向かい合った。
「やはりあなたにはここを離れてもらうべきでしょうね。人間の存在をロボは無視できないでしょうから。観察なら機器だけでもできるはずです。ただ、人間がいなくなると鹿狩りのシステムが維持できなくなる可能性がある。人間の介入でできたシステムではあるけれど、ロボだけで維持できるなら、実験を継続する価値はあるでしょう。そう報告するつもりです。そのために、特定のロボ、つまりフライデイに人間の権限を委譲しましょう。人間の命令として、フライデイにバッテリーの取り扱いをさせるように、ロボたちに伝えておくのです。ちょっと逸脱したところはあるけれど、当初の実験の意図に沿えることになるでしょう」
須沢は直接難色を示しはしなかったが、皮肉っぽく答えた。
「あなたはK30をひいきにしているようね。負い目を感じているのかしら」
「そうではないですよ。現行のシステムにあまり大きな変更を加えない方がいいと思ったからです」
「どちらにしろ、私だけの判断では決められないわ。大学とも相談しなければ」
「そうですね。私も同じです。研究所に帰って報告と提案をします。それからです。では、これで失礼することにしましょう。ドローンを呼んでくれませんか」
須沢がキャビンの中へ入ったのを確認してから、飛田はフライデイに話しかけた。
「須沢さんに聞いたんだが、失敗した狩りで没収したバッテリーがかなりたまっているようだね。お前が管理することになるなら、それを利用して何かができるかもしれない。銀行家にも、投資家にもなれる。あるいは、公共事業をしてもいいだろう。王様気取りで御殿でも建ててみるか。ところで、私がお前を特別扱いするのは二度目だが、ただし、これが最後だ。三度目はないぞ」
フライデイは「はい」と答えただけだった。飛田は物足りなさを感じてフライデイを見つめた。そうすると、何か予感のようなものが湧いてきた。
「いや、三度目があるかもしれないな」