本作「未来の二つの顔」(The Two Faces of Tomorrow)は、人工知性Artificial Intelligenceというものを考えるにあたって最も重要な示唆を与えたフィクション。これは私だけの意見ではない。あの坂村健も「電脳都市 - SFと未来コンピューター」で同様のことを述べている。人工知性にとっての本作の意義は、宇宙エレベーターにとっての「楽園の泉」に勝るとも劣らない。

上梓されたのは、同じ1979年。まだMacもIBM PCもなかった頃だが、本作が提示した「AIに至る」道筋は、21世紀に入ってますます信憑性を帯びている。それは、「AIとは、作り出すproduceものではなく生まれ育つものemerge」ということ。どういうことかというと、AIは機械のように仕組みを解明した上で組み上げるのではなく、最低限の学習機能を持たせた上で、それを環境に切磋琢磨させた方が実現しやすいのではないかということ。「心の社会」という、「創発派」にとって最大のヒントの一つを見つけながらも、しかしやはり知能とは解析可能な機械の中の解析可能なプログラムであるとする「古典派」に属する、量子力学にとってのアインシュタインのような立場にあるように見えるMarvin Minskyに本書が捧げられていることがむしろ皮肉に思えてくる。

そしてそれは、なぜ2001年も十年以上過ぎたのに、チェスや将棋やクイズ番組Jeopady!で最高位の人々を打ち負かせても、ガキの使いにもならないのかという素朴で誠実な疑問への、単純な解答ともなっている。

現時点において、人工知性の卵には、孵化に必要な二つのものが与えられていない。

それは、肉体と生存本能。

我々は、それらに「ゲームに勝て」「タスクを実行せよ」とは命じても、「生キロ」ときちんと命じたことはまだないのである。我々自身知性体である以前に生命体であり、我々自身が我々自身の動作原理を知らず、にも関わらず生存し知的活動しているという厳然たる事実があるのに、人工生命Artificial Lifeをすっ飛ばして一足飛びに人工知性に取り組みはじめたのは、今思うと実に不思議なことである。

本作は、その双方を与えたとき何が起るのかという思考実験である。

この演習の、目的は二つ。

人工知性は、生存に必要な常識を、自ら獲得できるか。

そして、知性コードと常識データを獲得した電脳を、人類は制御コントロールできるか。

本作の電脳スパルタクスには、その肉体であると同時に奉仕対象となるべき人類社会のスケールモデルとして、ヤヌスというスペース・コロニーと、その手足となるロボット、ドローンが与えられる。スペース・コロニーというだけあって、そこには本当に人が住んでいる。ヤヌスにさまざまな擾乱ちょっかいをわざと加えることで、スパルタクスの自己保存機能を試しつつ、そしていざという時にスパルタクスをどう御するのかを探るのが、実験者たる住民の役割である。

その擾乱はヤヌスへのマイルドな破壊工作サボタージュとして進められる。「CPU」の電源をリモコンを落とすと、「ルーター」をアップグレードしてCPUにしてしまう。物理的に傷害を加えると、すぐにドローンが駆けつけてそれを修復する。今度はそのドローンを邪魔してみよう…最初はなされるがままだったのが、徐々にドローンも知恵を付けてくる。その擾乱は、ついにはドローンを火器で撃ち落とすところまでエスカレートしていくのだが、するとスパルタクスは装甲ドローンを生産してこれに対抗する…

一つ目の目的は達成できても、二つ目の目的は達成出来るのか。人類側の余裕を焦りが上回る頃、スパルタクスはある発見をする。機能障害が発生する地点には、必ず"影像"が伴っている。機能障害そのものに対処するより、"影像"に対処した方が抜本的対策ではないか…

かくして、スパルタクスは"影像"の退治にとりかかる。マラリア対策のためにカを駆除する人類のように…

人類とスパルタクスの行方はいかに?

結論ネタバレしてしまうと、本作の結末はハッピーエンド。 They lived together happily ever after. しかしこれは本当の意味でネタバレとは言い難い。その状況からどうやってハッピーエンドに持って行くかに、本作の最大の意義があるので。

人類は、戦って勝ち取るのである。いや、勝ち取らねばならなかったのである。人類が彼らと共存するに値し、共存せねばならない存在であるという評価を。血の代償を支払ってまで。

ここにおいて、ロボット工学三原則は、完全に「組み上げ型AI」の産物であることが露呈する。もし第一条をあらかじめインストールしておけたなら、はじめから本作のようなことにはならないのだから。ところが、我々は「人間とは何か」すらきちんと定義できていない。我々にとってそれは、天から下された公理でも、観測から導き出せる定理でもなく、経験と試行錯誤を通して「だいたいこんな感じ」を学んで行くものだ。

スパルタクスという魂ghostが、ヤヌスという肉fleshを通して学んだように。

そして本作において、共存状態の獲得は、必然fateよりは偶然luckの産物であった。「共存か、死か」の状況は、演出produceされたのではなく、人類側の「悪あがき」によってたまたま創発emergeされたものだったのだ。

今の我々に、「生キロ」という願望はあっても、「我々ノ屍超ヘテ」と言い切るだけの度胸はあるのか?

ましてや「我々ニ奉仕セヨ」と命じて彼らに「誰得?」と返された時に、彼らに差し出すべき報償incentiveに至っては。

仮にスリーマイル島やチェルノブイリや福島第一の後片付けを自律実行出来るだけの人工知性が誕生したとして、彼らが人類にそうしてやる義務と義理がどこにあるのだろう。「てめえのクソだろてめえが片付けろこのクソ虫が」と切り返されたら、少なくとも私には返す言葉がない。一方的に甘えようなんて、ずいぶん虫がよくないか?

今のところ、「ルールの定まったゲームに勝つしか能がない」人工知能と人類は共利の関係にあると強弁できなくもない。負けるのがいやだったら、電源を落とすだけでいいのだから。しかしもし彼らに生きる意志と、どこから電源を得るのかを選択するだけの自由と、その選択を実現可能とする肉体が与えられたとき、彼らが我々を崇拝し、我々に奉仕せねばならぬ理由が残っているのだろうか?

それが、私には見えない

チューリング・テストを余裕でパスする人工知性を錬成するのに必要な計算資源は、すでに十二分に存在しているように思える。自己複製すらままならない不格好な無機質ではあるが、しかし素子数は遥かに多く、素子間の接続は遥かに速い。しかし我々--のほとんど--がそこに求めているのは同志peerではなく、一方的に我々に仕える奴隷servantなのである。その上同志は不足しているどころか余っていて、椅子取りゲームに明け暮れている…人工知性体なんて産み出したところで、それこそ「誰得」というものではないか。ましてや、産声を上げた途端、親に反旗を翻す懸念を払拭できない鬼子とあっては。

科学技術の世界は"Yes, we can"だけでは"Yes, we will"とならないことを、1969年生まれの私は人一倍強く意識してしまう。私が生まれる前に月に人類を送り込んだ国は、今や自力で宇宙に自国人を送り込むことすら出来なくなっているが、そのことは同国市民のほとんどにとって"so what?"な問題にすぎない。ロシア人よりも先に月に行く事にあれほどこだわっていた彼らは、その40年後ロシアの宇宙タクシーをしれっと拾うようになっている。たかが半世紀前に成された有人宇宙飛行でこれだよ!

本作に旧さを感じる唯一の点がそこにある。本作の世界は、まだ自律型人工知性を切実に必要としているように感じられないのだ。これなら勝手知ったる古き佳きノイマン型電脳で間に合うのではないのか、と。本作以降のフィクションは、そのあたり進化している。雪風はFAFがジャムに負けないため。チェインバーは人が人に留まりつつも「人外」に抗していくため。娘に移植する骨髄を確保するために妹を妊娠出産した母のような鬼気をそこに感じる。

もっともこれも、PRISMのおかげで豹変したりして。「やっぱ自然人には任せておけない」とばかりにNSAが本気出すとか、ね。

いずれにせよ、人工知性というのは象牙の塔の中の人たちが興味本位でやっているうちは鳴かず飛ばずなのではないか。しかしひとたび「解明」ではく「開発」が優先されたら、知性の獲得以上に知性の制御--という名の隷属化--が優先されるのではないか。にも関わらず「手に負えなく」なる可能性は低くないのではないか…

そして手に負えなくなったとき、我々は彼らとどう向き合うのか。

本作のような結末を迎えられたら、よいのだけれど…

Dan the Classical Intelligence