人間とコンピュータの共生のあり方
人間とコンピュータの関係について共生という概念を導入したのはLickliderである。生態学的な共生には三種類の関係があり、人間とコンピュータの関係は片利共生であると考えていいように思われる。
Lickliderの提唱
人間とコンピュータの関係について「共生(symbiosis)」という概念を導入したのはLickliderである。その論文 “Man-Computer Symbiosis” が発表されたのは1960年であるが、その年は、世界初の商用コンピュータシステムであるIBMのSystem/360が登場する4年前であり、まだミニコンピュータも、いわんやパーソナルコンピュータもなかった時であり、その時代に共生という考え方を導入したLickliderの先見性は驚くべきものである。
なお、現在のコンピュータに関連する考え方としては、たとえばBushのMemexというハイパーメディアのもとになる考え方は1945年に出されていたし、McCarthyは人工知能という概念を提唱していた。また入出力技術や自然言語処理、画像認識、音声認識といった要素技術はこの前後に萌芽期を迎えている。
こうした時代背景のうえに、Lickliderはコンピュータが一般的な人工物とは異なり、人間の認識機能に関わる知的人工物となることを予見し、要素技術を統合したシステムとしてのコンピュータを特別な人工物としてとらえ、人間との共生関係をSFとは異なる現実的なものとして考える必要性が迫っていると考えたのだ。
彼は次のように述べている。「予想される共生的なパートナーシップでは、人間が目標を設定し、仮説を立て、基準を決定し、評価を行う」「コンピュータは、技術的・科学的な思考における洞察と判断のために準備しなければならないルーチン的な作業を行う」。この発言は今日の状況にも合致するだろう。ただ、「ルーチン的な作業」という部分は生成AIが登場した今では当てはまっていないが、63年も前の論文であることを考えれば致し方ないといえるだろう。
三種類の共生関係
さて、Lickliderは「共生」という表現しか使っていないが、生態学的な共生には三種類の関係が考えられている。
まずは、相利共生(mutualism)である。これは、お互いの共存から利益を得る共生関係で、特定のハチ(Blastophaga Grossorun)とイチジクの間に見られるものである。ハチは花の中に産卵して利益を得、イチジクはハチによって受粉できるわけである。プラスとプラスの関係ともいえる。
次が、寄生(parasitism)であり、一方だけが利益を得、他方は不利益を被る関係である。たとえばコロモジラミと人間では、コロモジラミは皮膚から血液を摂取し、さらに人間を病気に感染させたりする。つまりコロモジラミにとってはプラスだが人間にとってはマイナスという関係である。
残るのが片利共生(commensalism)である。これは一方だけが利益を得、他方は利益を得ず、また不利益も被らない関係で、クジラとその皮膚に張りついたフジツボのような関係である。ここでは、移動能力のないフジツボはクジラの移動につれて結果的に移動し新たな餌場を得ることができるが、クジラにとっては特に利益も不利益もない。つまり、プラスとゼロの関係といえる。
そこで次に考える必要があるのは、人間とコンピュータの関係はこれらのうちのどれに該当するのか、ということである。人間はコンピュータを利用することによって利益を得るが、コンピュータは人間から何かを得ているわけではない。もちろん電源を供給されたり、新しいアプリをインストールされて強力になったりすることはあるが、それはコンピュータが求めてしたことではない。あくまでも、利用者である人間が利用しているコンピュータをもっと強力なものにして、そこから得られる便益を最大化したいと考えたからである。そう考えると、人間とコンピュータの関係は片利共生であると考えていいように思われる。
コンピュータは行為主体になるのか
さて、人間とコンピュータの関係は片利共生であると書いたが、コンピュータが「ルーチン的な作業」をするだけにとどまらず、近年はAIによって行為主体に近づいているように見える。
そんなわけで、コンピュータが人間のどのような機能をサポートするようになってきたかを概観して、コンピュータが人間のような行為主体となり、人間との関係が片利共生から相利共生に変化するだろうかを考えてみたい。
人間の機能をサポートすることについて関連して、人工物は人間の延長(extension)であるといわれることがあったことを思い出したい。人間は、自由に移動したいとか、努力を最小にしたいとか、長生きしたいとか、何かを深く知りたいとか、言語の壁を突破したいとか、いろいろな要求を持っている。それらについて様々な人工物を、特にここではコンピュータに関連した機能を発明することによって、人間がいかにコンピュータを進化させてきたかを見てみたい。
まず身体面では、単調だったり力がいったりする作業を代わってほしいという要求に対しては産業用ロボットが作られた。また健康を維持したいという要求に対してはペースメーカーなどの機器が作られた。手足の運動に障害を持つ人の持ちたい、歩きたい、走りたいという要求に対しては義肢、つまり義手や義指や義足などが開発された。その他、身体的機能については、さまざまな代替手段が発明されたが、基本的にそれをどう動かすかは人間の意思によるものだった。
つぎに精神面というか知的側面では、まず感覚や知覚の機能を代行させようとしてパターン認識機能が開発された。また学習や記憶という面では機械学習やビッグデータがそれを補助あるいは代行するようになった。問題解決や思考という面では問題解決AIが発展してきた。そして自然言語処理や、さらに最近は絵や写真を作ることについても生成AIが進展している。
ただ、人間のもっている機能的特徴はこれだけではない。感情や動機付けという側面や自己意識という側面があり、これらはある意味では人間を人間たらしめている特徴ともいえるだろう。これらは疑似的にコンピュータに埋め込むことは不可能ではないだろうし、ChatGPTなどは感情を持たないように設計されていますとまで言っているが、筆者はそれを疑っている。感情や動機付けと自己意識は関係づいているし、また人間の身体性との関係も重要である。つまりアタマだけのAIでは真の意味での主体性は確立できないのではないか、ということである。
となると、人間とコンピュータの関係は、コンピュータが真の意味で行為主体になれない/ならないのであれば、あくまでも片利共生であって相利共生になることはないのではないか、できないのではないか、という考えに至るわけである。比喩的にいえば、コンピュータは人間にとって身体的・精神的(知的)な「鎧」であり、人間が搭乗する「ロボット」のようなものにはなりうるが、人間と対等な形での共生相手にはならないのではないか、ということである。
行為主体こそが問題
人間とコンピュータが片利共生の関係にあるとすると、人間がその要求を満足させようとしてコンピュータを利用する行為主体であるのに対し、コンピュータは特に自分の要求を持たず(そもそも自分という主体がない)、人間の要求を実現するために指示された処理を行うということになる。そして、もちろん人間とコンピュータが寄生の関係にあるわけではないから、コンピュータは人間の指示に従うことによって損害を被ることはない。
一般的な状況であれば、人間は悪意をもってコンピュータを使うわけではない。つまりバールという道具でショーウィンドウを破壊しようとか、包丁という道具で人を刺したりしようといったことはしない。人間は、自分の要求をコンピュータの力によって強大化させることによって利益を得ている。
しかし、特殊な状況、つまり、コンピュータを利用する人間が悪意や邪心をもっていて、そのパワーを自分の悪意や邪心の実現のために使おうとするような場合には、コンピュータを利用する人間は他の人間が被る被害を増大させてしまうことになる。これは、人間の側にコンピュータを利用するネガティブな人間と、その影響を受けてしまう人間との二種類、つまり加害者と被害者がいる状況、いいかえれば社会的な状況で発生する。人間社会を構成している様々なシステムをハッキングしたり、統治者が国民を監視したりしようとする場合がそれに相当する。
George Orwellが書いた「1984」という小説に描かれる世界は、コンピュータのパワーを悪意ある為政者が人民の管理に用いている状況を描いており、まさにその事例といえる。この場合、コンピュータには主体がないから、指示を与える人が善人か悪人かは判断できず、指示されたとおりの処理を行ってしまう。これは片利共生のもたらすネガティブなケースといえるだろう。
ネガティブケースを防ぐには
そのようなネガティブなケースが起きないようにするためには、一つにはコンピュータに感情や動機付けや意識主体の機能をもたせて、それを「善導」し、コンピュータ自身がそれを防止できるようにすることが考えられる。しかし、これはコンピュータが行為主体や意識主体になりうるかという根本的な問題にかかわっており、少なくとも筆者は実現困難なことだと考えている。
となれば、やはりコンピュータを使う人間、そして人間の社会が、いかにしてコンピュータの「悪用」を防ぐか、防げるか、ということになるだろう。その意味では、ネガティブケースを防ぐには、国内法や国際法による法制度の整備や教育による倫理観の醸成に期待するしかないのかもしれない。つまり、人間や社会の側でネガティブな利用を制限し抑制するような仕組みを作らなければならないし、それができなければ悪夢は現実のものとなってしまう、ということだろう。
そのために必要なことは、コンピュータ関連の技術ではなく、心理学などの社会科学によって人間性に関する理解を深めることではないかと思う。人間という生物が何をやり何をやらないのか、何をやりたがり何をやりたがらないのか、何ができ何ができないのか、そうした人間の性(さが)の実相を理解し、それにもとづいた制度化を行っていくことがまず必要なのではないかと思われる。これが片利共生状態にある人間とコンピュータの関係を最適化するための道であると考える。
