ロボット三原則とHCD

アシモフのロボット三原則

有名なアシモフのロボット三原則は次のようなものである。

• 第一条 ロボットは、人間に危害を加えてはいけない。また、何もしないことによって、人間に危害を及ぼしてはいけない。
• 第二条 ロボットは、人間によって与えられた命令に、服従しなければならない。ただし、それはその命令が、第一条に矛盾しない場合に限る。
• 第三条 ロボットは、自分の存在を守らなければならない。ただし、それはそうすることが、第一条または第二条に矛盾しない場合に限る。

これは、彼が1950年に執筆した『I, Robot』(日本語版、『われはロボット』小尾芙佐訳、早川書房)の冒頭に書かれているもので、ちょっとでもロボットに関心をもった人なら読んだり耳にしたことがあるだろう。

三原則とHCD

この原則を読めば、それがロボットは人間に仕えるものであり、人間のために作られたものであるという考え方に立脚していることがわかるが、それは正に人間中心設計(HCD)の考え方を表現したものといえる。(ちなみに、(編注:前回の記事とは異なり)この場合はユーザ中心設計という表現より人間中心設計という表現の方が適しているだろう)。

ただ、ISO規格の人間中心設計では、こうした自律性を持った人工物を想定していない。これは「まだ」と言ったほうがいいかもしれない。ごく近い将来に、そうした事態が到来することが考えられるからだ。

いや、自律性を持った人工物でなくても、三原則は実装されるべきものである。たとえば自動車は、自動運転車でなくても、人を轢かないように、障害物や他車に衝突しないようにアルゴリズムによって制御されているべきだろう。近年の自動停止装置はその方向の技術である。

産業用ロボットだって、間違って危険区域に人間が入り込んだら自動的に停止すべきかもしれない(これは既にそうなっているのかもしれない)。運転中の洗濯機の蓋が開かなくなっているのも、動作中の電子レンジの扉が開けないようになっているのも、(簡単な技術で解決可能なケースだが)安全性確保という同じ方向の考え方によるものだ。

ただ、扇風機は、長髪を巻き込んだら即ガタンと停止すべきであるが、こうしたことまではまだ実現されていない。こうしたちょっと難しい状況までを含めて、AIやセンシングの技術が活用されるべきだろう。

ISO 13407を審議していたときに、有効さ、効率、満足度に加えて安全性を加えるかどうかという議論があり、結局、それはユーザビリティとは違うからという理由で含められなかった経緯がある。いいかえれば、ISO 13407はユーザビリティの規格なのか、人間中心設計の規格なのか、という性格づけについて揺れていた時期がある、ということでもある。

その議論での経緯を振り返ると、結局、人間中心性よりはユーザビリティを重視した結果になっている。果たしてそれで良かったのか、と改めて考えさせられる。ISO 9241-11はユーザビリティ概念を規定した規格だから、安全性を含む必要はない。しかしISO 13407ではそれを含んでいるべきだったし、ISO 9241-210は、UXやサステイナビリティについて触れるくらいなら、当然のこととして安全性を含めて人間中心設計を考えるべきだったといえる。

三原則の実装

ところで、三原則を実装しようとすると、結構難しい問題が色々とでてくることは、ちょっと考えて見ると分かるだろう。「人間に危害を加える」とか「人間に危害を及ばせる」という表現のなかの「危害」という言葉の定義がまずおおごとだ。身体的な危害に限定されるのか、心理的な危害にも及ぶのか、という点がある。身体的な危害といっても、ちょっとした怪我、擦り傷や軽い打撲も含むのか。転んだって擦り傷をつくることもあればつくらないこともある。どうやってそれを予測したり判別したりするのか。

さらに心理的な危害を含むとしたら、それはどの程度の場合になるのか。人間が不快感を感じることすべてに拡張されるべきなのか。それともトラウマティックなことだけをさけるべきなのか。またトラウマティックなことというのはどこからがそうなのか。

また、あちらを立てればこちらが立たずの状況というのも沢山ある。一方の人間の危害を避けることが他方の人間に危害をもたらすことになるとしたらどうすべきなのか。人間に「重要なひと」と「重要でないひと」を区別するのか。つまり「飼い主」を重んじるように設計されればいいのか。

三原則はきちんとしているようで、実際にアルゴリズムを設計しようとすると実に困難なものであり、曖昧さを含んだものである。洗濯機や電子レンジの扉のようにシンプルにはいかない。

誰か、この問題を本気で研究していないのだろうか。安全性工学という領域が最も近いような気がするが、さて、予測可能な範囲の「危害」についてはあらかじめ設計して実装しておくことはできるだろうが、危険予知とその程度の判断ができ、回避行動をきちんと決断できるようなアルゴリズムを考えるのは、とても難しいことである。しかし、真の意味での人間中心設計を考えるなかで、今やそれを研究しなければならない時期になってきているだろう。