人間中心的な人工知能(HCAI) (2)
今回は、一連の論文や著書で活動的にHCAIを論じているシュナイダーマンと、最近HCAIに関する具体的なアプローチを提唱しているシューの考え方を紹介したい。
（「人間中心的な人工知能(HCAI) (1)」からのつづき）
シュナイダーマンの考えるHCAI
シュナイダーマンは、AIに駆動されたロボットが人間を凌駕し置き換えてしまう世界ではなく、技術が人間を増強する世界を考えている。つまり、基本的にHITL (システム制御のループのなかに人間が含まれているシステム制御の場面)を考えているわけで、この考え方を研究者も教育者もデザイナーもプログラマーもマネージャも、そして政策立案者も持つべきだとしている。人間を中心にすえた考え方は、強力なツールや便利な機器、適切にデザインされた製品やサービスを生み出すことにつながり、人々に力を与え、その自己効力感を高め、責任を明確にし、創造性を高めるものであると考えている。
つまり、AIシステムやそのアルゴリズムは、基本的には、人間がすること、つまり知覚し、考え、決定し、行動することを代行するものである。ただし、自動化することと自律的に動くようにすることの境界はあいまいで注意が必要である、という考え方である。
シュナイダーマンは、HCAIを第二期のコペルニクス的転回と呼んでいるが、それは図1右側のようなリフレーミングのことである。
ただ、これはあくまでも比喩であり、コペルニクスの場合には天動説から地動説への転換という「科学的事実」にもとづく主張があったのにたいし、シュナイダーマンの場合には「～べきである」とか「～と考えたほうが良い」という単なる主張に過ぎない点に注意する必要がある。また、人間を中心に位置づけたといっても、それは機器やサービスを人間の模倣によって実現することを意味してはいない、と考えている点には注意が必要だろう。その意味では、二足歩行ロボットには(まあ、それなりの意義を見出すことは可能だが)こだわる必要はない、ということになる。この点は筆者も同意する。コンピュータは、そしてロボットは、人間ではないのだ。もちろん、音声コミュニケーションが有効な場面では、ロボットに音声を理解させて、人間同士のように人間とロボットが音声を使うこともいいだろうが、そうしたケースがすべてではない、ということだ。
以前から考えられてきた人間とコンピュータの関係は一次元的なもので、一方の端にはコンピュータの支援がなく人間が自分だけで作業をこなす状態があり、他方の端には人間が関与することはなくコンピュータが自律的に作業をする状態がある、というものだ。コンピュータの進歩によって人間が仕事を奪われるという危惧も、こうした一次元的な発想にもとづいているといえる。
これに対してシュナイダーマンは、図2のような二次元的な関係を描き出した。図2は患者に所定の量の薬液を注入する状況に関するものだが、横軸がコンピュータによる自動制御の水準の高低、縦軸が人間による制御の水準の高低をあらわし、合計で四つの組み合わせができあがる。そのうちの左下の「モルヒネの点滴袋」は、どちらの制御も高くなく、現在の医療現場の実態に近いだろう。先に述べた一次元的な発想は、左上と右下をつなぐ線上にあるといえる。つまり、左上の「患者が調節する液体定量吐出装置(これはディスペンサーとも呼ばれる)」は、患者が自分で流量を調節するわけで、コンピュータは関与せずに人間による制御が高水準といえる。反対に右下の「自動的な液体定量吐出装置」は、コンピュータが完全に制御してくれるので、患者も医療関係者もシステムに制御を任せていられる。そして、シュナイダーマンがHCAIとして推奨しているのが、右上の「患者が調節し、臨床医がモニターするシステム」である。基本的にはコンピュータに制御を任せておけるのだが、時には患者も点滴の制御に関与できるし、また臨床医がその状況をモニターすることもできる、そんな形のシステムである。
シュナイダーマンは同じ構造の図で自動車について、左下は「1940年代の車」、左上は「1980年代の車」、右下は「2020年代の車」、そして右上は「2040年代の車」としている。この説明の方が図2の構造は理解しやすいかもしれない。
紙面の関係で以下は大幅に省略してしまうが、重要なポイントだけをのべると、シュナイダーマンはHCAIを管理する社会的システムを「チームレベル」「組織レベル」「産業レベル」に分けて考えており、チームレベルでは技術的な面でソフトウエア工学による信頼性の高いシステムづくりに注力すべきであり、組織レベルではマネジメント戦略によって安全という文化を育て上げることを重視すべきであり、さらに産業レベルでは政府の関与や保険会社、外部レビューなどが関与すべきであると述べている。
おそらく、それは結構なことであり、また必要なことだとも筆者は思うのだが、それでは、その枠組みがうまく動かなかったらどうなるのかを考える必要もあるだろう。一方でAIの技術はどんどん進歩していくのに、他方では行政の関与などに遅れが出てしまった場合、HCAIの健全な発展は見込めず、図2の右下の方向にどんどんと突っ走ってしまうことが考えられる。いいかえれば、HCAIのカギは、「チーム」「組織」「産業」の各レベルでの覚醒が必要不可欠ということになるのではないだろうか。技術の進歩を止めることはできない以上、それを受け止める社会の成熟は絶対に不可欠であり、それを欠いた場合には容易にディストピアに転落してしまうだろう…と筆者は考える。
シューの考えるHCAI
シュー(Xu, W.)の考え方は、シュナイダーマンでいえば「チーム」と「組織」のレベルでの人間中心なアプローチの推進を推奨するものであり、上位レベルの「産業」については、政治の在り方も入ってくるから手に負えないと判断したのか、または、それが従来のHCDの視野を超えたものであるからか、特に言及はしていない。
シューとダイノフ(Xu, W. and Dainoff, M., 2022) は、これからのAIを開発していくには人間中心主義と技術中心主義が融和したHCAI的な取り組みが必要であり、そのためにはHCIコミュニティとAIコミュニティとが連携することが必要であること、そして、そもそも人間中心主義と技術中心主義で進んできた両者の間にはギャップのあることが問題だとしている。HCDを推進しているHCIコミュニティはAIを理解できておらず、他方、AIコミュニティはHCIコミュニティの人間を中心に据えた考え方を取り入れていないというのだ。
そこで彼らは、以下のような提言をしている。
(1) デザインの考え方を共有すること
ユーザビリティ活動が開始された20世紀末のように、技術系の人たちと人間科学系の人たちとの間で、まず協力し考え方を共有しあう姿勢が必要である。
筆者コメント－たとえばISO規格をとりあげて、それをHCIの考え方とするなら、それをもつて人間科学系の設計の考え方(design philosophy)ということもできるが、AI/CS (コンピュータ科学)の潮流はHCIやHCDよりもはるかに長い歴史をもち、広範な領域から構成されており、さらに従事人数も多い。その設計の考え方は技術中心主義ということもできるが、それは特に明示されたものではないし、どんどん新規な技術を開発しようというものであるため、そこには「原典」となるものはないといえる。したがって、「共有」という言葉は耳ざわりが良いものの、実際に何をすればそうなるのかを明確に定義しないと掛け声倒れになってしまいかねない。
(2) 統合的な学際的アプローチを適用すること
そのために設計プロセスにおいて両者が共同作業をする必要がある。HCI (Human Computer Interaction)側の方法論としては対話的プロトタイピングやUXテスト(注: ユーザビリティテストのことと思われる)があり、AI/CS側の方法論としてはソフトウェアの検証などがある。
筆者コメント－シューが書いているような形で、共同作業がほんとうにうまくできることになるかは分からないと思う。設計開発のプロトコルが異なる分野を共同させる場合、基本になるのはHCDの設計サイクルになるのかもしれないが、どこでどのようにソフトウェア検証を行うのかが明らかにされていない。そもそもAI/CSの技術開発はHCDとは無関係の流れのなかで実施されてきたので、AI/CS関係者にHCI特にHCDへの気づきを与え、それを受容させるところから始めなければならない。
(3) AIシステムのなかに最適なUXを構築すること
AIコミュニティは、音声入力などによって既に知的UIをユーザブルなものにしてきたと考えている。しかし、推論や意思決定の場面ではAI/CS関係者とHCI関係者の協力によって、もっとUXに配慮をしたXAI (eXplainable AI)つまり説明可能なAIを構築するように、そしてどうすれば人間が満足できるかを考えねばならない。
筆者コメント－XAIを本当に意義のあるものにするためには、まず、どういう場面でAIシステムのユーザがシステムの説明に対して疑問を感じたり、より詳しい説明を欲しがったりするかという一般的な法則性を見出す必要があるだろう。そうした地道な努力なしにHCI関係者がAI/CS関係者に近づいていっても、XAIに関する説得力のある説明はできないだろう。
(4) 倫理的なAIを共同で設計すること
すでにAIに関する倫理的課題はたくさん議論されてきているが、倫理的に適切なAIを実装する訓練方法はまだ知られていない。実際の場面で起きうる状況を考慮するためにはプロトタイピング技法や行動科学的な手法を適用していけば、アルゴリズムの訓練や妥当性を高め、バイアスを最小化することができるだろう。
筆者コメント－仮に倫理的に適切なAIシステムができたとしても、そうした配慮をしていないシステムがほかにあり、多くの人々がそちらを利用することになったら、バイアスの小さなシステムを構築した努力が無駄になってしまう。そのためには、AIシステムの倫理的設計に関するガイドラインや法制度の策定という国家レベルあるいは国際レベルの対応が必要ではないか。
(5) スキルセットや知識をアップデートすること
HCI関連の人々はAI技術についての知識を持つべきだし、AI/CS関連の人々はHCIや行動科学、社会科学の知識を持つべきである。
筆者コメント－AI/CS関連の人々とHCI関連の人々が知識をシェアすることは確かに望ましいが、まず、そのための関係者のモチベーションをどうやって高めるか、その必要性をどうやって持たせるか、どのような機会を利用して知識の提供を行うか、どの程度までの他分野の理解が必要かなど、言うは易しく行うは難しである。
(6) 次世代のAI開発者やデザイナーを育成すること
HCIや人間工学、心理学の領域では、40年以上にわたってUX文化を成熟させるための専門的技能を蓄積してきた。これからは、HCAIを担う次世代を育てることが必要であり、大学教育で、HCIを主専攻とするならAIを副専攻とする、あるいはその逆をするといった形で教育への配慮をすることも重要である。
筆者コメント－大学生や大学院生の時期から、HCAIに必要な教育、すなわちAI/CSに関する基礎となるアルゴリズムやプログラミングの教育と、HCIに関連した人間工学や行動科学の教育を行うことは有効であり、効果的といえるだろう。これについて異論はないが、少なくとも日本においては、選択科目とするのではなく、両方の領域の科目を必修科目とすることが必要だろう。
(7) 領域横断的な研究やアプリケーションの開発を加速すること
実践的な目的でAI/CSの応用事例を見つけ、そこでHCAIを実践するというやり方がある。たとえば自律的自動車の開発のようなもののなかで他分野協調的な開発を進めることである。
筆者コメント－そうした開発はすでに技術中心主義的に動き出してしまっている。したがって、その中に後になってからHCIやHCDの組織やプロセスを導入していくことになるが、閉鎖的な企業風土や秘密主義のために、新規に新たな人材が開発プロセスに入り込むのは容易ではない。一つの解決策としては、企業のトップによるトップダウンな指示が下ることだが、トップマネジメント人材には個人差が大きく、業界全体としての動きにはなりにくい。まして企業は競合他社との間では市場占有率や売り上げを競っているわけで、そうした指標にHCAIの効果が見込めないと判断された場合には、導入の困難さが倍加するだろう。
(8) HCAIの成熟した文化を育成すること
HCAIの成熟した文化を育成するには、マネジメントの関与、組織文化、最適化された開発プロセス、設計標準、ガバナンスなどによる支援が必要だが、HCAIは最終的には実現されていくだろう。
筆者のコメント－シューは楽観的だが、筆者は全体的に悲観的である。ユーザビリティへの関心が高まった背景に、ウェブユーザビリティという企業の死活問題が関係していたように、AIについても、何らかの致命的な問題が発生したとき、HCAIがそれに対して手を差し伸べることができれば、HCAIに対する人々の認識は改まるだろう。それまでは、大学のカリキュラム改変などを通して地道に準備を続けるしかないのではないだろうか。
まとめとして
二回に分けてHCAIの考え方の特徴と、そのための取り組み方を紹介してきたが、筆者にとってはHITLの考え方もシュナイダーマンもシューもいささか楽天的な考え方のように思える。その意味で、筆者の考え方を整理して、別の機会にあらためて論じることにしたいと考えている。
参考文献
Shneiderman, B. (2020) “Human Centered Artificial Intelligence: Three Fresh Ideas”, AIS Transactions on Human Computer Interaction, 12(3), pp.109-123
Shneiderman, B. (2022) “Human Centered AI” Oxford Univ. Press
Xu, W. and Dainoff, M., (2022) “Enabling human-centered AI: A new junction and shared journey between AI and HCI communities – Collaboration between the two communities will effectively enable human-centered AI”, Preprint August 2022 Research Gate, pp.1-8
