AIの「民主化」・バイアスと関係の築き方

深掘り・小宮山教育新聞特任解説委員 小宮山 利恵子 (リクルート次世代教育研究院院長)

9月5日から7日にかけて、米サンフランシスコで開催されたAI(人工知能)のカンファレンス「O’Reilly’s AI Conference」に参加した。AIは多くの産業で取り入れられ、教育においても既に「スタディサプリ」などで利用されている。AIがそこかしこに入り始めている状況で、同カンファレンスでは「Democratize AI」という言葉が多用されていた。そのまま訳せば「AIの民主化」だが、誰もがAIを使えるようになるという意味で使われている。今後さらに利用が進むAIについて、どのような課題があるのか、また人間と共存するためにはどのようなAIが必要なのか。興味深かったセッションをいくつか紹介したい。


■AIの「バイアス」

テクノロジー業界アナリストであるスーザン・エトリンガー氏の「Ethical AI: Building Producats that Customers Will Love and Trust(倫理的なAI:顧客に好かれ信用される製品をつくること)」というセッションでは、テクノロジー産業が考えるAIと、大多数の人が考えるAIでは認識に差があるのではないかという議論を提示していた。

例えば、Facebook社の前最高セキュリティー責任者は「大企業に勤めている人なら誰でも、AIのアルゴリズムが中立だと考える人はいない。そのリスクについて全く無知な人はいない」と話す。

一方で、多くの人々はAIについてネットでどのような言葉で検索しているかといえば、「失業危機を引き起こすのではないか」「危険ではないのか」など、消極的なイメージを抱いていることが分かる。その差をどう埋めていけばよいのか。

同様に、AIが出す結果にもバイアスが掛かっていると警鐘を鳴らす。例えば、英語とトルコ語で「彼女は医者です」をGoogle翻訳を利用して訳すと興味深い事象が発生する。英語は「She is a doctor」でトルコ語に変換すると「O bir doktor」となる。このトルコ語を英語に再度変換すると「He is a doctor」と変換されるのだ。これは、医者が男性の割合が高い職業のため、それにAIが引っ張られて「She」とすべきところを「He」と変換してしまうことを示している。

最近使われるようになっている音声アシスタント機能でも、例えばアマゾンのAlexaは、アフリカ系英語を除いたデータによって学習をされていたという事例もある。つまり、アフリカ系の英語で話しかけても、Alexaは理解できず応答できないということだ。

その上、「Alexaから発せられる声は、なぜそんなに女性っぽい声でなければならないのか?」という疑問もある。そこに性差別が存在しているのではないかという議論だ。「自覚のない差別」がこれらに存在していると論じ、限られたデータを用いた結果出てきた影響を私たちは考える必要があると説く。

■AIと関係を築くには

IBMのデザイナーであるアダム・カトラー氏の「Forming emotionally authentic relationship between humans and machines(人間と機械の間に、感情的に信頼できる関係を築くこと)」では、AIがどのように人間と付き合っていけばよいかを議論した。AIについて考える前に、まず私たち自身はどのように人間関係を築いているかを考える必要がある。

健全な人間関係には「目的」「価値」「信頼」が重要で、テキサス大学のマーク・ナップ教授によると、人間関係の構築には「出会い」「試行錯誤」「拡張」「統合」「結合」の段階があると考えられている。「統合」は、自分の生活圏にその人が入って来ることを示し、「結合」は結婚までいくような強固な結び付きがあることを示す。

この段階をAIに当てはめてみると、「出会い」ではAI自体の人格を構築し、「試行錯誤」では人間と意味のあるやり取りができ、「拡張」では状況を把握したやり取りができるようになる。「統合」段階になると、機能的に完全なAIと人との関係性を示したデータを構築するようになる。

最後の「結合」の状態がどのようなものになるか、まだ分からないが、人間とAIの関係は始まったばかりで、私たちはAIの親のようなもの。AIに、私たちが価値があると考えているものを教える必要がある。