コンピュータの声が示す隠れた差別意識

ニューヨークタイムズの記事から。

Computer voices expose a strong set of biases
(コンピュータ音声が、強い差別意識を表面化させる)

副題は How machines sound can change or harden how we see each other つまり、「機械の音は、どのようにして、私たちが互いを意識しているかを変え、または強めるか」となっています。

これだけで入っている意味がよくわからないので、本文を読んでみましょう。

Jason Mars is an African-American professor of computer science who also runs a tech start-up.
「ジェイソンマースさんはアフリカ系アメリカ人(いわゆる黒人ですね)の教授であり、また新しく立ち上げた、技術系の会社を持っています」

When his company’s artificially intelligent smartphone app talks, he said, it sounds “like a helpful, young Caucasian female.”

彼の会社の人工知能を持つスマートフォンのアプリが話すと、それは、まるで、役に立つ、若い白人の女性のような話し方をする、と彼は言う。

”There’s a kind of pressure to conform to the prejudices of the world”when you are trying to make a consumer hit, he said. 

「消費者にはヒットしても、世の中の偏見を確認するようなプレッシャーがある、と彼は言う」

“It would be interesting to have a black guy talk, but we don’t want to create friction, either. First we need to sell products.”

「黒人が話しているように作っても面白いだろう。でも摩擦を生みたくないんだ。まずは製品を売る必要がある」

Mr. Mars’s start-up is part of a growing high-tech field called conversational computing, which is being popularized by programs like the Siri system in Apple’s iPhone, and Alexa, which is built into Echo, Amazon’s artificially intelligent home computing device.

「マース氏の企業は、会話するコンピュータといわれる、アップルのアイフォーンの、Siri  system や、アマゾンの人工知能ホームコンピュータのエコーに組み込まれているものだ」

こうしたアプリで、自動的に組み込まれていってしまう「声」の質が、白人の女性とかイギリス人執事のものなのだ、という。

はたして、われわれは、役に立つ声というと、イギリス人執事を連想してしまうのか?

たしかに、利用者の要求に合わせて、声の質も変更できるようになっているのだろうけれども、実際には、万人向けのプログラムでは、白人を優先するシステムになっている。

そこが差別の表れてくる点になってしまっている。

ここのところで登場する表現Caucasian ですが、relating to one of the traditional divisions of humankind, covering a broad group of peoples from Europe, western Asia, and parts of India and North Africa. また、white-skinned; of European origin
ということになっています。

「人類の昔からある分類の1つにかかわり、ヨーロッパ、西アジア、インド、北アフリカの一部の幅広いグループの人々を含む。」とあります。さらに、「白い肌の人々、ヨーロッパ起源の」ということにもなります。

私たちがあまり日頃気付いていない、隠された考え方として、こうした受け取り方もあるのですね。

コメントは受け付けていません。