AIが人間を差別する恐ろしい未来

アメリカで人種差別反対の火が燃え続ける今日。当然、人種差別には私も反対だが、将来的にはAIによる人間の差別が行われていくであろうということに、人々の焦点はまだあまり当たっていない。

私は、AI化が進めば進むほど、テクノロジーとしては便利になる反面、人間に対する見方は非常にシビアになると考えている。その辺りを掘り下げて考えてみたい。

仮説を立てるのは誰か

何十年も前から、仕事や研究にコンピュータは用いられていたが、従来の使用方法は「人間が作った仮説を検証するための道具」だった。

例えば、私の大学時代の研究室では、量子化学のシミュレーションをコンピュータで行なっていた。まず論理的にはこうなるはずだという仮説を立て、検証のために必要なハイスペックのパソコンを組み立てる。そして長い時間をかけてコンピュータに演算してもらい、その結果を元に仮説の検証をするという作業だ。

結果は様々だった。仮説の立て方が良くないこともあるし、仮説は良かったはずなのに演算結果が合わないこともある。フィードバックを回しながら研究を進めていく。コンピュータとの付き合い方はこんな感じだ。

しかし、最近のAI技術は、従来のやり方とは根底から異なる。「仮説を立てるのはコンピュータ」になってきているのだ。

その例を一つ紹介しよう。

2015年10月、囲碁の世界で大きな変化が起きた。Googleの子会社である DeepMind社が開発した囲碁AI「アルファ碁」が当時のヨーロッパ王者を5−0で完封してしまったのだ。(1)

ルールの複雑性からAIが人間に追いつくのは難しいとされていた囲碁において、あまりに急な出来事だった。何しろ、AIがこれまでプロレベルの人間にハンデ無しで勝ったことが一度もなかったのだ。

しかし、囲碁の本場はアジア。この時点ではまだAIが人間より強いという証明にはなっていなかった。翌年、アルファ碁と人間の戦いはアジアに場所を移すことになる。

約半年後の2016年3月、数多くの世界戦優勝経験を持ち、その前の10年間で文字通り世界最強の棋士と目された李世ドル九段がアルファ碁との決戦に臨んだ。

結果は4−1でアルファ碁の快勝。李世ドル九段は4局目に「神の一手」と評される好手で一矢報いたが、結果的にはその1局が唯一の勝ち星だった。

衝撃的な結果となった。しかし、世界中の囲碁関係者がざわめく中、たった1人だけ屈していない人類がいた。その男は、李世ドル九段とアルファ碁の1局目の後に「アルファ碁は李世ドルには勝てても、私には勝てない」と豪語していた。

彼は中国の棋士、柯潔九段。当時の世界棋士レート1位であり、李世ドル九段に対しても9勝2敗と大きく勝ち越していた。

囲碁における人類とAIの決戦はついに最終盤面を迎えた。もはや彼が負ければ人類に次はない。

迎えた2017年5月。世界最強の棋士、柯潔九段に対し、アルファ碁もさらにアップグレードして臨み、世界中が注目した三番勝負。

結果はアルファ碁の3戦全勝に終わった。それを雄弁に物語ったのが、負けが確定したときに席を外し、帰ってきたときには涙を拭いていた柯潔九段の姿だった。人類は敗北した。

アルファ碁の開発者であるデミス・ハサビスは、柯潔九段との1局目に対して「100手までは今までの人間との対局で最も接戦だった」と述べた。

この言葉は、アップグレードされたアルファ碁からすると「今まで人間に一度も敗れたことがない」「今まで戦った相手で一番強かった」という意味の両立だった。

この2点、「勝てなかったこと」「一番善戦したこと」のどちらにスポットライトを当てるべきだろうか。

もはや人類は理解した。柯潔九段が一番善戦したことに焦点を当てるべきであって、人間がAIに勝てないことはこれからは焦点にはなりはしないと。

さて、ここまで2015年から2017年まで、AIとしてのアルファ碁がどれだけ急速に進化してきたのかをみてきたが、実はアルファ碁は「人間が仮説を立てる」ところから出発しているAIなのだ。

アルファ碁は人間の棋譜(対局記録)をインプットするところから学習が始まるAIで、それを元に人工知能として対局しながら学習する。つまり、人類が長年積み上げてきた定石(こう指すのが一番いいとされる指し方)をある程度ベースにしている。

あれほど、コンピュータが仮説を立てる時代だと主張した割に、アルファ碁はそれでいうと旧式である。人間の作った仮説である指し方が出発点なのだから。

それならば、人間の仮説ではなく、完全にコンピュータの仮説で学習が進んでいった場合にはどうなるのだろうか。

AIの恐るべき仮説設定

柯潔九段が敗れた2017年5月から5ヶ月足らず。今までと異なる新しい囲碁AIが誕生した。

そしてわずか40日後。李世ドル九段を負かしたあのアルファ碁を、新しい囲碁AIは完膚なきまでに叩きのめした。結果はなんと100戦100勝。

柯潔九段を下したアップグレード済みのアルファ碁に対しても89勝11敗と大差をつけた。

出来てから40日の学習で今までの囲碁AIを無力化した、この最新の囲碁AIの名前はアルファ碁ゼロ。お察しの通り、開発した会社は同じだが、学習方法は決定的に異なっていた。

上述のように、「人間の棋譜(対局記録)を学習すること」を土台としたアルファ碁と違い、アルファ碁ゼロは「ルールだけをインプット」し、後は同じように人工知能同士の対局で学習させたのだ。

つまり、「人間の作った仮説ベース」か「コンピュータがゼロから作りあげる仮説ベース」かがこのときはっきりと問われた。

結果は、コンピュータ自身がゼロから学習し、仮説を作ったほうが圧倒的に強かった。人類の叡知の結晶だと思われたこれまでの膨大な対局は、残念ながら仮説が間違っておりノイズとされる箇所があったということになる。

この出来事は、囲碁というゲームにおける一幕だが、AIが仮説を立てたほうが論理的だという事実は、より人間の生活に土足で踏み込んでくることになる。

買い物とAI

日立製作所の研究者である矢野和男氏は、ホームセンターの実店舗の協力のもと、人間とAIが1ヶ月間での売り上げ向上をかけて勝負をするという面白い実験を行った。(2)

まず人間側の戦略だ。こちらは流通業界で実績のある専門家の2名を呼び、策を練った。会社の幹部や現場の店長までヒアリングをしながら、事前のデータも参考にしつつ、注目商品を設定し、それをうまく陳列、広告できるようにするという非常に現実的な戦略だ。

対するAI側。AAA氏のチームはビッグデータ用の人工知能ソフトウェアを用いて、仮説を立てるところから完全にコンピュータに任せた。

その能力を発揮する上で、彼らは事前に10日だけもらって、店員や客の協力のもと、名札型のウェアラブルデバイスを店内でつけてもらった。そのデバイスにはGPSや加速度センサを搭載しており、シンプルに言えば、人や商品の場所や動き、向き、会話の有無などを計測できる。

後はその集まったデータを要素ごとにバラバラに分解し、売り上げにつながる膨大で人間には網羅できないほどの要因を組み合わせながらAIが自動分析した。もちろん、人間の常識や仮説などは一切用いられていない。

さて、1ヶ月後。結果はどうなっただろうか。

人間側の実施した対策は、店舗の売り上げや顧客の行動に残念ながらほとんど影響を与えていなかった。

それではAI側はどうだったのだろうか。

なんと売り上げが15%増加した。それでは、AIが事前に分析して、実施した対策とは一体なんだったのだろうか。

AIは事前の10日間の分析で1つの要素に行き着いた。それは「店内の特定の位置に従業員がいる」という実に奇抜な要素だった。そのAIの分析に従い、店側にはできるだけその場所に人を置くように依頼していたのだ。

結果として、その「特定の位置」には従業員の滞在時間が1.7倍増えた。そしてそれに売り上げが連動したというわけだ。

非常に興味深いのは、人間が分析しても、なぜその場所にいることが売り上げにつながっているのかはわからないことだ。その位置に人がいるだけで、遠く離れた単価の高い商品棚になぜか客の流れが入るようになる。

データもなしにそんなことを主張すれば、その人は気が狂っているとでも思われるだろう。そう、それこそが人間の仮説を作る能力の限界なのだ。

こうなってしまうと、その手の専門家は不要になってしまうし、仮説を作り分析するプロセスはAIが担うことになる。

さぁ、いよいよ人間差別の鐘の音が聞こえてきた。未来予測を始めよう。

忍び寄るAIの差別

イスラエルの歴史学者、ユヴァル・ノア・ハラリの未来予測が秀逸だ。(3)

今日すでに、しだいに多くの銀行や企業や機関が、アルゴリズムを使って私たちに関するデータを分析し、決定を下している。あなたが銀行に融資を申し込むと、あなたの申込書は人間ではなくアルゴリズムによって処理される可能性のほうが高い。そのアルゴリズムは、あなたについての大量のデータと他の何百万もの人についての統計を分析し、あなたが融資するに足るほど信頼のおける人物かどうかを判定する。アルゴリズムのほうが人間の銀行員よりも的確な判断を下すことがよくある。だが問題は、もしアルゴリズムが一部の人を不当に差別しても、それがなかなかわからない点だ。もし銀行があなたへの融資を断り、「なぜですか?」というあなたの問いに、「アルゴリズムがそう申しておりますので」と返答したとしよう。「なぜアルゴリズムはノーと言ったのですか? 私のどこが悪いのですか?」と訊くと、「申し訳ありませんが、わかりかねます。このアルゴリズムを理解している人間は一人もおりませんので。なぜなら、それは高度な機械学習に基づいておりますものですから。しかしながら、私どもは弊社のアルゴリズムを信頼しておりますから、お客様への融資はいたしかねます」と銀行側は答える。

話はいよいよ銀行の融資において、私たち自らがAIに判断されるというフェーズに差しかかってきた。

こうなると、もうお手上げだ。AIが突きつけるのは厳然とした結果だけだ。アルファ碁プロがなぜその一手を打つのか我々にはわからない。そういったAIの思考過程全てを人間が理解できるのだとしたら、そもそもそんなハイスペックな人間はAIを使う必要はないからだ。

しかし結果だけを差別なく突きつけられることこそが最大の差別なのだ。そしてその差別はどうやら論理的には正しいらしいというおまけ付きだ。

先述のホームセンターでは、「特定の位置に従業員がいる」という小学生でも分かる極めてシンプルな戦略をAIは打ち出した。

これが例えば就職活動の場でこういう風に変化したらどうだろうか。

膨大なビッグデータのAIによる分析の結果、以下のような人は就職後、会社に価値を創造しにくいと発表されたとする。例えば「苗字に山がつく人」「宮崎県出身の人」「身長176−178cmの人」「人差し指と薬指が同じ長さの人」という要素に有意な差が出てしまった。(あくまで例として話しているので、該当している方には申し訳ない)あたかも「特定の位置に人がいる」ことで売り上げが上がる要素のようにわかりやすいものだ。

そうであれば、企業側の論理的な最適解は、AIの言うようにそれらの条件の人を弾くことになる。何しろAIは人間に見えていない正解を見通せるのだから。

しかも、大学受験などと異なり、就職・転職活動は公開される点数制ではない。いくらでも理由をつけて、上のような要素を持つ人を弾くことができる。

弾かれていることに気付いた場合には、先程の要素を持った人たちは差別だと当然ながら主張する。特に「苗字に山がつき、宮崎県出身で、身長が176−178cmであり、人差し指と薬指が同じ長さの人」にとっては極めて深刻な問題だ。

彼らからすれば、自分たちだけが就職、転職市場や婚活市場でビッグデータを理由に差別されるとしたら非難の声を上げざるを得ない。

さて、アメリカの場合、一部の大学では人種に配慮して白人や黒人の生徒の割合をあらかじめ決めて取っている。白人も黒人も、それぞれの人種の中で上位に入れば良いということだ。日本人からすると、その判断こそ差別的なのではないかと思う部分もあるが、アメリカではデータとして黒人家庭が貧困であることがその配慮の根拠になる。

私が好きなNBAのスーパースター、レブロン・ジェームズのように巨額の富を築いている黒人ももちろん存在するが、全体的なデータを見た場合の配慮だ。

であるとするならば、ビッグデータをAIが分析する中で現れたと仮定した先程の4つの要素も、データが示す事実である以上配慮が必要なのだろうか?

アメリカの大学のように、企業は「苗字に山がつく人」も「宮崎県出身の人」も「身長が176−178cmの人」も「人差し指と薬指が同じ長さの人」も一定割合とりましょうね。それらに該当する人がいないか極端に少ないような会社は人権団体が監視してますよと、ということになるのだろうか。

そしてその有意な差を示すビッグデータは日々AIによって分析されアップデートされていく。企業はいくらでも優秀な人を雇いたいし、人間は素晴らしい結婚相手を求めるから、いくらでもビッグデータ解析の社会的なニーズは生まれるだろう。

そうすると、全ての細かい有意な差に配慮しなければ差別なのだろうか。要素が多くなればなるほど、もう訳がわからなくなってくる。

結局は、冒頭のハラリの指摘のように「あなただからダメですよ」という差別の究極系に行き着くのかもしれない。

誰かから、あなたはおかしいと感情的に言われたのであれば、その相手をSNSでブロックすればいいだけかもしれないし、相手が間違っていると思い込めば済むのかもしれない。

しかし、AIは決してあなたを感情的には差別をしない。なんの偏見もなく、なんの怒りや恨みもなく、冷静沈着に差別意識一つ持たずあなたを差別する。

さぁ、冒頭のハラリの文章の続きを読んでいただこう。大変示唆に富んだ内容だ。

差別が女性や黒人といった集団全体に向けられたときには、その集団は団結して、自分たち全員に対する差別に抗議することができる。だが、今やアルゴリズムはあなた個人を差別しかねないし、あなたにはその理由が想像もつかない。そのアルゴリズムは、あなたのDNAか、経歴か、フェイスブックのアカウントに、何か気に入らない点を見つけたのかもしれない。そのアルゴリズムは、あなたが女性だから、あるいはアフリカ系アメリカ人だから差別するのではなく、あなたがあなただから差別する。あなたが持っている、何か特定の点が、そのアルゴリズムには気に入らないのだ。それが何か、あなたにはわからないし、仮にわかったとしても、他の人々と団結して抗議することはできない。それと完全に同じ偏見に苦しんでいる人は誰もいないからだ。その偏見が向けられているのはあなた一人なのだ。私たちは二一世紀には、集団的な差別に加えて、しだいに深刻化する個人的な差別の問題にも直面する恐れがある。

感情まで精査対象に

さて、このブログのテーマである感情という観点からもAIの差別を考えてみよう。

Googleが2012年から約4年もの期間を費やして研究した結論の一つである「チームの成功にとって最も重要な要素は心理的安全性」という内容は今や多くの人が認知している。

心理的安全性の概念を提唱したハーバード大学のエイミー・エドモンソン教授によると、心理的安全性の不足は「無知だと思われる不安」「無能だと思われる不安」「邪魔していると思われる不安」「ネガティブだと思われる不安」を引き起こし、その人の行動に大きな影響を及ぼすとのこと。(4)

こういった心理的安全性を欠く空間を我々は経験しており、例えばその場に人の非を責めてばかりの人や気難しく怒りっぽい人、嫉妬深くて周りと比較ばかりする人がいた場合には途端に心理的安全性がなくなることは研究に頼らなくても理解している。

とするならば、会社のチームとして一番重要な心理的安全性を生み出せない感情特性が強い人をAIで見抜けるようにさえなれば、会社は厳しくチェックするようになる。

実際に、人の声や表情、目など人の感情を分析できる要素はいくらでもありそうだ。

オーストラリアのアカデミックニュースサイト The Conversation では、目を分析すると人間の感情を理解できる可能性が高いというアメリカのコーネル大学における2017年の研究結果を先月に紹介している。(5)

例えば、こうした技術が進み、目を分析するだけで相手の感情が読み取れるポータブルデバイスが作られれば、就活者や婚活者は厳しいチェックに晒されるかも知れない。

プライバシーの保護という名目は、就活や婚活から人々の感情を隠してくれるだろうか。それでもデバイスが開発された場合、採用する企業側や婚活相手はそれを本当に用いないだろうか。

世界は常に倫理観をテクノロジーが置き去りにしてきた。

アメリカでは精子バンクが普及しており、金髪の青い目、高身長高学歴の男性の精子が人気で、高額で売買される。スウェーデンでは、15歳になったら両親の許可なく性転換手術を受けることができる。

感情分析デバイスはどうなるだろうか。構図としては、プライバシーの権利VSテクノロジーの進歩という、アルファ碁VSプロ棋士とはまた別の形での、人類とAIの戦いになりそうだ。

ここで少し、歴史の流れを遡って考えよう。

2005年頃に集中してTwitterやFacebookなどのSNSが世界中に広まると、人々は「悪い行動」を取りにくくなった。今までは個人が発信力を持っていなかったので、誰かの悪い行動は噂レベルでしか広がらず、しかも真偽が曖昧なままだった上に、被害者に力がなければどうすることもできなかった。

しかし、SNSが「無力な個人」にテキストのみならず「画像や音声情報の発信」という武器を与えたおかげで、今まで闇の中で光を当てられなかった悪事が表に出るようになってきた。

時代がそれに合わせるようにコンプライアンスという言葉を強力にし、悪事は厳しく監視されるようになった。

AIのテクノロジーが進歩して人間の感情分析が進むと、今度は人間の行動のみならず人間の感情が裸になり、「悪い行動」だけではなく「悪い感情」が明らかになってしまうかもしれない。

今誰かが発信しているYoutubeの映像も、歴史上の偉人の有名なスピーチも、どういう感情で話されていたのか、無情にもはっきり分析される時がくるに違いない。

その時、人類はAIからの差別に耐えられるだろうか。

様々な予測には触れたが、AIによる差別が具体的にいつどのように顔を出すか私にはわからない。私に分かるのは、彼らの無機質な足音が近づいているということだけだ。

参考・引用
(1)http://think.leopalace21.co.jp/article/20180129l.html

(2)矢野和男『データの見えざる手:ウエアラブルセンサが明かす人間・組織・社会の法則』草思社文庫、2018年

(3)ユヴァル・ノア・ハラリ『21 Lessons –21世紀の人類のための21の思考』河出書房新社、2019年

(4)https://youtu.be/LhoLuui9gX8

(5)https://theconversation.com/face-masks-why-your-eyes-might-be-saying-more-than-you-realise-145076

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

ABOUTこの記事をかいた人

IQ155オーバーだが、自信があるのはEQ(心の知能指数)の方で、繊細な感受性の持ち主。 大学時代に週末はあらゆる大学生と人生を語り合うことに費やした結果、人を見下していた尖り切った人生から、人の感情を共感し理解する相談役の人生へとコペルニクス的転回を果たす。 これからの時代は感情の時代になると確信しており、感情のあり方が幸せに直結するとの考えから、複雑な感情の流れを論理的に整理することに挑戦している。 モットーは Make the invisible visible 詳しい自己紹介はこちら