アートでも人工知能の脅威？ AIの危険な3つの側面とどう共存するか？
はてブ
送る
NECのC&Cユーザーフォーラム＆iEXPO2018で現時点の人工知能（AI）がどんな具合に進化しているのか、人工知能による脅威として何が考えられるのか、そのうえで我々がどうしていくといいのか？ という話が聞けたので、それをまとめる。
登壇者は、アーティストのスプツニ子！さん、脳科学者の中野信子さん、人工知能学者の坂本真樹さんの3人。アート、脳科学、人工知能という3分野から話が聞けたので、いろんな視点からの考えがわかり、非常に面白い講演だった。
目次
ここ最近の人工知能
ここのところの人工知能で話題になった話としていくつかピックアップ。
- 人工知能による作詞
- 人工知能による絵
- 人工知能によるフェイク画像・動画
というのが主な話題。それぞれもう少し掘り下げていく。
人工知能による作詞
アイドルの歌詞を人工知能が作成したのが2017年。仮面女子というアイドルの曲をメンバーが書いた絵をもとに人工知能がを作詞をした。実際に、曲の作詞作曲のところには「作詞：人工知能」とある。
その曲がこちら。
仮面女子の曲を人工知能が作成
人工知能で100％完成までもっていったわけではなく、人の手が少し入っているとのことだったが、それも改善されてきていて今はそのまま使っているそうだ。
実際にどんな歌詞かはYouTubeのところにもあるとおり、こちらとなる。
星、見つけよう！！まぶしい世界 三日月に響け
ブルーの川をきらり染める 黄金(こがね)がブルーに照らす時
白い川と落ち合うバラード 初夏のりんごが憧れそうで
オレンジ咲いてひらひら 若い星を運ぼう
デビューで咲こうラブストーリー 月夜のふと影に
星、見つけよう！！暖かい羽
おしゃれとデビューに憧れ 好きな話し出して飾ろう
ずきずき三日月 響いて活躍 Yeah!
フルーツみたいに染める黄金
夕日がおしゃれに浸かる時
浅いルージュ屈託の時 僕の背中が泣いていそうで
一つ一つ始めて 星の花火まとおう
海とデビューに泳ごう Pyuee
闇を蹴り飛ばそう
月、追いかけて！！眩しい星 オシャレに極めに飛ぼうじゃん
すぐ眠らないストーリーで
かわいいドレス 運ぼうオーロラ!Yeah!
柚子の羽舞う冬に 星の船シラシラと
翼の幻 夢見るぞ 明日と詞紡ぎ
さら舞おう
夜、抱きしめる！ 月を祈りに うさぎを招いて笑おう
にこにこうぱうぱブルーベリー
月明かりを 包みこめ
夜、追いこそう！！詩的な自由
輝く川がこみ上げる 助け合って月を染める
いろんな明日
挑戦、 めちゃくちゃ!Yeah!
無邪気に伝説！Yeah!引用： World’s first! The song which AI!世界初！絵からＡＩが作詞。電☆アドベンチャー 電気通信大学×仮面女子 – YouTube
人工知能が描く絵
これがGoogleの人工知能の書いた絵。
Googleの人工知能「Deep Dream」が描いた絵とその製造プロセス
なにか関係があるのかはわからないが、Googleの統合失調症の人のような絵になるそうだ。
人工知能がすべてこうした絵を描くわけではなく、いかにも絵画というような感じの絵も描ける。それについては後述。
写真や動画のフェイクをつくるのも見破るのもAI
フェイク写真や動画に関してはこちらにもまとめたとおり。
【2018年版/人工知能】AIが人を上回っている分野と商品化されたサービス
人工知能は後述するとおり、600人いた本社の人員が2人になった（これは補足が必要だが）、人工知能が独自言語で会話した（具体的にどんな内容かも掲載）なんて話も話題に上がった。 また、弁護士の仕事の一部は人工知能のほうが優秀だったり、写真も絵も人間と同様にゼロから生み出せたり、発想までしたりと、いろんな分野で進化している。
フェイクセレブなんてのがあるように架空の人物写真ができる。
動画の領域にも入っていてもはや何が正しいのかは判別不能になっていいるといってもいいほどに思える。
「敵対的ネットワーク」人工知能が進化していく仕組み
敵対的ネットワーク。科学と同じようなプロセスで反証しながら突き詰めていくやり方。
例えば、フェイク画像の見破る、見破られないということについていうと、見破るための人工知能と見破られないようにする人工知能とで競争させていくやり方。そうすることでお互いにどんどん進化していく。
その結果、もはや人では区別がつかなくなっているので、フェイクをつくるのも見破るのも人工知能。このことは後述するこれから我々がどう生きていくといいか？ ということにも関わってくるので、また後ほど。
人工知能がクリエイティブの領域までくるのは危険か？
どんどん人工知能が発達していくと仕事が奪われるなんて話になりがちだ。
そんななかでもクリエイティブな分野、アートの分野は人間のやることという考えを持つ人もいると思うが、残念ながらそうでもなくなってきいてる。
何をクリエイティブ、アートとするかにもよるのだけれども、先ほどの作詞や絵の例があるとおり、どんどんそうした芸術的な領域にも人工知能は進出してきている。
人工知能の描いた絵がこんな高価格で売れた
人工知能の描いた絵「Edmond de Belamy」。画像はObviousより
2018年10月25日、人工知能の描いた絵「Edmond de Belamy」が43万2500ドルで落札された。その日の為替の終値は1ドル112.40ドルなので、日本円にして約4900万円。
どうやって描いているかは発表したObviousがMediumで公開している。気になる人はをObviousのMediumをどうぞ。
難解な数式が英語で解説されているので、読むのは相当大変だとは思うが……。
芸術分野でも人工知能はもう進出しているということが分かる。これが人工知能がつくったと分からないで売れたらよりインパクトは強そうだ。
人工知能のクリエイティブアートは脅威？ これがアーティストの考えること
アーティストであるスプツニ子！さんの考えは、アートは美しさの概念を変えることであり、それを目指すのがアーティストという考え。
そもそも勝ち負けで考えること自体がおかしい。勝ち負け云々ではなく、つくりたいかからつくるのがアーティスト。
アートで重要な要素として「美」という概念がある。この美しいという概念は不変ではなく変化している。周期もある。絵画だとあまりピンとこないかもしれないが、ファッションなんかはそれが顕著だろう。音楽も変わってきている。
それを考えるとアーティストは美しさの概念を変えることを目指すという考えにつながるように思える。
人工知能の危険性と脅威
今も日進月歩でどんどん進化している人工知能。一部ではあるものの、現在地が少しは見えたわけだが、こうした人工知能の進化によって我々はどんな危険にさらされるのか？
仕事が奪われるとかそういう話ではなく、別な視点で見てみるといろいろと見えてくる。
それが次の3つ。
- バイアスがかかってマイノリティがより生きづらくなる
- バーチャルな世界ではリアルとフェイクの区別がつかなくなる
- ストーリーが脅威になる
人工知能によるバイアスがかかること
無自覚な差別、マイノリティがより生きにくくなる懸念があるとのこと。
過去の歴史を紐解いていくと差別の事実があり、Amazonの採用で女性の評価が下がるような判断になってしまっていた。過去のデータから人工知能が学習するとこうしたことが起こってしまう。
で、今のお手本は何かというと白人男性になっているわけで、これが進んだら？ と考えると生きづらい世の中ができるかもしれない。
モラルの判断はAI任せにはできない
モラルの判断をAI任せにしてしまうと、Amazonの採用の例のようなことになりかねないので危険になる。
人間は良心というのを先天的に持っているものでもあり、データ云々で判断できるのかもわからない。
自動運転のトロッコ問題は地域に差が出る
トロッコ問題の図（画像はトロッコ問題」のWikipediaより）
ちなみに自動運転の車を考えるうえで、倫理的な側面をどうするか？ ということを議論すると気にトロッコ問題というのがよく出てくる。
トロッコ問題自体はトロッコをどう操作するかだが、車でも同じようなことがいえる。ハンドルを右に切ったら老人は助かるが左に切ったら子供をひいてしまう、とか自分は助かるけど、他人は死ぬとか、そうしたどっちが正しいのかの判断がつかないケースをどうするか？ という話。
アジアだと年上を重視するとか、ヨーロッパは赤ちゃんを優先とか、そういった地域・文化による違いがあるんだそうだ。
で、そうした判断が過去の歴史やデータから人工知能が学習したものによって決まるとすると、バイアスがかかった状態の判断になるのは避けられない。ここでもマイノリティが差別されかねないわけで、モラルの判断を人工知能に任せることできないだろう。任せてしまったら危険極まりないとも言えそうだ。
バーチャルはフェイクとリアルの区別がつかなくなる
先ほどのお伝えしたとおりでもはや人工知能がつくったフェイクを我々人間は見破れないところに来ている。
こちらでも書いたとおり、2015年の時点ですでに画像認識は人工知能が人間に勝ったわけで、今もなおどんどんと差がついているものと思う。
IT EXPO2015に行ってきた。気になっていたのは人工知能の話。シンギュラリティや先日、SoftBank World2015にてペッパーの実演で初めて聞いたディープラーニングという言葉がキーワードとして自分の中にあったためだ。
そこでやっかいなのがストーリーを人工知能がつくったとき。というのも……。
ストーリーは脅威
コミュニティは共通の情報で成り立っており、脳の認知に合わせて国ができるそうだ。
フェイクのストーリーをもとにコミュニティができてしまうと、気づかれないうちにハックされてのっとられる恐れがある。
神話や言い伝えなどがずっと語り継がれてきていて、それをもとに今の風習があるなんてこともあるわけで影響力は大きいのは分かる。
例えば、このイベントが開催された11月は東京を中心に酉の市が神社で開催される。酉の市では商売繁盛を願って熊手を買う人がたくさんいるわけだが、熊手なんてのは科学的に見たらただの農機具でしかない。商売繁盛にはなんの意味もない。でも、そこにはストーリーがあって意味付けがされて現代にまでずっと続いてる。
それを人工知能が勝手にやってしまったり、悪意を持った人がやったら？ と思うと脅威というのも分かる。人工知能による宗教ができそうな気もしてくる。
人工知能時代に人間はどうするか
では、人工知能の脅威として考えられることがあるなか、我々はどう対処していくといいのか？
職が奪われるとかそうした話があると、その対策のためには……という思考になりがちな気がするのだが、その考えの底にあるのは勝ち負けの意識。
しかし、そもそもが勝ち負けで考えること自体がおかしいので、前提からして変だろうというのが3人の意見だった。勝ち負けではなく、共生していくことを考えるのがいいのでは？ という話だ。勝てるわけがないというのもあるし。
そのためにも人工知能の特性としてどんな弱点があるのか、人間とは何が違うのかということを知ることも大切。ということで、次の3つが有効な方法として考えられる。
- 人工知能の弱点を知る
- 生物として持っているものを活用する
- 勝ち負けではなく共存の視点
人工知能の弱点を知る
人間はすでに視覚、聴覚は人工知能に勝てないが、今のところ触覚はまだまだ発展途上（触覚に関しては後述する）。差別の固定化が生まれてしまったり、ステレオタイプしか生み出されずに社会改革のようなことも生まれなくなる。
AIに頼っているとキング牧師のような存在が生まれなくなってしまう。これは人工知能の脅威でもあると思うが、弱点でもあるだろう。
生物として持っていることを活用する
AIは機械であり、人は生物。人間が持っている本能や直感、感性を大切にすることが求められる。
例えば、バーチャルな世界に生きないようにするのもその1つ。もろちん、バーチャルな世界は悪いから関わるなということではなくて、そこにどっぷり浸かってしまうと危険だということ。
それは先ほども書いたとおり、人はもはや人工知能のフェイクをフェイクであると見破れなくなってしまっているから。フェイクの中で生きることになりかねない。
だから、バーチャルな分野が発展すればするほど、リアルな世界、声を取り込んでいくことが必要になる。リアルな体感覚を伴う体験や体感。
触覚はコミュニケーションのため？
触覚はコミュニケーションのためもあると考える研究者もいるそうだ。他の動物と違って体毛が薄くなったのはコミュニケーション能力を上げるためという説もあるとのこと。
そうした考えを持つに至る理由の1つが立毛筋という体毛の根本にある筋肉。立毛筋は音を感じとることができるようで、体毛がないほうがより音を感じられるようになる。
話す内容というのは言葉そのものの意味だけでなく、音の情報によっても変化するもの。声のトーンでだいたいわかるわけだから。
こうした点からも直接人を目の前にして話を聞いたり、話をしたりするのと動画で見るのとでは伝わるものが違ってくるというのがある。人は可聴域を超えた領域の音も認知していると考えることもできる。
人工知能に対する視点を勝敗から共存へ
目指すのは勝つことより幸せになること。勝ち負けを競うのも構わないが、人工知能相手に勝とうと思うほうがおかしいというくらい差がついているわけで、そこに焦点を当てると不幸になりかねない。
人工知能のようになんでも最適解、というのが幸せになれるとも限らない。ムダなことに価値が出ることもある。それを表現したのがスプツニ子！さんが紹介してくれた作品。
四葉のクローバー発見ドローン
東京大学制作展Extra 2018 Dest-logyにて発表
これはドローンにカメラをつけて四葉のクローバーを瞬時に見つけ出してしまうというものだ。幸せの四葉にクローバーが一瞬で見つかってしまったら？ それで嬉しくなる人はあまりいないだろう。
無駄に価値が出ているということを訴えている作品で面白いなと思えたのだが、こうしたところに焦点を当てると勝ち負けではなく共存という考えが持てるような気はする。
まとめ
ということで、人工知能の今と、人工知能による脅威、我々がどうしていくといいのか？ その考えの一例というのをまとめてみた。
これが唯一の正解というわけではないので、最後は自分の頭で考える必要はある。ただ、そのためにもいろいろと知らないと正しい判断は難しいもの。