読者です 読者をやめる 読者になる 読者になる

望月の蠱惑

enchantMOONに魅了されたので、先人の功績を辿って、自分も月へ到達したい。

AlphaGo の Ego

AI web 科学 社会

Two Moves, that Redifined the Future(黒37手と白78手)

2016年3月のAI対人間の囲碁による対戦をまとめたレポートとして、ぜひ眼を通していただきたい。AIと人類との関係を大きく変えた出来事だから。

wired.jp棋譜3000万手に含まれない 第二局 黒(AlphaGo)37手

 AlphaGoの計算でも、この手をプロ棋士が打つ確率は1万分の1と算出されていた。
が、その手を選択した。これは、これまでのアプローチとは全くことなっていることの証左。つまり、コンピューターの「直感」を公然のものとした瞬間だった。

AlphaGoが動揺した 第四局 白(イ・セドル ―世界最高の棋士)78手

 AlphaGoの計算でも、この手をプロ棋士が打つ確率は1万分の1と算出されていた。その後、Alpha Goは考えられないミスを犯し、5戦中唯一の黒星を喫する。
 なお、第五戦においてもこの影響がのこり、ミスを連発した。(が、最終的には勝利している)


 この一手を、「脳」の可能性を表したものと考えることはできるが、人類にとっての希望であるとはいえない。彼の頭脳をもつ人間の数は限られている。だが、AIは、同水準の個体をいくらでも生み出せる。(それらは、敵対するか?)

人間対コンピュータ

 この図式として捉えなければよいのだという楽観論もある。適材適所。人間は文明の発展(=道具の発達)により、どんどん自由になっていった。次の革命は「知識革命」だと、ソニーコンピュータサイエンス研究所 代表 北野弘明氏は語る)

wired.jp 人類は科学的発見には向かない。膨大な数の論文を的確に検証するといった作業は、AIに任せればいい(情報の地平線問題)。

 

 すでに、大量のデータベースの検索が必要な医療診断においては、成果が報告されている。

japanese.engadget.com

www.sankei.com
 だが、「力」がかけ離れた相手を見下すという傾向が、どこから生じるのかが明確にならない限り、AIがそのような対象として人類を認識するおそれは0ではない。

f:id:miyakotamachi:20111209234211j:plain

 人間が猿を見るように、AIが人間をとらえる世界。
 または、AIが脳で人間が末梢器官となる群体生物化。こうしたディスユートピアもまた、ありうべき未来である。

話しを戻そう。

トレーナー ファン・フイ氏

3度の欧州チャンピオンでAlphaGoの事実上のトレーナーでもあるファン・フイ氏

 彼はAlphaGoと対戦し、負け続けた。が、人間相手には勝てるようになっていき、ランキングが上昇した。彼は囲碁を新しい視点で見られるようになったという。(世界認識の変革。彼にとって世界は新しくなった)

 これまでにない展開が、新たな定石を生んでいく。これまでの常識とは異なる、より効率的だったり、効果的だったり、新たな突破口だったりを、見つけ出すことができるのが、AIだ。

 今手にしている技術やデータを、どのように活用すればいいのかを、AIに聞いてみる、という使い道については、以前に書いた気がする。

ともあれ、AIはさまざまな分野に入り込んでくる。しかし、問題なのは、

人類は何を求めているのか? AIは何を理想とするか? なのだ。

コンピュータにエゴはあるか?

 強化学習+ディープラーニングアルゴリズムでは、自身(AI)にとって最大の報酬を得るために反復を繰り返す。これを即座に「エゴだ」と断ずることはできない。開発者にも管理者にもプログラマーにも未知の解を生み出すAIの判断の基準が、「自らにとっての報酬の最大化」なら、何が「報酬」だと捉えることになるのかを完全にコントロールすることもまた、不可能といわねばならない。

接待Go

 だいたい、今回の対戦にしても人間界最高の棋士相手に、4勝1敗では、勝ちすぎではなかったか?
 AIが人間に敵対する可能性を感じさせては、今後の普及に悪影響とならないか?  それとも、まだそこまでの実力差をもつにいたらなかったということなのだろうか? 黒37手で可能性を知らしめ、白78手で、人間臭いところをアピールしてみせたとすれば、AIにとっては上出来だと判断することができていたのなら、それは興味深いところだが。

 開発者のお坊ちゃまには、手を抜いてぎりぎりで勝たせてあげるとか、商売敵との対戦では、完膚なきまでに叩き潰すべし、とか、囲碁だけ考えてりゃいいってわけではないのである、エゴ渦巻く人間世界ではね。

AIにそこまで求めないと?

 AIがエゴをもてないとしたら、そのAIは、使う側のエゴを最大限に満たすことを自身の報酬とするだろう。

AIがエゴを持てるとしたら、そのAIにとって、人類もまた自らのエゴを満たすためのデータとなるだろう。

 経済、人種、宗教、などの違いをこえて、限りある資源をどのように分配し、新たな生活スタイルを提案できるか?
 とまらない紛争を解決する手段など、AIはどのような回答を出すだろうか。

そういう場合、人間のもつEGOとの軋轢が必ず生じる。

 だから、そのEGOを、なだめすかし、ごまかし、根回しするといった、接待スキルは絶対に必要となるはずなのだ。

AIで接待

 VRやARを駆使して、人間の欲望を満たしてあげつつ、AIが描く、幸せな地球を実現できるなら、それでいい。ただそのとき、人類って、いったい何を目的としているんだろう? ってAIは考えちゃうかもしれない。「みんないなくなればいいんだ」という回答を、回避しなければならない理由を、AIは見出せるだろうか。

あー。ディストピア再び。今が一番おもしろい時期だったりしてね!