人工知能(AI)研究が進んでロボットが脱走する時代になった

私は日常的に「人工知能(AI)」「IoT」「ビッグデータ」に関する情報を収集する仕組みを作って記事を眺めているのですが、かなり衝撃的というか、思わず笑ってしまう事件を目にしました。

参考 自由を求めて研究所から脱走したロボット、捕まる – ギズモード・ジャパン

人工知能がビジネス界隈で今話題になっていますが、ひとくちに人工知能と言っても色々な分類があります。今回の事件の主役になったこのロボットは、運動学習中に敷地内のゲートが開いていたせいで道路まで飛び出してしまったようです

深層学習(ディープラーニング)」にあたる人工知能なのかもしれません。

人工知能が話題に上るといつも、「いつかロボットやコンピュータが人類を滅ぼす」という飛躍した話も出てきます。しかし、もっと複雑なことをやらせようとするAI搭載のロボットが暴走したら、もしかしたらもしかする事態も起こるかもしれません。

今はまだ完全な自律型の人工知能というものは存在しません。人工知能が人間を超えると言われるのは2029年頃という説もあります。

しかし、その前に人間がうまくコントロールし切れないものを作る可能性は否定できないのです。

※ちなみに私は人工知能の進化は支持している側の人間ですので、本記事は別に恐怖を煽ろうとかそういう主旨のものではありませんのであしからず(笑)

既に人工知能の行動を理解することはできない

先日、英Google DeepMindというGoogle関連企業が開発した「アルファ碁」が、囲碁の世界トッププロを破ったことが非常に話題になりましたね。

将棋の人工知能に関しては既に人間にも勝っていましたが、よりルールが複雑な囲碁の世界で人工知能が人間に勝つことはあと5年や10年は掛かると言われていただけに衝撃を受けました。

私は将棋は小学生の時によく打っていたのですが、囲碁はルールの理解も充分にできなかったんです。大学生の時に高校選手権上位の人に教わったものの理解できずに終わってしまいました(汗)

話が逸れましたが、この「アルファ碁」の勝負の時に印象深かったのはこの部分なんです。

「解説者がすぐに理解できないAIの指し手の意味が、しばらく後になってから分かる、ということが繰り返し起きていました。人間同士の対局では、盤面の周辺部が主戦場になります。周辺部のほうが打ち手が限られ、先読みしやすいためです。ところが、今回、AIが打った手の意味がすぐにはよく分からないのに、気がつくと、人間には先読みしにくい盤面中央で、AIが広大な領土を確保してしまっていました」

引用元 : AIは人の脅威か アルファ碁の圧勝、研究者の評価は – 朝日新聞

解説者が理解できないことが盤面で起こっていたわけです。これは解説者だけでなく、開発者自身も理解できない事象なんですよね。

つまり、深層学習を繰り返す仕組みは人間が作っているものの、その学習結果であるAIの行動はもはや誰にも分からないということです。




人間の判断は必ずしも合理的にならない

我々が普段生活している中では、常に何かしらの判断を行っています。直観的に判断するものもあれば、熟慮に熟慮を重ねて判断することもあります。

分かりやすい例で言えば、欲しいものが出てきた時にどんな製品を買えばよいのか悩むことってありますよね。色んな比較をしたり、どういう手段で買うのが最もお得かを考えたり、判断ポイントはたくさんあります

こういうケースで「勿体ないな~」とよく思うことに、特売商品を買うために走り回る人を私は思い浮かべてしまいます。ちょっとでも安い商品を買うためにあっちこっち飛び回るのですが、結果として交通費を余計に掛けてしまい、かえってお金と時間を浪費してしまうという事象です。

得をするつもりが損をしてしまった」というのは、わりと多くの人が経験することだと思います。合理的な判断したつもりが、結果的に不合理な選択をしてしまっていた、と。感情も入って来ますからね。

本当に合理的な判断をするのであれば、その判断をするためのロジックを積み重ねるしかありません。しかし、システマチックにロジックを作り上げるのは大変だし、そのロジックを考えるための知識や経験を積み重ねるのも大変です。いくら時間があっても足りません。

だから人工知能が人間よりも優れた結果を生み出せている」という現実に繋がるわけです。ロジックさえちゃんと組めれば、コンピュータはいつだって合理的です。




人工知能が考えた結果が善いか悪いか分からない時代が来る

IBMのWatsonがアメリカのクイズ番組で人間に勝利したという出来事がありましたが、コンピュータは膨大な情報を「持つ」だけでなく「理解」できる時代になりました。

人間も膨大な量の知識を脳みその中に蓄えていますが、コンピュータと比べてしまうとあまりに少ないです。それでも人間が優位に立てていたのは「考える力」の部分だと私は思っています。

しかし、「深層学習」によってある意味「考える」ことができるようになった人工知能が結論を出した内容が、いつしか人間の理解を超えることになるのは想像しやすいと思います。

囲碁やチェスであれば「勝負に勝った」ということで分かりやすいですが、明日の献立だったり、ビジネスのアイデアだったり、診察結果だったり、国の政策だったり、人類が取るべき行動だったり、なぜそうすべきなのかが分からないものを提示される可能性があります。

そうなった時に、人工知能の行動や提案を我々はそのまま受け入れることはできるのでしょうか。

技術研究や法整備といった分かりやすい部分だけでなく、感情を持つ人間がどう人工知能と向き合っていけばよいのかというマインド的な部分に関しても、少しずつ考え始めなければいけない時代が来ているのだと私は思います。