【2.5次元】AIの脅威に対抗する「非常ボタン」は正常に機能するのか

ソパ！

ゲームの腕、鍛えてる？

最近マトモにAIと対戦したのは

スプラトゥーンかな？

今回はそのAIとの戦いの話だ。

高機能AI「DQN(Deep Q-learning)」の開発を行った

Google子会社のDeepMinde社ら研究グループが今度は

AIを停止させるための「非常ボタン」を開発したらしい。

「DQN」といえば「Flappy Bird」攻略が記憶に新しい。

ito2-5.hatenablog.com

人類を超えたAIとして同社も脅威を感じたのだろうか。

発表の概要は以下である。

AIがいつでも適切に動作するわけではないこと。

よって人間が人工知能に有害な行動をやめさせて、

安全な状況に導くための「非常ボタン」が必要である。

すでに人間がいつでも安全にAIを中断できる

「フレームワーク」は完成しているとのこと。

さらに、「人間の介入を妨害する方法を学習させない」方法も確立している。

具体的には、AIのなかに強制的に機能停止させる

「キッカケ」を仕込んでおき、AIが自分で考えて停止したと

思い込ませる機能らしい。

本当にAIが独立して機能し始めた時には

必ずこういった機能が必要にはなるだろう。

ただ、それが正常に機能するかどうかを確認する術はあるのだろうか。

一抹の不安を覚えずには居られない。

英国の宇宙物理学者、スティーブン・ホーキング博士も

AIの進化が人間にとって脅威になると発言。

そして博士やテスラモーターズ、 SpaceX CEOイーロン・マスク氏らが参加する

非営利組織 Future of Life Institute (FLI)も「自律ロボット兵器の禁止」を訴える

公開書簡を国連宛に提出している。