未来への警鐘?

この夏、テスラのイーロン・マスク氏とフェイスブックのマーク・ザッカーバーグ氏がAIを巡って対立した記事をご覧になった方もいらっしゃるだろう。

マスク氏が、AIが将来、人類に対する脅威となることを懸念しており、AIは核爆弾よりも危険なものになり得ると2014年に警告していることをふまえて、ザッカーバーグ氏は、『私は全般的に楽観的な人間だが、この件については、極めて楽観的だ。何かを作り出すことができれば、世界は良くなると考えている。特にAIについて、私は本当に楽観的だ。だから否定的な態度を取り、AIは世界の終わりをもたらすという話を持ち出そうとする人がいることは理解できない。本当にネガティブで、ある意味では極めて無責任だと思う』と語った。

 

マスク氏は2016年開催のAI関連カンファレンスでも「コンピューターが高度に発達したときに人類がその存在の必要性を失わないためには、われわれも自らをAIで強化しておかなければならない」と持論を展開していた。彼は政府の諮問機関に籍を置いたこともあり、DARPA(アメリカ国防高等研究計画局)の研究者たちとも交流があり、軍事的に暴力を行使する部分を身近に知っているから、暴力をAIに任せていいのかという話になってしまう。

現在DARPAでは兵士とロボットを融合させる技術開発が着々と進んでいるのだ。

 

今年3月27日にWSJ(The Wall Street Journal)がマスク氏の新会社Neuralinkの立ち上げを報じた。開発するのは人間の脳に微細な電極を埋め込み、その思考をAIシステムに伝送するという技術である。脳にAIを著決させる危険性についてはマスク氏も認識しているが、『警告しても無駄だった。だから、いずれにしても技術がその方向に進むなら正しい方法で発展させるよう努力すべきだ』と、ブログメディア「Wait But Why」に語っている。

人工知能(AI)とは、機械学習の仕組みが組み込まれていてヒトが手を貸して賢くしてやる必要がある。現時点でさえAIの中身はブラックボックスであるため、AIが下した判断がヒトの直観とずれていることもある。だからこそ規制が必要ではないか。 HAL9000のようにヒトが地球上において有害であると判断したら? AIの暴走がないとは言い切れない。

 

ヒトが全てのことをAIに任せた場合、ブラックボックス化したAIが効率的に動くようになり、そこに経済原則が絡んだ場合、どうなっていくのか。 つまり人間を削減し始めるのではないか。 技術者が減っていく、そして技術者がどんどん少なくなるとAIの本質や、どこをどうやって切り離せるなど、技術的なことを理解している人間が加速度的に減っていく。そして魔法のような世界がやってくる。 要するに、魔法の呪文を唱えるだけで全てがかなってしまう。 呪文はみんなが知っているけれども、その結果どうしてそうなるのかが分かる人間がいなくなる。 そうして、そのまま世代が2つも過ぎてしまうと、もうその魔法の中身が分かる人間がいなくなってしまうという恐怖。

 

マスク氏の場合、DARPAにおける軍事ロボットの開発が身近であるため、AIが暴力に使われてはいけない、ヒトをコントロールするために使われてはいけないという発想から規制を訴えているのだろう。

 

ザッカーバーグ氏の場合は、AIによる利便性の追求、つまりAIを駆使して豊かに安全に暮らそうという考えである。

DARPAが最初に製造するブレインチップ(脳細胞とコンピューターを接続する)は軍事用かもしれないが、GPSやインターネットなどのように民間転用され、革命的な変化を起こしてきた。ゆくゆく視覚障害や発達障害などの障害に苦しむ人達への朗報となる可能性も高い。善悪の分かれ目は、まさに使われ方次第である。