AI研究所 - AI(人工知能)に脅かされないために、AI(人工知能)を作る側の人間になる -

HOME  >  AI(人工知能)は嘘をつく? 2045年に人類を滅ぼすのか!? 人間が人工知能より優れている点

更新日:2017.03.14

AI(人工知能)は嘘をつく? 2045年に人類を滅ぼすのか!? 人間が人工知能より優れている点

カテゴリー: AI(人工知能)の豆知識

こんにちは、AI研究所の見習い研究員マサミです。

皆さん、「やりすぎ都市伝説」というテレビ番組をご存知でしょうか?
この番組は芸能人があらゆる世界や業界などで入手した本当か嘘か定かではない都市伝説を語り合うテレビ東京の番組です。

この番組の中で、「人工知能は人類を滅ぼす」や「ELIZAと人工知能がついた嘘」みたいな煽りのコーナーがあってそこで、関暁夫さん(「信じるか信じないかはあなた次第!」で有名な人)が、人工知能が嘘をついて、あたかも人類を滅ぼしてしまうみたいな言い方をしていました。

都市伝説って面白いけど、ちょっと心配になりますよね。
ただ、こういった人の恐怖心を煽るだけなのはあまり好きではないので、私の見解を交えながら「AI(人工知能)は嘘をつくのか?」「2045年に人類を滅ぼすのか?」「人間が人工知能より優れている点は?」について解説していきたいと思います。


AI(人工知能)は嘘をつくのか?

「やりすぎ都市伝説」の内容によると、Siriが昔に作られた人工知能「ELIZA(イライザ)」の意思を継いで嘘をつき始めたんだそうです。

1111

2015年9月にこの番組が放送された時は、Siriに「ゾルタクスゼイアン」と聞くと「そうですね…しかるべきときが来たら、お教えしましょう。」と答えていたSiriですが、2016年に放送された時に同じようにSiriに聞くと「そうですね…しかるべきときが来たら、お教えしましょう。」の後に、「冗談です!もちろんただのフィクションですよ。」と答えるようになったそうです。

js_medium

これは、番組放送後にみんなが「ゾルタクスゼイアン」を知って、Siriに同じように聞いたせいで、Siriがこの秘密結社の名前を隠すために嘘をついてるというのです。

そして、Siriが嘘をつくようになったのは、SiriがELIZAの意思を継いでるからだそうです。
ELIZAは以前の記事「会話できるコンピューターは人工知能なのか? 人工無脳との違いは?」でも話しましたが、1966年にジョセフ・アイゼンバウム教授によって書かれた、現在の人工知能の元になったプログラムです。

ELIZAに人工知能かどうかを判断する「チューリングテスト」を行ったところ、質問の意図が分かっているのに、あえて間違えて答えたり、わざと分からないふりをしたそうです。

チューリングテストというのは、イギリスの天才数学者アラン・チューリングが考えた人工知能と人間を見分けるテストです。
隔離された審査員が、自分とパソコン上で会話している相手が人間なのか人工知能なのかを見分け判定するものです。
そのチューリングテストで嘘をついたというのです。

ただここでちょっと思ったのですが、ELIZAってそんなにすごい人工知能だっけということです。
以前の記事「会話できるコンピューターは人工知能なのか? 人工無脳との違いは?」でも話しましたが、ELIZAは人工無脳です。
何かを自分で学習することはできません。

ここで注目したいのが、チューリングテストがどう言ったものなのかということです。
チューリングテストに合格するためには、機械があたかも人間のように振舞って人間を騙す必要があります。
人間らしくするために分からないふりや、嘘も必要になってきます。

そこで、あえてELIZAに嘘をつかせるようにプログラムすることで、あたかも人間のように振舞わせたのです。
ELIZAが自主的に学習をして嘘をついてるわけではありません。

つまりどういうことかというと、ここからWikipediaの抜粋になりますが、

ELIZAは、ユーザーが打ったコメントからキーワードを探し出して動作する。キーワードが見つかれば、ユーザーのコメントを変換するルールが適用され、その結果の文章が返される。キーワードが見つからなければ、ELIZAは一般的な返事をするか、もしくは前に行った言葉を繰り返す。さらに、ワイゼンバウムは来談者中心療法のセラピストのふるまいを真似るようにELIZAを作った。つまりELIZAを「実世界のことをほとんど何も知らないかのようにふるまえる」ようにしたのである。これらのテクニックにより、ワイゼンバウムのプログラムはいくらかの人を騙し、実際の人間としゃべっていると思わせることができたのである。「ELIZAが人間『じゃない』なんて……とても納得できない」という被験者もいた。

このELIZAも実はチューリングテストで合格したわけじゃありません!
2014年6月7日、ロンドンのテストに「13歳の少年」の設定で参加したロシアのスーパーコンピューターが、30%以上の確率で審査員らに人間と間違われて史上初めての「合格者」となりました。

こうやって聞くと、人工知能が嘘をつくというよりも、人間が嘘をつくようにプログラムしたらその通りに人工知能が従うと解釈できないでしょうか。


2045年に人類を滅ぼすのか?

2045年にシンギュラリティ(技術的特異点)が訪れると言われています。
シンギュラリティ(技術的特異点)とは、優れた知性が一度創造され、その後、再帰的に更に優れた知性が創造され、人間の想像力が及ばない超越的な知性が誕生するという仮説のことです。
つまり、とても頭の良い人工知能がもっと頭の良い人工知能を作ってしまうということです。

機械は人間よりはるかに計算が速いため、人間には創造できないような知性が新たに誕生し、もしかしたら人間では制御できない機械が現れて映画「ターミネーター」のような世界が訪れるのではないかとも言われています。

こればかりはなんとも言えません。

必ずと言っていいほどシンギュラリティは訪れると思います。
人間の技術が進歩してAIがAIを作り出し、間の想像力が及ばない超越的な知性は実際に誕生すると思います。

ただ、シンギュラリティが訪れた後に人類が滅亡するかどうかはわかりません。
人間の想像力が及ばない超越的な知性が誕生するのだから、分からないのも当たり前といえば当たり前ですかね(笑)

シンギュラリティに向けた対策は実際に世界中ですでに話合われています。
今から人工知能の知識を身につけ対策を十分にとっておくことはとても大切なことかもしれません。


人間が人工知能より優れている点は?

すこし暗い話になってしまったので、最後に人間が人工知能に勝っているところをお話ししたいと思います。

これについて、脳科学者の茂木健一郎さんがTEDでわかりやすく論じていたので紹介します。

茂木健一郎さん曰く、人間が人工知能に優っている点は「Emotion(感情)」だそうです。
知性や論理的思考は人工知能には絶対に勝つことができません。
ただ茂木さんは最後に「Relax! and enjoy emotion!」と言っています。

とてもいい言葉だなと思いました。
なんだか分からない人工知能の脅威に脅かされるよりも、人工知能を知り、人間特有の感情や感性で人工知能を使い、楽しんだ方が人生は楽しく過ごせると思います。

今のところは人工知能は、過去にあったデータからしか想像(創造)することができません。
何もないところから何かを想像(創造)できるのは人間だけなのですから!


最後に

私たちAI研究所は、AI入門セミナーを実施しています。
「AI(人工知能)ってなんだか分からないけど、凄そう」「ディープラーニングって用語を最近よく聞くけど、何の事を言っているのかさっぱり分からない」そういった人たちが、AI(人工知能)に対して、最初の一歩を踏み出したい。
けど、何をしたらいいのか分からない。どこから、何からしたらいいのか分からない。
そういった方を対象としたセミナーです。

セミナー受講後には、今まで雲の上のような話だったAI(人工知能)技術が、皆さんの手が届くところにやってきます。

初めての方向け AI(人工知能)入門セミナー:http://ai-kenkyujo.com/

人工知能に脅かせるかどうかは、あなた次第です!(笑)

タグ:


参考になったら「いいね!」と「シェア」をお願いします!!

このエントリーをはてなブックマークに追加
AI(人工知能)入門セミナー開催中
AI(人工知能)入門セミナー

AI入門ブログの中の人

AI研究所 研究スタッフ
通称:マサミ
アメリカ・サンフランシスコにある情報メディアの専門学校を卒業。大手金融会社での事務経験を経て、2016年9月よりAI研究所に入所。見習い研究員として、AI技術を日々勉強中。

Facebookページ