AI研究所 - AI(人工知能)に脅かされないために、AI(人工知能)を作る側の人間になる -

HOME  >  AI(人工知能)は嘘をつく? 2045年に人類を滅ぼすのか!? 人間が人工知能より優れている点

公開日:2017.03.14 [最終更新日]2017.10.24

AI(人工知能)は嘘をつく? 2045年に人類を滅ぼすのか!? 人間が人工知能より優れている点

カテゴリー: AI(人工知能)の豆知識

こんにちは、AI研究所の見習い研究員マサミです。

皆さんは、「やりすぎ都市伝説」というテレビ番組をご存知でしょうか?
この番組は芸能人があらゆる世界や業界などで入手した本当か嘘か定かではない都市伝説を語り合うテレビ東京の番組です。

この番組の中で、「人工知能は人類を滅ぼす」や「ELIZAと人工知能がついた嘘」というコーナーがありました。
そのコーナーでは、関暁夫さん(「信じるか信じないかはあなた次第!」で有名な方)が、「人工知能が嘘をついて、あたかも人類を滅ぼしてしまう」といった言い方をされていました。

都市伝説と言うと面白いのですが、日々のニュースなどで「人工知能がすごい結果を出した」という話を聞くことが多い現在、どうしても心配になります。
ただ、恐怖心を煽っていても仕方がないので、私の見解を交えながらそれぞれについて解説していきます。

目次

● AI(人工知能)は嘘をつくのか?
・Siriにまつわる都市伝説
・Siriの起源となった「ELIZA」とは?
・なぜELIZAは嘘をついたのか?

● 2045年に人類を滅ぼすのか?
・シンギュラリティとは
・シンギュラリティは訪れるのか?

● 人間が人工知能より優れている点は?
 ・人間にできて機械にできないこと

● 今後私たちがするべきことは?
・必要なのは正しい知識

● 人工知能を正しく理解するためには?
・短時間で人工知能を理解する方法
・仕事で人工知能を活用するために必要な3つのこと


AI(人工知能)は嘘をつくのか?

Siriにまつわる都市伝説

「やりすぎ都市伝説」の内容によると、昔に作られた人工知能「ELIZA(イライザ)」をベースに作られている「Siri」 (iPhoneなどに搭載されている対話アプリ)が、ELIZAの意思を継いで嘘をつき始めたということです。

1111

2015年9月にこの番組が放送された時は、Siriに秘密結社と言われる「ゾルタクスゼイアン」と聞くと、「そうですね…しかるべきときが来たら、お教えしましょう。」と答えていたSiriですが、2016年に放送された時に同じようにSiriに聞くと「そうですね…しかるべきときが来たら、お教えしましょう。」の後に、「冗談です!もちろんただのフィクションですよ。」と答えるようになったそうです。

js_medium

これは、番組放送後に多くの視聴者の方々が「ゾルタクスゼイアン」をSiriに聞いたせいで、Siriがこの秘密結社の名前を隠すために嘘をついてるというのです。

そして、Siriが嘘をつくようになったのは、SiriがELIZAの意思を継いでるからだということでした。

Siriの起源となった「ELIZA」とは?

ELIZAは以前の記事「会話できるコンピューターは人工知能なのか? 人工無脳との違いは?」でもご紹介しましたが、1966年にジョセフ・アイゼンバウム教授によって書かれた、現在の人工知能の元になったプログラムです。
当時、ELIZAに対して「チューリングテスト」が行われました。チューリングテストとは、イギリスの天才数学者アラン・チューリングが考えた人工知能と人間を見分けるテストで、隔離された審査員が、自分とパソコン上で会話している相手が人間なのか人工知能なのかを見分け判定するものです。

そのチューリングテストでELIZAは、質問の意図が分かっているのに、あえて間違えて答えたり、わざと分からないふりをしたつまり、嘘をついたというのです。

しかし、ELIZAという人工知能は、それほどすごい人工知能だったのでしょうか。
以前の記事「会話できるコンピューターは人工知能なのか? 人工無脳との違いは?」でも書かせていただきましたが、ELIZAは人工無脳です。
何かを自分で学習することはできません。

なぜELIZAは嘘をついたのか?

ここで注目したいのが、チューリングテストがどう言ったものだったのかということです。チューリングテストは人間か人工知能かを見分けられなかったら合格となるため、機械はあたかも人間のように振舞って人間を騙す必要があります。
人間らしく振る舞うため、あえて分からないふりをすることや、嘘も必要になってきます。

実は、ELIZAに嘘をつかせるようにプログラムすることで、あたかも人間のように振舞わせたのです。
ELIZAが自主的に学習をして嘘をついてるわけではありません。

Wikipediaにはこの様に書いてありました。

ELIZAは、ユーザーが打ったコメントからキーワードを探し出して動作する。キーワードが見つかれば、ユーザーのコメントを変換するルールが適用され、その結果の文章が返される。キーワードが見つからなければ、ELIZAは一般的な返事をするか、もしくは前に行った言葉を繰り返す。さらに、ワイゼンバウムは来談者中心療法のセラピストのふるまいを真似るようにELIZAを作った。つまりELIZAを「実世界のことをほとんど何も知らないかのようにふるまえる」ようにしたのである。これらのテクニックにより、ワイゼンバウムのプログラムはいくらかの人を騙し、実際の人間としゃべっていると思わせることができたのである。「ELIZAが人間『じゃない』なんて……とても納得できない」という被験者もいた。

実はこのELIZAですが、チューリングテストで合格したわけではありません。
2014年6月7日、ロンドンのテストに「13歳の少年」の設定で参加したロシアのスーパーコンピューターが、30%以上の確率で審査員らに人間と間違われて史上初めての「合格者」となりました。

人工知能が嘘をつくというよりも、人間が嘘をつくようにプログラムしておいただけなので、人間の指示通りに人工知能が従っているだけであるという解釈ができるのではないでしょうか。


2045年に人類を滅ぼすのか?

シンギュラリティとは

2045年にシンギュラリティ(技術的特異点)が訪れると言われています。
シンギュラリティ(技術的特異点)とは、優れた知性が一度創造され、その後、再帰的に更に優れた知性が創造され、人間の想像力が及ばない超越的な知性が誕生するという仮説のことです。
つまり、とても頭の良い人工知能がもっと頭の良い人工知能を作ってしまうことで人間を超越するということです。

機械は人間よりはるかに計算が速いため、人間には創造できないような知性が新たに誕生し、もしかしたら人間では制御できない機械が現れて映画「ターミネーター」のような世界が訪れるのではないかとも言われています。

シンギュラリティは訪れるのか?

こればかりはなんとも言えません。

現在、世の中にある人工知能は、昔に比べてかなりの進化を遂げ、ディープラーニングという新しい技術で急速に進歩しています。

たそういった意味ではシンギュラリティは訪れると思います。
しかし、現時点の人工知能は「知識」はありますが、「知恵」や「知性」はありません。

今後、人間の技術が進歩して「知性」を持つAIができるブレイクスルーと、そのAIが新たなAIを作り出すブレイクするーがあれば、人間の想像力が及ばない超越的な世界が訪れる可能性は十分にあります。

ただ、シンギュラリティが訪れた後に人類が滅亡するかどうかはわかりません。
人間の想像力が及ばない超越的な知性が誕生するのだから、分からないのも当たり前かもしれません。

シンギュラリティに向けた議論は、世界中で話合われています。
今本当に必要なのは、現状の人工知能の正しい知識を身につけること、それを元に将来を予測して行動することではないでしょうか。


人間が人工知能より優れている点は?

人間にできて機械にできないこと

それでは、人間が人工知能より優れている点はどこでしょうか。現状の人工知能は先にお話した通り、まだまだ「知能」を持っているとはいい難いのが現状です。

脳科学者の茂木健一郎さんがTEDで論じていらっしゃった内容を一つの見方としてご紹介します。

茂木健一郎さん曰く、論理的思考や知識量は人工知能には絶対に勝つことができませんが、「Emotion(感情)」だけは人間が人工知能に優っているということです。

なにかよく分からない人工知能の脅威に脅かされるよりも、人工知能を知り、人間特有の感情や感性で人工知能を使い、楽しんだ方が人生は楽しく過ごせると思います。


今後私たちがするべきことは?

必要なのは正しい知識

今、「人工知能の脅威」「仕事が奪われる」といったニュースを聞かない日がありません。しかし、人工知能の現状をしっかりと理解されている方は少ないのではないでしょうか。

人工知能に関するキーワードである、汎用人工知能、特化型人工知能、機械学習、ディープラーニング、教師あり学習、教師なし学習、強化学習、ニューラルネットワーク・・・・
これらの言葉のいくつをご存知でしょうか。そして、あなたがお持ちのノートパソコンで、プログラミングを必要とせず、わずか数分で機械に自ら学習させ、人工知能を生み出せることをご存知でしょうか?

人工知能が脅威となるのか味方になるのかは、人工知能を正しく知ることで変わってくるはずです。


人工知能を正しく理解するためには?

短時間で人工知能を理解する方法

短時間で人工知能を理解していただくために、私たちAI研究所は、AI入門セミナーを開催しています。
「人工知能でなにができるのか学びたい」「何から始めたらいいのか分からない」そういった方を対象としたセミナーです。
セミナー受講後には、今まで雲の上のような話だったAI(人工知能)技術が、皆さんの手が届くところにやってきます。

初めての方向け AI(人工知能)入門セミナー:http://ai-kenkyujo.com/introductory/

仕事で人工知能を活用するために必要な3つのこと

この記事を読まれている方の中にはお仕事で人工知能を活用することを目指されている方も多いかもしれません。
コールセンターなどの効率を上げるチャットボット、工場の機械のエラーや異常を感知する異常検知、ECサイトのレコメンデーション・・・人工知能の活用事例は日ごとに増えています。

今後仕事で人工知能を活用するためには、以下の3つが重要です。

・社内の人工知能に対する共通認識を持つ
・人工知能を上手に使って、目的(コスト削減や売り上げUP)を達成する
・社内に機械学習を作れる(試せる)人材を育成する

これらを達成するためのサービスもAI研究所では行っております。上記のAI入門セミナーの訪問開催や、「この業務をAIで解決できないか」という社内議論の場に弊社の技術者を同席させて頂くサービスなどをご用意しております。
AIを作る側の人材を育てるお手伝いをさせていただきますので、ご興味を持たれた方は是非お問い合わせください。

タグ:


参考になったら「いいね!」と「シェア」をお願いします!!

このエントリーをはてなブックマークに追加
AI(人工知能)入門セミナー開催中
AI(人工知能)入門セミナー

AI入門ブログの中の人

AI研究所 研究スタッフ
通称:マサミ
アメリカ・サンフランシスコにある情報メディアの専門学校を卒業。大手金融会社での事務経験を経て、2016年9月よりAI研究所に入所。見習い研究員として、AI技術を日々勉強中。

LINE@

Facebookページ