AI研究所 - AI(人工知能)に脅かされないために、AI(人工知能)を作る側の人間になる -

HOME  >  ドラえもんのようなAIができないのは『フレーム問題』のため? 『フレーム問題』について書いてみた

公開日:2018.10.19 [最終更新日]2018.11.05

ドラえもんのようなAIができないのは『フレーム問題』のため? 『フレーム問題』について書いてみた

カテゴリー: AI(人工知能)の作り方

こんにちは、AI研究所、駆け出し研究員のリョウタです。

今回は、AIにおける代表的な問題の一つである『フレーム問題』について触れていき、この問題と現代のAIはどう向き合っていくべきか、ということについて触れていきたいと思います。

人工知能における代表的な問題の一つとして『フレーム問題』というものがあります。これは「限られた処理能力しかない人工知能において、現実に起こりうる問題全てには対処することが出来ない」というものです。
「フレーム」とは文字通り「枠」を指しておりインプットされた情報からある一定の可能性の範囲内(枠)を作りその中で考えます。いわゆる人間のようにある程度の「経験則」や「常識的な考え方」が出来ないため、無限に近い幾万通りの可能性を考慮してしまい、このような問題が発生してしまいます。

この問題が掲げられた時代は1969年にありメリカの計算機科学者のジョン・マッカーシー氏により提唱されました。第1次AIブームの頃ですね。

この問題に関する代表的な例として、アメリカの哲学者ダニエル・デネット氏の論文「Cognitive Wheels : The Frame Problem of AI」の中で挙げられているロボットと時限爆弾の問題を元に、一例をご紹介したいと思います。

以下の画像をご覧ください。

ロボットと時限爆弾の問題

ある一軒家の中に、ロボットを動かすバッテリーが入った箱があり、その上に時限爆弾が仕掛けられている。
時限爆弾が作動し爆弾が爆発すれば中にあるバッテリーが破壊され、ロボットはバッテリー交換が出来なくなるので、ロボットには「一軒家にある箱の中からバッテリーを取り出してくること」を指示されました。

最初に投入された人工知能ロボット1号機R1は、一軒家の住所、箱の所在と形状などプログラムされていたため、一軒家の中に入って無事にバッテリーを取り出すことができました。

しかし、R1はバッテリーの上に爆弾が載っていることには気づいていたが、時限爆弾を外す、解除する、などの指示や判断をインプットされていなかったことから、R1は時限爆弾毎外に持ち出してしまい、一軒家を出た後に爆弾が爆発してしまう結果となってしまった。

以上のケースから、1号機R1は「箱からバッテリーを取り出す」という目的については理解していたが、「バッテリーに付けられていた爆弾まで持ってきてしまう」ことに理解できなかったことが失敗の原因となります。

次に目的を遂行するにあたってR1のように「箱からバッテリーを取り出すことに付随して発生する事項も考慮」した人工知能ロボット2号機R1-D1を開発しました。

しかし、このロボットは、一軒家に入ってバッテリーの前に来たところで動作しなくなり、そのまま時限爆弾が作動してロボットは破壊されてしまいました。R1-D1は、バッテリーの前で

・「このバッテリーを動かすと上にのった爆弾は爆発しないかどうか」
・「バッテリーを動かす前に爆弾を移動させないといけないか」
・「爆弾を動かそうとすると、天井が落ちてきたりしないか」
・「爆弾に近づくと壁の色が変わったりしないか」

などなど、「箱からバッテリーを取り出す」という目的と無関係なことまで無限に思考し続けてしまったのです。

R1と違ってR1-D1は時限爆弾に関係する無限通りのあらゆる可能性を全て考慮しようとしてしまい、莫大の計算時間を要してしまったことが原因として考えられます。
もちろん、「壁の色がかわったりしないか」といった事項は人間であれば可能性から除外出来うるものです。

最後に、「箱からバッテリーを取り出す」という目的に関して無関係な事項を一切考慮しない人工知能ロボット3号機R2-D1を開発しました。

しかし、R2-D1は、今度は一軒家の玄関の前で動作しなくなりました。

R2-D1は、一軒家の玄関の前で目的と無関係な事項を全て洗い出そうとして無限に思考し続けてしまいました。
先ほどの想定されうる可能性は無限通りという話がありましたが、今回の「目的とは無関係な事項」というのも無限通りにあり、それら全てを考慮しようとして同じように莫大の計算時間を必要としたからです。

このように

・現実の問題を解決するには無限の可能性が想定されうる
・フレームを当てはめて関係ない事項を除外してく必要がある
・フレームに関係する事項、関係ない事項をそれぞれ判断する必要がある

という要素があり、論文の中の人工知能ロボット達にはそれを全て対応することが出来ない、ということを提唱しています。

さて、そして1969年から49年後の2018年、昨今の人工知能は目覚ましい成長と発展を遂げてきました。その現代のAIではこの「フレーム問題」を解決することはできるのでしょうか。

以下のURLより、フレーム問題に関する記事から非常に興味深い議論が多くあります。


株式会社ロボマインド
フレーム問題は解決済み -フレーム問題に見る、AI史の闇ー
https://robomind.co.jp/frameproblem/


上記の記事にもある通り、記事の中で筆者はジョン・マッカーシー氏が生きた第1次AIブームである1969年の中は、当時のAIの中心的思考である「推論/探索」を駆使すると無限の推論と探索をしなければならず時間がかかってしまいました。
1969年の「その当時」のAIでは単純な迷路、パズル問題などを解決は出来ても時限爆弾の問題のような複雑な処理を必要とする課題には太刀打ちが出来ない、という結論でした。

そしてその未来にあたる2018年現在、画像認識による状況判断や3Dモデルによる物理シミュレーション、そして目的達成までに必要な事項をいくつかのステップに分割し比較、目的達成に関係が近い順に順位付けしてシミュレーションしていけば、最後はその通りに行動するだけ、と説明されています。

以上からこの「箱からバッテリーを取り出す」というダニエル・デネット氏の問題(フレーム問題の一例)は解決できる、としています。

そして重要なことは、この「フレーム問題を解決する」=「あらゆる無限通りの可能性を考慮した思考をAIが出来ること」、と定義した場合、フレーム問題を解決することは難しいとし、そうでなく、「人間と同程度の知能を求める」という前提であれば、まずは、インプットした動作を実行、うまくいかなければ、その原因を考慮して新たに別の動作を検証する、まさに「トライアンドエラー」をしていけばいい、としています。

この内容に関してさらに落とし込んでみます。

フレーム問題は、AIに関する問題として提唱されていますが、果たして人間も無限通りのパターンを考え行動することが出来るでしょうか。
ダニエル・デネット氏の問題であれば関係ない事項を考えることなく、爆弾を取り除きバッテリーを持ってくることはできると思います。

しかし人間が生きる世の中で生きる中で実施している行動、思考はもちろんそれだけではありません。それこそ無限通りにあります。そして同じ人間でも性別、性格、体格、思想、などあらゆる個人差がある中でそれらを全て対応できるでしょうか。

現在のAIも人間のように日常会話を柔軟に行うことは難しいレベルでありながらもGoogle社開発のAlphaGoやiPhoneのSiriなど飛躍的な成長をとげ、人間に少しずつ、少しずつ近づきつつある存在となっています。

現在人間がAIの開発として目指すところは、「人間の思考、判断、行動等を超えるスーパーAI」、ではなく「人間に近い思考、判断、行動等が出来る存在としてのAI」ではないでしょうか。

もしかしたら、AIというものを考える際に、我々は「フレーム問題」という「フレーム」に当てはめ、人間とAIを比較し悲観的に考えてしまっているのかもしれません。

今、AIが向き合うべきことは、

「フレーム問題を解決できるAI」

でしょうか。

ご覧いただきありがとうございました!

タグ:


参考になったら「いいね!」と「シェア」をお願いします!!

このエントリーをはてなブックマークに追加
AI(人工知能)セミナー開催中
AI(人工知能)入門セミナー AI(人工知能)入門セミナー IoT入門セミナー

AI入門ブログの中の人

AI研究所 研究スタッフ
通称:マサミ
アメリカ・サンフランシスコにある情報メディアの専門学校を卒業。大手金融会社での事務経験を経て、2016年9月よりAI研究所に入所。見習い研究員として、AI技術を日々勉強中。

Facebookページ