AI研究所 - AI(人工知能)に脅かされないために、AI(人工知能)を作る側の人間になる -

HOME  >  ドラえもんのようなAIができないのは『フレーム問題』のため? 『フレーム問題』について書いてみた

公開日:2020.07.27 

ドラえもんのようなAIができないのは『フレーム問題』のため? 『フレーム問題』について書いてみた

AI(人工知能)の知識

こんにちは、AI研究所、駆け出し研究員のリョウタです。

今回は、AIにおける代表的な問題の一つである『フレーム問題』について触れていき、この問題と現代のAIはどう向き合っていくべきか、ということについて触れていきたいと思います。

フレーム問題とは

人工知能における代表的な問題の一つとして『フレーム問題』というものがあります。
これは「限られた処理能力しかない人工知能において、現実に起こりうる問題全てには対処することが出来ない」というものです。
「フレーム」とは文字通り「枠」を指しておりインプットされた情報からある一定の可能性の範囲内(枠)を作りその中で考えます。
いわゆる人間のようにある程度の「経験則」や「常識的な考え方」が出来ないため、無限に近い幾万通りの可能性を考慮してしまい、このような問題が発生してしまいます。

この問題が掲げられた時代は1969年にありメリカの計算機科学者のジョン・マッカーシー氏により提唱されました。第1次AIブームの頃ですね。

AI(人工知能)の歴史 その2 ~フレーム問題発覚まで

フレーム問題の一例

この問題に関する代表的な例として、アメリカの哲学者ダニエル・デネット氏の論文「Cognitive Wheels : The Frame Problem of AI」の中で挙げられているロボットと時限爆弾の問題を元に、一例をご紹介したいと思います。

以下の画像をご覧ください。

ロボットと時限爆弾の問題

ある一軒家の中に、ロボットを動かすバッテリーが入った箱があり、その上に時限爆弾が仕掛けられている。
時限爆弾が作動し爆弾が爆発すれば中にあるバッテリーが破壊され、ロボットはバッテリー交換が出来なくなるので、ロボットには「一軒家にある箱の中からバッテリーを取り出してくること」を指示されました。

最初に投入された人工知能ロボット1号機R1は、一軒家の住所、箱の所在と形状などプログラムされていたため、一軒家の中に入って無事にバッテリーを取り出すことができました。

しかし、R1はバッテリーの上に爆弾が載っていることには気づいていたが、時限爆弾を外す、解除する、などの指示や判断をインプットされていなかったことから、R1は時限爆弾毎外に持ち出してしまい、一軒家を出た後に爆弾が爆発してしまう結果となってしまった。

以上のケースから、1号機R1は「箱からバッテリーを取り出す」という目的については理解していたが、「バッテリーに付けられていた爆弾まで持ってきてしまう」ことに理解できなかったことが失敗の原因となります。

次に目的を遂行するにあたってR1のように「箱からバッテリーを取り出すことに付随して発生する事項も考慮」した人工知能ロボット2号機R1-D1を開発しました。

しかし、このロボットは、一軒家に入ってバッテリーの前に来たところで動作しなくなり、そのまま時限爆弾が作動してロボットは破壊されてしまいました。
R1-D1は、バッテリーの前で

  • 「このバッテリーを動かすと上にのった爆弾は爆発しないかどうか」
  • 「バッテリーを動かす前に爆弾を移動させないといけないか」
  • 「爆弾を動かそうとすると、天井が落ちてきたりしないか」
  • 「爆弾に近づくと壁の色が変わったりしないか」

などなど、「箱からバッテリーを取り出す」という目的と無関係なことまで無限に思考し続けてしまったのです。

R1と違ってR1-D1は時限爆弾に関係する無限通りのあらゆる可能性を全て考慮しようとしてしまい、莫大の計算時間を要してしまったことが原因として考えられます。
もちろん、「壁の色がかわったりしないか」といった事項は人間であれば可能性から除外出来うるものです。

最後に、「箱からバッテリーを取り出す」という目的に関して無関係な事項を一切考慮しない人工知能ロボット3号機R2-D1を開発しました。

しかし、R2-D1は、今度は一軒家の玄関の前で動作しなくなりました。

R2-D1は、一軒家の玄関の前で目的と無関係な事項を全て洗い出そうとして無限に思考し続けてしまいました。
先ほどの想定されうる可能性は無限通りという話がありましたが、今回の「目的とは無関係な事項」というのも無限通りにあり、それら全てを考慮しようとして同じように莫大の計算時間を必要としたからです。

このように

  • 現実の問題を解決するには無限の可能性が想定されうる
  • フレームを当てはめて関係ない事項を除外してく必要がある
  • フレームに関係する事項、関係ない事項をそれぞれ判断する必要がある

という要素があり、論文の中の人工知能ロボット達にはそれを全て対応することが出来ない、ということを提唱しています。

重要なのは、この「フレーム問題を解決する」=「あらゆる無限通りの可能性を考慮した思考をAIが出来ること」と定義した場合、フレーム問題を解決することは難しいとされます。
ですが「人間と同程度の知能を求める」という前提であれば、まずはインプットした動作を実行、うまくいかなければその原因を考慮して新たに別の動作を検証する、まさに「トライアンドエラー」をしていけばいい、としています。

フレーム問題の課題

フレーム問題は、AIに関する問題として提唱されていますが、果たして人間も無限通りのパターンを考え行動することが出来るでしょうか。
ダニエル・デネット氏の問題であれば関係ない事項を考えることなく、爆弾を取り除きバッテリーを持ってくることはできると思います。

しかし人間が生きる世の中で生きる中で実施している行動、思考はもちろんそれだけではありません。それこそ無限通りにあります。そして同じ人間でも性別、性格、体格、思想、などあらゆる個人差がある中でそれらを全て対応できるでしょうか。

現在のAIも人間のように日常会話を柔軟に行うことは難しいレベルでありながらもGoogle社開発のAlphaGoやiPhoneのSiriなど飛躍的な成長をとげ、人間に少しずつ、少しずつ近づきつつある存在となっています。

フレーム問題をAIで解決しよう

現在人間がAIの開発として目指すところは、「人間の思考、判断、行動等を超えるスーパーAI」、ではなく「人間に近い思考、判断、行動等が出来る存在としてのAI」ではないでしょうか。
もしかしたら、AIというものを考える際に我々は「フレーム問題」という「フレーム」に当てはめ、人間とAIを比較し悲観的に考えてしまっているのかもしれません。
今、AIが向き合うべきことは「フレーム問題を解決できるAI」でしょうか。
ここまでご覧いただきありがとうございました!


参考になったら「いいね!」と「シェア」をお願いします!!

このエントリーをはてなブックマークに追加
AI(人工知能)セミナー開催中