フレーム問題とは?AIが解けない超難問

スポンサーリンク
フレーム問題とは?AIが解けない難問人工知能分野の問題
この記事を読んで分かること
  • フレーム問題とは何か
  • フレーム問題の具体例

フレーム問題とは

フレーム問題とは、

今からしようとしていることに関係のあることがらだけを選び出すことが,実は非常に難しい
という問題です。  
 

フレーム問題は1969年にマッカーシーとヘイズが提唱した概念で、現在でも人口知能研究の大きな課題となっています。

 

この問題が解決しない限りは、汎用的に使える強いAIを作り出すことはできません。

概念だけでは理解しづらいと思いますので、具体例を用いて説明していきます。  

 

フレーム問題の具体例

哲学者のダニエル・デネットが考案した、「ロボットにバッテリーを取りに行かせる」という非常に有名な例え話です。  

自活したロボット1号

自活したロボットの話  

ある科学者が、ロボット1号に洞穴にあるバッテリーを取りに行くように頼みました。

このロボット1号は命令をきちんと理解して実行することができます。

洞穴にあるバッテリーを見つけることができたのですが、バッテリーの上には爆弾が乗っていました。

ロボット1号は爆弾が乗っていることは理解できましたが、爆弾を乗せたままバッテリーを運んでしまいます。

 

ロボット1号は自分の行動(バッテリーを運ぶ)ことによって生じる影響を認識できませんでした。

そこで、科学者は自分の行動が周囲にどんな影響を与えるか考えられるように改良したロボット2号を作りました。  

 

自分の行動によって生じる影響を考えられるロボット2号

周囲への影響を考えるロボットの話

ある科学者が、ロボット2号に洞穴にあるバッテリーを取りに行くように頼みました。

ロボット2号は命令に従い、洞穴へ入り、爆弾が乗ったバッテリーを発見しました。

ロボット2号はバッテリーを運び出す際の周囲への影響を考え始めます。

バッテリーを動かすと「爆弾が爆発しないか」、「天井は落ちてこないか」、「壁の色は変わらないか」などあらゆる可能性を考えてしまいました。

そうしてロボット2号の思考が終わらずに爆弾が爆発してしまいました。

 

ロボット2号は自分の目的(バッテリーを運ぶ)に関係のないことまで考えてしまいました。

そこで、科学者は目的に関係のないことを無視できるように改良したロボット3号を作りました。  

 

目的に関係ないことを無視できるロボット3号

目的外のことを無視できるロボット

ある科学者が、ロボット3号に洞穴にあるバッテリーを取りに行くように頼みました。

ロボット3号はその場から動き出さず、バッテリーを運ぶことに関係のあることとないことの判別を始めました。

バッテリーを運ぶことと「洞窟の色は関係ないか」、「明日の天気は関係ないか」、「自分の名前は関係ないか」などあらゆる事象を考えてしまいました。

 

そうしてロボット3号の思考が終わらずに洞穴の中の爆弾が爆発してしまいました。  

ロボット3号は目的(バッテリーを運ぶ)に関係があるかないかを考えるために、一度あらゆる事象について考えてしまいました。  

 

まとめ

フレーム問題とは、今からしようとしていることに関係のあることがらだけを選び出すことが,実は非常に難しいという問題です。

ロボットの計算資源が有限である以上、この世のあらゆる事象を処理することはできません。

AIをうまく活用していくためには、AIが処理すべき範囲を正しく設定していく必要があります。  

 

参考文献

フレーム問題とは | 問題点・具体例・人間との関係性について | Ledge.ai
AIに関するニュースや記事を独自の切り口から発信します。
人工知能の話題: フレーム問題

コメント

タイトルとURLをコピーしました