コンピューターには何ができないか



「フレーム問題」とは現実世界で人工知能が具体的な行動を起こすときに直面する難問のこと。人工知能は処理能力の高さゆえに、現実で起こりうる全てに対処しようとします。すると何も行動を起こすことができなくなってしまうというジレンマに陥るのです。


例えば、人工知能に「スターバックスでコーヒーを買ってきて」と命令します。コーヒーを買うまでに、現実世界では無数の出来事が起こる可能性があります。しかし、そのほとんどは当面の問題「コーヒーを買う」とは関係がありません。そこでまず、起こりうる出来事を「要不要」のふるいにかける必要があります。不必要な可能性を取り除くわけです。このようにして、余計な事柄は無視して思考しなければなりません。なぜか?全てを考慮すると無限の時間がかかってしまうからです。


つまり、枠(フレーム)を作ってその枠の中だけで思考することになります。しかし、そんなに理想通りに検討していくことは可能でしょうか。残念ながら、どれだけ高速のコンピューターでも現実的には難しいと言えます。なぜなら、ふるいにかけるべき可能性が多すぎて、抽出するだけで膨大な時間を要するからです。


この「フレーム問題」は人工知能研究者が発表した論文を元に、哲学者のダニエル・デネットが1984年の論文で問題提起しました。デネットの卓抜した思考実験により、フレーム問題は注目を集めることになります。では、実際にデネットの描いた代表的な思考実験を見てみたいと思います。『いま世界の哲学者が考えていること』の著者岡本裕一朗氏の著書【※1】より一部引用します。


《甲》

むかしR1というロボットがいた。ある日、R1の設計者たちは、エネルギー源となる予備バッテリーを、ある部屋に置いた。そして、その部屋に時限爆弾も一緒に仕掛け、まもなく爆発するようにセットした。

R1はその部屋からバッテリーを回収する作戦を立てた。部屋の中には、ワゴンがあり、バッテリーはそのワゴンの上に載っている。R1は「引き出す(ワゴン、部屋)」という行動を実行すればよいと考え、ワゴンを部屋の外に持ち出した。

不幸なことに、載っていた時限爆弾も一緒に運んでしまったので、部屋の外に出たところで爆発してしまった。


《乙》

設計者らは第2のロボットの開発に取りかかった。ロボットは自分の意図した結果だけでなく、意図しなかった結果をも判断できなくてはならない。そのためには、行動の計画を立て、周囲の状況の記述からその結果を演繹させればよい。

新たにつくられたロボットは、R1D1(D=Deduce:演繹)と名付けられた。R1D1も、バッテリーの回収に取り組んだ。「引き出す(ワゴン、部屋)」という行動に先立ち、R1D1は起こりうる結果を次々と考え始めた。「ワゴンを引き出しても部屋の壁の色は変わらないだろう」「ワゴンを引き出せば車輪が回転するだろう」(中略)。

こうした結果の証明に取りかかっていると、またもや時限爆弾が炸裂した。


《丙》

これまでの問題は、目的に関して、関係のある結果と関係のない結果を、ロボットが見分けられなかったことにある。そこで、開発者たちは、目的に関係のない結果を見分けられるロボットR2D1を作った。

ところが、R2D1は部屋に入らず、その前でうずくまってしまった。

「R2D1!どうして動かないんだ?」

「うるさいなぁ!いま考えてるところだよ!」

部屋の前でR2D1が無関係な結果を見分けて、それらを一つずつ無視しつづけている間に、とうとう時限爆弾が爆発した。



以上がフレーム問題の概要です。もうお気づきかもしれません。映画『スター・ウォーズ』に登場する丸っこいロボットR2-D2は、R2D1の次の型を意味します。つまり、フレーム問題を克服し、人間と同じように思考・行動できる人工知能の構想です。

「ぼくがフレーム問題を乗り越えたR2-D2さ!」




人間はフレーム問題を解決しているのか

自然界に発生した知性(人間の知性など)が、どのようにこのフレーム問題を解決しているかはまだ解明されていません。そもそも人間でさえフレーム問題を解決できておらず、単にうまく対処しているように見えるだけだ、と唱える研究者もいるほどです。



人間はフレーム問題を解決しているから、行動できるわけではありません。人間の場合でも、すべての結果を考慮しようとすれば、まったく行動できなくなるでしょう。要するにフレーム問題にこだわらず行動しているに過ぎないのです。ですから、バッテリーを運ぶロボットのように、爆破されることも少なくないのです。



引用文献:【※1】『いま世界の哲学者が考えていること』岡本裕一朗(著)ダイヤモンド社(2016/9/8)

HAL's puG Blog

晴明 [HAL] によるブログ。ときどき、愛犬puGがつぶやくかも♡