フレーム問題について

「フレーム問題」っていう単語、これはAI研究でよく使われる言葉なんですが、それ以外にも自閉症やアスペルガーなどの患者でも取り上げられるキーワードです。

今回は「フレーム問題」について書いてみたいと思います

フレーム問題のおさらい

まずAIやアスペルガー障害のキーワードとなっている「フレーム問題」をサクッとおさらいしておきましょう。

「フレーム問題」っていうのは何かをするときに考慮するべき問題が無数にありすぎてコンピュータや脳が処理不可能になってしまう状態を指します。

普通、人間は例えば石を拾い上げる、っていう動作をするときに、目の前にある石を持ち上げるだけでそれが達成されますよね。ただこの時、石の上に爆弾が乗ってたらその石は拾い上げません。当然人間ならそういう判断ができます。

ですが、AIやアスペルガー障害を持つ方は、そのほかにいろいろ考えてしまいます。爆弾が乗っている可能性を考慮するなら、もし上に乗ってるのがバッタならどうなのか、また、その石が石じゃない可能性を考慮しなくてはいけなくなり、その石を持ち上げている最中に地震が起こる可能性、その石を持ち上げるとどこかのスイッチがカチッと入ってしまって実はそれが原爆の発射スイッチである可能性…、と無限の可能性を考えてしまう。そして、結果、石を持ち上げることができない、というのがフレーム問題です。

人間は何かを行うときに、無意識に考えなくていい可能性と考えなくてはいけない可能性をはっきりと分けた”フレーム”のような色眼鏡を付けて行動をしていて、だから人間はフレーム問題を解決できてるわけです。それをするために何が大事で何が大事ではないかを無意識に間引いて考えられているということです。

でもこれがAIやアスペルガー障害を持つ方は難しい。この動作をするうえで何が大事で何が大事ではないかのフレームを作る事が困難だからです。

だからすべての可能性を考えてしまう。それはそれで思慮深く、一つの才能だと思いますが、それでも常人とは違った行動様式にならざるを得ません。

そもそも人間もフレーム問題は解決できていない

フレーム問題のおさらいも終わったんですが、私が思うに、人間もフレーム問題は解決できてないと思います。

人工知能研究でもそれは議論されていて、人間はフレーム問題を疑似的に解決してるだけで本質的には解決できていない。AIやアスペルガー障害を抱える人と本質的には同じである、という見方です。

私はその思想が正しいと思っています。

人間の場合、行動しながら思考しているわけで、だから考えられる時間が有限なだけなんだと思います。上から順番に可能性を潰していって、実際に行動するタイミングが来たらそれ以外の可能性を捨てて石を拾い上げる。そしてだから時に失敗をする。

AIやアスペルガー障害を抱える方は、トライ＆エラーの動きが難しいだけ、程度の問題だと思います。

ということでただ単に失敗をよしとするプログラムなり思考を与えれば、フレーム問題はそれほど問題じゃなくなると思ってます。めちゃくちゃシンプルですが思考する時間をあらかじめ決めておいて、それを過ぎればほかの可能性を捨てればいい。んそしてとにかく当初の目的の動作を行う。本当はその行動までの時間を問題の程度に応じてファジーに決められるのが望ましいけれど、無理であれば固定値でもいいと思います。それでかなり人間らしい振る舞いになると思います。

ただこの場合、どの可能性が一番深刻度が高いかを考えて、あらかじめソートする必要があって、無限の可能性をソートするわけだからそれは不可能で…、とさらにフレーム問題を生むことになります。

なので”その行動の結果起こりうる可能性”自体をディープラーニングすればいいと思ってます。こういうときこういうことが起きやすい、っていうリスト。逆にいうとそれ以外は考慮しない。たとえそれでミスしようがお構いなし。それが人間らしい思考だと思います。

ただ、そうなると爆弾が乗ってる石、なんてめちゃくちゃニッチな状況に対処できなくなります。

そういう感じで結局AIについてはフレーム問題はまだ解決できない深刻な問題なんだと思います。99％の場合で人間らしいフレームの捉え方ができるけど残りの1%、いわゆるマイノリティーケースで予期しない動きをしてしまう、というか。

また、”こういうとき”と書きましたが、そのこういう時が石、新聞紙、猫、空き缶…とまた無数に存在するのでその部分でもまたフレーム問題が発生することになって、カテゴライズする必要が出てくると思います。何かを拾う、その動作だけでこんな感じなので、人間の動作をAIで模倣しようとしたならやっぱり膨大過ぎる条件付けになるのでAIで実装するにはまだメモリ？とかが圧倒的に足りない気がします。

まとめ

AIやアスペルガー障害の方が抱える「フレーム問題」について紹介しました。

そう考えると人間の持つあいまいな判断、いわゆるファジー制御はものすごい優秀なんだと思いますよね。

上の例で言うなら、石の上に爆弾があったら持ち上げないわけですし、仮に石じゃなくてそれが猫だったら救助を呼ぶはずです。

可能性と重要度の重みづけが無意識にできてるというか。たぶんドラえもんみたいなAIを作るうえで一番の難題はこの人間の”無意識”をどうやってプログラムするかなんだろうなーと思います。

いうて別にAI研究者じゃないですし、最近ようやっとディープラーニングを学んだずぶの素人ですが。

ここまで読んだ人なら誰でも思うことだと思いますが、人間の場合、持ち上げる対象ではなく、”爆弾”自体に特別な行動がありますよね。エマージェンシーというか。そこをうまく取り入れられるといいなーと思いますが、そういうAIの構築ってあるのかわかってません。