フレーム問題を具体例でわかりやすく!人工知能に対応する解決策は?

最近ドハマリしているシュタインズ・ゲート。

その続編である「β世界線」での岡部倫太郎の姿を描いた『シュタインズ・ゲートゼロ』において、とても分かりやすく紹介されている技術のエピソードがありました。

それが、今回話題とする「フレーム問題」と呼ばれる"人間と機械(AI)の相違点"についてです。

いままで言葉だけなら何となく聞いたことがあったのですが、いまいち具体例などが無かったため、どんな意味があるんだろう……?と疑問に思っていたんですよね。

非常に勉強になったので、今回はフレーム問題とは何か?といったことを中心に、例を上げながら紹介していきたいと思います!

フレーム問題とは?

フレーム問題について一言でまとめてしまうと、

全てにおいて処理したいと考えているコンピューターが、現実に起こりうる"いらない情報"まで考慮してしまうことで、ある問題に対処できないこと

を指します。

文字だけだと、なんのこっちゃってなりますね(´・ω・`)

いちおう、Wikipediaではマクドナルドでハンバーガーを買うことを例に上げて紹介されていますけど、これも抽象的でよく分からない……と感じてしまう人が多いかもしれません。

Wikipediaの引用(タップで開く)

現実世界で人工知能が、たとえば「マクドナルドでハンバーガーを買え」のような問題を解くことを要求されたとする。現実世界では無数の出来事が起きる可能性があるが、そのほとんどは当面の問題と関係ない。人工知能は起こりうる出来事の中から、「マクドナルドのハンバーガーを買う」に関連することだけを振るい分けて抽出し、それ以外の事柄に関して当面無視して思考しなければならない。全てを考慮すると無限の時間がかかってしまうからである。つまり、枠(フレーム)を作って、その枠の中だけで思考する。

だが、一つの可能性が当面の問題と関係するかどうかをどれだけ高速のコンピュータで評価しても、振るい分けをしなければならない可能性が無数にあるため、抽出する段階で無限の時間がかかってしまう。

これがフレーム問題である。

具体例

これから先、シュタインズ・ゲートゼロで紹介されていた部分を「大いに」参考にしながら、具体例を書いていきます。

プレイを考えている人にとってはネタバレとなってしまうので、注意してくださいね(´・ω・`)

実験スタート前

登場人物は3人。

実験の進行をする「司会者役」のAさん
指示を出す「人間役」のBさん
それを言われたまま行動する「ロボット(人工知能)役」のCさん

です。

この人たちがいるのは、人間役のBさんが住む、いたって普通のワンルーム。

クローゼットにはいくつもの服が収納されているかもしれませんし、部屋を出てすぐとなりのトイレや玄関に近い靴置き場などには、いろいろと不要なゴミがあるかもしれません。

テーブルのまわりに3人が座り、フレーム問題について話し合うところからスタートです。

(この記事では『Bさん』の立場から読み進められるように改変していますので、一緒に考えてみてください)

実験の説明

司会者のAさんが、を人間役のBさんの前に出し、テーブルの上においてどんな様子なのかを教えます。

(ロボット役のCさんは、事前に箱がどんなものなのか知らされている)

茶色の箱で、中には人形が入っていますね。

確認が終わったところで、AさんがBさんに指示を出します。

司会者
Bさん、Cさんに命令して、その箱の中にある人形を取り出させてください。Cさんという「人工知能」が正しく動作するように、命令は出来るだけ簡潔で、かつ厳密なものが望ましいです。

司会者
クローゼットの中は確認していませんので分かりませんが、この部屋には、たくさん箱があるかもしれません。しかし、他のどれでもなく、「テーブルの上に置かれたこの箱」を開けるように指示してくださいね。

司会者
送れる命令は「文章だけ」です。指で示したりするのは反則なので、やってはダメですよ。

司会者
Cさんは、Bさんが話した命令を、「言われたことだけを可能な限り忠実に」、そのまま実行してください。

実験①~問題~

ここで、Bさんが命令を出します。

テーブルの上にある茶色の箱を開けて、中にあるものを取り出してください。

司会者
Cさん、今のが命令なので、言われたとおりに行動してみてください。

しかし、Cさんは固まったまま動くことができません。

少しだけ時間が経った後に、

ロボット
できません……

と発言してしまいました。

取り出すことはおろか、ただ箱を開けることすらできなかったことに、Bさんは戸惑いを隠せません。

実験①~解答~

そんなBさんを見たAさんは、Bさんには見えない位置に書かれている「箱の側面」をずらして示しながら、このように発言しました。

司会者
Bさん、先ほどはワザと箱の側面を見せず、申し訳ありませんでした。じつはこれ、"純粋な茶色の箱"ではないんですよね。

司会者
Cさんは、この箱に文字が書いてあったから開けることができなかった。そうですよね?

ロボット
はい。

そう、Bさんは「テーブルの上にある茶色の箱を開けて~」と命令したため、Cさんはちょっとでも文字が書いてあるものを開けるわけにはいかなかったんです。

人間と違い、コンピューターは与えられた命令を「忠実に再現」しすぎてしまいます。

そのため、Bさんが命令を出す際には、もっと慎重にならないとダメだったんです。

実験②~問題~

これを踏まえて、もう一度だけ実験を行うことになりました。

Bさんは失敗を繰り返さないよう、文字の有無が影響しないように、シンプルな命令を考えてCさんに伝えます。

テーブルの箱を開けて、中にあるものを取り出してください。

しかし、Cさんはまたしても動くことはありません。

しばらくしてから

ロボット
できません……

と発言してしまいました。

Bさんは意味が分からず、頭がパンク状態に(´・ω・`)

実験②~解答~

Bさんは、何が問題だったのかをCさんに聞いてみると、箱を指差しながらこのように言いました。

ロボット

これ、「箱ではない」んですよ。

正面と左側しか確認していなかったBさんは、見えない位置に、またしても「箱ではない」と"文字"が書かれているのを発見。

これだと、文面でしかやり取りすることができない実験の中では、コンピューターが「この物体が『箱』である」ということを断定することができません。

なので、やっぱりCさんは箱を開けることができなかったんです。

フレーム問題がどういったものなのかが判明!

表面に何が書いてあっても、箱は箱なのに……と思うBさん。

「どうしてそんなことすら判別できないの?」
「普通に考えたらそれくらい分かるでしょ」

と考えた人も、ここまで読み進めた方の中にはいるかもしれませんよね。

しかし、少しでも情報にブレが生じてしまうと、とたんに動作不能となってしまうんのが人工知能。

事細かに説明して、これ以外のものは選ばれる可能性が"ゼロ"になるよう設定しないといけないのです。

どんな条件が結果に影響するか分かりませんから、一つ一つ検証していく必要があります。

  • 今回は「箱が一個」だけだったけど、もし複数個あれば?
  • もし箱が手に届かないような場所にあれば、もうワンクッション命令が必要になるのでは?
  • 実験中に地震が起きてしまう可能性だってあるから、それも命令に入れとくべきでは?
  • もしかすると、Cさんが朝ごはんを抜いてきたら考えがニブっていたかもしれないし、パラメーターとして考え直さないといけなかったかも?

……etc

こんなことをいちいち気にしていたら、キリがありません(´・ω・`)

これが、フレーム問題の核心。

人間に備わっている『普通に考えれば要らないでしょ』と思う情報を排除する「感覚」が、人工知能に欠けているのが問題なんです。

スポンサーリンク

フレーム問題の解決策はあるの?

根本的な解決の手段については、今のところありません

現段階では、人間と同じように「あたかもフレーム問題を解決しているかのように、コンピューターが振る舞えるようにする」ことが目標とされています。

現代では、AI技術でカーナビに新しく道をマッピングすることや、人間の顔を覚えさせて認証ロックするiPhoneXの「faceID」のようなものに応用されています。

そこから、機械が自ら考えて作り出す……っていう技術が発達するようにも思いますけどね(´・ω・`)

まとめ

フレーム問題の具体例をわかりやすく紹介していきました。

要は、普通に考えたら分かるでしょっていう感覚がAIには無いため、すべての可能性を考えてしまう……っていうのが、フレーム問題のことなんです。

2045年にはシンギュラリティ(技術的特異点)が訪れると言われていますし、それまでにどうなっていくのか注目ですね。

こういった話が好きなら、絶対にシュタインズ・ゲートをプレイすべきです(´・ω・`)

こちらもチェック!