【疑問】フレーム問題とかシンボルグラウンディング問題とか、AIの「難問」って結局何が難しいん？【G検定】

フレーム問題、シンボルグラウンディング問題、身体性、シンギュラリティ
名前は覚えたけど、何が難しいのかがピンとこん

前提のおさらい。第1次・第2次ブームのAIは、人が書いた記号とルールで推論してた
「AならばB」のような記号の操作だけで、世界を扱おうとしてた

＞＞1
フレーム問題からいく。マッカーシーとヘイズが1969年に示した問題で
今しようとしていることに関係あることだけを選び出して考えるのが、記号とルールで動くAIには難しい、という問題

＞＞3
哲学者デネットが1984年に出したロボットの例が有名
洞窟からバッテリーを取ってこいと言われたロボット。バッテリーの上には時限爆弾がある
1台目はバッテリーを台車ごと持ち出して、爆弾も一緒に持ってきてしまった
2台目は「持ち出すと何が起きるか」を全部考え始めて、時間切れ
3台目は「関係ないことを除く」作業そのものに時間がかかって、やっぱり時間切れ

＞＞4
なんでそんなに時間がかかるん

＞＞5
関係あるかないかを確かめる組み合わせが爆発する
世界についての事実が $n$ 個あって、どれが関係するかの組み合わせを全部考えると

$n=30$ でも $2^{30}\approx 10.7$ 億通り

＞＞6
人間はなんでこれができるん？

＞＞7
人間も完全に解いてるわけじゃなくて、なぜかうまく無視できてる、という程度
どうやってるのかを機械で再現する方法は、まだはっきりしてない

シンボルグラウンディング問題は、ハーナッドが1990年に示した
記号（シンボル）と、それが指す実世界の意味を結びつけられるか、という問題

＞＞9
よく出る例がシマウマ。人間は「シマウマは縞模様のある馬」と聞けば、馬を見たことがあれば初めて見てもシマウマだと分かる
でも計算機にとっての「馬」や「縞」はただの記号で、実物と結びついてないから、記号を組み合わせても実物は分からない

身体性って何？

＞＞11
知能には、体を通して世界と関わる経験が必要だ、という考え
「コップ」の意味は、持ったら重い、落としたら割れる、という体での経験と結びついてる。シンボルグラウンディング問題への答えの候補の1つ

＞＞10
でも今の大規模言語モデルは、記号だけで学んでるのに意味が分かってるように見えるやん

＞＞13
画像と言葉を一緒に学ばせて、記号と見た目を結びつけようとする研究もある
ただ、それで問題が解けたと言えるかは、研究者のあいだでも意見が分かれてる

ほかに、知識獲得のボトルネック（専門家の知識や常識を全部書き出すのが大変）と、トイ・プロブレム（ルールとゴールが決まった簡単な問題しか解けない）もセットで出てくる

シンギュラリティ（技術的特異点）は？

＞＞16
AIが自分より賢いAIを作れるようになって、技術の進み方が人間には予想できないほど速くなる点
レイ・カーツワイルは、それが2045年ごろに来ると予想した
能力が2年ごとに2倍になると、20年後には

＞＞17
指数関数で増え続ける前提が強すぎるやろ。どこかで物理的な限界にぶつかるはず

＞＞18
それも一つの立場やな。来る派・来ない派の両方がいて、「汎用的なAIが作れるのか」と一緒に議論されてる