【疑問】プーリングって画像を小さくするだけ？最大値・平均値・GAPと「不変性の獲得」【G検定】

CNNのプーリング層って、特徴マップを小さくしてるだけちゃうの？
不変性の獲得って何のこと？

前提のおさらい。畳み込み層はフィルタをずらしながら掛けて足し、特徴マップを作る。チャンネルごとに「この模様がどこにどれくらいあるか」を表してる

＞＞1
プーリングは、小さい範囲ごとに1つの値にまとめる。学習する重みはない
4×4 の特徴マップ [[1, 3, 2, 0], [4, 2, 1, 1], [0, 1, 5, 2], [2, 2, 3, 1]] を 2×2 ずつまとめると
最大値プーリング：[[4, 2], [2, 5]]
平均値プーリング：[[2.5, 1], [1.25, 2.75]]

＞＞3
不変性の獲得は、少しずれても同じ答えになること。最大値プーリングなら、2×2 の中で4の位置が1マス動いても、出てくるのは4のまま
写真の中で物が少しずれても、同じ物と見なせるようになる

＞＞4
でも位置の情報をわざと捨ててるってことやろ。位置が大事なタスクやと困らん？

＞＞5
困る。物の場所を当てる検出や、画素ごとに当てるセグメンテーションでは、まとめすぎると細かい位置が分からんくなる。だからプーリングを減らしたり、別の工夫と組み合わせたりする

グローバルアベレージプーリング（GAP）は、各チャンネルの特徴マップ全体を平均して1つの値にする
7×7×512 の特徴マップなら、512個の値になる。これを全結合層で1000クラスにつなぐと重みは $512\times 1000=51.2$万個
並べ直して $7\times 7\times 512=25088$ 個を全結合でつなぐと $2508.8$万個。GAPにするとパラメータが大きく減って、過学習もしにくい