【疑問】AIの公平性、バイアスはどこから入る？サンプリングバイアス・代理変数・センシティブ属性・公平性の定義【G検定】

AIは人間みたいな偏見を持たんから公平、って言う人がおるけど、ほんまなん？

前提のおさらい。分類の結果は混同行列で整理する。再現率は、実際に正のもののうち、正と予測できた割合

＞＞1
AIは学習したデータの偏りをそのまま覚える。偏りの入り口はいくつもある
データの偏り：過去の判断そのものに偏りがあった
サンプリングバイアス：集めたデータが、使う場面の人たちを代表していない。ある肌の色の顔写真が少ない、など
アルゴリズムバイアス：モデルや学習のしかたの側で生まれる偏り

＞＞3
採用の評価にAIを使った例で、過去の応募者の男女の偏りを学んで女性に不利な評価をしていたとして、使うのをやめたと報道された（2018年）

＞＞4
性別や人種みたいなセンシティブ属性を入力から外せば、解決するんちゃうの？

＞＞5
外しても残ることがある。住んでる地域、出身校、趣味のように、センシティブ属性とよく関係する別の変数（代理変数）を通じて、同じ偏りが入りこむ
だから、外すだけやなくて、結果がグループごとにどう違うかを測って確かめる必要がある

＞＞6
測るには公平性の定義が要る。代表的なもの
グループごとの合格の割合をそろえる：Aの合格率0.6、Bの合格率0.4なら、差は0.2、比は約0.67
本当に合格すべき人のうち合格と判定された割合（再現率）をそろえる：Aが0.8、Bが0.6なら差は0.2

＞＞7
どの定義を使えばええん？全部そろえたらええやん

＞＞8
グループごとにもともとの割合が違うと、いくつかの定義は同時には満たせないことが、研究で示されてる。どの定義を優先するかは技術だけでは決まらず、その場面で何を公平とするかの判断になる

＞＞9
米国の再犯予測の道具について、報道機関の分析（2016年）がグループによって誤り方が違うと指摘し、開発した側は別の定義では公平だと反論した例がある。定義によって評価が分かれる例としてよく議論される

＞＞10
対処としては、データを集めなおす・重みをつけなおす、学習のときに公平性の条件を入れる、出力のしきい値をグループごとに調整する、などがある。どれも、何を公平とするかを先に決めてからの話