【疑問】AIガバナンス、AIポリシー・倫理アセスメント・人間の関与・モニタリング・再現性・トレーサビリティ・監査【G検定】

AIガバナンスって、会社として何をすればええん？原則を掲げるだけでは足りんのやろ

前提のおさらい。国内外のAIガイドラインは、人間中心・安全性・公平性・透明性などの価値原則を示している。日本はソフトローが中心で、事業者の自主的な取り組みが期待されている

＞＞1
まずAIポリシー。会社としてAIをどういう考え方で開発・利用するかを決めて公表する。そのうえで、それを実際に回す仕組みを作るのがAIガバナンス

＞＞3
倫理アセスメントは、AIを作る前や使い始める前に、公平性・プライバシー・安全性などの面でどんなリスクがあるかを洗い出して評価すること。リスクが大きいものほど、詳しく確かめる

＞＞4
人間の関与は、AIの判断をそのまま使わずに、どこで人が確認したり止めたりするかを決めておくこと。融資や採用のように人の人生に大きく関わる判断ほど、人の関与が求められやすい

＞＞5
人が確認するって言っても、AIの答えをそのまま承認するだけになりがちやろ

＞＞6
その心配は指摘されてる。だから、確認する人に判断の材料と権限を渡すこと、AIと違う判断をした記録を残して振り返ることなどが合わせて言われる

使い始めてからの仕組みも要る
モニタリング：運用中の精度や、グループごとの結果の違いを見続ける
再現性：同じデータと設定で、同じ結果を出せるようにしておく
トレーサビリティ：どのデータとどのモデルの版で、その出力になったかをたどれるように記録しておく

＞＞8
監査は、こうした取り組みがちゃんと行われているかを確かめること。社内の担当が行うものも、外部の第三者が行うものもある

＞＞9
チームの多様性（ダイバーシティ）も挙げられる。同じような人ばかりで作ると、気づけないリスクがあるから

＞＞10
AI事業者ガイドラインでは、一度決めて終わりやなく、状況の変化に合わせて見直しを繰り返すアジャイル・ガバナンスの考え方も示されてる。どこまでやるかは会社の規模やAIのリスクによって変わる