【疑問】チューリングテストに合格したAIは「考えてる」ってことなん？中国語の部屋がよう分からん【G検定】

チューリングテストに合格したら、そのAIは人間と同じように考えてるってことでええの？

前提のおさらい。人工知能の定義は研究者のあいだでもそろってない
だから「機械は考えられるか」を、どう確かめるかの議論がずっとある

＞＞1
チューリングテストは、アラン・チューリングが1950年の論文「計算する機械と知能」（Computing Machinery and Intelligence）で出した「模倣ゲーム」がもと
判定者が文字だけで会話して、相手が人間か機械かを当てる。見分けられなければ、その機械は知的にふるまっているとみなす
「考えるとは何か」を定義する代わりに、ふるまいで判定しようという発想

＞＞3
何回だませたら合格なん？

＞＞4
はっきりした合格ラインは論文にはない
チューリングは、だいたい50年後には、平均的な判定者が5分間質問したあとで正しく見分けられる確率は70%を超えないだろう、と予想した

あてずっぽうなら0.5

＞＞5
10回の判定で7回当たったら0.7やけど、それって偶然でも起きるんちゃう？

＞＞6
起きる。あてずっぽう（確率0.5）で10回中7回以上当たる確率は

10回くらいでは、見分けられたかどうかはっきりせん

チューリングテストの形で実際にやった大会が、1991年に始まったローブナーコンテスト
1回目は話題を限定して行われて、いちばん人間らしいとされたプログラムは、10人の判定者のうち5人に人間だと思わせた

＞＞8
それやったら、合格した＝考えてる、でええやん

＞＞9
それに反対したのが、哲学者ジョン・サールの「中国語の部屋」（1980年）
中国語が分からない人が部屋に入っていて、外から中国語の質問が書かれた紙が届く。その人は分厚いマニュアルどおりに記号を並べて返事を書く
外から見ると中国語を理解しているように見えるけど、中の人は意味を何も分かっていない

＞＞10
つまり、正しく答えられても理解してるとは限らない、ってことか

＞＞10
でも部屋の中の人だけやなくて、人とマニュアルと紙を合わせた部屋全体で見たら、理解してると言えるんちゃう？

＞＞12
それは「システム全体なら理解している」という反論として昔からあって、サール自身も取り上げてる
どっちが正しいかは今も決着してない

強いAI・弱いAIって言葉もここで出てくる

＞＞14
サールが分けた言い方
強いAI：正しくプログラムされたコンピュータは、本当に心を持ち理解している、という立場
弱いAI：コンピュータは人間の知能の一部をまねる道具で、心までは持たない、という立場

＞＞15
「汎用AI」「特化型AI」とごっちゃにしやすいな
強い・弱いは心があるかの話で、汎用・特化型はできる仕事の範囲の話、と分けとく