AI化社会の近未来(2)

１．AIの自律化と人間支配
AI(Artificial Intelligence人工知能)の発達は日進月歩，いまや大抵のことは人間よりも効率的に情報収集し，分析し，的確に判断を下しうる。いずれ人間がAIを道具として使うのではなく，AIが人間を分析し，人間に働きかけ，人間を操作する，つまり人間を使う時代が来るであろう。ほんの少し前までであれば，SF夢物語にしかすぎなかったようなことが，いまや正夢になろうとしている。

(1)近代社会の大前提としての自立的個人
われわれ人間は，とりわけ近代以降，一人一人がそれぞれ独自の自我をもち，自己を意識し，最終的には自分が自分のことを決定する自由な行為主体であると信じてきた。日本国憲法も，そうした近代的個人の存在を大前提として，「すべて国民は，個人として尊重される」（13条）と規定している。

われわれは，最終的には自分の意思で決定し約束して（「契約の自由」），様々な人間関係をつくり運用する。夫婦，各種団体，会社，組合そして国家など，近代的であればあるほど個人の主体的な自由と責任を当然の前提として組織され，運用されている。

われわれは，この主体的な自由を行使し，その結果への責任を果たすため，情報収集(学習)し，比較分析し，評価する。そして，その学習し分析評価した結果に基づき，われわれは，自分にとって最善と考える選択肢を選び，それを実行し，その結果への責任を引き受ける。

むろん，そのような主体的自由の行使や責任の引き受けは容易なことではなく，それゆえ「自由からの逃走」が多かれ少なかれ現実には生じる。が，たとえそうであったとしても，近代社会がわれわれを本質的には自由な行為主体と認め，「個人として尊重」することを大前提として組織され運用されてきたことは，紛れもない事実である。

(2)AIによる情報収集と人間支配
ところが，最近のAIの驚異的な性能向上により，この自立的主体的個人の大前提が，たとえ建前としてであれ維持し続けることが困難となり始めた。＜様々な情報の学習や分析評価は，個々人本人よりもAIの方がはるかに迅速かつ的確に行う。自分自身のことも，本人よりAIの方がよく知っている。いや，自分の自我と信じているものそれ自体でさえ，すでにAIにより形成され，コントロールされている。＞　――もしこのような状態になってしまえば，人々を自由な行為主体とみなし「個人として尊重」せよと言ってみても，それは無意味である。そんな「主体的個人」など，もはやどこにも存在しないからだ。

われわれは，すでにグローバル情報化社会の中で生きており，いたるところで個人情報を取られている。情報に関し国境はもはや無意味。世界中の公私様々な機関が，絶え間なく情報を収集し，蓄積し，いまやその量は誰にも確認できないほど膨大な量に達しているはずだ。

しかも，そうした現代における個人情報収集は，情報を取られる本人が全く，あるいはほとんど意識していない場合が少なくない。たとえば日々の買い物，スマホ位置情報，ネット利用など。あるいは，現在ではすでに監視カメラがいたるところに設置されており，顔認証システムと組み合わせると，本人にほとんど気づかれることなく個々人を特定し，その行動を逐一記録保存することさえ可能だ。いやそれどころか，表情等の分析により個々人の感情，ひいては心の中の動きですら読み取り記録保存できるようになるであろう。自宅の「スマート化」（常時ネット接続自宅管理）や，常時ネット接続により体温・血圧・心拍数等の自動計測・管理ができる「スマート時計」を身に着けるのは，自ら個人情報を放棄しているようなものだ。グローバル情報化社会では，人は丸裸，プライバシーはなくなる。

AIは，われわれ人間自身ではもはや到底不可能となった，このような膨大な情報の迅速な収集・分析・評価を行う。「知は力だ」とすると，われわれ自身はもはや無力であり，AIの指示に従い，行動せざるをえない。そこには，自由な行為責任主体たる個人，尊厳を認められるべき個人は，存在しない。

このAIは，むろん人間がつくり出し，運用を始めたものである。しかし，AIが「機械学習」，「深層学習」など，高度な「自動学習 」を始めると，その情報収集・分析能力は人知を超え，AIそのものがブラックボックス化する。そして，AIがブラックボックス化すると，AIがなぜそのような判定をしたのか，どのようにしてそのような結論に達したのか，その根拠が知りえなくなる。それを知ろうとすれば，われわれ自身がAI以上に迅速かつ的確な情報収集・分析能力を持っていなければならないからだ。

アメーバのように無限に拡大し，複雑化し，不眠不休で超高速で働き続けるAI――人間に勝ち目はない。自動学習AIの事実上の自律（自立）と，そのAIによる人間支配！

■The Dawn of AI

谷川昌幸(C)