ネパール評論 Nepal Review

ネパール研究会

Posts Tagged ‘差別

AI化社会の近未来(3)

2.AI化社会の諸相
この自動学習AIによる人間支配は,自由な自律的自己決定主体たろうとする人間の側には,様々な不都合を生み出す。たとえば,以下のようなことが起こりうる。

(1)個人に対する差別
 ・AI遺伝情報評価→「生まれ(血統)」による差別
 ・AI個人履歴評価→「過去」による差別(AIは忘れない)
 ・AI相性評価(AIお見合い)→結婚差別
 ・AI適性評価→就職・昇進差別
 ・AI信用力評価→カード使用制限,ローン拒否 
 ・AI非行・犯罪予測→差別的行動制限・予防拘禁など

NHK News, 2019/08/17

■岩田昭男「大手正社員でもクレカ審査落ち 理由は「信用スコア」の低さ?」AERA dot, 2018.11.25

(2)「個人の尊厳」の空洞化
AIは,個人情報を単に収集・分析・評価するだけでなく,それに基づき個々人に「最適な」情報だけを選び出し提供することにより,個々人の人格をつくり変えてしまう。

 ・個人情報の収集・分析・評価→各人向け「最適」情報提供→各人の人格(好み,感情,思想信条など)の改変

その結果,われわれ人間は,事実上,自分で自立的・主体的に判断し行為することが出来なくなってしまう。人間としての「個人の尊厳」の空洞化。

むろん,この場合でも,AIを使って他の人々に働きかけようとする人々は,AIの使用者であり自由といえなくもないが,先述のようにAIの自動学習が進むと,AI使用者ですらAIの分析・評価過程の理解・コントロールが困難となり,結局はAIの言うがままとならざるをえない。

こうなってしまえば,たとえ自由意志を持つのは人間だけだと固く信じ,最高法規としての憲法で「個人の尊厳」を保障していても,それは空洞化し形だけ,実際には自己欺瞞のための単なる建前にすぎなくなってしまうだろう。

Mark Rolston, Fast Company, 10.19.2017

谷川昌幸(C)

Written by Tanigawa

2019/08/20 at 10:18

カテゴリー: 社会, 情報 IT, 人権

Tagged with , , ,