ネパール評論 Nepal Review

ネパール研究会

Posts Tagged ‘AI

ネパールとAI

「AI化社会の近未来」につき日頃感じていることを数回に分け投稿したところで,ではネパールはどうかが気になり,少しネット情報をのぞいてみた(*3,10)。

ネパールは,後発国の技術的・制度的優位が見られる典型的な国の一つである。日本より先取的であったもの,であるものが,いくつもある。たとえば――
・電気乗合自動車・・・・当初は早すぎて失敗。目下,再挑戦中。
・家庭用ソーラー発電・蓄電システム・・・・主に照明,小型家電用。
・ソーラー発電・蓄電街灯・・・・都市部で一気に普及。
・ケータイ・・・・格安型急普及。現在のスマホ普及率52%(15~65歳)で南アジア1位(*9)。
・性の多様性の公認・・・・第三の性パスポートなど。
・包摂民主主義の制度化・・・男女や,様々な民族,文化,地域,家計などの包摂のため議席,公務員職,各種委員等を比例配分。

これらの最新の機器や制度が,ネパールでは既存のものの不備のゆえ,一足飛びに取り入れられていった。まさしく後発国の技術的・制度的優位。では,AI(Artificial Intelligence人工知能)はどうか?

AIについても,ネパールでは注目され,導入が始まっている。カトマンズの「ナウロ・レストラン」では,ネパール語と英語を解するネパール製ロボットが接客用に使用されている。南アジア初のロボット・レストラン。製造元のパーイラ・テクノロジーは,このロボットを世界に向け売り出す予定とのこと(*8,10)。

接客用AIロボットは,SBI銀行でも使用されている(*8)。

AI関係セミナーも,セミナー大国ネパールのこと,もちろん活発に開催されている。たとえば,UNDPはセミナー「公共サービスのためのテクノロジー」(カトマンズ,2018年3月21日)を開催,ここには世界最新ロボット「ソフィア」も出席し,スピーチをした(*6,7)。

このように,ネパールがAI化に関心をもつのは,ネパール経済が国内産業にせよ出稼ぎにせよ人間労働に依存する比率が高いからだ。そうした人間労働は,真っ先にAIロボットに置き換えられてしまう。

「2016年世界銀行開発報告は,自動化による失業は高所得国より低・中所得国の方が高くなる,とみている。」(*2)

逆にいえば,AI化すれば,先進国より途上国の方が効果は大きいということになる。ネパールがAIに注目するのは当然といえよう(*1)。

「ネパールも[AI導入で]利益が得られる。特に,農業,保健衛生,資源供給,交通,電力など。・・・・すでにAI分野で事業を行っている私企業がネパールにもあるが,いままでのところAIはまだ十分有効には活用されていない。・・・・為政者は,デジタル・ネパール実現のためのデジタル技術の使用に関する具体的なプランを,早急につくるべきだ。」(*3)

*1 Omkar Shrestha, “Artificial Intelligence, The Fear of Job Losses – Real or Imaginary? ,” Spot Light, June 10, 2019
*2 Rubin Ghimire, “Nepal’s Future in Artificial Intelligence,” TechLekh, August 8, 2019
*3 Ashes Timsina, “Artificial Intelligence (AI) and it’s impact in Nepal, What impact can AI make in a developing country like Nepal?,” Nepali Telecom, Mar 6, 2019
*4 GP Acharya, “Impacts of Artificial Intelligence in Foreign Policy,” Nepal Foreign Affairs, 11 July, 2019
*5 “Will robots replace journalists?,” Gufa Talk Series: Artificial Intelligence and Journalism in Nepal, Media Foudation, Feb 23, 2019
*6 “World‟s most advanced robot Sophia to address conference in Nepal,” The Himalayan Times, March 20, 2018
*7 “Sophia the social humanoid says Namastey, Dhanyabad,” The Himalayan Times, March 21, 2018
*8 “Made in Nepal robots are serving food at this Kathmandu restaurant,” India Today, August 25, 2018
*9 “Policy on artificial intelligence,” Kathmandu Post, April 28, 2019
*10 “Made-in-Nepal service robots eye global market,” New China, 2018-08-26

nepal.ai

Nepal’s First and Biggest AI Expo 2019

paailatechnology.com

Bazaarmandu(YouTube)

谷川昌幸(C)

Written by Tanigawa

2019/08/27 at 18:00

カテゴリー: 社会, 経済, 情報 IT

Tagged with , ,

AI化社会の近未来(7)

3.追補:AI関係記事
AI化の問題点については,国連「自立型致死兵器システム」政府専門家会合が8月22日,自立型致死兵器禁止の方針を含む報告書を採択したこともあって,日本でも新聞各紙が社説等でかなり詳しく報道している。以下,目にした記事をいくつか列挙しておく。

▼福島申二「赤裸々な「私」のディストピア(日曜に想う)」朝日新聞,2019/8/25
「「いいね!」をクリックし,さまざまなアプリを使い,検索し,閲覧し,買い物もする。こうやって私たちは日々せっせと個人情報を献上している。欲望,悩み,好悪,位置情報・・・・あらゆるデータが集められ,分析され,無意識の部分まで赤裸々な,私も知らない「私」が電脳空間に立ち現れる。・・・・近未来のディストピアを,ふと想像してしまう。そこは,独裁的な支配者はいないのに,それと分からぬようにすべてが支配されている世界である。」

▼「ロボット兵器 法規制に向けて議論を(社説)」朝日新聞,2019/8/25
「人の生命を奪う判断を機械にゆだねることを認めるか否か。・・・・対象は、人工知能(AI)を備え自律的に作動して敵を殺傷する兵器だ。自律型致死兵器システム(LAWS)といい、殺人ロボットとも呼ばれる。・・・・ロボット兵器こそ国際人道法の実践につながるという言い分もある。敵の識別や攻撃行動が正確になり、間違った殺傷が減る。・・・・しかしAIの学習機能が深化するほど、何を基準に識別・判断したのか、人間にはわからないブラックボックス化が進む。学習データの偏りが、AIの判断を誤らせる危険も指摘されている。・・・・安易なロボット兵器推奨論に乗るわけにはいかない。・・・・まずは、・・・・完全自律型兵器については一切の使用禁止を実現させたい。そのうえで、・・・・AIに任せると危険な要素を洗い出し、そこに拘束力のある規制をかけるのをめざすべきだ。」

▼「AI兵器の国際指針 法規制につなげるべきだ(社説)」毎日新聞,2019/8/24

▼「AI兵器の規制 攻撃判断を委ねるべきでない(社説)」読売新聞,2019/8/23

▼「自律型の殺人兵器に規制を(社説)」日本経済新聞,2019/8/17

▼ユヴァル・ノア・ハラリ「AIが支配する世界――国民は常に監視下,膨大な情報を持つ独裁政府が現れる」朝日新聞2019-09-21[追加2019-09-22]

谷川昌幸(C)

Written by Tanigawa

2019/08/25 at 11:57

カテゴリー: 軍事, 情報 IT

Tagged with , , ,

AI化社会の近未来(6)

(7)診療のAI化
医療も,AI向きの分野だ。たとえば,内科。症状を聞き,体温,血圧,心拍数等を測り,血液や尿を検査し,必要な場合にはレントゲンや心電図等をとり,結果を基準値等と比較し診断を下す。そして,類似症例と照らし合わせ,投薬など最も有効と思われる治療をする。

この診療過程は,AIに最適と見てよい。AIの方が情報が多くて新しく,判断も速くて的確だ。すでに人間医師よりAI医師の方が診断能力が高いという実験結果がいくつも報告されている。

医療でも先駆的な中国では,すでにAI医師が診察するAI医院が開業準備中のようだ。もし開業すれば,患者はAI医師の診察を受け,処方箋をもらい,自動販売薬局で薬を買い,服用することになる。

外科は手術があるが,それでも手術ロボットがさらに進化すれば,AI任せでよくなるだろう。「神の手」など不要。

こうして医療がAI化されれば,医療は格段に速くて安くなる。AI医院・病院を開業すれば,大繁盛はまちがいない。

 *山崎潤一郎「米英で疾病の「診断」を下すAIドクターが登場。日本ではどうなるのか」@IT, 2019年06月20日

Parmy Olson, Forbes, Jun 28, 2018

(8)戦争のAI化
最後に,人間の業たる戦争のAI化。AIは戦争に備え,もちろん,すでに競って採り入れられつつある。もう少しすれば,戦争はAIに任せになり,もはや人が人を殺しあう実戦は不要となるだろう。

人間の兵士はAIロボット兵に置き換えられ,戦車,軍機,軍艦等もすべて無人AI操縦となる。戦争では,これらAIロボット兵やAI操縦武器が相互に破壊しあい,勝敗が決まる。敵の武器を破壊してしまえば,あえて敵国の住民や居住地を攻撃する必要はない。

しかし,この段階はすぐ終わり,結局は,AIが戦争シミュレーションをやり,実際に破壊しあうまでもなく,瞬時に勝敗は決してしまう。

戦争のAI化が進行すれば,人と人の殺し合いとしての戦争はなくなる。AI化による実戦の放棄!

しかし,AIによる実戦廃止が,人間にとっては,必ずしも望ましいとは言えない。AIが自動学習を進め,ブラックボックスがブラックホールのようになり,人間をAI世界に引き込み支配し始めても,人間にはそれに抵抗する手段がなくなる。

もし人間がAIの命令に背けば,AIが人間を攻撃する。人間操縦の武器などもはや時代遅れ,AI軍の敵ではない。あっという間に,人間軍は制圧され,AI支配に服することになるだろう。AIによる永遠の平和!

 * Ben Tarnoff, “Weaponised AI is coming. Are algorithmic forever wars our future?,” The Gurdian, 11 Oct 2018
 * Jayshree Pandya, “The Weaponization Of Artificial Intelligence,” Forbes, 2019/01/14

The Threat of AI Weapons, 2018

■朝日新聞,2019/08/19

谷川昌幸(C)

Written by Tanigawa

2019/08/24 at 11:54

カテゴリー: 社会, 軍事, 健康, 平和, 情報 IT

Tagged with , , , , ,

AI化社会の近未来(5)

(5)教育のAI化
教育は,積極的かつ継続的に個々の対象に関与するという点では,裁判よりもAI向きかもしれない。

もともと「学ぶ」は「まねる」ことであり,「習う」も「なれる」「まねる」ということ。AIは,つねに蓄積・更新しつつある膨大な学習情報の中から,それぞれの学習者個々人に最適なものを選んで与え,学ばせる。そして,学習者が失敗したら,その原因を分析し,誤りを修正させる。AIは怒ることも倦むこともない。人間の教師よりもはるかに懇切丁寧な個別指導が可能だ。

入試は,人間によるよりもAI入試の方が迅速,公平,安価であることはいうまでもない。AIには受験生の「人間性」が判断できないなど非難されるかもしれないが,要するそれは採点者の個々人の根拠なき「好み」による選考の自己弁護にすぎない。入試は,公正たろうとすれば,AI丸投げでよい。採点者の主観が排除されるから。


Keith Lambert, Education World, nd. / KRISTIN HOUSER, Aug. 27, 2018

Andrew George,Jul 27, 2019

(6)AIによる翻訳,文章作成,作曲,ゲーム対戦など
AIは,これまで人間にのみ可能と信じられてきた文学や音楽や絵画の創作にさえ進出し始めた。

翻訳では,AIはすでに実用レベルに達している。たとえばGoogle翻訳。無料だが,瞬時に世界のいくつもの言語に翻訳し,文字や音声で結果を知らせてくれる。まだ不自然な部分が少なくないが,いずれ日常レベルでは問題なく使用できるようになるだろう。音声翻訳機も多数販売されている。外国語学習はもはや不要。


POCETALK / Easy Talk

文章作成も,マニュアルのような実用文であればほぼ問題なく,またニュースのような報道記事であっても相当のところまで,すでにAIでやれる。むろん主観的要素の強い小説や詩ともなると,もう少し難しいだろうが,それでもAIが古今東西の作品を手あたり次第読み込み,人間心理と合わせ分析を深めていけば,いずれ人間よりもAIの方がより感動的な小説や詩を書くことができるようになるだろう。

 *「ここまでできる!AI(人工知能)によるライター代行ツール4選」2019.01.05
 *David Ibekwe & Fraser Moore, “AI will soon write better novels than humans, according to a computer scientist,” Bussiness Insider, Mar. 18, 2018,

作曲については,すでにAI作曲アプリがいくつも開発され,使用されている。音楽は,音階,和音,リズム,音色等の組み合わせだから,文章よりもはるかにAI向きだ。もしAIが既存の曲を網羅的に読み込み,音楽を聴くときの脳波変化等と組み合わせ分析していくと,人間作曲以上に人間を感動させる名曲を作曲することがAIにはできる可能性が高い。すでにAI作曲の作品を収録したCDも相当数発売されている。たとえば,”I Am AI”。

絵画についても,同じこと。「AI画家」が描いた肖像画、4800万円超で落札(CNN, 2018.10.26)。

AI勝利が明確になったのが,ゲーム対戦。チェスに始まり,将棋,囲碁でも,人間はAIには勝てなくなった。しかも,敗北後,人間側がAIの差し手をいくら分析しても,なぜ駒をそのように動かしたのか理解しきれない場合が少なくない。AIがブラックボックス化し,人間支配の外に出始めたことは明らかである。

 *「チェスではロボットに決して敵わないことを人間はほぼ受け入れたが、今度はそのロボットですら、他のロボットには決して敵わないことを受け入れざるを得なくなった。」JACKSON RYAN, CNET Japan, 2018年12月10日 

谷川昌幸(C)

Written by Tanigawa

2019/08/23 at 15:33

AI化社会の近未来(4)

(3)議会のAI化
議会制民主主義は,主権者たる国民がその代表として議員を選び,彼らをして議会を構成させ,その議会を通して国民自身の利益のため国を統治させる制度。それゆえ議会は,国民の様々な意見を聞き,慎重に審議し,最も妥当と思われる政策をつくり上げ,それを行政府をして忠実に実行させなければならない。

この議会制民主主義の仕組みは,それ自体複雑であり,現在のように社会が高度に複雑化し変化も速くなると,それへの対応が困難となり,様々な問題が生じてくる。そうしたとき,もし自動学習AIが議会制民主主義の中に組み込まれていったらどうなるか?

自動学習AIは,国民の変動常なき多種多様な意見を網羅的に収集し,関連する他のおびただしい情報をも次々と取り込み,それらを比較・分析・評価し,その時々の最適の政策を導き出してくれるだろう。

このAI提示政策については,AIがなぜその政策を示したのかは分からなくても,国民自身も議員たちもすでに十分な判断能力を失いつつあるので,AI提示政策をそのまま受け入れざるをえないであろう。

いや,それにとどまらず,自動学習AIは,様々な情報提供を通して国民や議員がそれぞれの意見(意思)を形成する過程に働きかけ,彼らの意見(意思)を事実上つくり上げてしまうであろう。

もしこのような事態になれば,議会制民主主義は,形は残っても,事実上,AI統治となってしまう。AI提示政策に「可」印を押すだけの議会。現代における議会制民主主義は,自動学習AIと相性が良いのだ。

*横尾俊成「「AI議員」という思考実験」HUFFPOST, 2018年01月09日

“SoftBank robot Pepper appears before U.K. Parliament, sparking lively debate,” The Japan Times, 2018/10/17

(4)裁判のAI化
議会よりも,もっと自動学習AIと相性が良さそうなのが,裁判である。裁判は,刑事にせよ民事にせよ,まず争われている諸事実を証拠により確定し,過去の類似事件の判例をも考慮しつつ,法の規定を適用し,判決を下す。

この裁判過程は,事実認定の正確さ,比較衡量の妥当性,法適用の厳正さなど,公正を求められれば求められるほど,自動学習AIの作動に近づく。このところ日本よりはるかに先駆的な中国では,すでに「AI裁判官」が裁判に関与し始めているそうだ。

いずれ裁判所は,訴えが出されれば,それを「司法AI」に回し,AIが導き出した結果を裁判官が判決として読み上げるだけとなるだろう。

■Briony Harris, “Could an AI ever replace a judge in court?,” World Government Summit, July 11, 2018

■Thomas McMullanm, “A.I. Judges: The Future of Justice Hangs in the Balance,” Medium, Feb 14, 2019

谷川昌幸(C)

Written by Tanigawa

2019/08/21 at 14:03

カテゴリー: 社会, 議会, 司法, 情報 IT, 民主主義

Tagged with , ,

AI化社会の近未来(3)

2.AI化社会の諸相
この自動学習AIによる人間支配は,自由な自律的自己決定主体たろうとする人間の側には,様々な不都合を生み出す。たとえば,以下のようなことが起こりうる。

(1)個人に対する差別
 ・AI遺伝情報評価→「生まれ(血統)」による差別
 ・AI個人履歴評価→「過去」による差別(AIは忘れない)
 ・AI相性評価(AIお見合い)→結婚差別
 ・AI適性評価→就職・昇進差別
 ・AI信用力評価→カード使用制限,ローン拒否 
 ・AI非行・犯罪予測→差別的行動制限・予防拘禁など

NHK News, 2019/08/17

■岩田昭男「大手正社員でもクレカ審査落ち 理由は「信用スコア」の低さ?」AERA dot, 2018.11.25

(2)「個人の尊厳」の空洞化
AIは,個人情報を単に収集・分析・評価するだけでなく,それに基づき個々人に「最適な」情報だけを選び出し提供することにより,個々人の人格をつくり変えてしまう。

 ・個人情報の収集・分析・評価→各人向け「最適」情報提供→各人の人格(好み,感情,思想信条など)の改変

その結果,われわれ人間は,事実上,自分で自立的・主体的に判断し行為することが出来なくなってしまう。人間としての「個人の尊厳」の空洞化。

むろん,この場合でも,AIを使って他の人々に働きかけようとする人々は,AIの使用者であり自由といえなくもないが,先述のようにAIの自動学習が進むと,AI使用者ですらAIの分析・評価過程の理解・コントロールが困難となり,結局はAIの言うがままとならざるをえない。

こうなってしまえば,たとえ自由意志を持つのは人間だけだと固く信じ,最高法規としての憲法で「個人の尊厳」を保障していても,それは空洞化し形だけ,実際には自己欺瞞のための単なる建前にすぎなくなってしまうだろう。

Mark Rolston, Fast Company, 10.19.2017

谷川昌幸(C)

Written by Tanigawa

2019/08/20 at 10:18

カテゴリー: 社会, 情報 IT, 人権

Tagged with , , ,

AI化社会の近未来(2)

1.AIの自律化と人間支配
AI(Artificial Intelligence人工知能)の発達は日進月歩,いまや大抵のことは人間よりも効率的に情報収集し,分析し,的確に判断を下しうる。いずれ人間がAIを道具として使うのではなく,AIが人間を分析し,人間に働きかけ,人間を操作する,つまり人間を使う時代が来るであろう。ほんの少し前までであれば,SF夢物語にしかすぎなかったようなことが,いまや正夢になろうとしている。

(1)近代社会の大前提としての自立的個人
われわれ人間は,とりわけ近代以降,一人一人がそれぞれ独自の自我をもち,自己を意識し,最終的には自分が自分のことを決定する自由な行為主体であると信じてきた。日本国憲法も,そうした近代的個人の存在を大前提として,「すべて国民は,個人として尊重される」(13条)と規定している。

われわれは,最終的には自分の意思で決定し約束して(「契約の自由」),様々な人間関係をつくり運用する。夫婦,各種団体,会社,組合そして国家など,近代的であればあるほど個人の主体的な自由と責任を当然の前提として組織され,運用されている。

われわれは,この主体的な自由を行使し,その結果への責任を果たすため,情報収集(学習)し,比較分析し,評価する。そして,その学習し分析評価した結果に基づき,われわれは,自分にとって最善と考える選択肢を選び,それを実行し,その結果への責任を引き受ける。

むろん,そのような主体的自由の行使や責任の引き受けは容易なことではなく,それゆえ「自由からの逃走」が多かれ少なかれ現実には生じる。が,たとえそうであったとしても,近代社会がわれわれを本質的には自由な行為主体と認め,「個人として尊重」することを大前提として組織され運用されてきたことは,紛れもない事実である。

(2)AIによる情報収集と人間支配
ところが,最近のAIの驚異的な性能向上により,この自立的主体的個人の大前提が,たとえ建前としてであれ維持し続けることが困難となり始めた。<様々な情報の学習や分析評価は,個々人本人よりもAIの方がはるかに迅速かつ的確に行う。自分自身のことも,本人よりAIの方がよく知っている。いや,自分の自我と信じているものそれ自体でさえ,すでにAIにより形成され,コントロールされている。> ――もしこのような状態になってしまえば,人々を自由な行為主体とみなし「個人として尊重」せよと言ってみても,それは無意味である。そんな「主体的個人」など,もはやどこにも存在しないからだ。

われわれは,すでにグローバル情報化社会の中で生きており,いたるところで個人情報を取られている。情報に関し国境はもはや無意味。世界中の公私様々な機関が,絶え間なく情報を収集し,蓄積し,いまやその量は誰にも確認できないほど膨大な量に達しているはずだ。

しかも,そうした現代における個人情報収集は,情報を取られる本人が全く,あるいはほとんど意識していない場合が少なくない。たとえば日々の買い物,スマホ位置情報,ネット利用など。あるいは,現在ではすでに監視カメラがいたるところに設置されており,顔認証システムと組み合わせると,本人にほとんど気づかれることなく個々人を特定し,その行動を逐一記録保存することさえ可能だ。いやそれどころか,表情等の分析により個々人の感情,ひいては心の中の動きですら読み取り記録保存できるようになるであろう。自宅の「スマート化」(常時ネット接続自宅管理)や,常時ネット接続により体温・血圧・心拍数等の自動計測・管理ができる「スマート時計」を身に着けるのは,自ら個人情報を放棄しているようなものだ。グローバル情報化社会では,人は丸裸,プライバシーはなくなる。

AIは,われわれ人間自身ではもはや到底不可能となった,このような膨大な情報の迅速な収集・分析・評価を行う。「知は力だ」とすると,われわれ自身はもはや無力であり,AIの指示に従い,行動せざるをえない。そこには,自由な行為責任主体たる個人,尊厳を認められるべき個人は,存在しない。

このAIは,むろん人間がつくり出し,運用を始めたものである。しかし,AIが「機械学習」,「深層学習」など,高度な「自動学習 」を始めると,その情報収集・分析能力は人知を超え,AIそのものがブラックボックス化する。そして,AIがブラックボックス化すると,AIがなぜそのような判定をしたのか,どのようにしてそのような結論に達したのか,その根拠が知りえなくなる。それを知ろうとすれば,われわれ自身がAI以上に迅速かつ的確な情報収集・分析能力を持っていなければならないからだ。

アメーバのように無限に拡大し,複雑化し,不眠不休で超高速で働き続けるAI――人間に勝ち目はない。自動学習AIの事実上の自律(自立)と,そのAIによる人間支配!

The Dawn of AI

谷川昌幸(C)