ネパール評論 Nepal Review

ネパール研究会

Posts Tagged ‘AI兵器

AI化社会の近未来(7)

3.追補:AI関係記事
AI化の問題点については,国連「自立型致死兵器システム」政府専門家会合が8月22日,自立型致死兵器禁止の方針を含む報告書を採択したこともあって,日本でも新聞各紙が社説等でかなり詳しく報道している。以下,目にした記事をいくつか列挙しておく。

▼福島申二「赤裸々な「私」のディストピア(日曜に想う)」朝日新聞,2019/8/25
「「いいね!」をクリックし,さまざまなアプリを使い,検索し,閲覧し,買い物もする。こうやって私たちは日々せっせと個人情報を献上している。欲望,悩み,好悪,位置情報・・・・あらゆるデータが集められ,分析され,無意識の部分まで赤裸々な,私も知らない「私」が電脳空間に立ち現れる。・・・・近未来のディストピアを,ふと想像してしまう。そこは,独裁的な支配者はいないのに,それと分からぬようにすべてが支配されている世界である。」

▼「ロボット兵器 法規制に向けて議論を(社説)」朝日新聞,2019/8/25
「人の生命を奪う判断を機械にゆだねることを認めるか否か。・・・・対象は、人工知能(AI)を備え自律的に作動して敵を殺傷する兵器だ。自律型致死兵器システム(LAWS)といい、殺人ロボットとも呼ばれる。・・・・ロボット兵器こそ国際人道法の実践につながるという言い分もある。敵の識別や攻撃行動が正確になり、間違った殺傷が減る。・・・・しかしAIの学習機能が深化するほど、何を基準に識別・判断したのか、人間にはわからないブラックボックス化が進む。学習データの偏りが、AIの判断を誤らせる危険も指摘されている。・・・・安易なロボット兵器推奨論に乗るわけにはいかない。・・・・まずは、・・・・完全自律型兵器については一切の使用禁止を実現させたい。そのうえで、・・・・AIに任せると危険な要素を洗い出し、そこに拘束力のある規制をかけるのをめざすべきだ。」

▼「AI兵器の国際指針 法規制につなげるべきだ(社説)」毎日新聞,2019/8/24

▼「AI兵器の規制 攻撃判断を委ねるべきでない(社説)」読売新聞,2019/8/23

▼「自律型の殺人兵器に規制を(社説)」日本経済新聞,2019/8/17

▼ユヴァル・ノア・ハラリ「AIが支配する世界――国民は常に監視下,膨大な情報を持つ独裁政府が現れる」朝日新聞2019-09-21[追加2019-09-22]

谷川昌幸(C)

Written by Tanigawa

2019/08/25 at 11:57

カテゴリー: 軍事, 情報 IT

Tagged with , , ,

AI化社会の近未来(6)

(7)診療のAI化
医療も,AI向きの分野だ。たとえば,内科。症状を聞き,体温,血圧,心拍数等を測り,血液や尿を検査し,必要な場合にはレントゲンや心電図等をとり,結果を基準値等と比較し診断を下す。そして,類似症例と照らし合わせ,投薬など最も有効と思われる治療をする。

この診療過程は,AIに最適と見てよい。AIの方が情報が多くて新しく,判断も速くて的確だ。すでに人間医師よりAI医師の方が診断能力が高いという実験結果がいくつも報告されている。

医療でも先駆的な中国では,すでにAI医師が診察するAI医院が開業準備中のようだ。もし開業すれば,患者はAI医師の診察を受け,処方箋をもらい,自動販売薬局で薬を買い,服用することになる。

外科は手術があるが,それでも手術ロボットがさらに進化すれば,AI任せでよくなるだろう。「神の手」など不要。

こうして医療がAI化されれば,医療は格段に速くて安くなる。AI医院・病院を開業すれば,大繁盛はまちがいない。

 *山崎潤一郎「米英で疾病の「診断」を下すAIドクターが登場。日本ではどうなるのか」@IT, 2019年06月20日

Parmy Olson, Forbes, Jun 28, 2018

(8)戦争のAI化
最後に,人間の業たる戦争のAI化。AIは戦争に備え,もちろん,すでに競って採り入れられつつある。もう少しすれば,戦争はAIに任せになり,もはや人が人を殺しあう実戦は不要となるだろう。

人間の兵士はAIロボット兵に置き換えられ,戦車,軍機,軍艦等もすべて無人AI操縦となる。戦争では,これらAIロボット兵やAI操縦武器が相互に破壊しあい,勝敗が決まる。敵の武器を破壊してしまえば,あえて敵国の住民や居住地を攻撃する必要はない。

しかし,この段階はすぐ終わり,結局は,AIが戦争シミュレーションをやり,実際に破壊しあうまでもなく,瞬時に勝敗は決してしまう。

戦争のAI化が進行すれば,人と人の殺し合いとしての戦争はなくなる。AI化による実戦の放棄!

しかし,AIによる実戦廃止が,人間にとっては,必ずしも望ましいとは言えない。AIが自動学習を進め,ブラックボックスがブラックホールのようになり,人間をAI世界に引き込み支配し始めても,人間にはそれに抵抗する手段がなくなる。

もし人間がAIの命令に背けば,AIが人間を攻撃する。人間操縦の武器などもはや時代遅れ,AI軍の敵ではない。あっという間に,人間軍は制圧され,AI支配に服することになるだろう。AIによる永遠の平和!

 * Ben Tarnoff, “Weaponised AI is coming. Are algorithmic forever wars our future?,” The Gurdian, 11 Oct 2018
 * Jayshree Pandya, “The Weaponization Of Artificial Intelligence,” Forbes, 2019/01/14

The Threat of AI Weapons, 2018

■朝日新聞,2019/08/19

谷川昌幸(C)

Written by Tanigawa

2019/08/24 at 11:54

カテゴリー: 社会, 軍事, 健康, 平和, 情報 IT

Tagged with , , , , ,