生成AIで世論操作？

生成AIは，一般向けBingとChatGPTを一昨日，初めて，ほんのちょっと使ってみただけ。全くの素人だ。が，それにもかかわらず，生成AIのあまりの有能さにビックリ仰天，これは大変なことになった，と寒気を覚えた。

　■朝日新聞2023/04/30

このような革命的な新技術が現れたとき，人がまず思いつくのは，金儲けと世論操作。実業家であれば，革命的経費削減（とりわけ人件費）・事業拡大で大儲けができるとほくそ笑むにちがいない。また政治家なら，生成AIにひそかに細工し，都合の良い方向に世論を誘導しようと考えるはずだ。これは自然な人情，止めようがない。

　■朝日新聞2023/04/30

いずれも心配だが，いまの私にとって，より気がかりなのは，生成AIの政治利用の方。BingやChatGPTは親米の，「文心一言」は親中の，世論形成のために利用されるのではないか？　たとえば，「文心一言」の「契約特記事項」では，こう明記されている（Google自動翻訳）。

3. 利用規則
1.････以下の行為を含むがこれらに限定されない違法または不適切な活動を行わないことに同意するものとします。････
2)国家安全保障を危険にさらし、国家機密を漏らし、国家権力を転覆させ、国家の統一を損なう。
3)国家の名誉と利益を害する。････
11)国家主権および領土保全の侵害、地図の作成および公開に関する関連する国内規制の違反を伴う可能性のあるコンテンツ。････
6)風説を流布し、社会秩序を乱し、社会の安定を損なうもの。････
5. ････以下のインターネットの収益を遵守します。1)法規制のボトムライン 2)社会主義システムのボトムライン 3)国益のボトムライン ････

自動翻訳からの一部抜粋で少々分かりにくいが，この警告だけを見ても，AIの政治利用が決して単なる杞憂でないことは明白だ。むろん，BingやChatGPTにしても，「文心一言」ほどあからさまではないとしても，政治的に操作しようと思えば出来ないわけがない，と見るべきだろう。

　■朝日新聞2023/04/30

といっても，今の私は生成AI超初心者，このような大問題は，取り組むには荷があまりにも重すぎる。そこで，とりあえず「ネパール」について，いくつか生成AIに質問し，どのような回答が得られるか，検討してい行くことにしたい。

なお，「文心一言」は最も興味深くはあるが，まだ試用が始まったばかりなので，今回は割愛する。

【参照】AIは既存のデータ（存在，である）を分析するものだが，そこに何らかの理由で当為判断（べき）が組み込まれるなら，AIは強力無比の存在正当化装置となる。この記事はその一例。

谷川昌幸(C)