情報技術の進展に追いつくのは昔から大変だったが、生成AIの急進展には恐怖すら感じる。情報技術をベースに形作られて来た社会の仕組みが粉々に壊されそうな恐怖だ。

ハリウッドでは、前世紀末にCGをふんだんに映画にとりいれ始めたころから、亡くなった往年の人気俳優を生き返らせ、活躍させる魅力的映画を作る時代が訪れると言われたものである。実際、撮影の最終盤で主役の俳優が事故で死亡した際、残りの部分はCGを使ってリアルな映像を制作し、映画を無事完成させたという話も聞いた。

死んだ人を生き返らせる

しかし、商業映画どころではない。生成AIの最近の技術では、身近な家族や親しかった友人を死んだ後にディスプレイに蘇らせることができるだろう。

スマホで簡単に映像の記録を残せるようになった。その気になればふんだんに映像を保管しておける。このデータで生成AIを利用すれば、死んだ後、だれでも生き返らせることができそうである。テレビ電話やビデオメッセージに慣れたコロナ以降の現代人は、ディスプレイに現れる映像に慣れている。生成AI加工の映像も本物として自然に信じ込める。

もちろん、他界した人物の代わりにはならないが、悲しみを癒すことはできるかもしれない。生成AIで、亡くなった人を時間とともに成長させることもできるだろう。人間型のロポット技術と融合すると、成長する、不死の仮想人間と共生する時代が来るかもしれない。

期待できる未来なのか、気持ちが悪い未来なのか、感じるのは人それぞれだが、予想した未来は大体、現実になる。こういう時代は覚悟しなければならない。

世界は選挙妨害を心配

こういう未来の話は別に、生成AIは現実に有害なものとして我々の社会の進展を妨害しかねない危険をはらんでいる。

差し迫った危機は選挙妨害だ。
生成AIで候補者そっくりの偽物がネットの上を跋扈しかねない。

行政や選挙の電子化が後れて国際的なスマート度ランキングで日本は順位をどんどん下げている。幸か不幸か、そういう状況なので生成AIによる選挙妨害はまだ先かもしれないが、ネット行政やネット選挙が進んだ欧米や韓国では、現実の危機と認識している。3月に韓国政府が主催した「第3回民主主義サミット」で、選挙への偽情報への対応の必要性を議論したのも危機感の表れだ。AIの進展に伴う偽情報の拡散問題が議論の中心だった。

欧州連合の執行機関である欧州委員会はSNSのX（旧ツイッター）や中国発の動画共有アプリ「TikTok」に対し、選挙をめぐる偽情報対策の強化を求めた。6月上旬実施の欧州議会選挙への悪影響を懸念したのだ。中国やロシアによる選挙介入を恐れていたのである。選挙介入が影響したかどうかは分からないが、ロシア、中国寄りの政党が勝利したようだ。

日本でも遅ればせながら行政や選挙もネット利用が拡大する。同じ危機がそのうちにやって来る。

偽情報が真情報を駆逐する

問題は、生成AIでいろいろな偽人物を捏造し世論を誘導する、というようなきれいな話ではない。困るのは偽情報、偽人物がふんだんに出現するので、本物がどれか判断が付かなくなることだ。しかも生成AIが進歩し、それほどの技術がなくても多くの普通の人が生成AIを使ってコンテンツを作ることができる。いろいろなルールを作っても、面白がって、あるいは悪意を持って偽情報や偽人物を捏造する。それを止めるのは難しいだろう。SNS上に誹謗中傷が飛び交うのを止められないように。

正しく使えば有益な技術だが、偽物が跋扈すれば有益な情報は流通しなくなる。サイバー攻撃で物理的な情報流通が阻害されるのも重要な問題だが、偽情報で利用者の心理が侵され、情報の流通が阻害されるのも大問題である。

悪貨は良貨駆逐する。「偽情報は真情報を駆逐する」ことがなければ良いが。

中島洋の「セキュリティの新常識」コラムは、こちら