生成AI時代の日本国内でのインフルエンス・オペレーション（影響力工作）

人々が日々、接触している情報源には従来のテレビ、新聞に加えてFacebook、Instagram、X（旧Twitter）といったSNSがある。SNSに特徴的な影響に、「エコー・チェンバー(Echo Chamber)」と「フィルター・バブル（Filter Bubble）」がある。エコー・チェンバーはキャス・サンスティーン（ハーバード大学教授）が唱えた概念であり、SNSではユーザが自分と似た思想や価値観を持つ他のユーザをフォローする傾向があり、その結果としてユーザを取り囲む情報が同質化するという現象である。ユーザは繰り返し同じような情報に接することで、自分とは異なった考え方に接する機会を失い、自己の価値観を強化する傾向を持つ。

フィルター・バブルはSNSのアルゴリズムがユーザの属性や行動を学習し、ユーザの興味・関心に近い情報を選別して提供する環境を指す。個人の興味・関心に最適化された情報提供システムという概念自体は1995年にニコラス・ネグロポンテ（マサチューセッツ工科大学教授）がデイリーミー（The Daily Me）として、テクノロジーによって人々は読みたいもの、見たいもの、聞きたいものをフィルターにかけるようになると予見している。

米国のように国民もメディアも政治的分極化（Political Polarization）する国では、SNSの特性がその分断を拡大させるという見方がある。SNS上のデータを利用して人々の属性を把握し、その人間の属する閉じられた情報空間にメッセージを送り続け、人々の思想の強化や行動変容を促す事例がある。例として、2016年の米国大統領選挙や英国のEU離脱をめぐるケンブリッジアナリティカ社（CA社）によるフェイスブックユーザへの影響や、ロシアによる米国大統領選挙におけるSNSを通しての介入が挙げられる。

CA社とロシアの手法は従来のインターネット・マーケティングに近似し、ユーザの属性データを分類し、そこに広告を表示するものである。例えば選挙における浮動票層に対し、特定の候補への投票を促すことや、社会的不満を持つマイノリティ層の恐怖を煽り、個人の政治的思想を強化するために、こうした手法が取られた。

ビジネスの世界にあったマーケティングが政治に持ち込まれたわけだが、SNSの普及により、個人の興味・関心、人間関係、経済環境などのデータが豊富に獲得できるようになり、精緻なターゲティングが可能になった。これが諸外国からのインフルエンス・オペレーションであれば、認知領域の情報戦と考えられ、その情報は監視すべきものとなる。インフルエンス・オペレーションを仕掛ける諸外国からすれば、それは平時とも有事とも言えないグレーゾーンでの工作という認識であろう。例えばロシアのインフルエンス・オペレーションを支える理論の一つに「反射統制（Reflexive Control））」があり、その概要は自分が有利になるような意思決定を敵対する個人や国家が自発的に行うように仕向けるために、何らかの情報を敵対者に伝達するというものである。ロシアがウクライナで停戦の意向を示しながら、獲得した地域を維持しようとする行為はその一例といえよう。

SNSのエコー・チェンバー、フィルター・バブルの中にいる人間に対し、AIが生成した情報を入力することの影響を考えてみる。まず人間は、AIと人間を区別できない可能性がある。2024年、ノートルダム大学の研究者らは、大規模言語モデルを利用したAIボットを用いた実験を行った。被験者に人間とAIボットが混在したMastodonというブログ型SNSでの政治的な議論に４日間、参加してもらい、どのアカウントがAIかを特定するものであった。この実験では58%の確率で被験者はAIを人間と間違えた。

また、AIが生成したものが必ずしも偽情報といえないことがある。2023年、パキスタン元首相イムラン・カーン氏はAIの生成した音声で獄中から選挙活動を行った。この音声は本人の意思を伝達している。2023年には米国民主党の議員が、生成AIボットを利用した電話での政治活動を行った。AIは無限にカスタマイズされた対話を行うことが可能であり、このAIボットは選挙ボランティアの代替とも言える。また現政権が偽情報を拡散した国の事例もある。ベネズエラの国営メディアは民間企業のAIが生成した実在しない国際英語チャンネルのニュースキャスターのビデオを通じて政府寄りのメッセージを拡散させた。

日本国内ではSNSユーザが耳目を集めるために偽情報を拡散している事例が観察される。例えばYouTubeやXでは、閲覧による収益化を企図して、そうしたインセンティブが働くことがある。ロシアによるウクライナへの侵攻以降、YouTubeやXにおいてウクライナ情勢に関する日本語の偽情報が拡散された事例があった。またXでは英語等の外国語で記載されたニュースを誤訳して投稿する事例も観察された。こうした誤訳が意図的なものか否かは判別できないが、中には翻訳内容が原文と全く異なるものも散見された。偽情報の規制と表現の自由のバランスは課題ではあるが、偽情報には何らかの権利侵害が包含される可能性がある。

日本の民放テレビ局では政治ニュースがワイドショーで娯楽として消費されており、「ネットの声」と称してXでの匿名の発信をテレビ番組で見ることもある。「第16回メディアに関する全国世論調査（新聞通信調査会）」によれば、ニュースとの接触率が高い順に、民放テレビが87.6％、インターネットが74.6％、NHKが72.1％、新聞が57.5％、ラジオが29.9％だった。また、インターネットニュースを見る時に、ニュースの出所を気にするかは、「気にする」と答えた人が47.1％、「気にしない」と答えた人が52.9％だった。調査対象の半数がニュースの出所を気にせず、報道機関による調査報道と個人ブログのニュース解説を同列に見ている可能性がある。

ニュースの出所を気にしない人間のいるエコー・チェンバー、フィルター・バブルという環境で、ある一定の興味・関心を持つグループに対して影響を与えることは可能と考えられる。日本国内でのインターネットの情報接触における行動変容に関する研究では、東京大学大学院工学系研究科の鳥海不二夫教授らの研究グループによる「人はなぜワクチン反対派になるのか―コロナ禍におけるワクチンツイートの分析」(2024年)がある。当該研究はコロナ禍で初めてワクチン反対派になった人の特徴を分析し、陰謀論やスピリチュアリティに傾倒している人がワクチン反対派になりやすいという傾向を示している。

諸外国では生成AIを利用したインフルエンス・オペレーションの事例が蓄積されており、日本も影響を受ける素地が形成されている。生成AIによって24時間休むことなく、人間よりも低コストで偽のテキストや動画が大量生産される事態が懸念される。カスタマイズされた双方向コミュニケーションや、Open AI社のSoraのような精緻な偽動画が悪用される可能性は否めない。若年層ユーザの多いTikTokなどの動画プラットフォームがその投稿先となることだろう。2024年の台湾総統選挙ではSNS上で偽動画が拡散され、民間の台湾ファクトチェックセンターが特定と分析を行った。

悲観的には日本国民が偽情報とエコー・チェンバーにより偏った思考を持つこと、ニュースの出所を確認せずにニュースには正しいものも誤ったものもあると考え、「どの情報も信じられない」状態となる二通りが考えられる。これにより国民の政府や政治システムへの信頼が低下することがあり得る。自国政府への信任を失った国民に対し、諸外国から政治的意図を持った工作が行われることを警戒すべきである。民主主義とその基盤である選挙は、信頼できる事実を前提とした国民の意思決定から成り立つ。自国の選挙が信じられない環境は避けなければならない。日本の民主主義を守るためには、AIを利用した政治活動の規制、プラットフォーマーによる偽情報の監視、NGOによるファクトチェック体制の充実などが喫緊の課題である。そして何よりも国民自身が自覚を持って情報リテラシーを向上させることで偽情報の拡散を防ぐことが必須といえる。