2022年ロシア・ウクライナ戦争の勃発時、ソーシャルメディアには低品質の偽映像が氾濫していた。Photoshopで合成された画像や、ゲーム、映画、古いニュースから切り取った誤ったタグ付けの映像などだ。現在、同じ手法がイランの戦闘状況でも再び見られるが、今回は2022年には普及していなかった新たな詐欺ツールが登場している。誰でも簡単に操作できるAIツールを使い、高画質の偽映像や画像を生成し、本物と見分けがつかないほどのクオリティを実現している。
カリフォルニア大学バークレー校のデジタル鑑識学教授Hany Faridは、十年前には類似のフェイク情報は数件しかなく、すぐに見破られていたと指摘する。しかし今や、数百件に上り、そのリアルさは驚くべきものだ。「ただリアルなだけでなく、深く浸透し、人々に大きな影響を与えている。皆が信じて拡散し続けている。」
生成型AIの普及により、偽造のハードルが大きく下がった
BBC Verifyのシニア記者であり、戦場のフェイク情報を長年追跡しているShayan Sardarizadehは、過去一年間で最も重要な変化は、生成型AIのアクセスハードルが大きく下がったことだと述べる。「今や誰でも説得力のある映像や画像を作成でき、重大な戦闘現場の様子のように見せかけることができる。肉眼や非専門的な目では真偽の判別が難しい。」
イランの戦闘開始から2週間も経たないうちに、Sardarizadehら専門家は、多数のAI生成の偽映像が各種ソーシャルプラットフォームで数千万回の視聴を記録していることを確認した。
どのような偽映像が流布しているのか？
既に識別されたAIによる偽造コンテンツは多岐にわたる。例としては、
・イランのミサイル攻撃によるイスラエル・テルアビブの架空映像
・テルアビブ空港から逃げる市民が攻撃を受けるパニックの様子
・米特殊部隊がイラン兵に銃を突きつけられている映像
・イランの軍事施設が爆破されたと主張する「監視カメラ映像」（うち三つはAI生成、ひとつは昨年の実際の事件）
・米軍の地上部隊の車列
・米軍の墜落機の残骸がテヘランの街頭を行進する映像
静止画の偽画像では、米軍基地や米国大使館がイランの攻撃で燃え上がる様子、イラン最高指導者ハメネイ師が瓦礫の下に押しつぶされて死亡した画像、イランの民衆が犠牲者を悼む場面などが出回っている。中にはイラン政府と関係のあるメディアが、偽の衛星画像を公開し、米軍バーレーン基地の被害状況を示すと主張するケースもある。
これらは、現在流布されているイラン関連のフェイク情報の氷山の一角にすぎない。
プラットフォームの規制緩和とフェイク拡散の難しさ
Sardarizadehらは、毎日フェイク情報を暴いているが、新たな偽造コンテンツは、検証の追いつかない速度で次々と出現し、そのリアルさも増しているため、一般ユーザーがスクロール中に見破るのは困難になっている。
一部の広く拡散しているフェイクは、明らかに親イランのアカウントや宣伝目的のものだが、より多くの偽情報の制作動機は判別しにくい。流量や影響力、収益のためか、あるいは単に作成が容易だからかもしれない。
Faridは、現状の困難さを次のように指摘する。「内容はよりリアルになり、数も増え、浸透も深くなっている。これが今の現実だ。しかも非常に混乱している。」
先週、ソーシャルメディアプラットフォームXは、AI由来と明示されていない戦場映像を有料投稿したクリエイターの収益を90日間停止し、再犯者は永久追放とする方針を発表した。しかし、Faridはこの政策の効果には懐疑的であり、ほとんどのXユーザーはクリエイターの有料プログラムに参加していない。TikTokやMeta（FacebookやInstagramを所有）も、CNNのコメント要請には応じていない。
さらに懸念されるのは、XのAIチャットボットGrokが、Sardarizadehに何度も指摘され、事実確認に逆効果をもたらしている点だ。誤った情報をユーザーに伝え、AI生成映像を真実と誤認させている。
フェイク情報に騙されないためには？
Faridは、数か月前に流行した「AI偽映像の見分け方」も、今ではほぼ役に立たなくなっていると述べる。以前は人物の指の数や身体の比率に注意していたが、今のAIはこれらの明らかな誤りを修正している。
彼の提案は、信頼できるニュースメディアから情報を得ることだ。ソーシャルメディアの知らないアカウントに頼るのではなく、「世界的な紛争の最中において、ソーシャルメディアは情報源ではない」と強調する。
頻繁にソーシャルメディアを閲覧するユーザーへのアドバイスは次の通り：
・ペースを落とす：衝撃的な戦場映像を見たら、数秒間調べて真偽を確認してから拡散や信じる
・細部を観察：音声と映像は同期しているか？映像の特徴は現実と一致しているか？AIには未だ欠点があり、一部生成コンテンツには浮水印が残っている場合もある
・専門の事実確認を利用：信頼できる事実確認メディアや専門家の意見を確認する
・コメント欄に注意：一般ユーザーも有効な指摘を行うことがある
・AI検出ツールを使う：完璧ではないが、一定の参考になる
今後の展望と課題
Sardarizadehは、「自分の目を訓練し、AIコンテンツの痕跡を見分ける努力を続けてほしい」と呼びかける一方、「AI生成コンテンツの検出はますます難しくなっており、今後はさらに困難になる」とも認めている。
生成型AI技術の進化と、ソーシャルプラットフォームの規制緩和の二重の圧力の下、デジタルフェイクの戦場はかつてない速度で拡大しており、スマホを操作するすべてのユーザーがこの情報戦の最前線に立っている。
この記事は、「AIによる戦争映像の氾濫：イラン戦闘情報がソーシャルメディアを席巻する」について、ABMediaに最初に掲載された。
