ペンタゴン爆弾のデマが人工知能の力を示す

画像出典：Pixabay

ペンタゴンで爆発が起きたという偽造写真がSNSプラットフォームで流行し、人工知能の威力が明らかとなっています。

月曜日、AIが生成した画像は、ペンタゴンから煙が立ち上っていることを示し、SNSに衝撃を与え、米国株式市場に一瞬の売りを促したほどでした。

このフェイクニュースは仮想通貨市場にも影響を与え、CoinGeckoによると、ビットコインは一時「フラッシュクラッシュ」を起こし、26,500ドル付近まで下落した後、現在の価格27,300ドル超まで回復しました。

この画像は当初、現在停止中の認証済みTwitterアカウント「Bloomberg Feed」が投稿したもので、ペンタゴン付近で「大きな爆発」があったと述べていました。

Prime example of the dangers in the pay-to-verify system: This account, which tweeted a (very likely AI-generated) photo of a (fake) story about an explosion at the Pentagon, looks at first glance like a legit Bloomberg news feed. pic.twitter.com/SThErCln0p

— Andy Campbell (@AndyBCampbell) May 22, 2023

ロシア国家統制下のメディアRussia Todayをはじめとする多くの大手メディアや、一部のインフルエンサーがこのニュースを取り上げ、フェイクニュースはバズりました。

So @republic aired a 'Live & Breaking' news of Pentagon explosion image. They even invited Prof. Madhav Nalapat "strategic expert" to discuss about the explosion.
BWT, It was an AI generated image. pic.twitter.com/8j1nfSJR6x

— Mohammed Zubair (@zoo_bear) May 22, 2023

しかし、画像に矛盾があること、他の画像や目撃者からの報告がないことを指摘する声もありました。

「ペンタゴン付近の爆発 を主張するこの写真がAIによって生成されたものであることを確信している」とデジタル調査員のNick Waters氏は次のように述べています。

「建物の間口や、フェンスが障壁に溶け込んでいる様子を確認してください。また、他の画像や動画、第一目撃者として投稿している人もいない。」

同様に、Arlington消防署も反論しています。「ペンタゴンやその付近で爆発や事件が起きているという事実はない」とツイートし、「一般市民に対する直接的な危険や危害はない」と付け加えています。

ペンタゴンの偽爆発画像で、AIの能力に懸念が高まる

この事件により、AIツールが世界中の悪意ある人々に利用され、誤った情報を拡散し、ネット上で混乱を引き起こす可能性があるという危険性が懸念されるようになりました。

ペンタゴンのデマは、AIが生成したバイラルな画像が国民を騙す最初の事例ではありません。

過去の例としては、Balenciagaのジャケットを着たフランシス法王の画像、ドナルド・トランプ前米大統領の逮捕、仮想通貨詐欺を宣伝する有名人のフェイクなどがあります。

こうした事例から、技術専門家は、適切な安全ガイドラインが確立されるまで、高度なAIの開発を6ヶ月間停止するよう求めています。

今年初めには、技術倫理の代表的な団体であるCenter for Artificial Intelligence and Digital Policyも、プライバシーと公共の安全への懸念を理由に、GPT-4の商業的リリースの停止をFTCに訴状で求めています。

訴状では、GPT-4は「偏った、欺瞞に満ちた、プライバシーと公共の安全に対するリスク」であると主張しています。また、このツールは、クエリに対する迅速かつ人間のような応答で、一部のユーザーに苦痛を与えていると述べています。

4月には、ジョー・バイデン米大統領もAIが危険であることを警告し、「製品を公開する前に、その製品が公共の場で安全に使えるかどうかを確認するのはテクノロジー企業の責任だ」と強調しました。