かつて写真は「真実を写すもの」として、疑うことのない信頼を集めていました。しかし、今や誰もがワンクリックでリアルな偽画像を生成できる時代。TEDトークで語られたのは、画像による詐欺、フェイクニュース、名誉毀損などの急増と、それに立ち向かうための最前線の戦いでした。
▶引用元：How to Spot Fake AI Photos | Hany Farid | TED
この記事のポイント
- 写真が「証拠」だった時代は終わりつつある
- AIによる画像生成が急増し、詐欺や犯罪にも悪用されている
- 実際の物理法則や幾何学的矛盾からフェイクを見破る手法がある
- コンテンツに「信頼の証明書（Credential）」をつける国際基準が登場
- 私たち一人ひとりにも「見抜く力」と「行動する責任」が求められている
フェイク画像の「爆発的増加」――その背後にあるもの
過去には、重大事件や裁判に使われる画像は月に一件レベルの頻度でした。ところが今では、毎日のように「証拠」となる画像が処理されるようになっています。この激増の理由は明白です。デジタルカメラの普及により画像編集が簡単になり、さらに生成AIの登場で「誰でも」「簡単に」「リアルな画像」を作れるようになったからです。
「写真＝真実」という幻想の終焉
20世紀の間、私たちは写真を真実の記録と信じてきました。ところが、AIによって生み出された画像は、肉眼では区別がつかないレベルにまで進化しています。例として紹介された「本物の犬」と「AI生成の犬」の画像を見ても、一般人には判別不能。しかし、そこにわずかに残る“ノイズ”の違いや、光の反射、ピクセル配置といった物理的な痕跡が、実は真贋を見分ける鍵となります。
AIは「現実世界」を理解していない
AIは数学と確率によって画像を作る一方で、現実世界の物理法則や幾何学的制約を理解しているわけではありません。例えば、物理世界では平行線は遠くで一点に収束します（これが「消失点」）。ところが、AIが生成した画像にはこの消失点の矛盾や光源の不自然さが頻繁に見られるのです。これらを検出することで、「この画像は人間の目を騙すために作られた」と証明する手がかりになります。
画像による犯罪と人権侵害の実例
実際に起きている被害は深刻です。児童の画像を使ったフェイクポルノ、CEOを偽った詐欺ビデオ、医師を装ったデマ映像―AI生成によるこうしたメディアは、人を騙すだけでなく、社会的な信頼や名誉を破壊し、数千万ドル規模の被害にもつながっています。これはもはや「面白半分」では済まされない、現代の犯罪ツールなのです。
「信頼できる画像」を見分ける新しい基準とは？
希望もあります。「Content Credentials（コンテンツ証明書）」という新しい技術基準が、国際的に導入されつつあります。これは、画像や動画がどこで・誰によって・どのように作られたかを、生成時に記録するもので、改ざんされていない本物の証明になります。今後、消費者が「これは本物か？」を自分で判断できる手助けになるでしょう。
私たちは無力ではない――個人にできる対抗策とは
「誰も信じられない」と思ってしまいがちな現代ですが、講演者は「私たちには選択する力＝エージェンシーがある」と語ります。情報を鵜呑みにせず、一呼吸おいてからシェアする、出典を確認する、フェイクと疑わしきものを鵜呑みにしない。そして、フェイクの拡散に加担しないことこそが、私たちにできる最初の一歩です。
もしこの内容を英語で伝えるなら？
「かつては写真を信じていた。でも今は違う。」
時代の変化を一言で示す表現。
「AIは物理を理解しているわけではなく、ピクセルを予測しているだけ。」
AIの限界を簡潔に説明。
「コンテンツ証明書は、信頼性を確認する手助けになる。」
解決策を提示する際に使える。
「問題の一部になるな。シェアする前に考えよう。」
SNS時代における重要なメッセージ。
「私たちは無力ではない。選ぶ力がある。」
行動を促す前向きな一言。
最後に
画像はかつて「証拠」でしたが、今や「武器」にもなりえます。私たちは、見たものを無条件に信じる時代から、見抜く力と判断力が必要な時代へと移り変わっています。テクノロジーは私たちを混乱させる存在にもなり得ますが、正しく使えば守る力にもなります。だからこそ、無関心にならず、自分の目と知識で「何が本物か」を見極めていきましょう。