AI企業が本気で作った初の「認証済みディープフェイク」が公開される、ネット上の映像はもはや信用できない世界が到来

デジタルコンテンツの検証サービスを提供するTruepicと、人工知能を用いたリアルな合成映像を手がけるRevel.aiが共同で、世界初の「認証済みディープフェイク映像」を制作して公開しました。出演者の女性本人の了解を得て作られたディープフェイク映像は非常にリアルで、合成コンテンツを特定する仕組みの必要性がよくわかる内容となっています。

Revel - Truepic
https://truepic.com/revel/

A convincing AI-made video that tells on itself
https://www.axios.com/2023/04/04/a-convincing-deepfake-that-tells-on-itself

TruepicとRevel.aiが制作したディープフェイク映像は、以下から見ることができます。

Mirror of Reflection - YouTube


この映像は、ジェネレーティブAIに造詣が深い作家のニーナ・シック氏の同意と協力を得てディープフェイク技術で合成されたもの。

しかし、不自然なところがないので一体どこが合成なのか分かりません。

映像の女性が「人工知能の時代の幕開けにさしかかっている今、すでに現実と虚構の境界線は曖昧になりつつあります」と問題提起すると、女性の顔が変わります。変わった後の映像に映っているのが、本物のシック氏のようです。

この映像は、大きく分けて3つの行程を経て公開されました。制作段階では、まずシック氏をあらゆる角度から複数回にわけて撮影します。

そして、本物と見分けが付かない映像が出力できるまでAIモデルのトレーニングを重ねます。

Revel.aiが完成させたディープフェイク映像には、TruepicによりAIで合成されたものだということや制作者の情報などを記載した認証ラベルが付与されました。

AIの発達により人間の目ではディープフェイク映像を見抜けなくなりつつあるため、こうしたラベルが付与されてはじめて映像の真偽が確認できるというわけです。

TruepicのCEOであるジェフリー・マックレガー氏は「ディープフェイクの時代はすでに到来しており、どこから来たのか証明できない映像は疑いの目で見る必要があります。今日では、デジタルな映像は信用すべきではありません」と述べて、合成コンテンツにラベルを付ける必要性が高まっているとの認識を示しました。