4月6日、MetaはFacebook、Instagram、Threadsにおける、AIによって生成されたメディアに対するポリシーを表明した。
これらの変更は、Oversight BoardからのフィードバックとMetaのポリシー見直しプロセスを受けて実施され、現代のコンテンツの広範な範囲を反映し、ラベルを通じてコンテンツについてのコンテキストを提供することを目指している。

AI技術の急激な進展

Oversight Boardは、Metaによって設立された独立した監視機関であり、コンテンツのモデレーション決定に対するレビューを行い、Metaのポリシーとプラクティスの改善を提案する役割を持っている。Metaは、Oversight Boardの提言に同意し、既存のアプローチがカバーする範囲がビデオのみという点で、「狭すぎる」と判断した。

この方針は、リアルなAI生成コンテンツが珍しかった2020年に策定されたが、最近ではオーディオや写真など、他の種類のリアルなAI生成コンテンツが開発され、この技術は急速に進化している。AI技術の急速な発展に伴い、日常生活に溶け込むコンテンツが増えている。

新しいラベル戦略

これらの進化する技術を活用し、同時にユーザーを保護するため、Metaは新しいアプローチを採用することにした。特に、AIによって生成または操作されたメディアに対して、「Made with AI （AIで作成）」や「Imagined by AI（AIがイメージ）」といったラベルを付けることで、その内容がAIによって生成されたものであることを明確にする。

コンテンツのモデレーション

しかし、Metaはただラベルを付けるだけでなく、内容がコミュニティ基準に違反している場合は、その内容をプラットフォームから削除する方針を維持している。これには、選挙妨害、いじめや嫌がらせ、暴力や扇動などが含まれる。また、独立したファクトチェッカーのネットワークを通じて、誤解を招く可能性のあるAI生成コンテンツをレビューし続け、その結果をフィードバックする。

技術進歩への対応

AI生成コンテンツに対する理解を深め、それに伴うリスクを適切に管理することが、今後の社会においてますます重要になってくる。Metaは、業界のパートナーや政府、市民社会との対話を続けながら、技術の進歩に合わせて方針を見直し続けると述べている。

詳細はOur Approach to Labeling AI-Generated Content and Manipulated Mediaを参照されたい。