今回の変更は、今年2月に監督委員会から提起された懸念を受けてのものだ。その懸念は特に、フェイスブックに投稿されたバイデン大統領のフェイク動画に向けられていた。
大統領のフェイク動画が発端
その動画は、本来は、大統領が孫娘のシャツに「I Voted（投票済み）」のステッカーを貼り付ける場面を撮影したものだったが、あるユーザーがそれに編集を加え、大統領が孫娘の胸を触っているように見えるように加工していた。動画が加工されたものであることは明らかだったが、既存のメタのポリシーには違反していなかった。メタは「加工されたメディア」に関するポリシーで、ディープフェイクなどのコンテンツの投稿を禁止していたが、その対象を「AIによって生成された動画や、被写体となった人物が実際には言っていないセリフを言わせているもの」と規定していた。そのため、この動画は「AIを用いておらず、発言そのものは加工していない」という理由で、当時のポリシーには違反していないと監督委員会は判断した。
監督委員会によれば、メタがそのコンテンツを放置したのは正しかったが、今後はそのようなコンテンツには、加工されたものであることを表示するよう助言したという。
「現状では、メタのポリシーはほとんど意味をなさない。このポリシーは、人が言ってもいないことを言う様子を映した加工された動画を禁止しているが、個人がやってもいないことをする様子を映した投稿は禁止していない。そして、最も心配なのは、選挙の偽情報の最も強力な形態のひとつである音声フェイクをカバーしていないことだ。メタは、これらのギャップを埋めるために緊急に対処しなければならない」と、監督委員会のマイケル・マコーネル共同委員長は当時述べていた。
メタは、生成AIを用いたコンテンツのラベル付けを5月に開始し、7月には「加工されたメディアに関するポリシー」のみに基づくコンテンツの削除を停止するとしている。
（forbes.com 原文）
