在TikTok和YouTube上，人工智能生成的教皇布道的浏览量都很高

华盛顿:

人工智能生成的教皇利奥十四（Pope Leo XIV）的视频和音频在网上迅速传播，在平台难以监管的情况下，这些视频和音频的浏览量不断上升。

法新社的一项调查发现，自教皇上个月接管天主教会以来，数十个YouTube和TikTok页面一直在大量使用人工智能生成的信息，这些信息以教皇的声音传递，或以其他方式被认为是他发出的。

数百个用英语和西班牙语制作的虚假布道和演讲，突显出利用人工智能制作的骗局是多么容易躲过检测并欺骗观众。

华盛顿大学名誉教授奥伦·埃齐奥尼（Oren Etzioni）说：“人们自然对新教皇要说些什么感兴趣，人们还不知道他的立场和风格。”他是TrueMedia.org的创始人，这是一家专注于打击深度造假的非营利组织。“这是利用人工智能产生的错误信息制造恶作剧的绝佳机会。”

法新社向YouTube展示了26个主要由人工智能生成的内容的频道，其中16个频道因违反反垃圾邮件、欺诈行为和诈骗的政策而被该平台终止，另一个频道因违反YouTube的服务条款而被终止。

发言人Jack Malon说：“我们终止了几个被法新社举报的频道，因为它们违反了我们的垃圾邮件政策和服务条款。”

法新社指出，TikTok同样删除了11个账户，总共有130多万粉丝，理由是该平台的政策反对假冒、有害的错误信息和误导性的人工智能生成的公众人物内容。

这些社交媒体页面的名字包括“教皇利奥十四世愿景”（Pope Leo XIV Vision），这些页面描绘了教皇可能会提供一系列他从未讲过的警告和教训。

但他们使用人工智能的免责声明往往很难找到，有时甚至根本不存在。

在YouTube上，对于那些让人看起来像是在说他们没有说的话的内容，需要贴上“修改或合成内容”的标签。但这样的披露只会出现在每个视频点击打开描述的底部。

YouTube的一位发言人表示，该公司已经对法新社标记的频道上的一些视频使用了更明显的标签，这些视频没有违反该平台的指导方针。

TikTok还要求创作者给分享人工智能生成的真实内容的帖子贴上标签，尽管有几个以教皇为中心的视频没有贴上标签。

TikTok的一位发言人表示，该公司会主动删除违反政策的内容，并使用经过验证的徽章来标识真实账户。

圣克拉拉大学（Santa Clara University）技术伦理主任布莱恩·帕特里克·格林（Brian Patrick Green）表示，节制困难是人工智能快速发展引发“技术使用混乱”的结果。

格林说，人工智能生成的布道不仅“侵蚀了教皇的道德权威”，“使他所说的任何话都不那么可信”，而且可以利用“在教皇说出一些令人发指或政治权宜之计之前，在你的频道上建立信任”

人工智能生成的教皇利奥十四（Pope Leo XIV）的视频和音频在网上迅速传播，在平台难以监管的情况下，这些视频和音频的浏览量不断上升。

法新社的一项调查发现，自教皇上个月接管天主教会以来，数十个YouTube和TikTok页面一直在大量使用人工智能生成的信息，这些信息以教皇的声音传递，或以其他方式被认为是他发出的。

数百个用英语和西班牙语制作的虚假布道和演讲，突显出利用人工智能制作的骗局是多么容易躲过检测并欺骗观众。

华盛顿大学名誉教授奥伦·埃齐奥尼（Oren Etzioni）说：“人们自然对新教皇要说些什么感兴趣，人们还不知道他的立场和风格。”他是TrueMedia.org的创始人，这是一家专注于打击深度造假的非营利组织。“这是利用人工智能产生的错误信息制造恶作剧的绝佳机会。”

法新社向YouTube展示了26个主要由人工智能生成的内容的频道，其中16个频道因违反反垃圾邮件、欺诈行为和诈骗的政策而被该平台终止，另一个频道因违反YouTube的服务条款而被终止。

发言人Jack Malon说：“我们终止了几个被法新社举报的频道，因为它们违反了我们的垃圾邮件政策和服务条款。”

法新社指出，TikTok同样删除了11个账户，总共有130多万粉丝，理由是该平台的政策反对假冒、有害的错误信息和误导性的人工智能生成的公众人物内容。

这些社交媒体页面的名字包括“教皇利奥十四世愿景”（Pope Leo XIV Vision），这些页面描绘了教皇可能会提供一系列他从未讲过的警告和教训。

但他们使用人工智能的免责声明往往很难找到，有时甚至根本不存在。

在YouTube上，对于那些让人看起来像是在说他们没有说的话的内容，需要贴上“修改或合成内容”的标签。但这样的披露只会出现在每个视频点击打开描述的底部。

YouTube的一位发言人表示，该公司已经对法新社标记的频道上的一些视频使用了更明显的标签，这些视频没有违反该平台的指导方针。

TikTok还要求创作者给分享人工智能生成的真实内容的帖子贴上标签，尽管有几个以教皇为中心的视频没有贴上标签。

TikTok的一位发言人表示，该公司会主动删除违反政策的内容，并使用经过验证的徽章来标识真实账户。

圣克拉拉大学（Santa Clara University）技术伦理主任布莱恩·帕特里克·格林（Brian Patrick Green）表示，节制困难是人工智能快速发展引发“技术使用混乱”的结果。

格林说，人工智能生成的布道不仅“侵蚀了教皇的道德权威”，“使他所说的任何话都不那么可信”，而且可以利用“在教皇说出一些令人发指或政治权宜之计之前，在你的频道上建立信任”