2024-04-07 16:01 来源：得道网
上周五，Facebook和Instagram的所有者textarea宣布对其数字创建和修改媒体的政策进行重大调整。大选即将考验该公司监管人工智能技术产生的欺骗性内容的能力。
这家社交媒体巨头负责内容政策的副总裁莫妮卡·比克特(Monika Bickert)在一篇博客文章中表示，该公司将于5月开始对发布在Facebook和Instagram上的人工智能生成的视频、图像和音频贴上“人工智能制造”的标签，扩大了此前只针对一小部分篡改视频的政策。
比克特表示，textarea还将对那些“在重要问题上欺骗公众的风险特别高”的数字媒体应用单独的、更显著的标签，无论这些内容是使用人工智能还是其他工具创建的。textarea的一位发言人表示，textarea将立即开始使用更突出的“高风险”标签。
这种做法将改变该公司对被操纵内容的处理方式，从侧重于删除有限的帖子转向保留内容，同时向观众提供有关内容制作过程的信息。
textarea之前宣布了一项计划，通过使用内置在文件中的隐形标记来检测使用其他公司的生成人工智能工具制作的图像，但当时没有给出开始日期。
一位公司发言人表示，这种标注方法将适用于Facebook、Instagram和Threads上发布的内容。它的其他服务，包括WhatsApp和Quest虚拟现实耳机，则受到不同规则的保护。
这些变化发生在11月美国总统大选前几个月，科技研究人员警告称，生成式人工智能技术可能会改变美国大选。政治活动已经开始在印度尼西亚等地部署人工智能工具，突破了元人工智能和生成人工智能市场领导者OpenAI等提供商发布的指导方针的界限。
今年2月，textarea的监督委员会在审查了去年发布在Facebook上的一段乔·拜登(Joe Biden)的视频后，称该公司关于操纵媒体的现有规定“不连贯”，该视频修改了真实镜头，错误地暗示美国总统有不当行为。
这些视频被允许保留，因为textarea现有的“操纵媒体”政策禁止对视频进行误导性修改，除非这些视频是由人工智能制作的，或者是让人们看起来说了他们从未说过的话。
该委员会表示，该政策也应适用于非人工智能内容，这些内容“不一定比人工智能生成的内容更具有误导性”，以及描述人们做他们从未真正说过或做过的事情的纯音频内容和视频。
