在本周二，YouTube宣布扩大其用于检测AI生成的深度伪造内容的技术。这项技术将首先应用于政府官员、政治候选人及记者等群体，以应对日益增长的虚假信息威胁。
YouTube副总裁兼公共政策负责人Leslie Miller表示，此举意在维护公众对话的完整性。“我们意识到，AI模仿的风险特别高，尤其是在公民领域中。”Miller强调，“尽管我们在提供这种新工具的同时也十分谨慎。”
新试点项目将使用户能够检测未经授权的AI生成内容，并请求删除如果他们认为这些内容违反了YouTube政策。这项技术已在去年对大约400万YouTube创作者开放，之前进行了测试。
类似于YouTube现有的Content ID系统，该功能查找使用AI工具制作的模拟面部。Miller解释说，不是所有检测到的匹配项都会被删除，而是将根据现有隐私政策评估每个请求以判断是否为讽刺或政治评论，这些是受保护形式的言论自由。
要使用新工具，试点测试者必须首先通过上传自拍和政府ID证明身份。然后可以创建个人资料、查看匹配项，并可选择请求删除。YouTube表示最终将允许人们在内容发布前阻止违规上传，甚至有可能像其Content ID系统一样从中获利。
Miller指出，具体哪些政治人物或官员会成为首批测试者尚未公布。“我们的目标是随着时间推移让这项技术广泛可用。”她说。
这些AI视频将被标记为“由AI生成”，不过标签的放置并不一致。一些视频会在描述中显示该标签，而对于更敏感的话题则会将其放在视频前面。这是YouTube处理所有AI生成内容时采取的做法。
虽然目前尚未透露通过此技术已经管理了多少删除请求，但Miller表示，“对于大多数创作者来说，这主要是了解什么是被制造出来的，而实际上提出删除请求的数量非常低，因为大部分都属于轻微或有益于其业务的内容。”
Miller还强调，YouTube计划在未来将这种深度伪造检测技术扩展到其他领域，包括可识别的口头声音和其他知识产权如流行人物等。
推荐意见