近年来，深度伪造技术的增长不仅对组织构成威胁，也对即将到来的美国11月大选造成影响。
信息安全供应商Pindrop报告称，今年前几个月，深度伪造的数量与去年相比急剧上升。副总统卡马拉·哈里斯、前总统唐纳德·特朗普、总统乔·拜登以及各州候选人的深度伪造视频在美国大选前期广泛传播。
Pindrop的联合创始人兼首席执行官维贾伊·巴拉苏布拉马尼扬在《Targeting AI》播客中表示：“去年，我们每个月大约看到一个深度伪造。今年开始……我们在每个客户那里每天都能看到一个深度伪造。”
“今年开始……我们在每个客户那里每天都能看到一个深度伪造。”维贾伊·巴拉苏布拉马尼扬 Pindrop首席执行官兼联合创始人
这种显著增加的主要原因是生成式AI系统和语音克隆应用的增长。去年市场上大约有120个语音克隆应用，而今年用户——无论是合法的还是不合法的——可以选择超过350个语音克隆应用。
巴拉苏布拉马尼扬还表示，诈骗者正在利用生成式AI技术来扩大他们的攻击范围。
例如，生成式AI系统可以用多种语言创建深度伪造——Meta的一系列大型语言模型可以翻译大约4000种语言。诈骗者可以利用这些系统创建能够根据所说单词作出反应的深度伪造。
“他们以我们在生成式AI出现之前未曾见过的方式大规模扩展了攻击。我们现在正在看到这一点，”巴拉苏布拉马尼扬说。
与此同时，许多人无法区分深度伪造的声音和真实的声音。
深度伪造技术的巨大进步意味着组织必须保持警觉和意识，Tanium的AI副总裁哈曼·考尔在播客中表示。Tanium是一家总部位于华盛顿州柯克兰的网络安全和管理供应商。
“你必须有应对计划，”考尔说。“你是否有工具来理解你的网络中引入了什么类型的威胁，是否有工具来解决它？”
埃斯特·阿贾奥是TechTarget的科技新闻撰稿人和播客主持人，专注于人工智能软件和系统。肖恩·萨特纳是TechTarget信息管理团队的高级新闻总监，负责人工智能、分析和数据管理技术的报道。他们共同主持《Targeting AI》播客系列。
相关文章
