作加

AI安全警报:这家初创公司用30亿参数模型对抗深度伪造风暴


一场与虚假信息的赛跑

在生成式AI席卷全球的同时,另一场看不见的战争正在打响——对抗日益猖獗的深度伪造(Deepfake)威胁。最近,一家名为 Resemble AI 的科技公司宣布完成1300万美元的新一轮融资,将这场“真实 vs. 虚假”的较量推向了新的高度。

这笔资金由谷歌旗下的 AI未来基金 领投,Okta Ventures、台湾资本、Gentree Fund、IAG资本伙伴、伯克利前沿基金以及KDDI等知名机构共同参与。至此,这家成立于2018年的初创企业累计融资已达 2500万美元,正加速在全球范围内部署其AI防御系统。

从语音克隆到AI守护者:一次战略转身

你可能还记得Resemble AI最初是以语音合成和媒体克隆技术起家的——它曾让企业轻松创建个性化的语音助手或虚拟播报员。但随着生成式AI被滥用的风险急剧上升,这家公司果断调转方向,将其对声音、图像和语言的理解能力,转化为识别欺骗的利器。

如今,Resemble AI不再只是“制造”逼真内容的技术商,而是成为企业抵御AI欺诈的“守门人”。

核心武器曝光:Detect-3B Omni 与 Intelligence 平台

该公司目前主打两大核心技术:

Detect-3B Omni:多模态检测引擎

这是一款拥有 30亿参数 的多模态深度伪造检测模型,能够同时分析音频、视频、图像和文本中的异常模式。据官方披露,该模型支持 40多种语言,检测准确率高达 98%。无论是伪造CEO语音指令转账,还是捏造政要发言引发市场动荡,Detect-3B Omni都能在几秒内发出预警。

Intelligence 平台:不只是“真假判断”,更是“动机分析”

如果说Detect是“雷达”,那Intelligence就是“分析师”。这个平台不仅能告诉你一段内容是否为AI生成,还能深入解析其上下文背景:它是谁生成的?目的是什么?传播路径如何?这种“可解释性”对于金融监管、品牌保护和政府安全尤为重要。

深度伪造已不是科幻情节,而是现实危机

Resemble AI在官网发出警示:“深度伪造威胁不再是理论上的存在,它们正在发生,并且正在加速。”

数据印证了这一判断:
2024年,企业因深度伪造欺诈已损失超15.6亿美元
预计到2027年,仅在美国,相关欺诈损失就将达到400亿美元

这些数字背后,是一个个真实的案例:假冒高管语音骗走数百万资金、伪造名人代言推广诈骗项目、甚至利用AI生成虚假新闻干扰选举进程。而这一切,都建立在越来越难以分辨的“真实性”之上。

下一步:全球扩张与技术进化

新资金将主要用于两方面:一是加快国际市场布局,特别是在金融、政府和媒体等高风险领域落地解决方案;二是持续优化其AI检测模型,提升对抗新型伪造技术的能力。

正如Resemble AI所言:“我们不能阻止生成式AI的发展,但我们必须确保它不会摧毁社会的信任基础。”

在这场技术双刃剑的博弈中,像Resemble这样的公司,或许正是我们守住“真实”最后一道防线的关键力量。