在2024 CES上,McAfee Corp.发布了其人工智能驱动的深度伪造音频检测技术——Project Mockingbird,旨在抵御日益猖獗的网络犯罪分子所采用的新型威胁手段。这些犯罪者利用高度逼真的人工智能生成音频进行诈骗、盗取个人信息和资产,并通过伪造声音实施网络欺凌及操控公众人物形象。
随着生成式人工智能工具的日益精进与易用性提升,网络犯罪世界得以轻易炮制出以假乱真的骗局,如模拟家庭成员求救的语音信息或篡改新闻播报、名人访谈等,以拼接虚假音频改变原始话语内容,使视听混淆,真相难辨。在此背景下,McAfee实验室凭借其创新精神与深厚的安全情报积累,打造了这款人工智能模型,专门训练用于鉴别AI生成音频的真实性。
McAfee的“Project Mockingbird”技术巧妙地整合了基于AI的上下文分析、行为特征识别以及分类检测模型,能够在视频中精准定位并识别可能由AI生成的音频片段。目前,该技术的准确度已高达90%,对恶意制造的“廉价伪造”或深度伪造内容具有侦测与防护能力。
首席技术官Steve Grobman阐述道:“凭借McAfee最新研发的人工智能检测功能,我们赋予客户一个精确度超过90%的强大工具,助其深入理解数字世界,评估内容真实性。就好比天气预报中70%的降雨概率指导你规划日常活动一样,我们的技术为你提供洞察能力,让你能在判断内容真伪时做出明智决策。”
他进一步强调:“这项人工智能检测技术的应用场景广泛多元,在当前充斥着AI生成诈骗与虚假信息的时代,对于消费者而言其价值无比珍贵。通过McAfee的深度伪造音频检测技术,我们将鉴别真实与伪造的能力直接交到消费者手中,使其能够从容避开诸如假冒名人发布限时赠品的‘廉价伪造’陷阱,以及确保观看有关总统候选人的视频时能即刻识别其为真还是被AI出于恶意而合成。这无疑将人工智能时代的安全防护推向全新高度。我们的目标是助力用户在面对人工智能驱动的新世界时,能够清晰明了、自信满满地辨识其中微妙差别,全面保护他们的在线隐私、身份安全及福祉。”
|