生成式人工智能（AI）的出现极大地改变了技术应用的格局。过去，无法绘画或作曲的人，如今可以通过简单的文本输入或代码，迅速生成图像、音乐，甚至开发应用程序。然而，这一技术的进步也被不法分子利用，使网络安全威胁达到了新的高度。

此前，我们曾报道过能够模仿声音的AI技术。现在，深度伪造视频技术也能够在短时间内生成极为逼真的视频，几乎无需专业知识。若骇客也掌握了这些技术，会带来怎样的后果？最近，Google Cloud Malaysia以及Mandiant Intelligence首席分析师John Hultquist进行了深入讨论。

在当今迅速发展的技术环境中，人工智能在隐秘操作中的应用成为了一个令人担忧的问题。这不仅是未来的潜在风险，而是当下已经发生的现实问题，需要引起我们的高度关注。

设想一下：你接到一通紧急电话，声称是公司首席执行官打来的，要求你将资金转账到指定账户。电话中的声音听起来与首席执行官一模一样，语调和语气均无可挑剔。然而，实际上，这通电话并非真正的首席执行官所为，而是诈骗分子利用AI语音克隆技术伪造的。该技术能够以惊人的准确度模仿人类语音。

这并非科幻小说。最近的报道揭示，诈骗分子已使用AI驱动的语音克隆和深度伪造技术，从某组织手中窃取了超过200,000,000港元。这些攻击变得愈加复杂，涉及网络攻击的各个阶段，从最初的入侵到深入系统、提升权限，导致更具迷惑性和危险性的钓鱼诈骗，即“语音钓鱼”（vishing）。

John 指出，这些攻击手法日益精细化，影响范围广泛，已经从网络攻击的初步入侵阶段延伸至系统深层和权限提升，造成了更具欺骗性和威胁性的钓鱼诈骗。

根据John及Google Cloud Malaysia的建议，首先需认识到此类威胁的存在及其可能性。了解诈骗分子可能利用这些技术窃取资金或数据，可以提高防范意识，从而对类似电话保持警惕。其次，应在组织内部进行教育，采取有效措施提升安全性，例如“强化验证流程”。

此外，我们不应以为只有大企业或高净值人士才会成为目标。许多盗窃和诈骗行为之所以发生，是因为诈骗分子视之为机会犯罪。如果我们能有效提高防范措施，就能降低成为受害者的风险。

更多科技资讯，请继续守住 TechNave 中文版！

【资料来源】

大马人注意！生成式人工智能成骇客新武器：利用“语音钓鱼”进行诈骗！