去年，两位来自信息安全公司ZeroFOX的数据科学家做了一组实验，他们想测试人工智能算法是否比人类更容易欺骗Twitter用户点击恶意链接。科学家们从社交网站收集用户行为数据来训练模型，然后以此设计并生成恶意链接诱饵。在测试中，人工智能的表现显著超越了人类对手，它们撰写和发布假消息的能力远胜人类，而且转化率还更好。

这个AI名叫SNAP_R，它以每分钟6.75条消息的速率向800名用户发送钓鱼消息，其中有275名用户成功上钩。相比之下，来自福布斯的专业作家Thomas Fox-Brewster平均每分钟只能产出1.075条消息，总共发送了129名用户，而仅有49名用户被吸引。

是人类还是机器人？真的很难辨别。（图片来源：ZeroFOX）

幸好这只是一次实验，但是结果显然已经告诉我们，黑客们已经可以利用AI技术完成那些不可告人的阴谋。也许他们已经在用了，只是我们很难辨别。今年7月，数百名网络安全专家齐聚拉斯维加斯，参加[2017美国黑帽子大会](Black Hat USA 2017)，共同探讨新兴技术所带来的威胁。会议期间做了一次投票，让参会嘉宾预测未来几年黑客是否会利用AI技术从事犯罪活动，有62%人表示肯定。

如果这项非正式投票的结果令人信服，那么拒绝承认AI技术存在将来被黑客利用的可能性的安全专家数量则多得惊人。尽管与记者交流过的大多数信息安全专家都承认黑客正在使用AI技术，也承认黑客对新技术的掌握程度超乎多数人的认知，但是他们的立场就是这么让人费解。

“黑客早就开始把人工智能当做武器使用了”，Cylance首席安全数据科学家Brian Wallace在与Gizmodo的采访中说到，“这很容易理解，因为黑客追求规模效应，他们试图攻击尽可能多的目标用户，同时降低自身的风险。人工智能和机器学习则是他们实现目标的完美工具”。他认为，这些技术可以辅助黑客们决策攻击的对象、攻击的方式和时机等等因素。

多元化的智能

《未来犯罪》的作者 Marc Goodman 表示，他对黑帽利用新兴技术并不感到意外，因为AI技术多年来一直被用于网络攻击。

“让我感到一丝奇怪的是62%的信息安全专家正在做一个AI预测”，Goodman 告诉 Gizmodo，“很多不同的人从不同的角度定义AI，我想进一步明确他们对AI的定义是什么”。

事实上，专家在这个定义上很可能出现意见分歧。

由于技术的飞速发展，我们对人工智能的概念本身就随着时间而变化。在最根本的层面上，智能指的是代理对象解决问题的能力，不论是生物方面还是机械方面。我们拥有许多具有这种功能的工具，而且早就被发明了，所以现在我们把这些工具的能力看作是理所当然的。

比如，几个世纪以前的人们会觉得计算能力成百上千倍超越人类的计算器必然是颠覆性的技术突破，但是如今很少有人把这种低端计算器看作是稀罕物。同样的，赢得国际象棋比赛被认为是人类高智商的表现，但是随着1997年深蓝击败Garry Kasparov，这种认知技能已经失去了昔日的光泽。AI技术的每一次突破都是如此。

毫无疑问，机器智能和神经网络等现代工具属于人工智能的一种形式，如果我们不承认，则要为此承担相应的后果。

现如今，机器学习、自然语言处理、神经网络以及许许多多相关领域的快速发展使得我们对机器智能门槛的认知持续降低。在不久的将来，人工智能助手（比如Siri和Alexa）、自动驾驶汽车、疾病诊断算法都会褪去人工智能的光环。到那时，我们又会把这些技术看作是理所当然的，并且批评它们的功能相比人类还不够完美。毫无疑问，机器智能和神经网络等现代工具属于人工智能的一种形式，如果我们不承认，则要为此承担相应的后果；如果我们无视或者忽视这些工具的力量，那我们可能会被那些竭力挖掘AI潜能的人所愚弄，就比如黑客们。

不得不提到一点，人工智能这个词所包含的未来愿景和科学幻想正在与我们的真实世界渐行渐远。

“人工智能这一术语常被误解，很多人容易联想到终结者机器人追捕John Connor，但那不是AI”，Wallace 说，“相反，这是一个广泛的研究课题，围绕着创造各种形式的智能展开”。

Wallace 说AI有很多细分的领域，机器学习是当前AI的一个特别重要的子集。

“在日常工作中，我们用机器学习算法解决一个具体的问题，它属于人工智能的一种形式”，Wallace 告诉 Gizmodo，“比如说，我们用机器学习来预测某个文件或是进程是否是恶意的。我们不需要搭建一个类似SkyNet的系统。人工智能并不都像媒体和科幻小说所描绘的，而当我们[信息安全专业人员]谈AI技术时，我们是谈论更广阔领域的研究。”

邪恶的意图

这些现代工具似乎并没有像《终结者》的场景那么可怕，但若是落到坏人的手中，它们仍然会让人畏惧。

Deepak Dutt 是移动安全公司 Zighra 的创始人和CEO，他认为在不久的将来精细的人工智能技术很有可能被用于网络攻击，而且在俄罗斯、中国等国家可能已经被使用。至于如何将AI用于歧途，Dutt简直是信手拈来。

“人工智能可以用来挖掘公共网站和社交网络的大数据，从中提取用户的出生日期、性别、常住地、电话号码、电子邮件地址等个人信息，这些个人信息可被用于黑入该用户的账户”，Dutt告诉Gizmodo，“它还可以用来自动监控电子邮件和短信，并为社会工程攻击创建个性化的网络钓鱼邮件（网络钓鱼是指非法获取可疑用户的敏感信息）。AI还可以用于生产恶意软件，并支持更智能的寻找和挖掘系统中的漏洞”。

Dutt怀疑AI技术已经被用于网络攻击，罪犯已经掌握了部分机器学习的技术，比如自动生成个性化的网络钓鱼邮件。

Dutt又提到，“使用新的机器学习技术能够实现我刚才提到的情况，准确率和效率更高，像深度学习模型。”深度学习又称为分层学习，是一种使用大型神经网络模型的机器学习方法。它已经应用于计算机视觉、语音识别、社交网络过滤等诸多复杂任务，产生的效果往往优于人类专家。

“此外，大量社交网络和公共数据集也有所帮助。先进的机器学习和深度学习技术现在可以在开源平台上轻松获得，再与相对便宜的计算硬件设施相结合，轻而易举地使得网络攻击更加复杂。

据Goodman说，如今大规模的网络攻击已经实现自动化。黑客人肉攻击某个目标的情况已经非常罕见，更常见的方法是利用AI工具和机器学习方法进行自动攻击。尽管有人质疑自动化脚本本质上并不算人工智能，但是可以通过机器智能来编排这些自动化脚本，快速生成复杂的、高精准的攻击脚本，速率和效果远远超过任何一个黑客。

事实上，这种场景几乎是无穷无尽的。除了刚才描述的犯罪活动之外，人工智能还可以用来攻击易受攻击的人群、高速执行黑客程序、开发智能恶意软件、等等。

Recorded Future的CTO Staffan Truvé先生认为，随着人工智能技术的成熟和通用化，“坏家伙们”会利用它们来提高攻击的性能，同时降低成本。Truvé与他多数同事的观点不同，他不认为现在黑客已经使用了AI技术，声称简单的算法（如自修改代码）和自动化方案目前仍然很管用。

“我认为AI还没有成为坏人们的工具箱的标准配置”，Truvé说，“我认为在现实的攻击中没有看到很多AI技术的原因是传统的方法仍然有效，如果用老式暴力方法仍然可以获得你需要的东西，那么何必要花时间和金钱去换新的技术呢？”

AI对抗AI

由于人工智能技术已经成为新一代黑客的武器，那么防御者必须想出新办法来保护那些脆弱的系统。值得庆幸的是安全专家已经有了一个相当有力和明显的对策，即人工智能技术本身。问题是敌我阵营之间必然会产生军备竞赛。但是任何一方都没有选择余地，唯一的办法就是越来越依赖智能系统来对付敌人。

一旦开始处理对手，你别无选择只能拿起AI来武装自己。

“对于安全专家来说，这是一个大数据问题，我们处理的数据超过了单个人可能产生的大量数据”，Wallace说，“一旦开始处理对手，你别无选择只能拿起AI来武装自己”。

为了处于领先地位，Wallace建议安全公司开展自己内部的研究，发展自己的人工智能技术来对抗，测试防御能力。他把这种方式称为“以牙还牙”。五角大楼的高级研究机构DARPA已经采用了这种方法，组织挑战赛让AI开发人员在虚拟游戏中互相夺旗。这个过程非常像达尔文主义，不禁让人联想到另一种人工智能发展方式，即进化算法。对于黑客和信息安全从业者来说，适者生存。

Goodman 表示同意，他表示要不遗余力地将AI技术应用于所有场景，从欺诈检测到对付一切网络攻击。Goodman透露，事实上一些公司已经在这样做了，它们与IBM的沃森合作打击网络威胁。

在Truvé的公司Recorded Future，他们使用自然语言处理技术来分析犯罪论坛的内容，自动检测关于网络攻击的计划和讨论，以消除潜在的威胁。

他说：“坏家伙们的网络攻击从来不会停止，只是效率更高了，因此需要研发基于AI的防御机制，确保在很大程度上能够抵御基于AI的攻击。”

Dutt建议信息安全团队持续监视黑客的网络攻击活动，并从中学习并不断创新，“结合有监督学习和无监督学习的防御策略在第一时间检测和阻止攻击迹象”，就像在战争中采用优质防御策略那样。

旁观者效应

因此，罪犯越来越能精准定位弱势用户和系统，充满AI技术的黑客时代来临。与此同时，计算机安全公司则要全力以赴的发展和依靠人工智能技术进行对抗。最终，这些工具将摆脱人类的理解和控制，在一个新兴的数字生态系统中以闪电般的速度运作。到那时，无论是黑客还是信息安全从业者都只需点击各自系统的“开始”，余下的就是期待一个好结果。人工智能的后果之一就是人类越来越被排除在圈子之外。

原文：https://gizmodo.com/hackers-have-already-started-to-weaponize-artificial-in-1797688425
作者： George Dvorsky
译者：KK4SBB

---

CSDN AI热衷分享 欢迎扫码关注