[ 吾爱智能导读 ] AI就好像家里的菜刀一样,既是你切菜的好工具,但也可能成为暴徒手中的趁手武器。虽然技术无罪,但也应当善用技术。这篇马斯克在推特上转发的文章,或许可以解释他到底在担忧AI什么,AI对你我的生活又会有哪些影响 黑客,人工智能,网络安全,黑客,机器学习,自然语言处理 AI离你很远吗?黑客已经开始用来做武器装备自己了 AI资讯 第1张 图片来自“123rf.com.cn”

去年,来自安全公司ZeroFOX的两位数据科学家进行了一次实验,看看谁更好地让Twitter用户点击恶意链接,人类或人工智能。研究人员教导人工智能研究社交网络用户的行为,然后设计并实施自己的网络钓鱼诱饵。在测试中,AI比人类竞争对手强大得多,制造并分发了比人类更多的网络钓鱼微博,成功率也大大提高。

这个名为SNAP_R的AI以每分钟6.75微博的速度向800多名用户发送了模拟的钓鱼诈骗微博,吸引到275位受害者。相比之下,参加实验的实验者只能每分钟抽出1.075个推文,只只吸引了49位用户。

链接 AI离你很远吗?黑客已经开始用来做武器装备自己了 AI资讯 第2张

(这样一条链接你很难区分是AI还是人发的,图:Gizmodo)

虽然这只是一个实验,但它也证明AI已经可以用来进行恶意攻击。事实上,黑客可能已经在使用AI来进行这种攻击了。今年7月份,在2017年美国黑帽安全大会上,数百名领先的网络安全专家聚集在拉斯维加斯,讨论这个问题和新兴技术带来的其他隐患。在接力调查期间举行的巡回调查中,有与会者被问及在未来一年内黑客是否会使用AI进行攻击,62%的受访者表示肯定。

数据安全科学家BrianWallace受访时说:「黑客一直在使用人工智能作为武器,因为这是非常有意义的,因为黑客有规模的问题,试图尽可能多的攻击,尽可能多的目标,同时尽量减少对自己的风险。特别是人工智能和机器学习,是他们最终使用的完美工具。「他说,这些工具可以决定要攻击的人,攻击者,何时攻击等等。

被忽视的AI技术发展

一个有趣的事实是,随着技术的进步,我们对它的观念也随之变化。例如,几个世纪以前,如果你说由一个叫做计算器的东西计算速度可能会比人类快几百万倍,这肯定被认为是天方夜谭,但是今天很少有人会将计算器视为特别的事情。

同样,在国际象棋中赢得胜利的能力曾经被认为是人类智力的高标准,但自1997年Deep Blue击败加里·卡斯帕罗夫以来,这种认知技能已经失去了前所未有的光彩。所以,随着AI的每一次突破,机器智能和神经网络这样的现代工具是人造智能的一种形式也在变得平凡。

今天,机器学习、自然语言处理,神经网络等技术的快速发展降低了我们对什么构成AI的看法。几年来,人工助理(如Siri或Alexa),自驾车和疾病诊断算法开始被视作理所当然的,并且很多人开始觉得这样的AI其实也没有多大力量。

但不要误会,如果我们忽视工具或忽视这些工具的力量,我们可能会被那些渴望利用AI潜力的人蒙蔽,黑客包括在内。

黑客的邪恶意图

AI或许没有电影中想象的那么邪恶,但是在错误的人手中,他们同样会变成可怕的工具。

移动安全初创公司Zighra的创始人兼首席执行官Deepak Dutt表示,在不久的将来,复杂的人工智能将被用于网络攻击的可能性很高,而且它可能已经被俄罗斯、东欧等国家使用家。关于AI如何以恶劣的方式使用,Dutt认为人们并不缺乏创意。

「人工智能可用于挖掘大量公共领域和社交网络数据,以提取出生日期、性别、位置电话号码、邮箱地址等个人身份信息,可用于黑客入侵个人账户,」Dutt告诉记者。「它还可以用于自动监控电子邮件和短信,并为社会工程攻击创建个性化的网络钓鱼邮件网络钓鱼诈骗是非法尝试从不知情的用户获取敏感信息。AI可以更容易地突变恶意软件、更智能地搜索并挖掘和利用系统中的漏洞。

Dutt怀疑AI已经被用于网络攻击,而且这些罪犯已经在使用某种机器学习功能,例如通过自动创建个性化的网络钓鱼电子邮件。

「但是,新的机器学习技术,如深度学习,AI可以用来实现我刚才提到的更高水平的准确性和效率的情况,但新的是什么。」他说。深度学习也称为分层学习,是利用大型神经网络的机器学习的子领域。它已经应用于计算机视觉,语音识别,社交网络过滤等诸多复杂任务,往往产生优于人类专家的成果。

「此外,大量社交网络和公共数据集(Big Data)的可用性也有所帮助。先进的机器学习和深度学习技术和工具现在可以在开源平台上轻松获得这与相对便宜的计算基础设施相结合,有效地使得网络攻击更加复杂。

《未来犯罪:人人相关人人脆弱的时代我们能做什么》一书的作者古德曼认为越来越多的网络攻击都将自动化。人类黑客锁定单一目标的情况是非常少的,现在更常见的方法是使用AI和机器学习的工具自动化攻击从脚本分布式拒绝服务(DDoS)攻击到勒索软件、犯罪聊天室等的一切。

AI可以以超越任何个人黑客的速度和复杂程度生产复杂且高度针对性的脚本。尽管如此,这些可能性似乎几乎是无止境的。除了已经描述的犯罪活动之外,这些技术还可以用来针对弱势群体,进行快速攻击,开发智能恶意软件等。

Recorded Future首席技术官StaffanTruvé认为,随着AI成熟,黑客将开始使用它来提高攻击的性能,同时也降低成本。

要避免AI被坏人利用,还得依靠AI发展

幸运的是,对于潜在的黑客风险,安全专业人员有一个相当有力和明显的对策,那就是人工智能本身。

麻烦的是,和黑客之间的较量一定是一场竞赛。两方都没有选择,因为唯一的对抗方式就是越来越依赖AI。「一旦你开始对付敌手,你别无选择,只能自己使用武器化的AI。」,华莱士认为。为了保持领先地位,华莱士建议安全公司进行自己的内部研究,并开发自己的武器化AI来战斗并测试他们的防御。

事实上,美国国防部研究机构DARPA已经采用了这种方法,并组织了大量的挑战,AI开发人员在捕捉旗帜的虚拟游戏中将他们的作品相互对方。这个过程和达尔文的自然进化理论非常相似,于黑客和信息技术专业人士来说,通过对抗技术能生成最合适的技术。

「我们将不再需要」使用越来越多的AI「从欺诈检测到打击网络攻击」。事实上,几个初创企业已经在与IBM沃森合作打击网络威胁,防病毒公司利用AI将异常检测作为一种自动的方法。比如,Truvé正在使用AI技术来进行自然语言处理,比如利用自动检测何时什么时候可能会发生攻击,并预测未来的威胁。

利用AI的黑客将采用更有效的方式进行攻击,其危害远远超过传统的网络攻击手段。因此现在开发的基于AI的防御机制在很大程度上也可能用于基于AI的攻击。信息科技团队不断监测黑客的网络攻击活动,并从中学习,不断通过监督和无监督的基于学习的防御策略的组合进行创新,以便在第一个标志上发现和阻止攻击,在任何战争中,采取更为积极的进攻防御策略可能是更好的选择。


2017年9月14日,吾爱智能智库正式发布了《2017中国智能金融产业研究报告》,该报告在梳理智能金融概念、宏观环境和公司现状的基础上,总结了七大应用场景,并分析了金融机构的智能金融应用以及互联网巨头的布局,最后总结了智能金融的未来发展趋势与挑战。了解更多报告内容,请点击:《2017中国智能金融产业研究报告》。

吾爱智能智库:2017中国智能金融产业研究报告 AI离你很远吗?黑客已经开始用来做武器装备自己了 AI资讯 第3张


2017年9月10日,吾爱智能智库正式发布《鸟瞰人工智能应用市场——安防行业研究分析报告2017》,该报告内容分为四大板块:综述背景篇、技术探讨篇、行业现状判断篇、趋势判断篇以及附录企业案例。报告内对诸多衍生疑问的量化解答,对于参与变局的企业都有意义,对于技术买单者政府也有参考价值,甚至对于第三方的投资者、媒体等都能给予有参考价值的信息。了解更多报告内容,请点击:《鸟瞰人工智能应用市场——安防行业研究分析报告》。

鸟瞰人工智能应用市场——安防行业研究分析报告 AI离你很远吗?黑客已经开始用来做武器装备自己了 AI资讯 第4张

上一篇: 智行者CEO张徳兆:自动驾驶最大的挑战是智能汽车的行为预测 下一篇: 用价格战锁定入口生源时,师资痛点又该怎么破? 人工智能 行业观察 行业观察

扫一扫分享微信

8

15