原文：
www.kdnuggets.com/2017/06/kaspersky-artificial-intelligence-bubble-future-cybersecurity.html
评论
由尤金·卡巴斯基，卡巴斯基实验室的首席执行官兼联合创始人。
我认为最近的文章《纽约时报》关于硅谷“人工智能”繁荣的文章让许多人对网络安全的未来——无论是近期的还是遥远的——进行了深思。
我想这些问题会被考虑到：
-
对于‘人工智能’的狂热痴迷——现在只是存在于未来学家的幻想中——将会导致什么？
-
投资者还会投入多少亿资金到那些充其量只是“发明”了几十年前已经被发明的东西，最糟糕的情况是——结果不过是夸大的市场营销……假象的项目？
-
机器学习网络安全技术发展的真正机会是什么？
-
在这个美丽新世界中，人类专家将扮演什么角色？
有时候，当我和这里硅谷的人工智能爱好者待在一起时，我感觉就像是一个无神论者在一个福音派大会上。
——杰瑞·卡普兰，计算机科学家、作家、未来学家和连续创业者（包括赛门铁克的联合创始人）
现在发生的事情在“人工智能”领域就像一个肥皂泡。我们都知道，如果肥皂泡不断被小丑们吹大（无意冒犯！）：它们最终会破裂。
现在，当然，没有大胆的举措和冒险的投资，奇幻的未来永远不会成为现实。但今天的问题是，随着对“人工智能”（记住，今天的人工智能并不存在；因此有引号）的广泛热情，这些创业公司壳体开始出现。
几个初创公司？你可能会问，这有什么大不了的。
问题在于，这些壳公司吸引的投资不是数百万，而是数十亿美元——通过迎合围绕‘AI’ 机器学习的新一波热潮。事实上，机器学习已经存在了几十年：它最早在 1959 年被定义，在 70 年代开始运作，在 90 年代蓬勃发展，并且仍在蓬勃发展！快进到今天，这种‘新’技术被重新称为‘人工智能’；它带有前沿科学的光环；它拥有最光鲜的宣传册；它拥有最炫目的营销活动。所有这些都旨在迎合人类对奇迹的固有信仰——以及对所谓‘传统’技术的阴谋论。遗憾的是，网络安全领域也未能逃脱这种新的‘人工智能’泡沫……
在网络安全领域，新推出的“革命性”产品仿佛凭空解决了所有安全问题，保护了每个人和每个事物免受所有网络威胁：这些壳公司不择手段地展示信息，以操控公众舆论，并确保对真实情况的广泛误解。
实际上，在一些这些‘革命性’产品的背后，根本没有所谓的‘最新技术’。相反，它们使用的技术可能像蒸汽机一样过时！但嘿，谁在乎呢？谁会允许有人去查看呢？有关这种不愿意查看的情况，更多信息请见 这里。
一些这些初创公司甚至已经走到了 IPO 的阶段。一些早期的风险投资者可能会做得很好——如果他们能迅速转售；但从长远来看，这将是一个彻底失望的股票市场。因为一个亏损的业务以虚假营销为基础，不会支付红利，而且股价在达到峰值后的急剧下跌是不可阻挡的。同时，那个持续发光的营销金字塔机器需要支付费用——而且价格不菲。
让我们稍微回顾一下。
风险投资之所以被称为‘风险’投资，是因为它涉及风险。一位优秀的风险投资者知道在哪里投入资金——以及投入多少资金——才能在n年内获得良好的利润。然而，关于‘人工智能’有一个细微的差别：至今还没有一个重要的 AI 网络安全投资项目获利！呃，那么，像硅谷这样的风险投资者为什么要投资于 AI 项目呢？这是个好问题。
大多数硅谷初创公司的商业模式（并非全部；有一些幸运的例外）主要目标不是进行严肃的、昂贵的研究，推出能热销的有用产品/技术。而是希望制造泡沫：吸引投资者，迅速以基于“未来利润估值”的股价出售，然后……好吧，那时混乱（巨额损失）将成为其他人的问题。但等等。更糟糕的是：收入实际上只会阻碍这种模式！
这不是关于你赚了多少钱。关键在于你值多少钱。而谁最值钱？那些亏钱的公司。
这里有一个典型的商业模式，通过电视剧硅谷中的光鲜媒体类型在 75 秒内进行了压缩（虽然荒谬搞笑，但这基于现实！）：
AI 泡沫在某种程度上有点类似于 2008 年美国房地产市场的泡沫，这一泡沫迅速演变成全球金融危机。基于次贷抵押贷款的投资子产品的金字塔适合了很多人：数百万人从中获得了丰厚的收益，非常感谢；还有几万人从中获利颇丰（万分感谢：）。然后——砰：金字塔崩溃了，全球经济开始动荡，洞口被纳税人的钱填补，以避免金融末日——纳税人当然就是那些最初赚到钱的人。还不知道这十年的骗局丑闻？那就去看电影大空头。
如果这种回忆还不够糟糕，AI 泡沫还包含另一个危险——贬低机器学习：这是网络安全领域中最有前景的子领域之一。
那么，这有什么“危险”？嗯，多亏了机器学习，人类才没有淹没在过去几十年增加了无数倍的数据海洋中。
例如，十年来恶意程序的数量上升了大约一千倍：在本世纪初，我们每天分析大约 300 种不同的恶意软件；而现在这个数字已经在末尾加了三个零。我们的分析师数量增加了多少倍？四倍。那么我们是如何跟上的？两个词：机器学习。
快进到今天，我们检测到的 99.9%的攻击实际上是由我们的自动化系统检测到的。听起来分析师们轻松得笑了？！恰恰相反。他们集中于优化这些系统以提高其效率，并开发新的系统。
比如，我们有专家专门发现真正复杂的网络攻击，然后将他们的新知识和技能转移到我们的自动化系统中。还有数据科学专家，他们尝试不同的机器学习模型和方法。
与空壳初创公司不同，我们通过一个庞大的云基础设施来保护用户，这使得我们能够迅速和有效地解决更复杂的任务。是的，正因为如此，我们应用了许多不同的机器学习模型。
我们手动调查的唯一网络攻击是我们遇到的最复杂的个案。即便如此，鉴于机器几乎完全掌控的现状，我们仍然难以找到足够的专业人员。更重要的是，我们对潜在 KL 分析师的具体要求数量不断上升。
早晚，“人工智能拯救世界”的马戏表演会结束。专家们将最终被允许测试那些虚假的‘AI’产品，客户将意识到自己被欺骗，投资者将失去兴趣。但是机器学习将如何进一步发展呢？
硅谷在人工智能领域曾经经历过虚假的起步。20 世纪 80 年代，早期的一代企业家也相信人工智能是未来的趋势，导致了大量初创企业的涌现。当时他们的产品几乎没有商业价值，因此商业热情以失望告终，进入了现在被称为“人工智能寒冬”的时期。
——约翰·马克夫，《纽约时报》
在人工智能泡沫破裂后的余波中，所有类似领域将不可避免地受到影响。“机器学习？神经网络？行为检测？认知分析？啊——更多的人工智能术语？不，谢谢：不想了解。实际上：不愿意接触这些东西！”
更糟的是，人工智能泡沫的诅咒会使得对有前途技术的兴趣在许多年里变得迟钝，就像 80 年代一样。
尽管如此，成熟的供应商仍将继续投资于智能技术。例如，我们已经引入了提升和决策树学习技术，用于检测复杂的定向攻击和针对未来威胁的主动保护（没错——那些尚不存在的威胁！）。
一个特别有前景的发展领域是增加对所有基础设施层级事件的关联性图景的复杂性，并进一步进行数据景观的机器分析，以准确可靠地检测到最复杂的网络攻击。我们已经在我们的KATA 平台中实现了这些功能，并期待着进一步的发展。
那么，诚实的机器学习初创企业会怎么样呢？唉：今天对“人工智能”这一术语的滥用只会拖慢发展速度。
但是请注意，进展不会停滞：它仍将继续，只是节奏会慢一些。
人类仍将慢慢但坚定地走向对一切的自动化——直到最微小和最琐碎的日常过程。这不仅仅是自动化，还包括人与机器之间的自适应互动——基于超先进的机器学习算法。我们已经看到这种自适应互动，它扩展到越来越多不同应用中的速度有时会让人感到惊讶。
网络安全领域也将看到越来越多的自动化。
例如，我们已经有了在“智慧城市”范式中嵌入安全性的解决方案（包括自动道路交通管理等各种机器人方面），以安全控制关键基础设施。而专家的不足将变得更加严重，这不仅仅是由于技术的普及，更是由于对人员技能的不断提高的要求。网络安全的机器学习系统需要来自多个领域的百科全书式知识和具体的专业技能（包括大数据、计算机犯罪取证与调查、系统及应用程序编程）。将所有这些广泛且具体的知识和经验集中到一个人身上是一个罕见的壮举：这使得他们成为非常独特/高端/世界顶尖的专家。教授所有这些广泛且具体的知识也不容易。但是，如果我们想看到真正的智能技术发展，这仍然是必要的。别无他法。
那么，在这个未来的新世界中谁将掌控一切？人类是否仍将控制机器人，还是机器人可能控制人类？
在 1999 年，雷蒙德·库兹韦尔提出了一个关于共生智能的理论（尽管其他人以前也有类似的想法）：人类与机器的融合——一种将人类的智慧与超级计算机的巨大计算能力结合起来的控制论生物体（“人机智能”）。但这不是科幻小说——它已经在发生。而且，其持续的发展，依我之见，不仅是最有可能的，也是对人类发展最有益的前进道路。
但人类与机器的融合的进一步发展是否会达到技术奇点的程度？人类是否会失去对发生的事情的掌控，机器最终会完全且不可逆转地控制世界？
纯粹的机器 AI 的关键特性是能够永远自我提升和完善而无需人类干预——这种能力可能会不断增长，最终超越其算法的范围。换句话说，纯粹的机器 AI 是一种新形式的智慧。而这种‘超越算法’的遥远——但理论上可能的——终极一天将标志着我们世界的终结开始。为了人类的福祉，根据机器人学法则，未来的机器有可能让我们摆脱精神痛苦和存在的负担。
或许…也许程序员——像往常一样——会在代码中留下几个 bug？我们拭目以待…
简介: 尤金·卡斯帕斯基，Kaspersky Lab 的首席执行官兼联合创始人。已有 27 年抗击网络攻击的经验。最初作为反病毒研究员，然后作为商人。
原文。经许可转载。
相关:
-
如何在人工智能领域失败：9 种让你的 AI 初创公司失败的创意方式
-
机器学习和网络安全资源
-
利用机器学习检测恶意网址