6park.com

美国国防高级研究计划局正在寻求一种前所未有的机器学习“突破”技术，并开创一种新的网络安全方法，旨在一次阻止多个攻击，并可以阻止现有防御系统无法识别的新攻击。
DARPA领导的“终身学习机器”（L2M）计划旨在大规模改进实时人工智能和机器学习，其基本前提是某些具有机器学习能力的系统可能难以识别、集成和组织某些新的或复杂的尚未被发现的信息。

“如果新事物足够不同，系统可能会失败。这就是为什么我想要一种在经历中学习的机器学习。系统不知道在某些情况下该怎么做，”哈瓦西格尔曼，美国国防高级研究计划局信息创新办公室的项目经理，马萨诸塞大学计算机科学教授表示。
新兴高科技项目的目标可以用即时的“实时培训”来解释。如果机器在进行实时分析时学习到最困难或最模糊的东西，那么，正如西格曼所解释的那样，“我们不受培训集的约束。（以前编译或存储的信息）。我们将旧数据和新数据放在一起，以便在网络中对所有培训数据进行再培训。”
虽然尖端的人工智能应用程序现在显示出快速增长的理解上下文、复杂的细微差别甚至一些高度主观的变量的能力，但在某些情况下，许多机器可能难以正确集成尚未添加到其数据库中的数据。机器学习可以识别异常和模式，而不是其收集的历史信息量的一部分，但也有一些快速出现的、意想不到的发展，这可能会给一些最先进的机器学习系统带来很大的困难。
在许多情况下，如果机器学习程序中引入新的信息，系统有时会“不知道如何识别新的图像”。如果你一直在学习，你不会有那么多惊喜，”西格曼说。

从广义上讲，人工智能的工作原理是将新的输入与已知信息的数据库进行比较，以辨别差异的界限，进行计算，并确定看似无法解决或极其复杂的问题的答案。考虑到先进的处理速度，再加上执行实时分析的能力，看似无限的数据量几乎可以立即挖掘出来——为人类决策者提供答案和组织信息。
例如，先进的机器可以识别上下文，识别出舞蹈中的“球”和足球中的“球”之间的区别。这是通过分析周围的单词，组织它们并有效地确定上下文或意义来完成的。例如，西格曼说，先进的模式识别使人工智能能够知道许多复杂或难以辨别的单词、图像和程序之间的区别——比如飞机和坦克之间的区别或更密切相关的图像。L2M程序的设计就是以此为基础，将这些技术优势提升到一个全新的水平。·
正如Sigelmann解释的那样，有一些以前从未见过的细微差别或数据排列，它们代表着与机器学习通常可以分析的不同。此外，人工智能似乎也有一些局限性，这意味着它可能还没有能力完全消化和吸收一些非常主观的变量，如“感觉”…“本能”……某些细微的决策是人类认知所独有的……或任何与计算机算法、数学公式或某些纯科学的分析方法不相容的东西。相反，也可以说，根据一些工业计算机科学家的说法，人工智能通过利用包括语音模式、先验行为和其他种类的编目证据在内的数据库，现在处于能够处理更多主观现象的前沿。
Seigelmann解释说，有趣的是，LM2在概念上与人类生物现象相似。她说，实时输入和输出之间的高级协同作用类似于婴儿对周围环境的感知。
“当婴儿出生时，它一直在学习适应和学习。人们害怕惊喜。这正是关键所在；机器通过立即添加新信息并与现有数据库同步，吸收和处理新信息的速度越快，就越能训练它识别和计算新事物。”Siegelmann补充道。
探索与创造新的计算机算法相关的生物学绝非史无前例。五角大楼的科学家们长期以来都沉浸在一种叫做“生物计量学”的东西中，通过分析蜂鸟的聚集模式，为无人机开发新的算法——使它们能够协调综合功能、准确地群聚或在不发生碰撞的情况下协同工作。

保证人工智能对欺骗的鲁棒性（GARD）
除了正在进行的L2M计划（进展迅速）外，西格曼还强调了一项相关的、但独特的、面向网络安全的探索，旨在挫败比通常情况下更为先进的网络攻击。
网络安全概念被称为保证人工智能对欺骗的鲁棒性，旨在理解一种新的更复杂的网络攻击，正如西格曼所说，“使机器学习更加敏感，使人工智能更加健壮和有弹性。”
GARD程序设计用于解决新出现的试图入侵的方法，这些方法被设计为“欺骗”、“混淆”或重新引导它正在攻击的面向机器学习的系统。
Siegelmann说：“这种攻击可能涉及一种特定的算法，该算法设计用于向机器学习系统发送信息，并实际发送信息，以使人工智能以一种不可预期的方式做出响应……本质上是混淆和欺骗机器，迫使它做出决定。”
例如，如果这样的攻击成功，攻击者可以指示启用人工智能的系统“允许访问”受保护的网络并“打开一扇门”，正如西格曼所说。
西格曼用输入和输出之间的某种同时协同作用来解释这一点。国防高级研究计划署的一位官员说，这种方法使网络安全能够识别出比目前可能的更广泛的攻击，并阻止其发生。
“当前的防御努力旨在防止特定的、预先定义的对手攻击，并且在测试时，仍然容易受到超出其设计参数的攻击。国防部高级研究计划局的官员在一份书面声明中解释说：“国防部试图以不同的方式对待机器学习防御。”
虽然基于科学，但GARD的努力还很早。国防部高级研究计划局刚刚向业界发布了一份广泛的公告征求意见，计划在今年12月正式启动该项目。
Siegelmann补充说：“我们将使人工智能更好地创建防御机制，以便现有的机器学习可以通过防御当前的机器或进行新的机器学习来防御。”

作者：克里斯·奥斯本，曾在五角大楼担任过高级专家，任职于陆军采购、后勤和技术助理部长办公室。奥斯本还曾担任国家电视网的主持人和航空军事专家。他还拥有哥伦比亚大学比较文学硕士学位。 6park.com
Watch the latest video at foxnews.com