情报机构希望软件能够阻止AI木马攻击:亚博app官网

本文摘要:对人工智能系统最严重的反击可能不是恶意软件,而是来自单个粘性笔记本。

亚博app

对人工智能系统最严重的反击可能不是恶意软件,而是来自单个粘性笔记本。人工智能系统可以处理大量数据,了解“自学”在自己的环境中如何相互作用,一个以上(例如,贴在暂停标志上的粘性笔记)可以根据技术的训练方式改变对技术可见内容的看法。因此,粘性笔记并不表示停止标记,而是将启动时可以完成AI的自动驾驶车辆注册为车辆速度标记,该标记在某些地方为黄色和正方形,可能会造成潜在损害。

(威廉莎士比亚,Northern Exposure(美国电视),)将足够的触发器映射到AI系统的自学数据上,可以大大改变其不道德性。信息高级研究项目活动(IARPA)相关人士正在寻找能够阻止特洛伊木马或后门反击这一场面的软件包,并向业界寻求帮助。

亚博app首页

该信息界的研究部周六发表了一份普遍的机构声明草案,呼吁业界评估和维护AI平台的数据和教育频道,以保护其免受潜在木马反击的解决方案。名为TrojAI的IARPA程序是一个程序,用于检测潜在的特洛伊木马触发器在作为实际操作分发之前,作为开始培训的数据放置在AI系统中的时间。但是这种目标本身并不是没有挑战。

BAA表示:“对特洛伊木马反击的突出防卫是网络安全(维持训练数据)和数据清理(确保训练数据的准确性)。”“出乎意料的是,现代人工智能的变化的特点是,清洁或监控中不切实际的相当大的众包数据集。

”人工智能系统还包括用于训练其他人工智能的公共数据集,根据特定使用案例进行调整的过程称为自学。因此,在没有开发者科学知识的情况下,可以从多个AI系统的自学数据中线性摄取特洛伊木马触发器。

亚博app

IARPA管理表示:“为了有效地反击特洛伊木马,几乎不需要在长时间的操作员环境中启动,因此会影响测试数据集或长期操作员的AI性能。”的图表中。

“此外,触发器非常理想,攻击者可以在AI的操作员环境中控制。所以特洛伊木马是不道德的。或者触发器是世界上不存在自然的东西,但只有当输了告诉AI想做什么的时候才会经常出现。(威廉莎士比亚、哈姆雷特、唐璜)“TrojAI计划期待AI系统开发出接受教育后可以检测到的解决方案。

特别是,他们正在寻找具有深度自学、网络安全和其他经验的行业合作伙伴,开发AI内部废弃检查技术,帮助他们确定何时部署特洛伊木马触发器。根据官方的回应,他们首先测试暴露在木马反击中的深度神经网络的潜在解决方案,然后扩展到其他AI。因为这更有效。

(阿尔伯特爱因斯坦,Northern Exposure(美国电视),成功)该计划将与期权年度和可能的进一步转让工作一起运营基准年度。IARPA官员回应说,在1月4日之前不会接受关于BAA草案的系统、意见和问题,之后最终BAA将在以后公布。

本文关键词:亚博app,亚博app首页,亚博app官网

本文来源:亚博app-www.mdr-1rbt.com