据Nextgov网12月11日消息，IARPA计划开发一种新工具，用于检测AI训练过程是否被攻击者恶意干扰。人工智能必须经过数据的训练，才能够用于完成任务的决策。最新的网络攻击者能够通过操纵AI的训练过程，从而控制AI决策来实现攻击目的。当前许多人工智能技术主要依靠开源软件运行，因此IARPA担心攻击者会干扰AI的训练过程。

信息来源：https://www.nextgov.com/emerging-tech/2018/12/iarpa-trying-keep-adversaries-corrupting-ai-tools/153419/