《AI系统对抗性测试与评估的反人工智能工具系统设计》2022论文，美国西点军校

这项工作包括在征求研究、设计和开发用于人工智能（AI）系统对抗性测试和评估的反人工智能工具的初步建议和结论。该报告包括对相关人工智能概念的文献回顾和对抗性人工智能领域的广泛研究。一项密集的利益相关者分析，包括从20多个政府和非政府组织中征集需求，协助确定哪些功能需求应包括在反人工智能工具的系统设计中。随后的系统架构图接受用户输入，测试各种类型的对抗性人工智能攻击，并输出人工智能模型的脆弱性。在这个工具投入使用之前，伙伴组织将进行迭代实验，这是开发和部署这个反人工智能工具的下一个步骤。美国国防部（DoD）对使用人工智能（AI）技术来提高军事任务能力和日常工作越来越感兴趣。美国防部将人工智能定义为 "旨在像人一样思考或行动的人工系统，包括认知架构和神经网络"（Sayler, 2020）。它将对 ………………………………