DeepTest | 一种用于测试自动驾驶深度学习的工具

在概念层面上，在基于DNN的软件中产生的错误行为（corner-case behaviors）就类似于传统软件中的逻辑错误。与传统软件开发中的bug检测和周期修复类似，一旦检测到DNN的错误行为，可以通过将引起错误的输入添加到训练数据集，进一步改变模型结构/参数，从而使错误失效。然而，这是一个极具挑战性的问题。我们使用传统软件的经验表明，很难只通过使用手动测试用例构建出鲁棒的“安全至上“的系统。传统软件和基于DNN的软件的内部结构存在着根本性的差异。例如，传统的软件程序逻辑是由软件开发人员手工编写的，而基于DNN的软件是自动从大量的数据中学习并形成自己的逻辑。此外，传统软件程序的逻辑是用控制流语句来表示的，而DNN则以神经元之间的连接的权重 ………………………………