OpenAI详细解析：攻击者是如何使用「对抗样本」攻击机器学习的

图源：pixabay原文来源：OpenAI作者： Ian Goodfellow、Nicolas Papernot、Sandy Huang、Yan Duan、Pieter Abbeel、Jack Clark.「雷克世界」编译：嗯~是阿童木呀、EVA导语：一般来说，对抗样本（adversarial examples）是机器学习模型的输入，攻击者故意设计它们以引起模型出错;它们就像是机器的视觉错觉。这篇文章中，将展示对抗样本是如何在不同的媒介上发挥作用的，并将讨论为什么保护系统很难对抗它们。在OpenAI中，我们认为对抗样本是安全工作的一个很好的方面。因为它们代表了人工智能安全中的一个具体问题，而它们可以在短期内得以解决。而且由于修复它们非常困难，需要进行认真的研究工作（尽管我们需要探索机器学习安全的许多方面，以实现我们构建安全、广泛分布的人 ………………………………