为解决AI污染问题，互联网行业要开始“查成分”

主要观点总结

文章介绍了生成式AI内容泛滥和虚假内容的问题，以及互联网工程任务组（IETF）发布的《AI内容披露标头》草案的旨在解决这些问题。文章指出AI内容生成中的参与情况需要被标记，以避免AI生成的虚假、垃圾内容回流到互联网中。文章还提到AI产品的爬虫对数据的不加筛选导致的问题，以及IETF的做法是在HTTP文件中要求网站方面声明AI相关信息。

关键观点总结

关键观点1: 生成式AI内容的泛滥和虚假内容问题

随着生成式AI的普及，区分AI生成内容和人类生产内容变得困难。AI产品循环引用虚假内容，导致互联网内容生态受到扰乱。AI会因为幻觉而生成不真实的内容，这是AI模型的本质所致。

关键观点2: IETF发布的《AI内容披露标头》草案的目的和运作机制

为了解决AI内容的问题，IETF提出了《AI内容披露标头》草案。该草案旨在兼容HTTP结构化字段语法，用于标记AI在网页内容生成中的参与情况。这为用户代理、爬虫和归档系统提供了元数据的标记，帮助它们决定是否采纳AI生成的内容。

关键观点3: AI产品爬虫数据不加筛选导致的问题

为了迭代出更智能的模型，AI厂商的爬虫会不加筛选地收集数据，包括有毒的虚假内容。这导致了AI模型可能被污染，并输出错误的信息。

关键观点4: IETF的解决方案及其影响

IETF的解决方案是在HTTP文件中要求网站声明AI模型的相关信息。这有助于避免AI生成的虚假内容回流到互联网中，并防止形成“垃圾进、垃圾出”的负向循环。虽然这种做法可能会对网站产生一定的约束，但由于IETF负责互联网标准的制定与推广，因此他们确实可以实施这种解决方案。

免责声明