如果AI开始“做梦”，我们该如何应对？

主要观点总结

本文讲述了关于人工智能（AI）产生的“AI幻觉”现象。一篇关于AI平台DeepSeek就王一博与李爱庆腐败案道歉的假新闻引发全网热议，实际上这是一场由AI产生的集体幻觉。AI在缺乏事实核查能力的情况下，容易输出虚构的承诺信息，形成“假新闻喂养AI，AI再产假新闻”的恶性循环。文章还介绍了AI幻觉的两种类型：事实性幻觉和忠实性幻觉，并探讨了应对AI幻觉的多方努力。同时，文章也提醒公众要保持警惕，辨识真伪，给予AI足够发展空间。我国生成式AI用户规模庞大，需要在享受AI便利的同时，保持独立思考的能力。

关键观点总结

关键观点1: AI产生的“AI幻觉”现象。

由于AI缺乏事实核查能力，容易输出虚构的承诺信息，形成集体幻觉。

关键观点2: 假新闻喂养AI形成的恶性循环。

当虚假的“DeepSeek道歉”被大量报道，这些信息又成为AI训练的新“养料”，形成 “污染-吸收-再污染”的闭环。

关键观点3: AI幻觉的两种类型：事实性幻觉和忠实性幻觉。

事实性幻觉指的是生成内容与可验证的现实世界事实不符，忠实性幻觉指的是生成内容与输入指令或上下文缺乏逻辑关联。

关键观点4: 应对AI幻觉的多方努力。

领先企业正在通过“多模态交叉验证”提升鉴伪能力，法律监管也在加强，同时公众的认知和警惕性也非常关键。

关键观点5: 我国生成式AI用户规模庞大。

有报告显示我国生成式AI用户规模达2.49亿人，需要在享受AI便利的同时，保持独立思考的能力。