天天刷社交媒体后，AI也变傻了

主要观点总结

本文讨论了科学家在研究大语言模型时发现的现象，即使用大量社交媒体上的短内容、标题党等“垃圾信息”进行训练会导致大语言模型出现“脑腐”现象。文章介绍了“脑腐”的定义、研究过程以及大语言模型出现“脑腐”后的表现，并指出这种现象不能通过简单的微调来消除。同时，文章也讨论了这一现象在人类身上可能出现的可能性。

关键观点总结

关键观点1: “脑腐”现象的出现

大语言模型在使用社交媒体上的短内容、标题党等“垃圾信息”进行训练后，会出现类似于人类阅读大量碎片化、没有深度内容后的精神和智力状态衰退的现象。

关键观点2: 研究过程

研究者通过定义垃圾信息的两个维度——长度与受欢迎度、语义质量，来研究大语言模型的“脑腐”现象。他们使用这些垃圾信息训练大语言模型，并通过四个维度——推理能力、记忆和多任务处理能力、道德规范和性格特征，来评估垃圾信息对大语言模型认知能力的影响。

关键观点3: “脑腐”的表现

大语言模型在使用垃圾信息干扰后，其推理能力、长文本处理能力、道德规范和性格特征都受到了影响。而且，这种现象不能通过简单的微调来消除。

关键观点4: 人类可能的“脑腐”现象

文章最后提到，看到这项研究，人们也会联想到人类大脑可能也会受到类似的影响。如果人类长时间接触碎片化、没有深度的内容，其精神和智力状态也可能会发生衰退。