角色扮演大模型的碎碎念

MLNLP社区是国内外知名的机器学习与自然语言处理社区，受众覆盖国内外NLP硕博生、高校老师以及企业研究人员。社区的愿景是促进国内外自然语言处理，机器学习学术界、产业界和广大爱好者之间的交流和进步，特别是初学者同学们的进步。转载自 | NLP工作站来源 | 知乎@快乐子涵酱链接 | https://zhuanlan.zhihu.com/p/685823865什么是角色扮演大模型？首先提两个问题，目前大模型有自己的“自我意识”吗？为什么大模型生成的答案可以一眼分辨出来？答案其实很简单，目前所有大模型技术，并不能让大模型具备本身的独立意识，大模型表现出的「拟人化」本质上是在努力扮演一个人类喜好的Assistant角色；或者说，大模型通过SFT和RLHF等技术路线实现与人类喜好的对齐。然而，以chatGPT为例，目前市面上所有的通用大模型的答案具有一种浓浓的「Assistant」语 ………………………………