知识工作者如何解决大模型的“幻觉”和“风格”问题？

文章预览

无论AI怎么进化，短期内有两个问题无法解决——幻觉与风格。 幻觉——骗我可以别太离谱 这世界本身充满了骗子，爱情骗子和AI骗子，区别在于——爱情骗子至少知道自己在撒谎，而AI却是无意识地编造。 幻觉指的是大模型输出看似合理但实际上不准确或完全虚构的信息。 幻觉来自什么？这不得不回到AI的本质——如果OpenAI继续采取现有的技术路径，幻觉这个问题永远无法在AI大模型内部解决，因为当前的AI的推理基于人类的语料，而不是基于真实世界。 换句话说，AI不是在理解世界，它是在“背书”，而且时不时还会背错。 同时，AI是一个概率机器，它的输出是基于统计相关性，而不是基于因果关系或真实世界的物理法则。即便它在某些情况下能够给出准确的信息，这也是因为它在海量数据中找到了与输入相关的模式，而不是因为它对问题有深 ………………………………