语义熵识破LLM幻觉！牛津大学新研究登Nature

文章预览

   新智元报道   编辑：alan 【新智元导读】 近日，来自牛津大学的研究人员推出了利用语义熵来检测LLM幻觉的新方法。作为克服混淆的策略，语义熵建立在不确定性估计的概率工具之上，可以直接应用于基础模型，无需对架构进行任何修改。 时至今日，大语言模型胡编乱造的情况仍屡见不鲜。 不知大家面对LLM的一本正经胡说八道，是轻皱眉头，还是一笑而过？ 俗话说，大风起兮云飞扬，安得猛士兮走四方。LLM幻觉任何时候都要除掉，不除不行。 试想，当你搜索一个简单语法时，网页上排名前几的都是由大模型生成的错误答案，测过之后才发觉浪费了生命。 如果LLM涉及了医学、法律等专业领域，幻觉将造成严重的后果，所以相关的研究也从未停止。 近日，来自牛津大学的研究人员在Nature上发表了利用语义熵来检测LLM幻觉的新方法。 论文地址 ………………………………