Claude深度“开盒”，看大模型的“大脑”到底如何运作？

文章预览

近日，Claude 大模型团队发布了一篇文章《Tracing the thoughts of a large language model》（追踪大型语言模型的思维），深入剖析大模型在回答问题时的内部机制，揭示它如何“思考”、如何推理，以及为何有时会偏离事实。 原文链接： https://www.anthropic.com/research/tracing-thoughts-language-model 作者 | Anthropic 出品 | CSDN（ID：CSDNnews） 以下为译文： 像 Claude 这样的语言模型并不是由人类工程师在开发时直接编写出固定的规则来让其工作的，而是通过海量数据训练出来的。在这个过程中，模型会自主学习解决问题的方法，并将这些方法编码进其运算过程中。 每当 Claude 生成一个单词，背后涉及的计算可能高达数十亿次。这些计算方式对于模型的开发者而言仍然是“黑箱”，也就是说，我们并不完全理解 Claude 具体是如何完成它的各种任务的。 如果能更深入地理解 Claude ………………………………