专栏名称: 宝玉xp

前微软Asp.Net最有价值专家互联网科技博主我是宝玉。

今天看啥

公众号rss, 微信rss, 微信公众号rss订阅, 稳定的RSS源

微信公众号RSS订阅方法

B站投稿RSS订阅方法

雪球动态RSS订阅方法

微博RSS订阅方法

微博搜索关键词RSS订阅方法

知网期刊RSS订阅方法

即刻RSS订阅方法

相关文章推荐

爱可可-爱生活 · 【[21星]RLite：一个轻量级的强化学习 ... · 昨天

量子位 · 梁文锋署名DeepSeek新论文：公开V3大 ... · 昨天

新智元 · 刚刚，DeepSeek首曝V3降成本秘诀！软 ... · 昨天

爱可可-爱生活 · 晚安～ #晚安# -20250514225650 · 2 天前

爱可可-爱生活 · 【[28星]Overleaf-Bib-Hel ... · 2 天前

今天看啥 › 专栏 › 宝玉xp

转发微博-20250513232008

宝玉xp · 微博 · AI · 2025-05-13 23:20

文章预览

2025-05-13 23:20 本条微博链接转发微博学到一个新的小技巧，跟 AI 对话的时候，尤其是多个context反复对话，一直保持一个session 的情况，如果你的算力非常紧张。那么能不带动态内容，尽量不要带动态内容，比如当前时间戳，会导致 KVCache 失效。因为这样会导致每次生成的 token 序列不同，迫使模型重新计算整 ………………………………

原文地址：访问原文地址
快照地址：访问文章快照
总结与预览地址：访问总结与预览

分享到微博

推荐文章

爱可可-爱生活 · 【[21星]RLite：一个轻量级的强化学习框架，无缝集成到你的-20250515214557

昨天

量子位 · 梁文锋署名DeepSeek新论文：公开V3大模型降本方法

昨天

新智元 · 刚刚，DeepSeek首曝V3降成本秘诀！软硬协同突破Scaling天花板

昨天

爱可可-爱生活 · 晚安～ #晚安# -20250514225650

2 天前

爱可可-爱生活 · 【[28星]Overleaf-Bib-Helper：让文献管理在-20250514213632

2 天前