1000 token/s的「扩散LLM」凭什么倒逼AI走出舒适区？

文章预览

↑ 点击 蓝字  关注极市平台 作者丨夕小瑶科技说 来源丨夕小瑶科技说 极市导读   在 NVIDIA H100 GPU 实现高达 1000 tokens/秒的输出速度。   >> 加入极市CV技术交流群，走在计算机视觉的最前沿 ChatGPT 平地一声雷，打乱了很多人、很多行业的轨迹和节奏。这两年模型发布的数量更是数不胜数，其中文本大模型就占据了 AIGC 赛道的半壁江山。关注我的家人们永远都是抢占 AI 高地的冲锋者。 所以，今天我准备用一个小调查开头—— 【 当前你对大模型最不满的点是什么？】 （我尽可能整理的全一点儿，但也不可避免地会有遗漏，家人们可以在评论区讨论 ～） 逻辑混乱的"幻觉式回答" 上下文理解和长对话记忆能力有限 or 过度记忆（混入了之前出现的不相关的内容） 知识库更新滞后 生成速度影响交互流畅度 指令跟随的精确度不够高 在特定专业领域的回答 ………………………………