专栏名称: AI for Research
每天分享最新最热的Arxiv论文、一起来关注大模型、AIGC、AGI
今天看啥  ›  专栏  ›  AI for Research

OpenAI 研究员在斯坦福的最新讲座,核心观点:AGI背后的最大驱动力不是聪明的算法而是…..

AI for Research  · 公众号  ·  · 2024-06-17 21:45
    

文章预览

OpenAI研究员在斯坦福大学的最新讲座。核心观点是: AGI背后的最大驱动力不是聪明的算法而是指数级越来越便宜的算力 根据具体任务、数据集的特殊性,对模型架构雕花,反而可能误事。GPT decoder-only路线的成功,就是简单但容易扩展的架构的胜利 以下是对演讲PPT的总结: 人工智能发展速度太快,很难跟上。我们不应该把所有精力都花在追赶最新发展上,而应该研究变化本身。 第一步:确定并了解变革背后的主导驱动力。对于人工智能来说,一个驱动力尤为突出:计算成本呈指数级下降,并逐步扩展更多端到端模型以利用该计算。 但这并不意味着我们应该盲目地采用最端到端的方法,因为这种方法根本不可行。相反,我们应该根据当前的 1) 计算、2) 数据、3) 学习目标、4) 架构水平找到一个“最佳”结构来添加。换句话说,刚刚开始显露出生命 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览