从微软、字节到阶跃：他用十年讲清了AI Infra是啥

主要观点总结

朱亦博分享了其对AI Infra的理解，强调了模型与硬件的协同优化以及强化学习带来的系统性变革的重要性。他认为，AI Infra与传统Infra的最大不同在于，需要靠近模型并靠近硬件。朱亦博认为，优秀的Infra团队必须能够画出“运行成本/效率—模型效果”的曲线，并指出了强化学习在模型设计、硬件选择及系统架构中的影响。他还提到了对模型、硬件和Infra之间关系的理解，并认为Infra是一个需要强调积累的工作，其中老人和新人都会发挥作用。最后，朱亦博表达了对Infra从业者的建议，强调了与模型、硬件的协同优化和追求摩尔定律的延续的重要性。

关键观点总结

关键观点1: AIInfra与传统Infra的区别

朱亦博强调，AIInfra与传统Infra的最大不同在于，需要靠近模型并靠近硬件，这是高度垂直整合时代的要求。

关键观点2: 强化学习的影响

朱亦博指出，强化学习的引入不仅调整了算法，还影响了硬件选择、系统架构乃至模型设计的全链路。

关键观点3: 优秀的Infra团队的要求

朱亦博认为，优秀的Infra团队必须能够画出“运行成本/效率—模型效果”的曲线，而不仅仅是参数量—效果的曲线。

关键观点4: Infra的积累性

朱亦博表示，Infra是一个需要强调积累的工作，老人和新人都会发挥作用。

关键观点5: 对Infra从业者的建议

朱亦博建议Infra从业者靠近模型、靠近硬件，并追求摩尔定律的延续，以及设计模型和系统软件，使之能跟随摩尔定律，发挥硬件性能。