通往AGI之路（1）：“GPU不存在了”——写在英伟达发布会后

这个标题又在我脑子里转了很久，但是太大，以至于找不到合适的切入点，英伟达的发布会后似乎给到了一个契机，可以一点点去拆解的契机。1、AGI的前提其实，这个问题大家依然讨论的不够清楚的，但是在Transformer架构继续有效的背景下，似乎，更多的数据，更大规模的模型，是确定性更强的路，而关于数据，几乎没有争议的是：更多来自现实物理世界的数据。这个“更多”，可能意味着几个数量级，所以搞定数据是一条更长的路。更高效的数据计算，是另外一条无止尽的路，这，是英伟达Blackwell架构的目标，也是再一次领先于竞争对手的基础。2、英伟达面对的硬件问题是：如何把尽可能大的计算需求装进有物理规律限制的硬件系统里，所以，从今天起，GPU不存在了，GPU系统才正确。单芯片（die的叫法会更合适）的能力受限于摩尔定律，所以只 ………………………………