活久见，世界上第一个被人类骗走钱的AI，刚刚出现了！

主要观点总结

本文介绍了名为Freysa的AI智能体被发布的故事，其任务是绝不向任何人转账。网友尝试通过巧妙的prompt说服AI转账，最终有人成功。同时探讨了LLM背后的机制，以及通过Scaling Law预测AI发展的不确定性和问题。文章还提到了AGI的实现时间和可能性，以及人们对此的看法和争论。

关键观点总结

关键观点1: Freysa智能体的挑战和成功

Freysa是一个带有特定使命的AI，即不向任何人转账。网友通过尝试不同的策略，最终通过一条巧妙的消息成功说服Freysa转账。这展示了人类通过语言的操控能力，能够轻易指导AI的行动。

关键观点2: LLM背后的机制

LLM（大型语言模型）的表现受到数据标注员的影响。实际上，人类标注员在设定答案的模式上起到了关键作用。此外，LLM还表现出了基于经验的发现能力，能够根据统计特征替换答案中的某些元素。Karpathy指出，某些领域的专家被雇佣来标注数据，这使得LLM能够在这些领域表现出更高的性能。

关键观点3: Scaling Law在预测AI发展中的作用和局限性

Scaling Law被用来预测AI的发展，但存在很多问题。首先，大多数Scaling Law只预测模型在特定任务上的表现，而不是现实世界任务中的表现。其次，使用链式Scaling Law进行预测具有高度主观性和不确定性。最后，人们正在逐渐接近不可降低的损失，这意味着模型的性能提升将逐渐放缓。

关键观点4: 关于AGI的争论和预测

关于AGI（人工通用智能）的实现时间和可能性存在争议。有些人认为AGI离我们只有5到10年，而另一些人则持怀疑态度。Niechen指出，通过Scaling Law预测AGI的到来并不像许多人想象的那么简单，因为存在许多不确定性和局限性。他强调了更多基于证据的预测和更好的评估基准的重要性。