OpenAI 工程师最新演讲：代码只占程序员核心价值的 10%，未来属于“结构化沟通”

主要观点总结

本文介绍了ai.engineer出品的一篇关于AI工程师大会的文章，主要围绕OpenAI对齐团队工程师Sean Grove的演讲展开。他挑战了工程师群体一个根深蒂固的信念：我们最重要的产出是代码。Sean认为代码只是我们意图的一种“有损投影”，而真正有价值、能够跨越人与机器鸿沟的是规约。文章还探讨了规约的重要性以及其在AI领域的应用，包括模型规约、规约与代码的区别以及如何让规约变得可执行。最后，文章提到未来的IDE可能会变成集成思想澄清器，帮助人们发现模糊之处并澄清想法。

关键观点总结

关键观点1: Sean Grove的挑战

工程师群体通常认为最重要的产出是代码，但Sean Grove挑战了这一观念，认为代码只是表达意图的一种形式，真正有价值的是规约。

关键观点2: 规约的重要性

规约能够承载意图和价值观，是跨越人与机器鸿沟的桥梁。它可以帮助人们更清楚地表达想法，让模型更好地理解并实现人类的意图。

关键观点3: 模型规约的应用

OpenAI发布了模型规约，这是一份尝试清晰、无歧义地表达模型意图和价值观的文档。它是开源的，可以在GitHub上看到其实现。

关键观点4: 规约与代码的区别

规约是表达意图和价值观的文档，而代码是实现这些意图的工具。规约可以包含更多的上下文信息和人类可读的格式，更容易被人类理解和修改。

关键观点5: 如何让规约变得可执行

通过审议式对齐技术，可以将规约与模型对齐，使模型能够根据规约来生成符合要求的输出。此外，规约也可以作为测试的依据，确保模型的输出符合预期的意图。

关键观点6: 未来的IDE可能是集成思想澄清器

未来的IDE可能会更多地关注人类的思想和意图，帮助人们发现和澄清模糊的想法，而不仅仅是作为一个代码编辑器。