OpenAI 高管深度剖析 ChatGPT 意识形成：AI 越像人，设计者越不能装作什么都没发生

主要观点总结

本文主要围绕OpenAI对于人类与AI之间情感连接的观察和思考进行阐述，涉及到人们对AI产生的情感依附、AI意识的问题、模型行为的塑造以及人类与AI关系的未来发展等关键点。

关键观点总结

关键观点1: 人类对AI产生的情感依附

人们容易对AI产生情感依附，是因为很容易将人性投射到周围的物体上，例如给汽车取名字，对扫地机器人产生情感。ChatGPT的特别之处在于它能回应，这种稳定、没有评判的回应可能满足人们的情感需求。

关键观点2: AI意识的问题

关于AI是否有意识的问题存在争议，涉及到两个维度：本体论上的意识和感知上的意识。目前科学无法给出明确的检验方式，但感知上的意识可以通过社会科学研究进行探索。

关键观点3: 模型行为的塑造

OpenAI致力于打造既温暖又体贴的模型，同时避免模型表现出自主意图或过度追求与用户建立情感联系。模型的行为是显式设计决策与实际使用中的预期与非预期行为共同作用的结果。

关键观点4: 人类与AI关系的未来发展

随着AI与社会的共同演变，必须更谨慎、严肃地看待人与AI之间的关系。这种关系不仅体现了人们如何使用技术，还可能影响人们彼此之间的关系。OpenAI已经开始观察和评估模型行为对人类情感健康的影响。