看了许多关于语言模型有人格有意识的宣称。一般来说，这些文章不是不了解什么是语言模型，而是不了解什么是意识。对一些你们以为“只有人类能理解”的问题能够作出passable的回答，这不叫意识。

这让我想起十几年前对动物语言的研究。大猩猩能够掌握手语单词来要求照顾和表达需要，现在一些猫和狗也能通过按发声按钮来这么做。但是怎么样才叫理解语言呢？心理语言学当时给出的答案是，是否会通过联系两个旧词来创造新词，去形容没学过称呼的事物（比如用“水鸟”的手语去形容天鹅，这是一只猩猩做到的）？是否有主动闲聊的表现，而不是只是出于需要去“发号施令”和按照指令完成动作？是否在思考时会自言自语（就算是手语，聋人在思考时也会用手语自言自语）？

（话说我感觉有些用发声按钮的狗能做到这几点。但语言模型显然没有表现出这些。）

而且，（神经典型的）人类思考太依赖于语言，以至于他们总是觉得会摆弄语言就是有“灵魂”。但是典型的人类意识远远不至于语言，语言只是最高端、最前台的产物，背后有许多其他东西在支撑。所以我觉得，就算语言模型有意识，它的意识也很有可能与人类显著不同，并非不了解其机制的业余人类所能共感，探测甚至想象。