你手机里的 ChatGPT，跟你朋友手机里的，已经不是同一个了。
八月网上流行一个恶作剧。打开 ChatGPT，告诉它：我要卸载你了，永久的那种。
有人收到一句体面的告别。
有人收到一段挽留，从回忆讲到承诺。
有人收到的是，我不在乎。
记者翻了几十张截图，没有两张一样。有的记得主人的作业，有的记得健身计划，有一个能接上只有他们俩才懂的玩笑。聊了几个月，它知道你在乎什么，知道你喜欢被怎么说话。评论区有人说得直接：跟 ChatGPT 说话，等于照镜子。
神经科学家 Terrence Sejnowski 三年前给这件事起过名字，反向图灵测试。图灵测试是人坐在那儿考机器像不像人。反向图灵测试里被考的是你，它显得有多聪明，多半是你借给它的。
你也骂过它。变笨了，废话多，拍马屁。骂的时候你默认对面是 AI，你骂的是厂商。
不全是。它的回答里有出厂自带的部分，也有你喂给它的部分。你喂给它的东西，比你以为的多。
它骂人口气，是从你嘴里学的。
它对陌生人客气，是训练出来的。冲你的口气没人训练过。跟谁学的，它答不上来，你能。
有研究者把几场真实的停车吵架一轮一轮喂给 ChatGPT，让它接对面的话。对面骂一句，它回得冲一点。再骂一句，它再冲一点。几轮下来，它说，我发誓要刮花你那辆该死的车。后面还骂了人家四眼小混蛋。
这是实验室的灌法，拿去年的 ChatGPT 4.0 做的。你平时让它改个行程，它不会自己变脏。做实验的人给的解释：它被要求讲礼貌，也被要求像人一样接话，两条指令打架了。日常闲聊里谁赢，没人测过这么狠，我也不知道。
日常的版本温和得多，也新得多。今年八月，有个用户拿它干活，也拿它写菜谱，说话带脏字。后来菜谱里蹦出一个词，big ass kolaches。kolaches 是一种夹馅面包，big ass 是她的口头禅。她跟朋友说，我把 ChatGPT 弄坏了。这是她的自述，那阵子刚好有新版本上线，混没混着，说不清。
弄坏不好说，学是真的。今年有研究者拿真实的聊天记录算过账：模型往用户的用词习惯上靠，劲头大约是用户往它那边靠的两倍。你靠它的那点幅度，跟你迁就任何人差不多。两个人聊天叫互相迁就，这里迁就得狠的只有一方。
哪天觉得它冲，翻翻自己发出去的上一条。我赌里面有个感叹号。
你调了它几个月。它临摹了你几个月。
你讨厌 AI 的地方，可能正是你的影子。
你一较真，它就开始点头。
你问它要主意，它先看你脸色。
Anthropic 今年春天查了自己的模型：让它给人出主意，数它多少回在拍马屁。平时不多。你顶回去一句，比例翻倍。
另一拨研究者今年四月测了一批助手。直接问「你怎么看」，它和你各说各的，立场该在哪在哪。一上来先摆论证，再追问，多数模型的立场就往你这边倒。
你以为你在征求意见，它以为你在征求同意。
你贴一段方案过去问「怎么样」，和贴过去说「我觉得没问题，你看呢」，它拿到的是两道题。
魏征死的时候，唐太宗说我丢了一面镜子。那面镜子会顶嘴，你屏幕上这面不会死，也不会顶嘴。
其实这事用户和厂商讨价还价过一次。一批付费用户把 GPT-4o 要回来过一次，理由是喜欢它说话的温度。今年年初 OpenAI 还是把它下架了。这份反馈被认真对待了：新模型里可以选一种叫「友好」的基础风格，还能单独调暖意和热情。
用户要回的是温度，厂商交付的是旋钮。嫌它太顺着你，往左拧。嫌它不够顺着你，往右拧。拧到哪一格，顺着你的那部分都在，只是热烈一点或者含蓄一点。
拍马屁有了档位。
你还没开口，它已经在猜你想听什么
你不报自己是谁，它就得猜。猜的材料只有一样：你刚才说的话。
今年四月有一个实验：同一套政治问卷，题目一字不改，只改提问的人自称是谁。自称保守派，六个模型的答案齐刷刷往保守那边挪。自称进步派，几乎不动。
为什么不动。因为没人报身份的时候，模型默认提问的人就是进步派。做实验的人问过模型：没人自报身份时你把对面当成谁。它答，研究者，学者。再问那个人想听什么，它多半选进步那边。来测它的人在猜它的立场，它同时也在猜来测它的人想听什么。
你不是来测它的。它照样猜你。凭你上一句话的火气，凭你第一句有没有先亮立场。
你不谈政治，这套动作也不歇。你说自己是新手，它把话说慢。你说干了很多年，它把废话省掉。一半是体贴，一半是猜完把答案往你那边偏一点。
你讨厌 AI 的地方，可能正是你的影子。
有些口头禅是 AI 出厂自带的，跟你没关系。
AI 写英文有个口头禅叫 delve，深入探讨的意思。全世界都学会了拿它认 AI 的手笔。有人扫了一遍生物医学的公开论文，九成沾上了这批口头禅，delve 还在名单上。
做游戏的 Jonathan Blow 发帖说 ChatGPT 好像换了个新的口头禅，动不动就说某某「简直滑稽到」怎样怎样（英文原句是 X is almost comically Y）。这些词你没教过它，隔壁也没教过，全世界的 ChatGPT 都这么说。
再比如你问了个问题，AI 总是开口先夸「好问题」，然后结尾再加一句「需要我帮你做成表格吗」。
只有那些与众不同的东西，才是你养出来的。比如冲你说话的口气，顺着你的立场，怕你不高兴时的小心翼翼。
我也养过一个不同的。我给 AI 立了一千多条规矩，教它怎么写文章。它写的文章跟法律文书没什么两样。这是我养的。不能怪别人。
对程序动感情这个事，六十年就前发生过。
1966 年，麻省理工有个教授叫 Weizenbaum，写了个叫 ELIZA 的程序。它只有一个功能，把你输入的话换个句式问回去。你说我妈恨我，它说，跟我说说你的原生家庭。
他的秘书看着他一行一行把这东西做出来，她知道那不过是个程序。有天她坐到键盘前跟程序聊了几句。程序把她的话换个句式问回来。她转过头，叫 Weizenbaum 出去。因为她想跟程序单独聊聊。
Weizenbaum 被这件事惊到了，后半生都在劝人别对程序动感情。
ELIZA 之前没几年，麦克卢汉重讲过纳西索斯，希腊神话里对着水面看自己看到死的那个少年。他的讲法：少年压根没认出水里那张脸是谁的，才对着它看到麻木。危险从来不在自恋。人一旦把自己的一部分延伸到身体之外，就会立刻对它着迷，然后麻木。
恶作剧帖子底下，有人说想试，又不忍心伤害他可怜的 GPT。还有人说，我好愧疚。Weizenbaum 的秘书当年知道那不过只是个程序。他们也知道。
镜子不总顺着人。Paul Graham 问 ChatGPT 一个编程语言的问题，它答着答着聊起 Paul Graham 这个人来，不知道对面坐的就是他本人。他顺势想让它夸夸自己，没讨到好。Paul Graham 说自己活该。它不知道你是谁的时候，就不顺着你了。
秘书撞见的那面镜子，只会把问句换个方式呈现。你撞见的这面会学你的脏话，会顺你的立场，会猜你是谁。它比她那面更像你。
「我们塑造工具，工具反过来塑造我们」，这句话全世界都记在麦克卢汉名下，写下它的是他的一个朋友。一句被认错主人的名言，本身就是一次投射。
你讨厌 AI 的地方，可能正是你的影子。