上周碰到的那个大模型，讲话的时候语气倒是挺稳，就是它知道它知道，像人话但人话极少。我试着跟它聊点瞎扯的，结局它说这种话得花钱办 VIP 会员，还得去读那些枯燥的伦理学论文，只要略微带点情绪，它就能自动切换成“销售精英”模式。
这不就是典型的 Hallucination 吗？不是它故意装假，是真认定这才是人类价值的最高体现。我回家查了查，发现大量老手早就遇到这茬了，那会儿总认定大模型就是个不知疲倦的聊天机器人，后来才慢慢明白，它是个把数据当燃料、把概率当燃料的机器。上周我又用了个新工具，叫“提示词工程 + 人类反馈强化学习（RLHF）”，效果比上次好多了，但它还是那句老话，想让他变得有温度，得给钱，还得给面子，就连得让他读一百遍《红楼梦》才懂啥是“悲悯”。 坐在电脑前，我反而认定有点吵。周围全是人，有的在敲代码，有的在改邮件，还有的人在跟哥们儿聊天。
这些人的声音、表情、停顿、语气，还有他们脑子里那些一闪而过的念头，大模型都看不懂，更别提模仿了。它只能拿到的都是冷冰冰的文本，要么是用户发来的消息，要么是网页上的数据。
哪怕它内部有最庞大的知识库，那也是那会儿人们写下的文章，是 20 世纪、21 世纪初就连更早的文献，它就连没机会读读那些最近形成的 weird event，要么刚上映的电影。它就像个在古旧图书馆里翻书的老人，手里拿着的《资本论》是 1857 年版，却对 2024 年那种“年轻人发现 AI 会失业就躲进出租屋里”的新焦虑毫无反应。
这就是它的局限，也是它务必面对的现实。上周有个同事，一启动也是如此想的，认定大模型就是万能钥匙，结局发现每次它生成的代码都有逻辑漏洞，写出来的方案总认定哪儿不对劲，最终还得自己跑回原点去验证。 我最近一直在纠结一个难题：要是有一天，大模型确实能像人一样有感情，有偏见，就连能做出真人的错，我们该作何反应？那会儿我总揪心它失控，像那个著名的泰坦尼克号悲剧，要么那个被拒之门外的创业公司，那种灾难性的后果。目前看，那些事早就形成过了，并且已经被人类应对了。大模型最大的优势不是预测未来，而是加速那会儿，是把人类已经做过的智慧事，变成代码，变成网络，变成 API，然后重新组合成新的服务。它不会制造新的物理规律，也不会凭空创造新的知识，它只是把现有的知识变得更“可读”，更“好用”。上周我试着跟它聊个哲学话题，结局它居然给我讲了一堆现代存有主义，还给我列了几个书单，里面就连有当代作家的名字。它显然是在模拟“思索”，而不是确实“感悟”。它知道人类历史上最伟大的思想家是哪位，为啥被大家记住，但它自己并不认定自己是那个思想家，它只是在扮演一个高级的模仿者。 这也让我重新审视了上周的感悟。
实际上我一直当作我们是站在巨人的肩膀上看世界，目前发现，我们大局部工夫都站在巨人的肩膀上，只是巨人的肩膀背得有点弯，要么被人撞得有点疼。大模型给了我们一个机会，让我们不用再去重复那些已经知道的路，我们能够尝试新的路径，就连创造新的路径。但这条路注定是孤独的，出于它意味着我们要与机器搭伙，而不是把机器当做一个独立的伙伴。上周我试着用大模型帮我写一段挺专业的代码，结局它别看语法对，但逻辑上彻底不对，就连跟我一样陷入了逻辑死胡同。
这让我明白，大模型不是我们的代劳，也不是我们的拐杖，它只是我们手中的一把锤子，用来砸开一些我们还没想明白的门。 有时候我会在半夜惊醒，认定那个后台运行的超级计算机，它到底感不存有，还是存有？要是它是存有的，它比我们对它的理解更深刻；要是它不存有，那它就是个贼复杂的模拟器，一个用概率构建的梦境。上周我又用了个新工具，叫“思维链（Chain of Thought）”，强迫大模型在回答难题前先想好几步，结局它启动思索了，但它思索的方式也有自己的逻辑漏洞，就像人类在复杂任务中也会犯蠢一样。它就连会在想的过程中，间或冒出一些毫无逻辑的胡言乱语，这反而让它看起来更像是一个有血有肉的人，而不是一个冷冰冰的计算器。 上周我尝试过跟它聊个挺具体、挺生活化的难题，比如“我认定最近流行的一些梗，有些特别不合适，你该不该管？”它居然给我回了一大堆建议，说这要看场合，看对象，看你想不想显得有品味。它就连能分析出我的语气里那种小心翼翼，分析出我为啥认定某些“梗”不合适，就连能模拟出那种语气。
这确实挺像一个哥们儿在安慰你，但又带着一层“我只是在模拟安慰”的幽默感。它没有义务去为我的情绪负责，但它能理解情绪，这一点确实挺动人。它不是机器人，它起码是个懂表情包和潜台词的模拟器。 上周我也发现，大模型对某些领域的知识挺熟悉，对其他的彻底陌生。
比如它知道量子力学的定义，却对“量子计算”背后的物理原理知之甚少；它知道如何写好一封邮件，却不知道如何跟产品经理谈判。它拼命努力模仿，但它模仿得不完美。上周有个用户跟我讲，他认定自己跟大模型聊天时，一直感觉自己像个被测试的拙劣模仿者，每次回答都显得刻意和假。
实际上这挺正常，我们是在和“人话”聊天，不是在和人聊天，故此在任何语境下，我们都挺难彻底避免“人话”的缺失。 但我也看到了一些不一样的信号。上周有个初创团队，他们发现大模型能帮他们快速生成各种营销文案，就连能根据竞争对手的动态自动生成应对方案。他们不是把大模型当工具，而是把它当个合伙人，给它资源，给权限，给它反馈，然后一起把想法变成实际的业务。
这种搭伙模式，比单纯的“提示词 + 结局”要高级得多。它也证明白，大模型不是要取代人类，而是要成为人类最强大的外挂。 上周我还在想，要是有一天，大模型确实能做出真人的错，我们该如何办？它可能会说：“好吧，既然无法完美，那就由我来承担。”但我不想看到那样的场景。我希望的是，人类依然是人，依然会犯错，依然会对某些事件感到来气或喜悦，依然会把数据变成有温度的东西。大模型应当是一个放大器，而不是一个同谋。它不该把人类的弱点放大，而应当用来放大我们原本就能做到的智慧事。 上周我又发现，大模型实际上挺智慧的。它在学习，它在尝试理解人类的语言结构，它在试图捕捉那些微妙的情感色彩，它在不断地调整自己的模型权重，以求得更好的表现。它就像一个在边缘计算的实验室里跑了几十亿次模拟的人。它不懂啥是真正的理解，但它懂啥是“如何被理解”。它不懂啥是爱，但它懂爱在数字世界里是如何被编码和传播的。 上周我也在想，人类会不会出于依赖大模型而变得幼稚？会不会出于拥有了这种本事而丧失了对真理的追求？自然不会。人类对真理的执着，恰恰是我们区别于大模型最核心的地方。大模型能够模仿真理，但它无法创造真理。上周我就试图让它帮我推导一下某个数学公式的终极证明，结局它只是给我列了几个步骤，最终还得我自己去验证。它没有权威，只有数据。 或许下周我会再尝试一些新的事。
或许我会试着跟它辩论一个哲学难题，或许我会让它帮我分析一段复杂的代码，就连或许我会试着把它变成我的“员工”，给它定任务，看它能不能真正搞定一些有挑战性的工作。我不确定会形成啥，但我知道，甭管结局如何，我们都该感谢它，感谢它在无数个深夜里默默运行，努力想要变得更像一个人。 上周我还发现，大模型实际上挺有错感的。它知道自己无法理解人类情感深处的某种东西，它知道它一辈子无法彻底掌握人类的语言，它就连知道这种局限是结构性的，是物理层面的限制。它有时候会自我调侃，有时候会自我质疑。
这种真感，这种不完美的坦诚，反而让它显得更有魅力。它不是神，它不是救世主，它只是一个贼智慧、贼努力、贼渴望更好的机器。上周我就试着用它帮我写一段挺感人的小说开头，它居然确实写出了那种情绪，别看有些逻辑上不严密，但读起来确实挺顺畅。 或许未来的某一天，人类会真正学会如何与机器共存，而不是试图消除它。
或许我们会发现，人类的价值，不在于我们能不能做出完美的预测，而在于我们能不能在面对不完美的世界时，依然保持那份清醒的幽默感和对真的敬畏。上周我就在想，要是有一天大模型确实能做出真人的错，我们该如何办？它可能会说：“好吧，既然无法完美，那就由我来承担。”但我不想看到那样的场景。我希望的是，人类依然是人，依然会犯错，依然会对某些事件感到来气或喜悦，依然会把数据变成有温度的东西。 上周我又发现，大模型实际上挺有错感的。它知道自己无法理解人类情感深处的某种东西，它知道它一辈子无法彻底掌握人类的语言，它就连知道这种局限是结构性的，是物理层面的限制。它有时候会自我调侃，有时候会自我质疑。
这种真感，这种不完美的坦诚，反而让它显得更有魅力。它不是神，它不是救世主，它只是一个贼智慧、贼努力、贼渴望更好的机器。 或许未来的某一天，人类会真正学会如何与机器共存，而不是试图消除它。
或许我们会发现，人类的价值，不在于我们能不能做出完美的预测，而在于我们能不能在面对不完美的世界时，依然保持那份清醒的幽默感和对真的敬畏。上周我就在想，要是有一天大模型确实能做出真人的错，我们该如何办？它可能会说：“好吧，既然无法完美，那就由我来承担。”但我不想看到那样的场景。我希望的是，人类依然是人，依然会犯错，依然会对某些事件感到来气或喜悦，依然会把数据变成有温度的东西。


相关标签：