AI 时代的基本功

第一部 · 世界观

第 10 章 AI 全景:认识你雇来的工人

它不是在「知道」,它是在预测。理解这一件事,幻觉、健忘、时好时坏就全部有了答案。

一、翻车现场

你让 AI 帮忙写代码,它调了一个函数——名字煞有介事,参数整齐,运行时报错:这个函数根本不存在。它一本正经,毫无愧色。你开始怀疑:它到底知不知道自己在说什么?

同一个问题,昨天答得漂亮,今天答得平庸。你换个说法又好了。它时好时坏,你找不到规律。还有:它说不出昨天刚发生的新闻,却对三年前的事如数家珍。

二、为什么会这样

它的本质:预测下一个字

大模型的全部工作,是给你这句话预测最合理的下一个字,然后一个字接一个字滚出整段回答。它读过的文本量超过一个人几百辈子能读完的规模,把语言的模式——哪些字跟在哪些字后面是合理的——刻进了几千亿个参数(第 2 章的开关)里。

这个本质解释了一切。它博学,因为模式来自全世界的文本;它流畅,因为预测连接毫无停顿;它会编造,因为「编一个听起来合理的函数名」和「说出真实存在的函数名」在预测上都是合法路径——它没有「知道」和「不知道」的开关,只有概率的高低。行话管编造叫幻觉,名字起得准:它不是在撒谎,它只是在接龙。

大模型的全部工作:预测下一个字,再接龙下去 你的输入 今天天气真…… 大模型 预测最合理的下一个字 候选(概率从高到低) 好 87% 不错 9% 冷 3% 选中「好」,拼回输入,再预测下一个字……一个字一个字滚出整段回答 读懂这张图,三个现象全部有了答案:幻觉是接龙接错了但语气笃定;知识截止是书只读到某一天;时好时坏是概率本来就不保证。 它不是在「知道」,它是在预测——重要的事实,永远出口对证一次。

训练与推理:读书的过去和答题的现在

训练是它读书的过去:把海量文本喂进去,反复调整那几千亿个开关,让预测越来越准。训练一次要烧掉天文数字的算力(第 2 章的 GPU),所以模型的知识有一个「截止日期」——你问它截止日之后的世界,它只能靠猜。推理是它答题的现在:你每问一句,它都在跑一遍预测。你付的 token 费(第 15 章)就是推理的钱。

上下文窗口:它只记得这顿饭

它没有记忆。每次回答,系统把你们这轮对话的全部历史重新发一遍给它看。能发的总量有上限,行话叫上下文窗口——像一张固定大小的餐桌,聊得越久,最早的话就被撤下桌。第 11 章的会话卫生全从这个事实推出来。

多模态与 Agent:会看、会听、会动手

早期的模型只认文字。多模态模型学会了看图、听声音——你给它截图它也能读(但第 14 章的纪律不变:截图里别有密钥)。Agent 是更进一步的方向:给它工具——读文件、跑程序、发请求——让它按计划自己动手,而不只是动嘴。你用 AI 造东西的整套工作流,就是一个 Agent 加一个你。

本地与云端:同一批工人的两种雇佣

云端模型最强、按用量付费、你的数据要出门;本地模型在自己电脑里跑(吃你的内存和 GPU,第 9 章),数据不出门,能力弱一档。选择就是第 9 章光谱的 AI 版:敏感与能力之间的取舍。

三、怎么办

核验习惯:重要事实必须出口对证。凡是事实性的东西——函数名是否存在、参数是什么、某个说法的出处——用文档或搜索引擎对照一次再采用。它越流畅越笃定,越要核验:流畅和正确是两回事。

知道它擅长与不擅长的边界。擅长:改写、总结、翻译、起稿、写代码、解释概念(这本书全靠它配合写成)。不擅长:精确计算(会算但可能算错,重要数字自己算)、新鲜事实(知识有截止日)、你的私事(它没见过你的数据)、任何「必须百分百正确」的场景。

把「它在预测」当心法用。当它的回答读起来特别像套路套话时,警惕——套路是模式最强的信号。反过来,你给它的信息越具体、越有约束(第 5 章的验收标准),预测的「合理路径」就越接近你想要的。

四、带走的问题

本章顺便获得的概念:大模型、训练、推理、幻觉、上下文窗口、多模态、Agent、本地模型。