那些2月3日有篇文章，批驳DeepSeek会胡言乱语，误导用户，因而比Chat GPT伤害百倍，正在中文互联网构建“幻觉长城”。这篇文章提醒的成绩确切存在。我1月尾就发明了相似的成绩。我的观念是：【1】它犯错是由于：对用户输入的有些文本，它无奈准确懂得，因而在推理思考就会犯错。【2】这是全部AI模子开展进程中必定呈现的景象，不用奢求。AI模子究竟才刚起步，将来还须要多年的练习（退化）。【3】用户在应用时应当充足留神，只管说明白本人的需要，而不是把一个简略成绩丢给它，完整依附跟信任它输出的成果。为了阐明这个成绩，咱们从AI模子怎样懂得文本开端提及：一、AI模子的参数AI模子动辄有多少百、多少千亿个参数。7B、14B……中的B就表现billion（10亿）个参数。参数越多，模子平日进修才能越强，但资本耗费也越年夜。所谓的“参数”（Parameters），是呆板进修模子（尤其是神经收集）的中心构成局部。它就像AI模子的"年夜脑细胞"。打个比喻，设想你正在组装一个巨型的乐高呆板人：每个乐高积木 ≈ 1个参数；积木的衔接方法 ≈ 参数之间的关联；终极组装的呆板人 ≈ 完全的AI模子。如许，参数越多，乐高积木越多，组装出来的呆板人越精致，呆板人能实现的举措越庞杂。7B参数就相称于用70亿块乐高拼成呆板人；14B参数就像用140亿块乐高拼成呆板人。为什么须要这么多参数？这是由于人类言语十分庞杂。举个例子，"苹果"这个词可能表现：- 生果（我要吃苹果）- 手机品牌（新款苹果宣布了）- 公司称号- 片子称号（《苹果》由范冰冰主演）要让AI懂得这些轻微差异，就须要海量参数来树立多维度的关系。比方要处置这句话："炎天在巴黎喝咖啡很浪漫"，AI模子的处置是：比年来，AI模子处置参数的才能在一直增加。参数目的增加，是为了笼罩更多常识维度。比方，一个14B参数的模子，存储了超越100种编程言语的语法例则；影象了50万条知识常识；树立了10亿级的观点关系。如许，等你向AI模子输入一句话时，它能依据本人的“常识”跟参数，对这句话停止剖析，去懂得你的意思。在现实的神经收集中：以14B参数的模子为例，大概有40个如许的层；每层须要约3.5亿参数；加上词嵌入等别的参数，总数到达140亿。参数越多，盘算量越年夜，就越须要量化技巧（如GPTQ、GGUF）来紧缩参数，让年夜模子能在一般显卡上运转。为什么7B模子比14B快那么多？这就像用精简版乐高套装（7B）跟完全版（14B）拼模子的差别，参数越少运算速率天然越快，但细节表示力也会降落。二、AI模子是怎样解读用户输入的文本的当用户在AI模子输入一段文本时，AI模子会对每句话停止剖析，经由过程参数中的形式跟关系来天生呼应。咱们举一个方言的例子：他活像个五霸诸侯。这是我故乡（河南省东北部）的一句方言，我不晓得其余处所能否也有相似的说法。但我能够确定，在网上弗成能查到如许的方言用法。外地老庶民99%不晓得他们一样平常所说的“wu ba zhu hou”怎样写。现实上，我从小到年夜始终迷惑这个“wu ba zhu hou”究竟是哪多少个字，始终认为是“武霸猪猴”，描述一团体飞腾专横。始终到长年夜后才悟出来指的是年龄五霸，战国诸侯。我告知DeepSeek这是一句方言，但没告知它这是那里的方言。让它本人来剖析。它是怎样剖析的呢？它说：假设这句话呈现在山西/陕东方言中，模子的处置流程如下：1、词语拆解与形式辨认。即先把这句话拆解成良多语素，与本人的参数接洽起来。2、参数激活的“三明治构造”。3、跨参数组的协同运算（以14B模子为例）经由过程如许的流程，DeepSeek基础上准确懂得了这句话的意思。AI模子不现实的常识库，参数更像神经元的衔接强度。举两个对照案例：要害差别是：模子不会真正「晓得」五霸诸侯是谁，而是经由过程参数树立“五霸→权利→夸大比方”的关系收集。在剖析文本时，参数目的上风表现在这三个层面：1、细粒度形式捕获7B模子可能只能懂得：五霸诸侯 ≈ 凶猛的人14B模子能够辨别：五霸（汗青详细性） + 诸侯（地区统治） → 夸大权利范畴的威风2、长间隔关系。"他活像..." → (旁边经由20层参数运算) → 遐想到《白鹿原》中方言应用场景。3、抗烦扰才能。当输入有噪声时，比方过错输入："他活像五八猪猴"。7B模子可能输出"像某种植物"；14B模子经由过程更多参数穿插验证，仍可能遐想到准确表白。然而，参数多≠真正懂得，只是统计形式更丰盛。就像给你一本方言辞书（参数），但不生涯在外地（具身材验），仍难完整控制言语韵味。三、为什么AI模子会出错？清楚了AI模子是怎样读懂文本的，也就很轻易清楚，为什么它会读不懂、曲解一些文本。假如用户输入的文本的字词的构造方法，AI模子从未见过，它就不克不及准确剖析文本的意思。为了阐明这个成绩，咱们举一个例子：你楞得跟啥一样。这也是我故乡的一句方言。我信任除了我故乡的人，没人晓得这句话是什么意思。咱们让DeepSeek来剖析这句话。它是这么剖析的：1. 词汇拆解与参数激活。2. 要害难点冲破：“楞”的跨方语言义。3. 参数空间的协同推理即DeepSeek经由一番剖析，以为这句话是批驳对方执拗顽强，或许责备对方发愣。弄虚作假，DeepSeek如许剖析确定是没错的。然而在我故乡，这句话不是这个意思。在我故乡，“楞”是指人十分在意、爱好装扮，爱好穿美丽的衣服，在他人眼前夸耀本人的美丽衣服。我感到这个“楞”有点像“浪”的转音，但不“浪”那么激烈，不什么褒义，而是包括了一些褒义。比方过年的时间，晚辈说晚辈：你看他多楞，还没到过年，就开端穿新衣服了。DeepSeek显然不晓得这种意思，它的参数无奈把“楞”跟“爱装扮、爱美丽”接洽起来，因而它无奈准确解读这句话。然而从“楞”的罕见意思来说，它又准确地解读了这句话。再举个极其的例子，假如某个部落中，说一种言语，但不笔墨。当初把部落土人的发音用字母记上去，输入DeepSeek，它也弗成能懂得。即DeepSeek曾经尽其所能地去懂得文本，然而相干常识的参数太少，招致它偶然候无奈把文本与准确的常识接洽起来停止推理，成果得出了过错的论断。我团体以为：【1】在利用中呈现的年夜少数过错，起因可能都在于此。并不是DeepSeek在成心瞎编，而是它的推理方式决议了，它只能给出如许的成果。【2】绝对于此前的良多“人工智障”模子来说，DeepSeek的推理才能确切很强盛，轻易让人误认为它说的都是对的。现实上并非如斯。因而用它来完美思绪、宽阔头脑、给文章润饰是能够的，但完整依附它来剖析学术成绩是分歧适的，至少当初不可。它还须要一直退化（练习）。不外，能够预感，即使退化得再进步，在懂得有些文本时，它也可能会犯错。这很畸形，人类本人懂得时，也会犯错。【3】确切存在一个危险，即人们把DeepSeek输出的含有过错的文本当做准确的传布，长此以往，对年夜少数人发生了误导。这种情形实在之前就有，从前这些年，一些臭名远扬的自媒体主动天生了有数过错百出的劣质文档，到处传布。现实上，网上99%的笔墨都是渣滓。DeepSeek即使犯错，也只不外是在这个年夜渣滓堆上又丢了一袋渣滓，绝对于此前的模子来说，它出产的渣滓算少的。而且跟着它一直退化，这种情形会缓缓改良。还能够这么想：DeepSeek在输出比拟简略的常识方面，不太可能出成绩；然而在输出庞杂成绩时可能会犯错。那些轻易被网上的劣质渣滓笔墨十拿九稳地误导的人，基本就不会去浏览较深的剖析文章，也就不机遇被DeepSeek误导。换言之，想被DeepSeek误导，也是有门槛的。【4】在应用DeepSeek输出文本跟编程时，必定要本人冷暖自知，具体地写出本人的需要，不克不及放任它放飞自我。比方编写顺序，要写明白让它每一步怎样做。假如听任它本人施展的话，你可能会发明它编的顺序不克不及用。