大模型的上下文窗口到底是什么,为什么会影响回答

大模型的上下文窗口到底是什么,为什么会影响回答 有一类问题反复出现:把一份五十页的合同丢给 AI,让它总结风险点,它总结得头头是道,但你追问第三条里的付款条件,它答的是第五条的内容。或者前十分钟聊得好好的,你补充了一个条件,它给出的方案把那个...

RAG 是什么意思?用大白话讲清楚它的作用

RAG 的意思是「检索增强生成」,英文全称 Retrieval-Augmented Generation。用大白话讲:让模型先去翻资料,再照着翻到的内容回答,而不是关起门来凭记性答。你问它公司的报销标准,它不会硬猜,而是先去翻你放进来的那份制度文件,找到对应段落,再照着写答...

Token 是什么意思?为什么 AI 都按 Token 算

一句话说清:token 是模型处理文字时切出来的最小单位,它不等于字,也不等于词。模型读一段话、写一段话,都是先把文字拆成一串 token,再按这串 token 去算。你看到的字数,只是这些碎片重新拼回去之后的样子。 所以同一段话交给不同的模型,算出来的 toke...

大模型是什么意思?为什么叫“大”模型

大模型,说白了就是一个用海量文字喂出来的程序,你给它一段话,它能顺着往下接出一段像人写的回答。它不像计算器那样等你按完加减号才动,更像一个读了太多书、又特别会接话的人,你起个头,它就能顺着聊下去。 要弄懂它,先把「大」这个字拆开。这个字不是...

大语言模型和搜索引擎有什么区别?各自适合什么场景

一句话说清区别:搜索引擎帮你找到别人写好的内容,大语言模型直接给你一段自己组织出来的回答。前者甩给你一堆链接,后者甩给你一段话。这个差别看着不大,用起来完全是两回事。 一、一个给链接,一个给答案 在搜索框里敲「空调不制冷」,你会拿到十几条结...