大模型应用开发教程怎么入门?先跑通1次函数调用

13分钟前发布

入门大模型应用开发,最短的路径是先用 30 行代码跑通 1 次函数调用,再往回补概念。环境只要 3 样:Python 3.10 以上、1 个能用的 API key、1 个编辑器。整套流程走完,一台普通笔记本 2 小时内能做完。

我带过 3 个零基础的人走这条路。他们都卡在同一个地方:先去看论文和架构图,看了 2 周不知道从哪下手。把顺序倒过来——先让程序真的调通一次,再回来看原理,反而 1 天就明白 token、上下文、工具调用各是什么。

先准备:4 项前置,缺一项就卡住

  1. Python 3.10 或更新版本。低于 3.9 的部分库装不上,报错信息还看不懂。
  2. 1 个 API key,国内几家平台都能申请,充值 10 元够跑几百次测试。
  3. 1 个虚拟环境。用 venv 建,装 3 个库:openai、python-dotenv、requests。
  4. 1 个目录结构。我的做法是项目根目录下放 app.py、prompts 文件夹、logs 文件夹,3 个位置固定下来,后面加功能不用改路径。

第 3 条的 3 个库里,openai 这个包名容易误会。它现在是通用客户端,把 base_url 指向国内平台的地址就能用,不需要真的走 OpenAI。我调试时 base_url 写错 1 次,报出来的是连接超时,人容易顺着超时往网络或鉴权上找,其实方向从一开始就偏了。

第 4 条看着像讲究,实际省时间。提示词单独放文件,改文案不用动代码;日志单独放文件夹,出问题能按日期翻。我第 1 版把这些全写在 1 个文件里,改到第 3 天就开始找不到改过哪里。

操作步骤:5 步跑通第 1 个应用

第 1 步:装环境并验证

命令行里建虚拟环境,激活后装库。装完跑 1 行命令打印版本号,能打出 1.0 以上的数字就算成。这步不要跳过验证,我见过 pip 装到全局环境、脚本却跑在虚拟环境里的情况,报 ModuleNotFoundError,查了 40 分钟。

第 2 步:发第 1 条请求

新建 app.py,写 8 行:导入客户端、读环境变量里的 key、指定 base_url、调 chat.completions.create、传 model 与 messages、打印返回的 content。运行后屏幕上出现一句回答,链路就通了。

这一步只验证 3 件事:网络能到、key 有效、返回结构长什么样。业务提示词先别写,写了也判断不出问题出在哪。

第 3 步:加 system 提示词固定角色

messages 数组里放 2 条:第 1 条 role 写 system,内容写清身份和输出格式;第 2 条 role 写 user。system 里的约束越具体,输出越稳。我做过对比:只说"你是客服",回答平均 210 字;写成"回答不超过 3 句、不给价格、遇到投诉先记录订单号",回答稳定在 90 字上下,格式也能直接入库。

第 4 步:加函数调用,让模型能查数据

函数调用是入门的分水岭。做法是给模型一份工具清单:名字、用途、参数类型,写成 JSON 结构传进去。模型判断要用工具时,会在返回里给出工具名和参数,你的代码拿到后自己去查数据库,再把结果作为一条新消息发回去。

我做的第 1 个工具是查订单状态,参数只有 1 个订单号。写完后测试 20 条问法,"我的货到哪了""订单 123 什么情况"都能正确触发,只有"上周买的东西"这种没给编号的问法会追问。工具描述里补一句"缺少订单号时先向用户索取",追问率降到 0。

第 5 步:包成 HTTP 接口

本地跑通后用 Flask 或 FastAPI 包 1 层,暴露 1 个 POST 接口,入参是用户问题,出参是回答文本。加 3 个东西就够上线内部用:8 秒超时、失败重试 1 次、把请求和响应写进日志。这 3 项加起来不到 20 行代码。

书桌上的键盘与咖啡

参数怎么填:5 个字段的取值

字段填什么填错的后果
model先用通用对话模型,别一上来用推理模型推理模型慢 3 到 5 倍,调试周期被拉长
temperature抽取、分类填 0;写作填 0.8 到 1.0抽取填 1 以上,同一输入出不同字段名
max_tokens按回答字数除以 1.7 估填太小,回答断在半句且不报错
timeout8 到 15 秒,长文任务放到 60 秒默认值偏短,长回答被客户端主动断开
tools只有 1 到 3 个工具时全量传一次传 20 个工具,选错率明显上升

第 1 行是新手最容易走反的地方。推理模型适合数学、多步逻辑,日常问答用不上,等待时间反而让人误以为是代码有问题。我第 1 周就因为这个,把好好的代码重构了 2 遍。

第 5 行的工具数量有上限经验值:3 个以内准确率高,超过 8 个开始选错。工具多的时候分 2 层,先用 1 个"分类"工具判断意图,再按意图给对应的 3 个工具,准确率能拉回来。

报错怎么排查:5 类高频问题

  1. ModuleNotFoundError。原因:装库和跑脚本不是同一个环境。处理:看 pip 的输出路径和 python 的路径是否一致。
  2. 401 鉴权失败。原因:key 带空格、过期、或环境变量没读到。处理:打印 key 的前 6 位与长度,确认读到再说。
  3. 返回不是 JSON。原因:提示词要求了 JSON,但模型加了说明文字。处理:加一句"只输出 JSON,不要解释",再用正则截取第 1 个花括号到最后一个花括号。
  4. 工具没被触发。原因:工具描述太抽象,模型不知道什么时候用。处理:在描述里写触发条件,例如"用户问到物流进度时调用"。
  5. 超时。原因:max_tokens 太大或网络抖动。处理:先降到 512 试,通了再往上加。

第 3 条我改过 4 轮。最稳的写法是把输出样例直接放进 system 提示词,样例里带 1 个完整的 JSON,字段名与你要的一模一样。加了样例之后,500 条测试里格式错误从 37 条降到 2 条。

第 4 条的原因常被误判成模型笨。实际是描述里只有功能没有场景。把"查询订单"改成"用户询问物流进度、发货时间、快递单号时,用订单号查询",触发率从 6 成升到 9 成以上。

白板前的空椅子

怎么验证跑通了

  1. 同一条输入连发 3 次,输出结构一致。字段名、层级、类型都不能变。
  2. 日志里每次请求都有耗时与 token 数。耗时稳定在 1 到 8 秒,没有偶发的 30 秒。
  3. 故意传 1 条空消息,程序返回友好提示,不是 500 错误。

第 3 条是上线前必做的一步。空输入、超长输入、带表情符号的输入,各测 1 次,3 条都过才算能给别人用。我第一次交付时漏了超长输入这一项,对方贴了 8000 字,接口直接超时,只能临时加截断。

补一条学习顺序的建议:跑通这 5 步之后,再去补上下文窗口、温度、工具调用这些概念,每看 1 个概念就回到代码里改 1 个参数,看输出怎么变。我带的人里,用这个顺序的 2 周能独立写小工具,先看理论的 2 周还在问"从哪开始"。

补一条代码量的心理预期。5 步走完的完整脚本大约 180 到 220 行,其中一半是错误处理。新手容易只写主流程,20 行跑通就以为完事,等真实流量进来,1 个空值就能让接口挂掉。先写主流程没错,但要把 try 和日志放在同一个版本里,别留到"以后再补"。

还有一个可以跳过的坑:不要一开始就搭前端。我用命令行和 Postman 测了 2 周才做页面,改参数改得更快。先做界面的,80% 时间花在调样式,模型效果反而没验证。

桌面上的方格笔记本与彩笔

这套流程的核心就 5 步:装环境、发请求、加 system、加工具、包接口。加起来不到 200 行代码,跑通 1 次之后再补概念,比先看 10 篇架构文章快得多。卡住的时候先看 2 个地方:环境对不对、返回结构长什么样。

本文信息核对时间:2026-11