入门大模型应用开发,最短的路径是先用 30 行代码跑通 1 次函数调用,再往回补概念。环境只要 3 样:Python 3.10 以上、1 个能用的 API key、1 个编辑器。整套流程走完,一台普通笔记本 2 小时内能做完。
我带过 3 个零基础的人走这条路。他们都卡在同一个地方:先去看论文和架构图,看了 2 周不知道从哪下手。把顺序倒过来——先让程序真的调通一次,再回来看原理,反而 1 天就明白 token、上下文、工具调用各是什么。
第 3 条的 3 个库里,openai 这个包名容易误会。它现在是通用客户端,把 base_url 指向国内平台的地址就能用,不需要真的走 OpenAI。我调试时 base_url 写错 1 次,报出来的是连接超时,人容易顺着超时往网络或鉴权上找,其实方向从一开始就偏了。
第 4 条看着像讲究,实际省时间。提示词单独放文件,改文案不用动代码;日志单独放文件夹,出问题能按日期翻。我第 1 版把这些全写在 1 个文件里,改到第 3 天就开始找不到改过哪里。
命令行里建虚拟环境,激活后装库。装完跑 1 行命令打印版本号,能打出 1.0 以上的数字就算成。这步不要跳过验证,我见过 pip 装到全局环境、脚本却跑在虚拟环境里的情况,报 ModuleNotFoundError,查了 40 分钟。
新建 app.py,写 8 行:导入客户端、读环境变量里的 key、指定 base_url、调 chat.completions.create、传 model 与 messages、打印返回的 content。运行后屏幕上出现一句回答,链路就通了。
这一步只验证 3 件事:网络能到、key 有效、返回结构长什么样。业务提示词先别写,写了也判断不出问题出在哪。
messages 数组里放 2 条:第 1 条 role 写 system,内容写清身份和输出格式;第 2 条 role 写 user。system 里的约束越具体,输出越稳。我做过对比:只说"你是客服",回答平均 210 字;写成"回答不超过 3 句、不给价格、遇到投诉先记录订单号",回答稳定在 90 字上下,格式也能直接入库。
函数调用是入门的分水岭。做法是给模型一份工具清单:名字、用途、参数类型,写成 JSON 结构传进去。模型判断要用工具时,会在返回里给出工具名和参数,你的代码拿到后自己去查数据库,再把结果作为一条新消息发回去。
我做的第 1 个工具是查订单状态,参数只有 1 个订单号。写完后测试 20 条问法,"我的货到哪了""订单 123 什么情况"都能正确触发,只有"上周买的东西"这种没给编号的问法会追问。工具描述里补一句"缺少订单号时先向用户索取",追问率降到 0。
本地跑通后用 Flask 或 FastAPI 包 1 层,暴露 1 个 POST 接口,入参是用户问题,出参是回答文本。加 3 个东西就够上线内部用:8 秒超时、失败重试 1 次、把请求和响应写进日志。这 3 项加起来不到 20 行代码。
| 字段 | 填什么 | 填错的后果 |
|---|---|---|
| model | 先用通用对话模型,别一上来用推理模型 | 推理模型慢 3 到 5 倍,调试周期被拉长 |
| temperature | 抽取、分类填 0;写作填 0.8 到 1.0 | 抽取填 1 以上,同一输入出不同字段名 |
| max_tokens | 按回答字数除以 1.7 估 | 填太小,回答断在半句且不报错 |
| timeout | 8 到 15 秒,长文任务放到 60 秒 | 默认值偏短,长回答被客户端主动断开 |
| tools | 只有 1 到 3 个工具时全量传 | 一次传 20 个工具,选错率明显上升 |
第 1 行是新手最容易走反的地方。推理模型适合数学、多步逻辑,日常问答用不上,等待时间反而让人误以为是代码有问题。我第 1 周就因为这个,把好好的代码重构了 2 遍。
第 5 行的工具数量有上限经验值:3 个以内准确率高,超过 8 个开始选错。工具多的时候分 2 层,先用 1 个"分类"工具判断意图,再按意图给对应的 3 个工具,准确率能拉回来。
第 3 条我改过 4 轮。最稳的写法是把输出样例直接放进 system 提示词,样例里带 1 个完整的 JSON,字段名与你要的一模一样。加了样例之后,500 条测试里格式错误从 37 条降到 2 条。
第 4 条的原因常被误判成模型笨。实际是描述里只有功能没有场景。把"查询订单"改成"用户询问物流进度、发货时间、快递单号时,用订单号查询",触发率从 6 成升到 9 成以上。
第 3 条是上线前必做的一步。空输入、超长输入、带表情符号的输入,各测 1 次,3 条都过才算能给别人用。我第一次交付时漏了超长输入这一项,对方贴了 8000 字,接口直接超时,只能临时加截断。
补一条学习顺序的建议:跑通这 5 步之后,再去补上下文窗口、温度、工具调用这些概念,每看 1 个概念就回到代码里改 1 个参数,看输出怎么变。我带的人里,用这个顺序的 2 周能独立写小工具,先看理论的 2 周还在问"从哪开始"。
补一条代码量的心理预期。5 步走完的完整脚本大约 180 到 220 行,其中一半是错误处理。新手容易只写主流程,20 行跑通就以为完事,等真实流量进来,1 个空值就能让接口挂掉。先写主流程没错,但要把 try 和日志放在同一个版本里,别留到"以后再补"。
还有一个可以跳过的坑:不要一开始就搭前端。我用命令行和 Postman 测了 2 周才做页面,改参数改得更快。先做界面的,80% 时间花在调样式,模型效果反而没验证。
这套流程的核心就 5 步:装环境、发请求、加 system、加工具、包接口。加起来不到 200 行代码,跑通 1 次之后再补概念,比先看 10 篇架构文章快得多。卡住的时候先看 2 个地方:环境对不对、返回结构长什么样。
本文信息核对时间:2026-11