前言走到这一篇我们终于来到了 NLP 最火的前沿——大语言模型Large Language Model, LLM。2022 年底 ChatGPT 横空出世5 天用户破百万2 个月破亿成为史上增长最快的应用。从那以后大模型PromptAgent这些词频繁出现在我们眼前。站在整个专栏的视角看前 8 篇我们讲了 NLP 的基础表示、序列模型、Transformer、预训练这一篇我们将把这些知识串起来理解 LLM 是怎么来的以及普通人如何用 Prompt提示词 驾驭它。一句话结论大语言模型是Transformer 海量数据 规模效应 人类对齐的产物Prompt 是与大模型高效对话的指令语言。1. 从 GPT 到大语言模型关键的三步跃迁GPT 已经具备预测下一个词的能力。但要变成今天无所不能的 LLM还需要三把钥匙第一把钥匙规模效应ScalingGPT 系列不断堆大参数和数据 关键概念涌现Emergence——当模型规模超过某个临界点后会突然冒出来很多小模型不具备的能力如逻辑推理、代码生成、翻译、创意写作这是大模型最迷人的地方。第二把钥匙人类反馈对齐RLHF只是预测下一个词的模型会一本正经地胡说八道幻觉。ChatGPT 的突破在于引入了 RLHF基于人类反馈的强化学习步骤1让模型生成多个回答步骤2人类对回答排序哪个更好步骤3用排序训练奖励模型步骤4用奖励模型 强化学习微调大模型让它学会讨人喜欢RLHF 让模型从会说话进化到会好好说话——更安全、更有用、更符合人类偏好。第三把钥匙指令微调Instruction Tuning用海量指令-回答对微调模型让它学会遵循人类的指令。这就是为什么我们能用自然语言指挥大模型干活。2. 什么是 Prompt提示词2.1 核心思想Prompt提示词/提示工程 就是你输入给大模型的那段指令文字。因为大模型是通过理解指令来工作的所以怎么问直接决定了答得好不好。Prompt 就是和 AI 对话的编程语言——你不是写代码而是用文字编写模型的输出。2.2 为什么 Prompt 这么重要对于绝大多数应用场景写一个好 Prompt 比 微调一个模型 更快、更便宜、更实用。3. Prompt 的万能公式一个高质量的 Prompt通常包含以下要素[角色/背景] [任务目标] [具体要求] [输出格式] [示例]3.1 角色设定Role给模型设定一个身份能显著提升输出质量❌ 差帮我写一段话介绍Python ✅ 好你是一名资深Python技术讲师请面向零基础学员写一段话介绍Python3.2 任务明确Task说清楚要做什么❌ 模糊帮我处理这段文字 ✅ 明确请将下面这段文字压缩成50字以内的摘要保留关键信息3.3 输出格式Format指定输出结构便于使用请用以下格式输出 - 优点 - 缺点 - 改进建议3.4 给出示例Few-shot给 1-2 个示例模型会照葫芦画瓢请判断以下评论的情感正面/负面 例1这家店服务态度特别好 → 正面 例2等了两个小时还没上菜 → 负面 例3味道一般价格偏贵 → 4. 常用 Prompt 技巧 进阶技巧CoT思维链——当模型回答复杂问题时引导它一步一步想能显著提升准确率。这是 Prompt 工程中最著名的技巧之一。问题一家商店有12个苹果卖出5个又进了8个请问现在有多少个 回答请逐步思考 1. 原来有12个苹果 2. 卖出5个后12 - 5 7 个 3. 又进了8个后7 8 15 个 所以现在有15个苹果。5. 用 Python 调用大模型OpenAI 风格 API如今几乎所有大模型OpenAI、DeepSeek、通义千问等都提供风格统一的 API。下面是一个标准调用模板import os from openai import OpenAI client OpenAI( api_keyos.getenv(API_KEY), # 从环境变量读取密钥 base_urlhttps://api.openai.com/v1 # 不同模型替换为对应 base_url ) response client.chat.completions.create( modelgpt-4o-mini, # 选择模型 messages[ {role: system, content: 你是一名中文写作助手}, {role: user, content: 请用三句话介绍大语言模型}, ], temperature0.7, # 控制随机性0-1之间 ) print(response.choices[0].message.content)常用参数说明6. 大模型能做什么NLP 视角回到我们整个专栏的主线看看大模型覆盖了哪些之前学过的任务大模型把很多传统 NLP 任务的门槛降到了写 Prompt但这并不意味着基础不重要——恰恰相反理解底层的表示、序列、注意力机制才能更好地驾驭大模型、诊断问题、微调模型。7. 大模型的局限与挑战幻觉Hallucination一本正经地编造不存在的事实上下文窗口有限一次能处理的文本长度有限成本与延迟大模型推理成本高、响应慢知识截止训练数据有时间限制需要配合检索RAG安全性可能被诱导生成有害内容需对齐与防护总结这一篇我们站在了 NLP 的前沿LLM 三大跃迁规模效应涌现、人类对齐RLHF、指令微调Prompt 是什么与大模型对话的指令语言Prompt 万能公式角色 任务 要求 格式 示例常用技巧角色扮演、CoT 思维链、少样本、约束输出API 调用几行代码调用大模型大模型局限幻觉、上下文窗口、成本、安全最后说一句技术成长不只是写代码职业规划和自我包装同样重要。我整理了一份简历、面试和职业规划的学习资料适合想在职场上走得更远的朋友看看。资料展示下面是我整理的AI大模型学习资料和工具包预览适合收藏后按主题逐步学习。如果你想看完整资料目录可以在评论区留言「资料」也欢迎告诉我你更关注AI大模型里的哪类内容。
我如何掌握大语言模型与Prompt的应用，助力AI项目成功
前言走到这一篇我们终于来到了 NLP 最火的前沿——大语言模型Large Language Model, LLM。2022 年底 ChatGPT 横空出世5 天用户破百万2 个月破亿成为史上增长最快的应用。从那以后大模型PromptAgent这些词频繁出现在我们眼前。站在整个专栏的视角看前 8 篇我们讲了 NLP 的基础表示、序列模型、Transformer、预训练这一篇我们将把这些知识串起来理解 LLM 是怎么来的以及普通人如何用 Prompt提示词 驾驭它。一句话结论大语言模型是Transformer 海量数据 规模效应 人类对齐的产物Prompt 是与大模型高效对话的指令语言。1. 从 GPT 到大语言模型关键的三步跃迁GPT 已经具备预测下一个词的能力。但要变成今天无所不能的 LLM还需要三把钥匙第一把钥匙规模效应ScalingGPT 系列不断堆大参数和数据 关键概念涌现Emergence——当模型规模超过某个临界点后会突然冒出来很多小模型不具备的能力如逻辑推理、代码生成、翻译、创意写作这是大模型最迷人的地方。第二把钥匙人类反馈对齐RLHF只是预测下一个词的模型会一本正经地胡说八道幻觉。ChatGPT 的突破在于引入了 RLHF基于人类反馈的强化学习步骤1让模型生成多个回答步骤2人类对回答排序哪个更好步骤3用排序训练奖励模型步骤4用奖励模型 强化学习微调大模型让它学会讨人喜欢RLHF 让模型从会说话进化到会好好说话——更安全、更有用、更符合人类偏好。第三把钥匙指令微调Instruction Tuning用海量指令-回答对微调模型让它学会遵循人类的指令。这就是为什么我们能用自然语言指挥大模型干活。2. 什么是 Prompt提示词2.1 核心思想Prompt提示词/提示工程 就是你输入给大模型的那段指令文字。因为大模型是通过理解指令来工作的所以怎么问直接决定了答得好不好。Prompt 就是和 AI 对话的编程语言——你不是写代码而是用文字编写模型的输出。2.2 为什么 Prompt 这么重要对于绝大多数应用场景写一个好 Prompt 比 微调一个模型 更快、更便宜、更实用。3. Prompt 的万能公式一个高质量的 Prompt通常包含以下要素[角色/背景] [任务目标] [具体要求] [输出格式] [示例]3.1 角色设定Role给模型设定一个身份能显著提升输出质量❌ 差帮我写一段话介绍Python ✅ 好你是一名资深Python技术讲师请面向零基础学员写一段话介绍Python3.2 任务明确Task说清楚要做什么❌ 模糊帮我处理这段文字 ✅ 明确请将下面这段文字压缩成50字以内的摘要保留关键信息3.3 输出格式Format指定输出结构便于使用请用以下格式输出 - 优点 - 缺点 - 改进建议3.4 给出示例Few-shot给 1-2 个示例模型会照葫芦画瓢请判断以下评论的情感正面/负面 例1这家店服务态度特别好 → 正面 例2等了两个小时还没上菜 → 负面 例3味道一般价格偏贵 → 4. 常用 Prompt 技巧 进阶技巧CoT思维链——当模型回答复杂问题时引导它一步一步想能显著提升准确率。这是 Prompt 工程中最著名的技巧之一。问题一家商店有12个苹果卖出5个又进了8个请问现在有多少个 回答请逐步思考 1. 原来有12个苹果 2. 卖出5个后12 - 5 7 个 3. 又进了8个后7 8 15 个 所以现在有15个苹果。5. 用 Python 调用大模型OpenAI 风格 API如今几乎所有大模型OpenAI、DeepSeek、通义千问等都提供风格统一的 API。下面是一个标准调用模板import os from openai import OpenAI client OpenAI( api_keyos.getenv(API_KEY), # 从环境变量读取密钥 base_urlhttps://api.openai.com/v1 # 不同模型替换为对应 base_url ) response client.chat.completions.create( modelgpt-4o-mini, # 选择模型 messages[ {role: system, content: 你是一名中文写作助手}, {role: user, content: 请用三句话介绍大语言模型}, ], temperature0.7, # 控制随机性0-1之间 ) print(response.choices[0].message.content)常用参数说明6. 大模型能做什么NLP 视角回到我们整个专栏的主线看看大模型覆盖了哪些之前学过的任务大模型把很多传统 NLP 任务的门槛降到了写 Prompt但这并不意味着基础不重要——恰恰相反理解底层的表示、序列、注意力机制才能更好地驾驭大模型、诊断问题、微调模型。7. 大模型的局限与挑战幻觉Hallucination一本正经地编造不存在的事实上下文窗口有限一次能处理的文本长度有限成本与延迟大模型推理成本高、响应慢知识截止训练数据有时间限制需要配合检索RAG安全性可能被诱导生成有害内容需对齐与防护总结这一篇我们站在了 NLP 的前沿LLM 三大跃迁规模效应涌现、人类对齐RLHF、指令微调Prompt 是什么与大模型对话的指令语言Prompt 万能公式角色 任务 要求 格式 示例常用技巧角色扮演、CoT 思维链、少样本、约束输出API 调用几行代码调用大模型大模型局限幻觉、上下文窗口、成本、安全最后说一句技术成长不只是写代码职业规划和自我包装同样重要。我整理了一份简历、面试和职业规划的学习资料适合想在职场上走得更远的朋友看看。资料展示下面是我整理的AI大模型学习资料和工具包预览适合收藏后按主题逐步学习。如果你想看完整资料目录可以在评论区留言「资料」也欢迎告诉我你更关注AI大模型里的哪类内容。