第一部分 企业领导者生成式AI实战指南经验之谈

前言：在企业环境中实施生成式AI解决方案近两年后，我对于GenAI采纳的实际现状有了一些深刻认识。这其中既有陷阱，也有从艰苦经验中提炼出的宝贵智慧。在本系列中，我将尽最大努力以适合技术背景较少的商业领袖的格式分享这些经验。我的目标是摒弃术语和复杂性，提升你的直觉，增强你对这一代际技术的决策能力。好了，让我们开始吧……

LLMs（大型语言模型）已成为一种“商品”。

勒布朗·詹姆斯、纳伦德拉·莫迪和布拉德·皮特与我们一样，都在使用相同版本的ChatGPT。

过去一年中，无数与OpenAI GPT3.5/4/4-o连接的公司创建了内部演示。猜猜看？他们都在使用与大家相同的模型。

模型本身并不会为你创造独特价值。机会在于你为模型提供的独特上下文（信息）。

“上下文是围绕事件的框架，为其提供适当的解释资源。” — 维基百科

这种“空白状态”既是福也是祸。这意味着你有能力生成任何内容，但也意味着你有可能生成任何（你不想要的）内容。

在构建生成式AI解决方案时，这意味着我们大部分时间都花在将用户的提示转化为能产生最佳输出的上下文上。

微调的谬误

除非你从头开始训练一个模型（你不会这么做，也不应该这么做），这意味着你实际上只有一种方法来定制超出上下文的内容——微调现有模型。

尽管微调备受关注，但它对95%的应用来说并不实用。如果你刚刚踏上这条道路，请不要考虑这个问题。

因此，你只剩下一个创造独特价值的杠杆——你发送给模型的上下文。虽然这听起来像是一个简单的问题，但实际上远非如此（如果你想构建一个高质量且可扩展的东西）。

上下文构建：艺术与科学

我们主要有四种策略来构建输入到大型语言模型（LLM）的上下文。

1. 提示工程（非技术） → 仅在用户界面中为模型构建上下文（例如：ChatGPT文本输入框上方）。
2. 检索增强生成（RAG） → 将模型未曾训练过的数据引入模型。
3. 提示工程（技术） → 利用后端工程根据用户提示为模型构建上下文。
4. 代理 → 一种利用LLM能力自主或半自主执行复杂任务的人工智能系统。

为了具体说明，我将尽力以一个个性化旅行行程规划器为例贯穿介绍每种策略。每种新策略的引入旨在改进现有系统，以提高生成旅行行程的质量。

从高层次来看，我们将涵盖：

1. 非技术提示工程

• 是什么：在用户界面中构建有效的提示。
• 商业影响：使非技术团队能够改进AI交互。
• 示例：创建用户输入旅行偏好的模板，以确保更高的一致性。
• 何时使用：这是我们的起点，适合快速改善用户交互，无需大量技术投入。

2. 检索增强生成（RAG）

• 是什么：利用组织独有的数据增强AI响应。
• 商业影响：利用独特信息资产创造差异化的AI解决方案。
• 示例：整合旅行目的地数据库、用户评论和季节性信息，以增强AI的推荐。
• 何时使用：当积累更多独有数据并希望利用其生成更准确和个性化的行程时。

3. 技术提示工程

• 是什么：使用后端系统动态构建和优化AI提示。
• 商业影响：实现更复杂、上下文感知的AI交互。
• 示例：将复杂的旅行请求（如“规划一次多城市的欧洲之旅”）分解为针对旅行各方面的优化查询。
• 何时使用：当需要超出当前模型推理能力的更复杂规划功能时。

4. AI代理

• 是什么：创建能够执行复杂任务并根据目标动态访问外部系统的半自主AI系统。
• 商业影响：自动化繁重流程，可能彻底改变整个业务运营。
• 示例：一个不仅规划旅行，还根据用户偏好、实时价格和数据可用性预订机票、酒店和活动的AI系统。
• 何时使用：用于创建能够处理复杂、多步骤任务的高级半自主系统，且仅需最少的人工干预。

在这五部分系列中，我们将分解实施这四种策略的关键技术，包括实际用例、需注意的挑战和入门指导。这些内容将按从简单到复杂的顺序排列（一般来说）。尽管顺序可能因用例而异，但这是我见过的客户最常见的采用顺序。

第一部分：面向商业领袖的生成式AI（您当前所在）

第二部分：前端（UI）提示工程

• 前端提示模板 → 预定义的“填空”模板。
• 思维链（CoT）→ 将复杂推理分解为步骤。
• 多轮对话 → 提供示例引导模型。

第三部分：RAG

• 元数据/实体提取 → 提取数据类型和关系。
• 混合检索 → 结合关键词和语义搜索。
• 重新排序 → 按相关性重新排列结果。
• 多步骤检索 → 迭代细化查询。
• 图检索 → 使用图嵌入检索信息。

第四部分：后端提示工程

• 后端路由到模板 → 将用户查询路由到后端预定义模板。
• 提示分解 → 将复杂提示分解为多个步骤。
• 结构化输入与输出 → 为输入数据和预期输出提供清晰具体的格式。

第五部分：代理

• 结构化输出格式 → 实施标准化的输出格式，如JSON模板，以确保一致性、可靠性和易于集成。
• 动态信息收集 → 赋予代理访问和利用定义来源的最新信息的能力。
• 任务分解与规划 → 将复杂任务分解为可管理的步骤，并创建执行的结构化计划。
• 高级推理框架 → 问题解决策略，如ReAct、思维树和反思，以增强代理的推理能力。

我的目标是简化术语和复杂性，为非技术商业领袖提供入门介绍。我未涉及的内容很多，包括评估响应、确保安全/合规性、每种策略的常见“工具栈”等。如果您对某个我未涉及的主题特别感兴趣，请告知，我将根据需求优先撰写。

接下来：（第二部分）实用提示：推动ROI的策略