Dify 开发:AI Agent 进阶实战
1. 认知提升1.1 AI大模型是什么?基础模型(Foundation Models) 一种大型机器学习模型,通常在大量数据上进行大规模训练(通过自监督学习或半监督学习),以使它可以适应各类下游任务。 兼顾参数量大(大型模型),训练数据量大(大量数据大规模训练)和迁移学习能力强(适应多种下游任务) AIGC(Artificial Intelligence Generated Content...
1. 认知提升1.1 AI大模型是什么?基础模型(Foundation Models) 一种大型机器学习模型,通常在大量数据上进行大规模训练(通过自监督学习或半监督学习),以使它可以适应各类下游任务。 兼顾参数量大(大型模型),训练数据量大(大量数据大规模训练)和迁移学习能力强(适应多种下游任务) AIGC(Artificial Intelligence Generated Content...
1. 技术框架与选型 1.1 RAG技术框架:LangChainLangChain是专为开发基于大型语言模型(LLM)应用而设计的全面框架,其核心目标是简化开发者的构建流程,使其能够高效创建LLM驱动的应用。 1.2 索引流程 - 文档解析模块:pypdfpypdf是一个开源的Python库,专门用于处理PDF文档。pypdf支持PDF文档的创建、读取、编辑和转换操作,能够有效提取和处理文本...
1. Ubuntu下安装ollama## Ubuntu系统安装Ollamacurl -fsSL https://ollama.com/install.sh | sh## 设置镜像加速export OLLAMA_MIRROR="https://ghproxy.cn/https://github.com/ollama/ollama/releases/latest/download&qu...
思维链,顾名思义,就是引导模型进行逐步推理的链条。通过分步骤思考,模型能够在复杂的任务中逐渐接近正确答案,避免因直接跳到结论而产生的错误。这种方法最初是由一句简单的提示语“Let’s think step by step”衍生出来的。这句提示语告诉模型:“我们一步一步来,别急。”这句话可以显著提高模型在处理复杂问题时的准确性。 1. 数学问题中的思维链1.1 代码import ollam...
1. 少样本学习1.1 代码import ollama# 创建指向本地服务器的客户端client = ollama.Client(host='http://192.168.100.135:11434')# 定义少样本提示词few_shot_prompt = ( "以下是关于电影评论的示例:\n" "输入:这部电影真是太棒了!\n&...
1. 使用工具1.1 代码from langchain_ollama.llms import OllamaLLMfrom langchain.agents import initialize_agentfrom langchain.tools import Toolimport requests# 高德API的基本信息AMAP_KEY = 'xxx' # 替换为你的高德...
1. ChatGPT 客服对话1.1 代码import ollama# 创建指向本地服务器的客户端client = ollama.Client(host='http://192.168.100.135:11434')def customer_service_chat(history: str, user_input: str, max_turns: int = 3) -&...
长文本处理的能力直接影响到大规模对话系统在复杂场景下的表现。 1. 使用 LLaMA 进行对话1.1 代码from langchain_ollama.llms import OllamaLLMfrom langchain.agents import load_tools, initialize_agentfrom langchain.tools import Toolimport num...
1. ReAct(推理-行动-观察) LLaMA 3在多步推理中的流程大致可分为以下几个步骤: 推理(Thought):模型在执行每个行动时,基于已有知识和当前环境信息进行推理,以决定下一步的行动。 工具调用(Act):模型根据推理结果调用外部工具,并执行相关操作。 观察(Obs):模型在行动后观察结果,并分析这些结果与预期之间的差异。 1.1 代码import ollamaimport...
1. 频率增强Self-ConsistencySelf-Consistency的步骤如下: 多次生成:对同一个问题进行多次推理。每次推理的结果可能略有不同,通过多次生成可以覆盖更多可能的答案。 结果汇总:对每次推理的结果进行汇总,统计每个答案的出现频率。常见的答案通常是正确的,通过频率统计可以找到最可能的正确答案。 最终答案选择:选择出现频率最高的答案作为最终的推理结果。通过这种方式,可以...