使用工具
1. 使用工具1.1 代码from langchain_ollama.llms import OllamaLLMfrom langchain.agents import initialize_agentfrom langchain.tools import Toolimport requests# 高德API的基本信息AMAP_KEY = 'xxx' # 替换为你的高德...
思维链的应用
思维链，顾名思义，就是引导模型进行逐步推理的链条。通过分步骤思考，模型能够在复杂的任务中逐渐接近正确答案，避免因直接跳到结论而产生的错误。这种方法最初是由一句简单的提示语“Let’s think step by step”衍生出来的。这句提示语告诉模型：“我们一步一步来，别急。”这句话可以显著提高模型在处理复杂问题时的准确性。 1. 数学问题中的思维链1.1 代码import ollam...
Llama 3长文本处理能力
长文本处理的能力直接影响到大规模对话系统在复杂场景下的表现。 1. 使用 LLaMA 进行对话1.1 代码from langchain_ollama.llms import OllamaLLMfrom langchain.agents import load_tools, initialize_agentfrom langchain.tools import Toolimport num...
上下文学习能力
1. 少样本学习1.1 代码import ollama# 创建指向本地服务器的客户端client = ollama.Client(host='http://192.168.100.135:11434')# 定义少样本提示词few_shot_prompt = ( "以下是关于电影评论的示例：\n" "输入：这部电影真是太棒了！\n&...
频率增强Self-Consistency
1. 频率增强Self-ConsistencySelf-Consistency的步骤如下： 多次生成：对同一个问题进行多次推理。每次推理的结果可能略有不同，通过多次生成可以覆盖更多可能的答案。 结果汇总：对每次推理的结果进行汇总，统计每个答案的出现频率。常见的答案通常是正确的，通过频率统计可以找到最可能的正确答案。 最终答案选择：选择出现频率最高的答案作为最终的推理结果。通过这种方式，可以...
CoT & ToT
1. 思维链（Chain of Thought，CoT）2. 树状思维链（Tree of Thought，ToT） ToT的核心优势包括： 多方向探索：利用树状结构，同时评估多个思维路径，避免了CoT单一线性路径的局限。 系统化搜索：在复杂问题空间中系统地遍历各种可能路径，确保找到最优解。
对话系统
1. ChatGPT 客服对话1.1 代码import ollama# 创建指向本地服务器的客户端client = ollama.Client(host='http://192.168.100.135:11434')def customer_service_chat(history: str, user_input: str, max_turns: int = 3) -&...
ReAct（推理-行动-观察）
1. ReAct（推理-行动-观察） LLaMA 3在多步推理中的流程大致可分为以下几个步骤： 推理（Thought）：模型在执行每个行动时，基于已有知识和当前环境信息进行推理，以决定下一步的行动。 工具调用（Act）：模型根据推理结果调用外部工具，并执行相关操作。 观察（Obs）：模型在行动后观察结果，并分析这些结果与预期之间的差异。 1.1 代码import ollamaimport...
RAG
1. 朴素RAG的基本流程 文档分割 文档分割是RAG流程的起点，其目标是将大块的文档拆分成可管理的小片段。分割方式通常基于文本长度、段落、句子结构或者逻辑结构。例如： 固定长度分割：将文档按照字符或词汇数量分割成固定大小的块。 逻辑分割：基于语义或文档的段落、章节等自然分界线，保持片段的逻辑连贯性。 分割文档主要是为了便于后续的嵌入生成和检索。过大或者过小的片段都会影响嵌入质量和检索效...
LLama3本地大模型初体验
借助ollama调用llama3本地大模型 模型拉取： 1. 文章续写代码： import ollama# 1. 配置远程 Ollama 服务器地址# 格式: http://<your_server_ip>:<port>ollama_client = ollama.Client(host='http://192.168.100.135:11434&#x...