Ubuntu下安装ollama
1. Ubuntu下安装ollama12345678910111213141516171819202122232425262728293031323334353637## Ubuntu系统安装Ollamacurl -fsSL https://ollama.com/install.sh | sh## 设置镜像加速export OLLAMA_MIRROR="https://ghprox...
Llama 3长文本处理能力
长文本处理的能力直接影响到大规模对话系统在复杂场景下的表现。 1. 使用 LLaMA 进行对话1.1 代码123456789101112131415161718192021222324252627282930313233343536from langchain_ollama.llms import OllamaLLMfrom langchain.agents import load_to...
使用工具
1. 使用工具1.1 代码1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253545556575859606162636465666768697071727374757677787980818283848586878889909192939495969...
思维链的应用
思维链，顾名思义，就是引导模型进行逐步推理的链条。通过分步骤思考，模型能够在复杂的任务中逐渐接近正确答案，避免因直接跳到结论而产生的错误。这种方法最初是由一句简单的提示语“Let’s think step by step”衍生出来的。这句提示语告诉模型：“我们一步一步来，别急。”这句话可以显著提高模型在处理复杂问题时的准确性。 1. 数学问题中的思维链1.1 代码123456789101...
上下文学习能力
1. 少样本学习1.1 代码1234567891011121314151617181920212223242526import ollama# 创建指向本地服务器的客户端client = ollama.Client(host='http://192.168.100.135:11434')# 定义少样本提示词few_shot_prompt = ( "以下是关...
频率增强Self-Consistency
1. 频率增强Self-ConsistencySelf-Consistency的步骤如下： 多次生成：对同一个问题进行多次推理。每次推理的结果可能略有不同，通过多次生成可以覆盖更多可能的答案。 结果汇总：对每次推理的结果进行汇总，统计每个答案的出现频率。常见的答案通常是正确的，通过频率统计可以找到最可能的正确答案。 最终答案选择：选择出现频率最高的答案作为最终的推理结果。通过这种方式，可以...
对话系统
1. ChatGPT 客服对话1.1 代码123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051import ollama# 创建指向本地服务器的客户端client = ollama.Client(host='http://192.168.100.13...
CoT & ToT
1. 思维链（Chain of Thought，CoT）2. 树状思维链（Tree of Thought，ToT） ToT的核心优势包括： 多方向探索：利用树状结构，同时评估多个思维路径，避免了CoT单一线性路径的局限。 系统化搜索：在复杂问题空间中系统地遍历各种可能路径，确保找到最优解。
ReAct（推理-行动-观察）
1. ReAct（推理-行动-观察） LLaMA 3在多步推理中的流程大致可分为以下几个步骤： 推理（Thought）：模型在执行每个行动时，基于已有知识和当前环境信息进行推理，以决定下一步的行动。 工具调用（Act）：模型根据推理结果调用外部工具，并执行相关操作。 观察（Obs）：模型在行动后观察结果，并分析这些结果与预期之间的差异。 1.1 代码1234567891011121314...
RAG
1. 朴素RAG的基本流程 文档分割 文档分割是RAG流程的起点，其目标是将大块的文档拆分成可管理的小片段。分割方式通常基于文本长度、段落、句子结构或者逻辑结构。例如： 固定长度分割：将文档按照字符或词汇数量分割成固定大小的块。 逻辑分割：基于语义或文档的段落、章节等自然分界线，保持片段的逻辑连贯性。 分割文档主要是为了便于后续的嵌入生成和检索。过大或者过小的片段都会影响嵌入质量和检索效...