Ubuntu下安装ollama

1. Ubuntu下安装ollama12345678910111213141516171819202122232425262728293031323334353637## Ubuntu系统安装Ollamacurl -fsSL https://ollama.com/install.sh | sh## 设置镜像加速export OLLAMA_MIRROR="https://ghprox...

Llama 3长文本处理能力

长文本处理的能力直接影响到大规模对话系统在复杂场景下的表现。 1. 使用 LLaMA 进行对话1.1 代码123456789101112131415161718192021222324252627282930313233343536from langchain_ollama.llms import OllamaLLMfrom langchain.agents import load_to...

使用工具

1. 使用工具1.1 代码1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253545556575859606162636465666768697071727374757677787980818283848586878889909192939495969...

思维链的应用

思维链,顾名思义,就是引导模型进行逐步推理的链条。通过分步骤思考,模型能够在复杂的任务中逐渐接近正确答案,避免因直接跳到结论而产生的错误。这种方法最初是由一句简单的提示语“Let’s think step by step”衍生出来的。这句提示语告诉模型:“我们一步一步来,别急。”这句话可以显著提高模型在处理复杂问题时的准确性。 1. 数学问题中的思维链1.1 代码123456789101...

上下文学习能力

1. 少样本学习1.1 代码1234567891011121314151617181920212223242526import ollama# 创建指向本地服务器的客户端client = ollama.Client(host='http://192.168.100.135:11434')# 定义少样本提示词few_shot_prompt = ( "以下是关...

频率增强Self-Consistency

1. 频率增强Self-ConsistencySelf-Consistency的步骤如下: 多次生成:对同一个问题进行多次推理。每次推理的结果可能略有不同,通过多次生成可以覆盖更多可能的答案。 结果汇总:对每次推理的结果进行汇总,统计每个答案的出现频率。常见的答案通常是正确的,通过频率统计可以找到最可能的正确答案。 最终答案选择:选择出现频率最高的答案作为最终的推理结果。通过这种方式,可以...

对话系统

1. ChatGPT 客服对话1.1 代码123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051import ollama# 创建指向本地服务器的客户端client = ollama.Client(host='http://192.168.100.13...

CoT & ToT

1. 思维链(Chain of Thought,CoT)2. 树状思维链(Tree of Thought,ToT) ToT的核心优势包括: 多方向探索:利用树状结构,同时评估多个思维路径,避免了CoT单一线性路径的局限。 系统化搜索:在复杂问题空间中系统地遍历各种可能路径,确保找到最优解。

ReAct(推理-行动-观察)

1. ReAct(推理-行动-观察) LLaMA 3在多步推理中的流程大致可分为以下几个步骤: 推理(Thought):模型在执行每个行动时,基于已有知识和当前环境信息进行推理,以决定下一步的行动。 工具调用(Act):模型根据推理结果调用外部工具,并执行相关操作。 观察(Obs):模型在行动后观察结果,并分析这些结果与预期之间的差异。 1.1 代码1234567891011121314...

RAG

1. 朴素RAG的基本流程 文档分割 文档分割是RAG流程的起点,其目标是将大块的文档拆分成可管理的小片段。分割方式通常基于文本长度、段落、句子结构或者逻辑结构。例如: 固定长度分割:将文档按照字符或词汇数量分割成固定大小的块。 逻辑分割:基于语义或文档的段落、章节等自然分界线,保持片段的逻辑连贯性。 分割文档主要是为了便于后续的嵌入生成和检索。过大或者过小的片段都会影响嵌入质量和检索效...

123412

本站由 卡卡龙 使用 Stellar 1.29.1主题创建

本站访问量 次. 本文阅读量 次.