借助魔搭社区运行llama3本地模型

1. 魔搭社区可以看到可以长期使用一个8c 32g的py环境,就想着把本地调试的工作放到社区提供的环境上。 2. 使用2.1 下载模型1234567import torchfrom modelscope import snapshot_downloadfrom transformers import AutoModelForCausalLM, AutoTokenizer# 下载模型cach...

2025-09-24

1. 认知提升1.1 AI大模型是什么?基础模型(Foundation Models) 一种大型机器学习模型,通常在大量数据上进行大规模训练(通过自监督学习或半监督学习),以使它可以适应各类下游任务。 兼顾参数量大(大型模型),训练数据量大(大量数据大规模训练)和迁移学习能力强(适应多种下游任务) AIGC(Artificial Intelligence Generated Content...

Dify实战教程

1. 背景 2. 发展、应用、场景 3. 智能体工作原理 4. 核心元素 5. 主流智能体框架 6. 赋能各行业解析 7. AI Agent + 硬件 8. dify私有化部署借助sealos【云端容器化平台】一键部署 9. 接入deepseek 10. dify基础介绍三类应用: 探索(别人搭建好的不同类型的智能体): 知识库: tools(调用外部工具的能力): 11. 案例...

私有化部署dify

1. 环境准备操作系统:CentOS Linux release 7.4.1708 (Core) Docker版本:Docker version 26.1.4, build 5650f9b 2. 部署2.1 拉取镜像并启动12345678910111213141516171819202122232425[root@dify ~]# cd /opt/module/dify/[root@dif...

软件安装

LangChain构建RAG问答系统

0. 前沿0.1 实验目的项目名称:“易速鲜花”内部员工知识库问答系统。 项目介绍:“易速鲜花”作为一个大型在线鲜花销售平台,有自己的业务流程和规范,也拥有针对员工的SOP手册。新员工入职培训时,会分享相关的信息。但是,这些信息分散于内部网和HR部门目录各处,有时不便查询;有时因为文档过于冗长,员工无法第一时间找到想要的内容;有时公司政策已更新,但是员工手头的文档还是旧版内容。 基于上述需求...

lingma调用高德地MCP

1. 目的使用idea的lingma插件,请求高德地图MCP接口,生成旅行地图攻略 2. 准备 lingma插件 开通高德地图开发者账号 3. 提示词编写12345678910##深圳出发制定10月2日至7日广西崇左市游玩5天的旅行攻略。#帮制作旅行攻略,自驾出游,考虑出行时间、路线、住宿,以及天气状况路线规划# 要求如下:# 1. 制作网页地图自定义绘制旅游路线和位置。# 2. 网页使用...

LangChain练习调用LLM

1前言:LangChain是一个基于大语言模型(LLMs)用于构建端到端语言模型应用的框架,它可以让开发者使用语言模型来实现各种复杂的任务,例如文本到图像的生成、文档问答、聊天机器人等。LangChain提供了一系列工具、套件和接口,可以简化创建由LLMs和聊天模型提供支持的应用程序的过程。 1. 实验环境1.1 环境准备Conda 24.11.3 Python 3.12.2 123pip...

RAG

win安装nvm

1启动一些前端项目的时候,经常需要使用不同版本的node,一劳永逸,避免繁琐的环境切换问题,使用nvm管理node版本 0. 卸载卸载原有的node 查看node版本 1. 前言NVM(Node Version Manager)是一款专为管理 Node.js 版本设计的命令行工具,它解决了开发者在不同项目中需要切换 Node.js 版本的核心痛点,支持在同一台设备上安装、切换、卸载多个...

软件安装

Catalina和Coyote介绍

Catalina介绍Coyote介绍什么是Coyote?Coyote是Tomcat链接器框架的名称,是Tomcat服务器提供的供客户端访问的外部接口。客户端通过Coyote与服务器建立链接、发送请求并接收响应。Coyote封装了底层的网络通信(Socket请求及响应处理),为Catalina容器提供了统一的接口,使Catalina容器与具体的请求协议及I/O方式解耦。Coyote将...

虚拟机准备centos8.5以及安装py环境

1. 安装1.1 下载iso点我下载 1.2 vmware安装 配置 安装 2. 初始化配置2.1 用户名1hostnamectl set-hostname rag 3.2 防火墙1234567systemctl status firewalld.service## 1. 关闭防火墙systemctl stop firewalld.service## 2. 永久关闭system...

12310

本站由 卡卡龙 使用 Stellar 1.29.1主题创建

本站访问量 次. 本文阅读量 次.