dify本地搭建相关配置文档

欣七天

2025 年 04 月 13 日

23 次浏览

暂无评论

1525字数

Dify 默认分类

# 一 配置模型

## 1、获取本地模型名称

```
ollama list
```

![image.png](http://type.zimopy.com/usr/uploads/2025/04/920622914.png)

## 2、配置ollama中的LLM模型

![image.png](http://type.zimopy.com/usr/uploads/2025/04/1149666026.png)

## 3、配置Text Embedding

![image.png](http://type.zimopy.com/usr/uploads/2025/04/3339826569.png)

## 3、大语言模型（LLM）部署和推理工具——**Xinference**

```
docker pull xprobe/xinference:latest
docker run  -p 9997:9997 --gpus all xprobe/xinference:latest xinference-local -H 0.0.0.0
```

[Xinference教程](https://zhuanlan.zhihu.com/p/685224526)

启动后可以通过`http://localhost:9997`访问

![image.png](http://type.zimopy.com/usr/uploads/2025/04/4032106378.png)

![image.png](http://type.zimopy.com/usr/uploads/2025/04/185056515.png)

![image.png](http://type.zimopy.com/usr/uploads/2025/04/1000066879.png)

GPUidx 一半都是填0，如果有多个gpu可以用逗号隔开如0、1

![image.png](http://type.zimopy.com/usr/uploads/2025/04/2566447786.png)

安装插件`Xorbits Inference`

![image.png](http://type.zimopy.com/usr/uploads/2025/04/529367016.png)

在本地dify中配置

![image.png](http://type.zimopy.com/usr/uploads/2025/04/2174154760.png)

# 二 搭建知识库

打开本地部署的Dify网站。

## 1、点击知识库菜单，点击创建知识库

![image.png](http://type.zimopy.com/usr/uploads/2025/04/881995899.png)

## 2、上传本地知识库，这里选择上传本地文件

## 3、知识库配置

![image.png](http://type.zimopy.com/usr/uploads/2025/04/840001054.png)

![image.png](http://type.zimopy.com/usr/uploads/2025/04/3178814180.png)

![image.png](http://type.zimopy.com/usr/uploads/2025/04/4072359593.png)

完成

最后修改：2025 年 04 月 16 日

如果觉得我的文章对你有用，请随意赞赏

dify本地搭建相关配置文档

发表评论取消回复
使用cookie技术保留您的个人信息以便您下次快速评论，继续评论表示您已同意该条款

速注册OpenAi（ChatGPT），国内也可以

ubuntu 实现内网穿透

Frida 代码自动补全

最新Fiddler Web Debugger v5.0 20202.18177中文版

windows一键启动雷电模拟器的frida-server

RuskDesk 搭建并使用

VScode 初始化设置之 Auto.js Pro (4.0 ~ 9.0 +) 代码补全

python 去除所有的中文英文标点符号

rathole：基于Rust开发的轻量级高性能反向代理，替代frp和ngrok！

获取鼠标轨迹

dify本地搭建相关配置文档

发表评论 取消回复 使用cookie技术保留您的个人信息以便您下次快速评论，继续评论表示您已同意该条款

dify本地搭建相关配置文档

发表评论取消回复
使用cookie技术保留您的个人信息以便您下次快速评论，继续评论表示您已同意该条款