AI大模型教程
一起来学习

LLMs之RAG:只需四步骤—基于Ollama后端框架(配置phi3/LLaMA-3模型)结合Dify前端框架(设置知识库文件+向量化存储+应用发布)创建包括实现本地知识库问答/翻译助手等多个应用

LLMs之RAG:基于Ollama后端框架(配置phi3/LLaMA-3模型)结合Dify前端框架(设置知识库文件+向量化存储+应用发布)创建包括实现本地知识库问答/翻译助手等多个应用

目录

基于Ollama后端框架(配置phi3/LLaMA-3模型)结合Dify前端框架(设置知识库文件+向量化存储+应用发布)创建包括实现本地知识库问答/翻译助手等多个应用

1、配置依赖

1.1、安装Docker和Docker Compose,

1.2、安装并配置Ollama

1.3、打开Dify界面并配置模型

2、创建模型基于RAG的对话应用

2.1、配置模型

2.2、创建知识库并向量化存储

2.3、创建应用并发布

2.4、基于知识库进行对话测试


基于Ollama后端框架(配置phi3/LLaMA-3模型)结合Dify前端框架(设置知识库文件+向量化存储+应用发布)创建包括实现本地知识库问答/翻译助手等多个应用

1、配置依赖

1.1、安装Docker和Docker Compose,

安装

安装Docker和Docker Compose

参考A3、Windows11系统安装→交互式安装即可,一次性安装Docker和Docker Compose

地址:​​​​​​​Docker:Docker的简介、安装、使用方法之详细攻略_docker 知乎-CSDN博客

1.2、安装并配置Ollama

安装并配置Ollama

安装并配置Ollama参考

地址LLM之Ollama:ollama的简介、安装和使用方法、案例应用之详细攻略_ollama中文说明书-CSDN博客

​​​​​​​地址02https://yunyaniu.blog.csdn.net/article/details/138235781

1.3、打开Dify界面并配置模型

安装并启动Dify

参考——1、Dify的安装和启动

地址LLMs之Dify:Dify的简介、安装和使用方法、案例应用之详细攻略-CSDN博客

打开界面

浏览器中访问http://localhost/install并开始初始化过程,设置账号,之后用此账号登录。

地址http://localhost/install

2、创建模型基于RAG的对话应用

2.1、配置模型

配置模型

模型名称:phi3:latest

容器地址:http://host.docker.internal:11434

2.2、创建知识库并向量化存储

点击知识库→创建知识库→添加PDF资料→保存并处理

2.3、创建应用并发布

创建应用→设置角色→添加知识库资料→并设置提示词→选择大语言模型→依次点击更新→发布→Start Chat即可!

2.4、基于知识库进行对话测试

文章来源于互联网:LLMs之RAG:只需四步骤—基于Ollama后端框架(配置phi3/LLaMA-3模型)结合Dify前端框架(设置知识库文件+向量化存储+应用发布)创建包括实现本地知识库问答/翻译助手等多个应用

相关推荐: 人工智能AI绘画Stable Diffusion升级版comfyui一键启动器来了

「 无套路!文末提供下载方式 」 如今 AI 发展也越来越快了,涉及领域也越来越广了,去接触使用 AI 是非常有必要的了。 AI创意无限,零基础到AI大神! 其中说到 AI 绘画,大家应该都不会陌生的了,之前也是给大家带来过强大的 AI 绘画平台,但云端处理,…

赞(0)
未经允许不得转载:5bei.cn大模型教程网 » LLMs之RAG:只需四步骤—基于Ollama后端框架(配置phi3/LLaMA-3模型)结合Dify前端框架(设置知识库文件+向量化存储+应用发布)创建包括实现本地知识库问答/翻译助手等多个应用
分享到: 更多 (0)

AI大模型,我们的未来

小欢软考联系我们