LLMs之RAG:基于Ollama后端框架(配置phi3/LLaMA-3模型)结合Dify前端框架(设置知识库文件+向量化存储+应用发布)创建包括实现本地知识库问答/翻译助手等多个应用
目录
基于Ollama后端框架(配置phi3/LLaMA-3模型)结合Dify前端框架(设置知识库文件+向量化存储+应用发布)创建包括实现本地知识库问答/翻译助手等多个应用
基于Ollama后端框架(配置phi3/LLaMA-3模型)结合Dify前端框架(设置知识库文件+向量化存储+应用发布)创建包括实现本地知识库问答/翻译助手等多个应用
1、配置依赖
1.1、安装Docker和Docker Compose,
|
安装 |
安装Docker和Docker Compose 参考A3、Windows11系统安装→交互式安装即可,一次性安装Docker和Docker Compose |
1.2、安装并配置Ollama
|
安装并配置Ollama |
安装并配置Ollama参考 地址:LLM之Ollama:ollama的简介、安装和使用方法、案例应用之详细攻略_ollama中文说明书-CSDN博客 地址02:https://yunyaniu.blog.csdn.net/article/details/138235781
|
1.3、打开Dify界面并配置模型
|
安装并启动Dify |
参考——1、Dify的安装和启动 |
|
打开界面 |
浏览器中访问http://localhost/install并开始初始化过程,设置账号,之后用此账号登录。 |
2、创建模型基于RAG的对话应用
2.1、配置模型
|
配置模型 |
模型名称:phi3:latest |



2.2、创建知识库并向量化存储
点击知识库→创建知识库→添加PDF资料→保存并处理


2.3、创建应用并发布
创建应用→设置角色→添加知识库资料→并设置提示词→选择大语言模型→依次点击更新→发布→Start Chat即可!


2.4、基于知识库进行对话测试

文章来源于互联网:LLMs之RAG:只需四步骤—基于Ollama后端框架(配置phi3/LLaMA-3模型)结合Dify前端框架(设置知识库文件+向量化存储+应用发布)创建包括实现本地知识库问答/翻译助手等多个应用
相关推荐: 人工智能AI绘画,Stable Diffusion升级版comfyui一键启动器来了
「 无套路!文末提供下载方式 」 如今 AI 发展也越来越快了,涉及领域也越来越广了,去接触使用 AI 是非常有必要的了。 AI创意无限,零基础到AI大神! 其中说到 AI 绘画,大家应该都不会陌生的了,之前也是给大家带来过强大的 AI 绘画平台,但云端处理,…
5bei.cn大模型教程网










