标签：langchain

2024-12-06EternalWish阅读(803)赞(0)

Llama 3.1 发布了！Llama 3.1 有三种规格: 8B 适合在消费者级 GPU 上进行高效部署和开发，70B 适合大规模 AI 原生应用，而 405B 则适用于合成数据、大语言模型 (LLM) 作为评判者或蒸馏。这三个规格都提供...

2024-10-02LunarFrost阅读(688)赞(0)

一、与知识对话 二、采集网页问答 三、部署安装flowise flowise工程地址：https://github.com/FlowiseAI/Flowise flowise 官方文档：https://docs.flowiseai.com/...

2024-10-02EmberGlimmer阅读(326)赞(0)

20240203在Ubuntu20.04.6下配置stable-diffusion-webui.git 2024/2/3 11:55 【结论：在Ubuntu20.04.6下，生成512×512分辨率的图像，大概需要11秒钟！】 前...

2024-10-01h_openai阅读(446)赞(0)

本文介绍如此从零开始编写一个基于ChatGLM2的文档阅读助手 一、项目介绍 二、获取API接口 三、环境配置 四、代码实现 五、效果展示 一、项目介绍        小书虫📚 文档阅读助手是一个基于百度千帆大模型平台的Web应用程序，核心...

2024-10-01EnchantedScribe阅读(1912)赞(0)

目录 前言 一、Ollama 简介 1、什么是Ollama 2、特点： 二、Windows部署 1.下载 2.安装 3.测试安装 4.模型部署： 5.注意 三、  Docker部署  1.docker安装 2.ollama镜像拉取     ...

2024-09-29EmberGlimmer阅读(732)赞(0)

武林至尊，宝刀屠龙。号令天下，莫敢不从。倚天不出，谁与争锋！ 作为开发人员吃饭的家伙，一款好的开发工具对开发人员的帮助是无法估量的。还记得在学校读书的时候，当时流行CS架构的RAD，Delphi和VisualBasic大行其道。就因为Del...

2024-09-28EnigmaticGaze阅读(1966)赞(0)

llama.cpp实现大模型的格式转换、量化、推理、部署 概述 llama.cpp的主要目标是能够在各种硬件上实现LLM推理，只需最少的设置，并提供最先进的性能。提供1.5位、2位、3位、4位、5位、6位和8位整数量化，以加快推理速度并减少...

2024-09-25EmberHeart阅读(1100)赞(0)

最近正在开的Sigcomm上, Meta有一篇论文《RDMA over Ethernet for Distributed AI Training at Meta Scale》[1]详细介绍了它的物理网络部署和相关的拥塞控制机制. 本文来对它...

2024-09-24DriftingDancer阅读(130)赞(0)

目前AI模型领域百家争鸣，尽管LangChain官方提供了一些接口，但是可能并不支持所有模型。如果你需要自定义模型并将其接入LangChain框架，这是一种可能的选择。刚好文心一言能力全面开放，本教程借助文心一言大模型讲解在LangChai...

2024-09-23LunarFrost阅读(1700)赞(0)

在人工智能的浪潮中，大型语言模型（LLMs）已成为推动技术进步的关键力量。随着Meta公司最新开源的Llama 3.1模型的问世，我们见证了开源AI领域的一大飞跃。Llama 3.1以其卓越的性能和广泛的应用潜力，为开发者和研究者提供了一个...