AI大模型教程
一起来学习

AI创作

利用 FP8 量化加速 Llama-3-70B 推理-5bei.cn大模型教程网

利用 FP8 量化加速 Llama-3-70B 推理

LunarEclipse阅读(1060)赞(0)

本文针对在 Amazon P5 (H100 GPU) 上部署 Llama-3-70b FP8 精度模型的两种方案选型(Trion 及 LMI – Large Model Inference 容器)进行了探索,同时提供了基于 FMBench ...

Stable Diffusion-inpaint(mask补全)是怎么做的?-5bei.cn大模型教程网

Stable Diffusion-inpaint(mask补全)是怎么做的?

LunarEclipse阅读(729)赞(0)

AIGC专栏4——Stable Diffusion原理解析-inpaint修复图片为例_diffusion inpaint-CSDN博客 如果我们必须训练一个inpaint模型才能对当前的模型进行inpaint,那就太麻烦了,有没有什么方法...

LLaMA-Factory多机多卡训练-5bei.cn大模型教程网

LLaMA-Factory多机多卡训练

EternalWish阅读(2142)赞(0)

为了在多机多卡环境下训练大模型,我们可以使用LLaMA-Factory。 它支持多种常见模型,集成了包括(增量)预训练、(多模态)指令监督微调、奖励模型训练、PPO 训练、DPO 训练、KTO 训练、ORPO 训练等等训练方法,并且有web...

AI初识--LLM、ollama、llama都是些个啥?

ai_helper阅读(840)赞(0)

LLM全称(large language model)也就是大语言模型 什么是Ollama,它与Llama是什么关系? Ollama是一个开源的 LLM(大型语言模型)服务工具,用于简化在本地运行大语言模型,降低使用大语言模型的门槛,使得大...

Llama-factory详细基础使用说明-5bei.cn大模型教程网

Llama-factory详细基础使用说明

GoldenSphinx阅读(3314)赞(0)

最近很多小伙伴在使用llama-factory时遇到了不少问题,特别是基础不太好的童鞋,对各种参数或者webui界面的内容不理解,总是一会一个问题,网上大部分的教程,都只是教到能跑起来就行,对于细的调整没有做介绍,这里详细整理了一下界面中的...

【从0到1 在AMD显卡的win上安装stable-diffusion】

CrimsonArrow阅读(486)赞(0)

摘要: 终于换了台电脑了,这太电脑32G运行内存,4G核显(想买有独显的,不过好贵哦),AMD R7 8核处理器。看着这么高的配置,心有点痒痒的,不能浪费了这个配置呀,哈哈,于是就有了安装Stable-Diffusion的想法。 安装步骤:...

超方便!3个设计师都在用的免费AI配色工具-5bei.cn大模型教程网

超方便!3个设计师都在用的免费AI配色工具

h_openai阅读(917)赞(0)

在现代设计领域,色彩搭配不仅是审美体现,更是影响用户体验的关键因素。为了帮助设计师高效、精准地进行色彩搭配,多种 AI 配色工具应运而生。本文将深度介绍三个顶尖的 AI 配色网站工具——AI Colors、 Huemint和Khroma。它...

AI大模型,我们的未来

小欢软考联系我们