标签：RAG

2025-01-30EnigmaticGaze阅读(3599)赞(0)

项目背景与概述 LLaMA-Factory项目目标 LLaMA-Factory项目是一个专注于大模型训练、微调、推理和部署的开源平台。其主要目标是提供一个全面且高效的解决方案，帮助研究人员和开发者快速实现大模型的定制化需求。具体来说，LLa...

2025-01-30ai_helper阅读(349)赞(0)

介绍 随着ChatGPT的横空出世，国内互联网大厂、创业公司纷纷加了AIGC赛道，不断推出各种大模型，而这些大模型由于规模庞大、结构复杂，往往包含了数十亿至数千亿的参数。这些模型在训练阶段，一般需要使用高效能的GPU集群训练数十天时间，在推...

2025-01-29CrystalEyes阅读(407)赞(0)

问题一：LoRA是用在节省资源的场景下，那么LoRA具体是节省了内存带宽还是显存呢？ LoRA（Low-Rank Adaptation）主要是通过减少需要训练的参数数量来节省资源，因此它主要节省的是显存（VRAM）。在大型模型的微调过程中，...

2025-01-29EmberGlimmer阅读(297)赞(0)

哈喽大家好，新版的ComfyUI除了界面的改变外，还增加了一些新功能，一些基础操作现在更加的便捷，分享几个个人觉的最实用的几个快捷小技巧 个人推荐的快捷键 1、快速建组 选择节点后【Ctrl+G】快速建组 2、双击重命名 组和节点也可以直接...

2025-01-29LunarFrost阅读(440)赞(0)

LLMs之TorchServe ：基于TorchServe 和 vLLM 部署和构建高效、可扩展的 LLM(比如Llama 3.1-70B)服务解决方案及其代码示例—将 vLLM 推理引擎全新地原生集成到 TorchServe 中 导读：这...

2025-01-28LunarFrost阅读(414)赞(0)

前言 本篇文章基于java和阿里云的通义千问大模型手把手带你使用AIGC开发，实现文本对话和图像分析。 一、📖AIGC简介 你知道什么是AIGC吗？不知道？没关系，我来告诉你： AIGC就是由AI自动创作生成的内容（AI Generated...

2025-01-27EnigmaticGaze阅读(606)赞(0)

引言 RAG作为减少模型幻觉和让模型分析、回答私域相关知识最简单高效的方式，我们除了使用之外可以尝试了解其是如何实现的。在实现RAG的过程中，最重要的是保证召回的知识的准确性，不然会极大影响LLM的能力，而混合检索是一个重要的方法去提高召回...

2025-01-27EnchantedScribe阅读(1373)赞(0)

作为一名全栈开发，我同时使用Cursor和Copilot已经有一年时间。最近经常看到有人问这两个AI编程助手的区别，今天就来分享下我的使用体验和个人见解。 先说结论： 如果你习惯VS Code生态：选Cursor 如果你的团队在用GitHu...

2025-01-23CrimsonFeather阅读(265)赞(0)

2AGI.NET：天天AI-20250109 人工智能（AI）和硬件技术继续以惊人的速度发展，不断刷新我们对技术边界的认知。从英伟达的RTX 50系列显卡到清华团队的数学推理突破，再到AI算力的多个利好，这些技术的发展正在推动我们进入一个全...

2025-01-22ElectricStorm阅读(130)赞(0)

大家好，我是画画的小强 今天继续为大家推荐 5 款优质的设计类 Stable Diffusion WebUI 风格模型，包含电商设计、产品摄影、矢量扁平插画、古风工笔等多种风格。 一、设计 | 电商展台 这是一款非常优秀的电商展台设计模型，...