标签：LLM

2024-07-23GoldenSphinx阅读(492)赞(0)

为什么要用LLaMa-Factory 如果你尝试过微调大模型，你就会知道，大模型的环境配置是非常繁琐的，需要安装大量的第三方库和依赖，甚至需要接入一些框架。 但是大模型微调的方法又是非常类似的，那有没有一种工具可以统一这些操作，让大模型微调...

2024-07-22CelestialVoyager阅读(371)赞(0)

小模型的战场，打起来了! 继GPT-4o mini、Mistral NeMo发布之后，苹果也入局了。 DCLM小模型包含两种参数规模——70亿和14亿，发布即开源。最大70亿参数超越了Mistral-7B ，性能接近Llama 3、Gemm...

2024-07-21EmberGlimmer阅读(795)赞(0)

LLaMA Factory+ModelScope实战——使用 Web UI 进行监督微调 文章原始地址：https://onlyar.site/2024/01/14/NLP-LLaMA-Factory-web-tuning/ 引言 大语言模...

2024-07-21LunarEclipse阅读(402)赞(0)

操作系统智能助手OS Copilot OS Copilot 是什么 OS Copilot是Alibaba Cloud Linux基于大模型构建的操作系统智能助手，支持自然语言问答、辅助命令执行、系统运维调优等功能，帮助您更好地使用Aliba...

2024-07-20EmberGlimmer阅读(659)赞(0)

节前，我们组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、参加社招和校招面试的同学，针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。 基于大模型实践和...

2024-07-20LunarEclipse阅读(1294)赞(0)

LLaMA-Factory微调（sft）ChatGLM3-6B保姆教程 准备 1、下载 下载LLaMA-Factory 下载ChatGLM3-6B 下载ChatGLM3 windows下载CUDA ToolKit 12.1 （本人是在win...

2024-07-20WhimsicalWanderer阅读(345)赞(0)

论量化、蒸馏及效率提升 近来，我频繁地探究如何高效地运用大语言模型 (LLM)。设想这样一个场景：你的老板对你说：“嘿，Finbarr，我们快破产了，因为我们把所有投资者的钱都花在了支持我们那个 300 亿参数、模仿 John Kennet...

2024-07-19ElectricEmbrace阅读(377)赞(0)

OpenAI，也开始进军小模型了。 就在今天深夜，GPT-3.5退场，全新发布的GPT-4o mini，更小、性能更强，更重要的是——更便宜! GPT-3.5.再见! 每百万个输入token 15美分，每百万个输出token 60美分，MM...

2024-07-19EmberHeart阅读(829)赞(0)

1 部署环境 step 1. 使用24GB显存以上的显卡创建环境 step 2. 创建好环境之后，关闭环境，使用无卡模式开机（有钱可忽略） step 3. 安装LLaMA-Factory git clone https://github.c...

2024-07-19ai_helper阅读(532)赞(0)

Llama 3 构建语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成 www.aidoczh.com已经系统的将LangChain官网文档翻译成中文，您可以去http://www.aidoczh.co...