标签：标记

2024-07-29EternalWish阅读(358)赞(0)

使用 LlamaIndex 和 Llama 2-Chat 构建知识驱动的对话应用程序 从大量文本中解锁准确且富有洞察力的答案是大型语言模型 (LLM) 所实现的一项令人兴奋的功能。在构建 LLM 应用程序时，通常需要连接和查询外部数据源以为...

2024-07-29GoldenSphinx阅读(423)赞(0)

今天想分享一下 Qwen 1.5 官方用例的二次封装（ huggingface 说明页也有提供源码），其实没有太多的技术含量。主要是想记录一下如何从零开始在不使用第三方工具的前提下，以纯代码的方式本地部署一套大模型，相信这对于技术人员来说还...

2024-07-28FrozenEmbers阅读(765)赞(0)

       本文介绍一个统一音频标记（Audio Tagger）和语音识别（ASR）的模型：Whisper-AT，通过冻结Whisper的主干，并在其之上训练一个轻量级的音频标记模型。Whisper-AT在额外计算成本不到1%的情况下，可...

2024-07-28EnchantedScribe阅读(3499)赞(0)

在深度学习和自然语言处理领域，模型微调是提升预训练模型性能的重要手段。本文将介绍如何使用LlamaFactory进行模型微调，并详细解析一些关键参数，包括 --cutoff_len 1024、--flash_attn auto、--lora...

2024-07-26AstralSeeker阅读(475)赞(0)

对软件开发者来说，学习是必不可少的。技术领域的变化不断：新技术层出不穷，老技术也在不停地更新。因此，开发者们不是仅仅学习编程一次就够了——在他们的职业生涯中，他们需要掌握许多新的编程语言和框架。 我们学习并不意味着我们了解学习的过程。在美国...

2024-07-24ai_helper阅读(26)赞(0)

今天给大家讲解Stable Diffusion的相关知识，Lora的使用 一、Lora是什么 LoRA，英文全称Low-Rank Adaptation of Large Language Models，直译为大语言模型的低阶适应，这是微软的...

2024-07-24CrystalEyes阅读(559)赞(0)

**Stable Diffusion无疑是最近最火的AI绘画工具之一，所以本期给大家带来了全新Stable Diffusion 保姆级教程资料包（文末可获取） 2022年绝对是人工智能爆发的元年，前有 stability.ai 开源 Sta...

2024-07-22CrimsonFeather阅读(911)赞(0)

大家好，我是程序员晓晓 最近我发现有不少朋友在学习了“Stable diffusion”之后，还只是在“玩”这个层次上徘徊。但是，我认为，最重要的，还是要让所有人都能“用”到它。 于是我思考了很久，找出了SD在“应用”层面，最重要的两个功能...

2024-07-20WhimsicalWanderer阅读(344)赞(0)

论量化、蒸馏及效率提升 近来，我频繁地探究如何高效地运用大语言模型 (LLM)。设想这样一个场景：你的老板对你说：“嘿，Finbarr，我们快破产了，因为我们把所有投资者的钱都花在了支持我们那个 300 亿参数、模仿 John Kennet...

2024-07-20CrystalEyes阅读(104)赞(0)

0. 前言 近来，随着新一代 AI 大型聊天机器人 ChatGPT 火遍科技圈，人工智能生成内容( Artificial Intelligence Generated Content, AIGC )这一领域开始受到学术界、工业界甚至普通用户...