标签：LLM

2025-03-14GoldenSphinx阅读(677)赞(0)

        用LLama Factory的微调并导出大模型时.​由于很多模块如之间的依赖关系复杂很容易造成版本冲突,主要涉及到cuda/pytorch/python/auto-gptq/vllm的版本选择.我在AutoDL上经实验了(高...

2025-03-14CrimsonFeather阅读(1129)赞(0)

一、引言         在之前的帖子《Esp32S3通过文心一言大模型实现智能语音对话》中，我们介绍了如何使用Esp32S3微控制器与文心一言大模型实现基本的智能语音对话功能，但受限于语音识别技术，只能处理2-3秒的音频数据。为了提升用户...

2025-03-14EnigmaticGaze阅读(628)赞(0)

（1）使用华为昇腾NPU推理部署DeepSeek 参考博客：华为昇腾推理DeepSeek-R1，性能比肩高端GPU，API免费无限量！潞晨自研推理引擎出手了 来自华为昇腾社区的 MindIE 框架成功适配了 DeepSeek-V3 的 BF...

2025-03-13LunarFrost阅读(666)赞(0)

从早期的 GPT 模型到如今复杂的开放式 LLM，大型语言模型 (LLM) 的发展已经取得了长足的进步。最初，LLM 训练过程仅侧重于预训练，但后来扩展到包括预训练和后训练。后训练通常包括监督指令微调和校准，这是由 ChatGPT 推广的。...

2025-03-13DriftingDancer阅读(1062)赞(0)

一、前言     在人工智能的浪潮里，大语言模型不断迭代更新，DeepSeek-R1-Distill-Qwen-7B 模型凭借出色的表现，吸引着无数开发者的目光。然而，想要将这个强大的模型顺利部署并投入使用，过程却并不轻松。传统的部署方式仿...

2025-03-12FrozenEmbers阅读(389)赞(0)

llama-2-7b模型下载 官网链接 需要申请才能下载，参考如何在国内下载llama模型的思路，我申请了一个gmail邮箱，vpn挂澳大利亚，十分钟内通过了申请。 也可以直接下载hf版本 此外，迅雷云盘下载（来自中文大语言模型 Llama...

2025-03-12EmberHeart阅读(689)赞(0)

在本文中，我将介绍Ollama最近对Llama 3.2 Vision的支持更新，并分享Llama 3.2 Vision的实测结果。同时，我还将介绍一个视觉RAG系统，展示如何将Llama 3.2 Vision与该系统结合，完成基于视觉RAG...

2025-03-12ai_helper阅读(369)赞(0)

我们最近发布了 Redis Copilot，旨在帮助开发者更加高效地使用 Redis 构建应用。提升应用性能，简化构建过程是我们不懈的追求。Redis Copilot 正是为此而生的人工智能助手，助力开发者迅速掌握 Redis 的使用技巧。...

2025-03-12LunarEclipse阅读(611)赞(0)

DeepSeek 的 MLA（Multi-head Latent Attention）框架凭借其独特的技术原理和显著优势，吸引了众多关注。下面将详细解读 MLA 框架。 1. MLA框架的定义与背景 DeepSeek 是一家专注于人工智能技...

2025-03-11LunarEclipse阅读(349)赞(0)

三星承诺 One UI 更新修复Multi Sound问题 三星宣布将在未来One UI系统更新中恢复Android Auto下的Multi Sound功能，这是为了解决Multi Sound功能在不同Android Auto设备上的兼容问...