标签：LLM

2025-03-23DriftingDancer阅读(411)赞(0)

前言 在当今人工智能技术日益成熟的背景下，大模型语言模型的应用越来越广泛。作为一名AI爱好者，我测试了五个平台的大模型，分别是ChatGPT、讯飞星火认知大模型、文心一言、昆仑天工和通义千问。通过对这五个平台的提问并得到其回答结果，我深刻感...

2025-03-22ai_helper阅读(405)赞(0)

1.Open LLM Leaderboard – 开放式LLM排行榜 测评地址：https://huggingface.co/spaces/open-llm-leaderboard/open_llm_leaderboard 说明...

2025-03-22DriftingDancer阅读(510)赞(0)

目录 1. 前言 2.大模型微调概念简述 2.1. 按学习范式分类 2.2. 按参数更新范围分类 2.3. 大模型微调框架简介 3. DeepSpeek R1大模型微调实战 3.1.LLaMA-Factory基础环境安装 3.1大模型下载 ...

2025-03-21CrystalEyes阅读(805)赞(0)

前言 LLM推理优化系统工程概述 截止到目前市面上比较主流的基于文字生成影像的模型都是基于了3大部分组成的。 Encoder Model ， Generation Model ，Decoder Model。并且这三个部分是分开训练，然后组合...

2025-03-21CrystalEyes阅读(364)赞(0)

Stable Diffusion 3 和 Sora 一样采用了 diffusion transformer 架构。 继 OpenAI 的 Sora 连续一周霸屏后，昨晚，生成式 AI 顶级技术公司 Stability AI 也放了一个大招 ...

2025-03-21FrozenEmbers阅读(318)赞(0)

文章目录 前言 一、LLaMA 3.1 的特点 二、LLaMA3.1的优势 三、LLaMA3.1部署流程 （一）创建实例 （二）通过JupyterLab登录实例 （3）部署LLaMA3.1 （4）使用教程 总结 前言 LLama3.1 是 ...

2025-03-21LunarEclipse阅读(397)赞(0)

本文收录于专栏：精通AI实战千例专栏合集 https://blog.csdn.net/weixin_52908342/category_11863492.html 从基础到实践，深入学习。无论你是初学者还是经验丰富的老手，对于本专栏案例和项...

2025-03-21EnigmaticGaze阅读(779)赞(0)

经过 Seal 研发团队几个月来持续的开发和测试，我们满怀期待及热情地发布新的产品 GPUStack，GPUStack 是一个用于运行LLM（大型语言模型）的开源GPU集群管理器。尽管如今大语言模型作为公共的云上服务已经被广泛推广并在公有云...

2025-03-21CelestialVoyager阅读(557)赞(0)

deepseek官网 1、直接访问DeepSeek的官方网站 https://www.deepseek.com/，进行注册并登录使用。 deepseek根据报道说的是很早就注册了顶级域名，所以直接访问ai.com直接访问deepseek官网...

2025-03-20LunarEclipse阅读(989)赞(0)

1.背景 上一篇文章写到，【个人开发】macbook m1 Lora微调qwen大模型 该微调方式，同样适用于GPU，只不过在train.py脚本中，针对device，调整为cuda即可。 如果数据量过大的话，单卡微调会存在瓶颈，因此考虑多...