标签：LLM

2025-01-29EnchantedScribe阅读(441)赞(0)

今天给大家带来了一篇超级详细的教程,手把手教你如何对大语言模型进行微调(Fine Tuning)！（代码和详细解释放在后文） 目录 大语言模型进行微调(Fine Tuning)需要哪些步骤？ 大语言模型进行微调(Fine Tuning)训练...

2025-01-29LunarFrost阅读(440)赞(0)

LLMs之TorchServe ：基于TorchServe 和 vLLM 部署和构建高效、可扩展的 LLM(比如Llama 3.1-70B)服务解决方案及其代码示例—将 vLLM 推理引擎全新地原生集成到 TorchServe 中 导读：这...

2025-01-29LunarEclipse阅读(991)赞(0)

如何使用Llama-2-7b-chat-hf模型进行对话生成 Llama-2-7b-chat-hf 项目地址: https://gitcode.com/mirrors/NousResearch/Llama-2-7b-chat-hf 引言 在...

2025-01-29ai_helper阅读(680)赞(0)

前言：如果你是一名编程爱好者或者开发者，你一定希望拥有一个强大的助手来帮助你在编码过程中提高效率和准确性吧？今天我要给大家介绍的这个项目绝对会让你眼前一亮——那就是如何在你的本地机器上部署Text generation Web UI，并且搭...

2025-01-29EmberHeart阅读(806)赞(0)

    AnimateDiff插件以“效果丝滑、稳定、无闪烁”等特性，成为目前Stable diffusion中效果最好的生成动画视频插件之一。 AnimateDiff，它的全称是Animate Your Personalized Text...

2025-01-28LunarFrost阅读(250)赞(0)

1. Georgi Gerganov https://github.com/ggerganovhttps://ggerganov.com/ ggml-orghttps://github.com/ggml-org GGML – A...

2025-01-27ElectricStorm阅读(310)赞(0)

1.1克隆 Automatic1111 的 GitHub 仓库 在你想安装 Web UI 的文件夹路径下执行 git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui...

2025-01-27LunarEclipse阅读(256)赞(0)

大家好，我是豆小匠~ 好久没介绍提高效率的工具啦，这次来介绍一个UTools的骚操作，可以极速打开LLM进行提问！ 完成后的效果是： 快捷键调出输入框；2. 输入问题；3. 选择模型；4. 回车提问 这个流程可以大大减少软件切换，打开网站等...

2025-01-27EnigmaticGaze阅读(606)赞(0)

引言 RAG作为减少模型幻觉和让模型分析、回答私域相关知识最简单高效的方式，我们除了使用之外可以尝试了解其是如何实现的。在实现RAG的过程中，最重要的是保证召回的知识的准确性，不然会极大影响LLM的能力，而混合检索是一个重要的方法去提高召回...

2025-01-27EmberGlimmer阅读(340)赞(0)

常见问题解答：关于 Meta Llama 3 8B Instruct GGUF Meta-Llama-3-8B-Instruct-GGUF 项目地址: https://gitcode.com/mirrors/SanctumAI/Meta-L...