标签：LLM

2024-06-17EnchantedScribe阅读(670)赞(0)

目前，绝大多数大模型运行在云端服务器，终端设备通过调用api的方式获得回复。但这种方式有几个缺点：首先，云api要求设备始终在线，这对于部分需要在无互联网接入的情况运行的设备很不友好；其次，云api的调用需要消耗流量费，用户可能不想支付这部...

2024-06-17FrozenEmbers阅读(778)赞(0)

1. llama 3 微调基础 1.1 llama 3 简介 官方blog llama 3 目前有两个版本：8B版和70B版。8B版本拥有8.03B参数，其尺寸较小，可以在消费者硬件上本地运行。 meta-llama/Meta-Llama-...

2024-06-16EnchantedScribe阅读(1654)赞(0)

在AIGC中，Embedding模型是一种将文本数据转换为多维向量数组的技术，这些向量可以代表任何事物，如文本、音乐、视频等[2]。有几种不同的Embedding模型，它们各有其优势和应用领域。 Word2vec：这是一种经典的嵌入模型，通...

2024-06-15GoldenSphinx阅读(441)赞(0)

随着ChatGPT 和open Sora 的热度剧增,大语言模型时代,开启了AI新篇章,大语言模型的应用非常广泛，包括聊天机器人、智能客服、自动翻译、写作助手等。它们可以根据用户输入的文本生成相应的响应，提供个性化的建议和服务,目前大部分大...

2024-06-15AstralSeeker阅读(511)赞(0)

上文说过了index.py的send_msg函数后。今天说一下主函数： 主函数整体就是一个大的无限循环：while True : 整个大循环分为了俩部分： 1. 自动插嘴算法 ：每过几分钟，AI机器人就会读取群最近的20条消息，并进行总结后...

2024-06-14LunarEclipse阅读(365)赞(0)

👀日报&周刊合集 | 🎡生产力工具与行业应用大全 | 🧡 点赞关注评论拜托啦！ 🉑 国产大模型进入生态构建阶段，纷纷出炉开发者激励计划 https://www.moonshot.cn 2月5日，月之暗面 Moonshot AI 开放...

2024-06-14AuroraBorealis阅读(1249)赞(0)

NLP国内外大模型汇总列表[文心一言、智谱、百川、星火、通义千问、盘古等等] 中国大模型列表大全，全面收集有明确来源的大模型情况，包括机构、来源信息和分类等，随时更新。 Awesome family related to LLMS incl...

2024-06-14ElectricStorm阅读(424)赞(0)

万众瞩目的Stable Diffusion 3.终于要正式开源了! 几天前，在Computex 2024大会上，Stability AI联合首席执行官Christian Laforte正式官宣：SD 3 Medium将在6月12日公开发布。...

2024-06-14CrimsonFeather阅读(442)赞(0)

万众瞩目的Stable Diffusion 3 终于要正式开源了! 在上周的在Computex 2024大会上，Stability AI联合首席执行官Christian Laforte在 AMD 的发布活动上作为受邀嘉宾登台宣布：SD 3 ...

2024-06-13EmberHeart阅读(2774)赞(0)

本文详细介绍了如何使用LM Studio和Anything LLM工具来构建和部署本地知识库。文中首先解释了安装和配置大模型的步骤，随后展示了如何将模型部署为后台服务，并通过API进行调用。此外，文章还涉及了如何使用这些工具快速构建知识库应...