autodl+modelscope推理stable-diffusion-3.5-large

本篇介绍如何在服务器上实现SD3.5模型的加载及推理，不包含训练及微调。

磁盘扩容

autodl服务器在关机状态下，进行扩容：

选择要扩容的大小（比如我这里已经扩了80G，默认有50G免费的），就会有一个计费出来：

扩容完成后配置开机就会自动生效，类似地也可以选择“升级配置”扩卡（如果有需要的话）。

下载模型

下载模型这里，折腾了挺久，还是选择国内源最便捷。魔塔社区有点像HF的意思。
可以使用SDK，或者git clone，也可以选择使用modelscope命令下载（建议用1、3方式下载，可以断点续传）

# 安装modelscope
pip install modelscope

# 下载repo到指定路径
modelscope download --model AI-ModelScope/stable-diffusion-3.5-large --local_dir ./stable-diffusion-3.5-large

默认下载到系统盘路径/root/.cache/modelscope/hub/AI-ModelScope/stable-diffusion-3.5-large，这里需要指定到数据盘路径（虽然它的日志给出了误导人的提示）。

开始推理

使用离线模型文件，修改后的推理脚本：

import torch
from diffusers 

文章来源于互联网:autodl+modelscope推理stable-diffusion-3.5-large

相关推荐: AIGC领域多模态大模型：加速科技创新步伐

AIGC领域多模态大模型：加速科技创新步伐 关键词：AIGC、多模态大模型、深度学习、生成式AI、计算机视觉、自然语言处理、科技创新 摘要：本文深入探讨了AIGC（人工智能生成内容）领域中多模态大模型的技术原理、应用场景和发展趋势。文章首先介绍了多模态大模型的…