使用 Conda 部署 Whisper 模型

1. 创建 Conda 环境

首先，我们需要为 Whisper 创建一个新的 Conda 环境，这样可以隔离项目的依赖，避免和其他项目的库产生冲突。

1.1 创建环境

打开终端并运行以下命令创建一个新的 Conda 环境（这里我们使用 Python 3.8 版本）：

conda create -n whisper-env python=3.8

该命令会创建一个名为 whisper-env 的新环境，并安装指定版本的 Python。

1.2 激活环境

创建完环境后，运行以下命令激活环境：

conda activate whisper-env

激活环境后，你的所有操作都将在该环境内进行。记得在使用完环境后，可以通过以下命令退出环境：

conda deactivate

2. 安装 Whisper 和依赖

Whisper 模型依赖于 PyTorch、ffmpeg 等多个库。接下来我们将安装这些依赖。

2.1 安装 PyTorch

Whisper 依赖于 PyTorch，且支持 GPU 加速。如果你的机器有 NVIDIA GPU，可以安装支持 CUDA 的版本来加速计算。如果没有 GPU，可以安装 CPU 版本。

安装 GPU 版本的 PyTorch（支持 CUDA 11.8）：

conda install pytorch torchvision torchaudio cudatoolkit=11.8 -c pytorch

如果没有 GPU，安装 CPU 版本：

conda install pytorch torchvision torchaudio cpuonly -c pytorch

2.2 安装 Whisper

Whisper 模型可以通过 pip 从 GitHub 安装。运行以下命令来安装 Whisper：

pip install git+https://github.com/openai/whisper.git

2.3 安装 FFmpeg

Whisper 依赖于 ffmpeg 来处理音频文件格式。可以通过 Conda 安装 ffmpeg：

conda install -c conda-forge ffmpeg

3. 测试 Whisper 模型

安装完成后，接下来我们可以测试 Whisper 是否正常工作。

3.1 测试代码

打开 Python 交互式终端或创建一个 Python 脚本，运行以下代码：

python
复制代码
import whisper

3.2 加载 Whisper 模型

model = whisper.load_model(“base”)

3.3 转录本地音频文件

result = model.transcribe(“your_audio_file.mp3”)

3.4 打印转录文本

print(result["text"])

上述代码会加载 Whisper 的基础模型（base），并对本地的音频文件进行转录。你可以将 “your_audio_file.mp3” 替换成你自己的音频文件路径。转录后的文本将会打印在终端。

4 使用 GPU 加速（可选）

如果你的机器支持 NVIDIA GPU，并且已正确安装了 PyTorch 的 CUDA 版本，可以启用 GPU 加速。在模型加载时，调用 .to(“cuda”) 即可将模型转移到 GPU 上进行计算：

# 将模型加载到 GPU 上
model = whisper.load_model("base").to("cuda")

# 转录音频文件
result = model.transcribe("your_audio_file.mp3")

# 打印转录文本
print(result["text"])
启用 GPU 后，语音转录过程将更加高效，尤其是在处理大量音频数据时。

5. 创建简单的 API 服务

如果你希望将 Whisper 功能暴露为一个 API，便于其他应用程序调用，可以使用 FastAPI 创建一个简单的 Web 服务。

5.1 安装 FastAPI 和 Uvicorn

首先，安装 FastAPI 和 Uvicorn：

bash
复制代码
pip install fastapi uvicorn

5.2 创建 API

在项目文件夹下，创建一个 whisper_api.py 文件，内容如下：

from fastapi import FastAPI, UploadFile
import whisper
import os

# 加载 Whisper 模型
model = whisper.load_model("base").to("cuda")

app = FastAPI()

@app.post("/transcribe")
async def transcribe(file: UploadFile):
    # 保存上传的音频文件
    temp_file = f"temp_{file.filename}"
    with open(temp_file, "wb") as f:
        f.write(await file.read())

    try:
        # 使用 Whisper 进行音频转录
        result = model.transcribe(temp_file)
        text = result["text"]
    except Exception as e:
        return {"error": str(e)}
    finally:
        os.remove(temp_file)

    return {"transcription": text}

5.3 启动 API 服务

使用以下命令启动 FastAPI 服务：

uvicorn whisper_api:app --reload

FastAPI 服务将在 http://127.0.0.1:8000 上运行。你可以通过 HTTP POST 请求将音频文件发送到 /transcribe 接口，并接收转录结果。

5.4 测试 API

你可以使用 curl 或 Postman 发送 POST 请求进行测试：

curl -X 'POST' 
  'http://127.0.0.1:8000/transcribe' 
  -H 'accept: application/json' 
  -H 'Content-Type: multipart/form-data' 
  -F 'file=@your_audio_file.mp3'

如果一切正常，API 将返回音频文件的转录文本。

彩蛋，附一个AI编写投标文件的小软件

文章来源于互联网:使用 Conda 部署 Whisper 模型

相关推荐: 2025最新【秋叶启动器Stable Diffusion V4.9版本更新教程】来了,附下载链接

做为AI绘画的主流工具之一，Stable Diffusion（简称SD）大部分人都不陌生，用的最多的可能就是秋葉大佬的一键启动整合包。它以资源整合、安装方便、界面友好，自动更新、完全免费，深受广大AI绘画爱好者的欢迎 前两天秋葉大佬更新了2024最新的4.9版…