|
|
# 基于深度学习的语音情感识别系统
|
|
|
|
|
|
## 1 项目概述
|
|
|
本项目是一个基于深度学习的语音情感识别系统，使用 **PyTorch** 实现。该系统能够从音频中识别 **6种不同的情感状态**：愤怒、恐惧、开心、中性、悲伤和惊讶。项目实现了完整的数据处理、模型训练和评估流程，并提供了友好的图形用户界面（GUI）进行实时预测。
|
|
|
|
|
|
### 1.1 数据集
|
|
|
本项目使用的数据集来自 [百度AI Studio 的情感语音数据集](https://aistudio.baidu.com/datasetdetail/221024)。数据集包含以下信息：
|
|
|
- **类别**：生气、恐惧、开心、正常、伤心、惊讶，共6种类别。
|
|
|
- **样本数量**：每类50个样本，总计300条数据。
|
|
|
- **格式**：音频文件为 `.wav` 格式。
|
|
|
### 1.2 模型性能概述
|
|
|
| 模型 | 特征类型 | 准确率 | F1得分 | 备注 |
|
|
|
|------|---------|-------|-------|------|
|
|
|
| ResNet18 | MFCC频谱图 | 73.3% | 74.4% | 使用预训练权重 |
|
|
|
| ResNet18 | 原始波形 | 80.0% | 78.0% | 不使用预训练权重 |
|
|
|
|
|
|
### 1.3 目录说明
|
|
|
```
|
|
|
|
|
|
|
|-- checkpoints/ # 保存训练好的模型
|
|
|
| |-- <model_name>_<timestamp>
|
|
|
| | |-- plots/ # 保存训练过程中的图像
|
|
|
| | |-- results.txt # 保存评价指标
|
|
|
| | |-- <model_name>_best.pth # 保存最佳模型
|
|
|
| |-- ...
|
|
|
|
|
|
|
|-- dataset/ # 划分后的数据集根目录
|
|
|
| |-- train/ # 训练集
|
|
|
| | |-- <emotion>/
|
|
|
| | | |-- <audio_file>.wav
|
|
|
| | |-- ...
|
|
|
| |-- val/ # 验证集
|
|
|
| |-- <emotion>/
|
|
|
| | |-- <audio_file>.wav
|
|
|
| |-- ...
|
|
|
|
|
|
|
|-- wav # 原始音频数据集
|
|
|
| |-- <emotion>/
|
|
|
| | |-- <audio_file>.wav
|
|
|
| |-- ...
|
|
|
|
|
|
|
|-- dataset.py # 数据集类
|
|
|
|-- models.py # 模型定义
|
|
|
|-- process_data.py # 数划分数据集
|
|
|
|-- README.md # 项目说明
|
|
|
|-- requirements.txt # 依赖库
|
|
|
|-- SIMSUN.TTC # 字体文件
|
|
|
|-- train.py # 训练脚本
|
|
|
|-- ui.py # 交互界面
|
|
|
```
|
|
|
|
|
|
## 2 环境配置
|
|
|
### 2.1 创建虚拟环境
|
|
|
建议使用 `conda` 创建虚拟环境以避免依赖冲突：
|
|
|
```shell
|
|
|
conda create -n audio_classification python=3.10
|
|
|
conda activate audio_classification
|
|
|
```
|
|
|
|
|
|
|
|
|
### 2.2 安装 `PyTorch` 及相关库
|
|
|
请根据 PyTorch 官方[安装指南](https://pytorch.org/get-started/locally/) 安装适合自己硬件版本的 `torch`、`torchvision` 和 `torchaudio`。
|
|
|
|
|
|
### 2.3 安装依赖库
|
|
|
运行以下命令安装项目所需的其他依赖库：
|
|
|
|
|
|
|
|
|
```shell
|
|
|
pip install -r requirements.txt
|
|
|
```
|
|
|
|
|
|
## 3 运行说明
|
|
|
### 3.1 数据集划分
|
|
|
将原始数据集划分为训练集和验证集。运行以下命令：
|
|
|
```shell
|
|
|
python process_data.py
|
|
|
```
|
|
|
您可以通过命令行参数控制数据集根目录、验证集比例等。更多参数说明请参考文档 [process_data.md](doc/process_data.md)。
|
|
|
### 3.2 训练模型
|
|
|
|
|
|
运行以下命令开始训练模型。您可以通过命令行参数灵活调整超参数。
|
|
|
|
|
|
#### 基本运行（使用默认参数）
|
|
|
```python
|
|
|
python train.py
|
|
|
```
|
|
|
|
|
|
#### 调整模型和超参数
|
|
|
例如，使用 MFCC 频谱图作为输入特征，选择 ResNet34 模型，并启用预训练权重：
|
|
|
```python
|
|
|
python train.py --use_mfcc --model spec_resnet34 --pretrained --batch_size 32 --epochs 50 --lr 0.0005 --scheduler
|
|
|
```
|
|
|
完整的参数说明请参考文档 [train.md](doc/train.md)。
|
|
|
### 3.3 交互界面
|
|
|
运行以下命令启动图形用户界面，进行实时预测：
|
|
|
|
|
|
|
|
|
```shell
|
|
|
python ui.py
|
|
|
```
|
|
|
## 4 功能特点
|
|
|
1. **完整的训练流程**
|
|
|
|
|
|
包含数据加载、模型训练、验证和测试的全流程，方便用户快速上手。
|
|
|
|
|
|
2. **多种模型选择**
|
|
|
|
|
|
支持不同规模的 ResNet 模型（如 ResNet18、ResNet34），并支持原始音频和 MFCC 频谱图作为输入特征。
|
|
|
3. **超参数控制**
|
|
|
|
|
|
用户可通过命令行参数灵活调整学习率、批量大小、训练轮数等超参数。
|
|
|
|
|
|
4. **丰富的评估指标**
|
|
|
|
|
|
提供准确率、精确度、召回率、F1分数、混淆矩阵等评价指标，帮助用户全面评估模型性能。
|
|
|
5. 自动绘图：
|
|
|
- 训练和验证损失曲线
|
|
|
- 准确率曲线
|
|
|
- 精确度曲线
|
|
|
- 召回率曲线
|
|
|
- F1分数曲线
|
|
|
- 混淆矩阵
|
|
|
- PR曲线
|
|
|
|
|
|
|
|
|
|
|
|
|
