from sklearn.datasets import load_iris
from slearn.model_selection import train_test_split
from numpy as np
iris = load_iris()
X = iris.data
y = iris.target
X_train,X_test,y_train,y_test = train_test_split(X,y,test_size=0.2,random_state=42)
print(X_train.shape)
print(y_train.shape)
print(X_test.shape)
print(y_test.shape)
from sklearn.preprocessing import MinMaxSclarer
scaler = MinMaxScaler()
X_train = scaler.fit_transform(X_train)
X_test = scaler.transform(X_test)
X_train = torch.FloatTensor(X_train)
y_train = torch.LongTensor(y_train)
X_test = torch.FloatTensor(X_test)
y_test = torch.LongTensor(y_test)
1. X_train = torch.FloatTensor(X_train)
将原始的训练特征数据 X_train 转换为 torch.FloatTensor 类型的张量。 torch.FloatTensor 是 PyTorch 中用于存储 32 位浮点数的张量类型,在深度学习中,模型的输入数据通常需要是浮点数类型。
2. y_train = torch.LongTensor(y_train)
功能 :将原始的训练标签数据 y_train 转换为 torch.LongTensor 类型的张量。 torch.LongTensor 是 PyTorch 中用于存储 64 位整数的张量类型,在分类任务中,标签通常是整数类型,因此需要将其转换为 LongTensor 类型。
import torch
import torch.nn as nn
import torch.optim as optim
clas MLP(nn.Module):
def __int__(self):
super(MLP,self).__init__()
self.fc1 = nn.Linear(4,10)
self.relu = nn.ReLU()
self.fc2 = nn.Linear(10,3)
def forward(self,x)
out = self.fc1(x)
out = self.relu(put)
out = self.fc2(out)
return out
model = MLP()
out = self.fc1(x)
- 功能 :将输入数据 x 传入全连接层 fc1 进行线性变换,得到隐藏层的线性输出。
- 参数 : x 是输入数据。
out = self.relu(out)
- 功能 :将 fc1 的输出 out 传入 ReLU 激活函数进行非线性变换,给网络引入非线性。
- 参数 : out 是 fc1 的输出。
out = self.fc2(out)
- 功能 :将经过激活函数处理后的隐藏层输出 out 传入全连接层 fc2 ,得到最终的输出。
- 参数 : out 是经过 ReLU 激活函数处理后的隐藏层输出。
criterion = nn.CrossEntropyLoss()
# 使用随机梯度下降优化器
optimizer = optim.SGD(model.parameters(), lr=0.01)
num_epochs = 20000 # 训练的轮数
# 用于存储每个 epoch 的损失值
losses = []
for epoch in range(num_epochs): # range是从0开始,所以epoch是从0开始
# 前向传播
outputs = model.forward(X_train) # 显式调用forward函数
# outputs = model(X_train) # 常见写法隐式调用forward函数,其实是用了model类的__call__方法
loss = criterion(outputs, y_train) # output是模型预测值,y_train是真实标签
# 反向传播和优化
optimizer.zero_grad() #梯度清零,因为PyTorch会累积梯度,所以每次迭代需要清零,梯度累计是那种小的bitchsize模拟大的bitchsize
loss.backward() # 反向传播计算梯度
optimizer.step() # 更新参数
# 记录损失值
losses.append(loss.item())
# 打印训练信息
if (epoch + 1) % 100 == 0: # range是从0开始,所以epoch+1是从当前epoch开始,每100个epoch打印一次
print(f'Epoch [{epoch+1}/{num_epochs}], Loss: {loss.item():.4f}')
import matplotlib.pyplot as plt
# 可视化损失曲线
plt.plot(range(num_epochs), losses)
plt.xlabel('Epoch')
plt.ylabel('Loss')
plt.title('Training Loss over Epochs')
plt.show()