第三十三天打卡

发布于:2025-05-24 ⋅ 阅读:(13) ⋅ 点赞:(0)


 

from sklearn.datasets import load_iris
from slearn.model_selection import train_test_split
from numpy as np

iris = load_iris()
X = iris.data
y = iris.target
X_train,X_test,y_train,y_test = train_test_split(X,y,test_size=0.2,random_state=42)
print(X_train.shape)
print(y_train.shape)
print(X_test.shape)
print(y_test.shape)

from sklearn.preprocessing import MinMaxSclarer
scaler = MinMaxScaler()
X_train = scaler.fit_transform(X_train)
X_test = scaler.transform(X_test)

X_train = torch.FloatTensor(X_train)
y_train = torch.LongTensor(y_train)
X_test = torch.FloatTensor(X_test)
y_test = torch.LongTensor(y_test)

 1. X_train = torch.FloatTensor(X_train)
将原始的训练特征数据 X_train 转换为 torch.FloatTensor 类型的张量。 torch.FloatTensor 是 PyTorch 中用于存储 32 位浮点数的张量类型,在深度学习中,模型的输入数据通常需要是浮点数类型。

 2. y_train = torch.LongTensor(y_train)
功能 :将原始的训练标签数据 y_train 转换为 torch.LongTensor 类型的张量。 torch.LongTensor 是 PyTorch 中用于存储 64 位整数的张量类型,在分类任务中,标签通常是整数类型,因此需要将其转换为 LongTensor 类型。 

import torch
import torch.nn as nn
import torch.optim as optim 
clas MLP(nn.Module):
    def __int__(self):
        super(MLP,self).__init__()
        self.fc1 = nn.Linear(4,10)
        self.relu = nn.ReLU()
        self.fc2 = nn.Linear(10,3)

    def forward(self,x)
        out = self.fc1(x)
        out = self.relu(put)
        out = self.fc2(out)
        return out

model = MLP()

out = self.fc1(x)
- 功能 :将输入数据 x 传入全连接层 fc1 进行线性变换,得到隐藏层的线性输出。
- 参数 : x 是输入数据。

out = self.relu(out)
- 功能 :将 fc1 的输出 out 传入 ReLU 激活函数进行非线性变换,给网络引入非线性。
- 参数 : out 是 fc1 的输出。

out = self.fc2(out)
- 功能 :将经过激活函数处理后的隐藏层输出 out 传入全连接层 fc2 ,得到最终的输出。
- 参数 : out 是经过 ReLU 激活函数处理后的隐藏层输出。

criterion = nn.CrossEntropyLoss()

# 使用随机梯度下降优化器
optimizer = optim.SGD(model.parameters(), lr=0.01)

num_epochs = 20000 # 训练的轮数

# 用于存储每个 epoch 的损失值
losses = []

for epoch in range(num_epochs): # range是从0开始,所以epoch是从0开始
    # 前向传播
    outputs = model.forward(X_train)   # 显式调用forward函数
    # outputs = model(X_train)  # 常见写法隐式调用forward函数,其实是用了model类的__call__方法
    loss = criterion(outputs, y_train) # output是模型预测值,y_train是真实标签

    # 反向传播和优化
    optimizer.zero_grad() #梯度清零,因为PyTorch会累积梯度,所以每次迭代需要清零,梯度累计是那种小的bitchsize模拟大的bitchsize
    loss.backward() # 反向传播计算梯度
    optimizer.step() # 更新参数

    # 记录损失值
    losses.append(loss.item())

    # 打印训练信息
    if (epoch + 1) % 100 == 0: # range是从0开始,所以epoch+1是从当前epoch开始,每100个epoch打印一次
        print(f'Epoch [{epoch+1}/{num_epochs}], Loss: {loss.item():.4f}')


import matplotlib.pyplot as plt
# 可视化损失曲线
plt.plot(range(num_epochs), losses)
plt.xlabel('Epoch')
plt.ylabel('Loss')
plt.title('Training Loss over Epochs')
plt.show()

@浙大疏锦行


网站公告

今日签到

点亮在社区的每一天
去签到