深圳幻海软件技术有限公司 欢迎您！
更多

Pytorch实现MLP(基于PyTorch实现)

2023-02-28

self data mlp
文章目录前言一、导入相关库二、加载Cora数据集三、定义MLP网络3.1定义MLP层3.1.1定义参数WWW和bbb3.1.2定义传播函数3.1.3MLP层3.2定义MLP网络四、定义模型五、模型训练六、模型验证七、结果完整代码前言大家好，我是阿光。本专栏整理了《图神经网络代码实战》，内包含了不同图

文章目录

  • 前言
  • 一、导入相关库
  • 二、加载Cora数据集
  • 三、定义MLP网络
    • 3.1 定义MLP层
      • 3.1.1 定义参数 W W W 和 b b b
      • 3.1.2 定义传播函数
      • 3.1.3 MLP层
    • 3.2 定义MLP网络
  • 四、定义模型
  • 五、模型训练
  • 六、模型验证
  • 七、结果
  • 完整代码

前言

大家好，我是阿光。

本专栏整理了《图神经网络代码实战》，内包含了不同图神经网络的相关代码实现（PyG以及自实现），理论与实践相结合，如GCN、GAT、GraphSAGE等经典图网络，每一个代码实例都附带有完整的代码。

正在更新中~ ✨

🚨 我的项目环境：

  • 平台：Windows10
  • 语言环境：python3.7
  • 编译器：PyCharm
  • PyTorch版本：1.11.0
  • PyG版本：2.1.0

💥 项目专栏：【图神经网络代码实战目录】

本文我们将使用PyTorch来简易实现一个MLP网络，不使用PyG库，让新手可以理解如何PyTorch来搭建一个简易的图网络实例demo。

一、导入相关库

本项目是采用自己实现的MLP，并没有使用 PyG 库，原因是为了帮助新手朋友们能够对MLP的原理有个更深刻的理解，如果熟悉之后可以尝试使用PyG库直接调用 MLP 这个图层即可。

import torch
import torch.nn as nn
import torch.nn.functional as F
from torch_geometric.utils import scatter
from torch_geometric.datasets import Planetoid
import torch_geometric.nn as pyg_nn

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6

二、加载Cora数据集

本文使用的数据集是比较经典的Cora数据集，它是一个根据科学论文之间相互引用关系而构建的Graph数据集合，论文分为7类，共2708篇。

  • Genetic_Algorithms
  • Neural_Networks
  • Probabilistic_Methods
  • Reinforcement_Learning
  • Rule_Learning
  • Theory

这个数据集是一个用于图节点分类的任务，数据集中只有一张图，这张图中含有2708个节点，10556条边，每个节点的特征维度为1433。

# 1.加载Cora数据集
dataset = Planetoid(root='./data/Cora', name='Cora')

  • 1
  • 2

三、定义MLP网络

3.1 定义MLP层

这里我们就不重点介绍MLP网络了，相信大家能够掌握基本原理，本文我们使用的是PyTorch定义网络层。

对于MLP的常用参数：

  • in_channels：每个样本的输入维度，就是每个节点的特征维度
  • out_channels：经过注意力机制后映射成的新的维度，就是经过GAT后每个节点的维度长度
  • bias：训练一个偏置b

我们在实现时也是考虑这几个常见参数，对于PyG的内置MLP层的参数可能有点复杂，它可以传入一个列表进行多层特征映射，这里为了简单就是实现一个最基本的单层MLP

对于MLP的传播公式为：
H ′ = H W + b H'=HW+b H′=HW+b

上式子中的 H H H 代表每个层的输入特征，也就是每个节点的特征矩阵，如果是第一层，则 H 0 = X H_0=X H0​=X，对于 W W W 代表每个 MLP 层的可学习参数， b b b 代表偏置参数。

所以我们的任务无非就是获取这几个变量，然后进行传播计算即可

3.1.1 定义参数 W W W 和 b b b

这里为了方便实现，直接利用了 Linear() 函数，如果可以的话可以利用最原始的方法使用 w = nn.Parameter(torch.randn(in_channels, out_channels)) 这种方式来定义参数 W W W

# 线性层
self.linear = pyg_nn.dense.linear.Linear(in_channels, out_channels, weight_initializer='glorot', , bias=False)

# 偏置
if bias:
    self.bias = nn.Parameter(torch.Tensor(out_channels, 1))
    self.bias = pyg_nn.inits.glorot(self.bias)
else:
    self.register_parameter('bias', None)

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9

3.1.2 定义传播函数

对于MLP来说，就是一个简单的特征映射，实现一个简单的矩阵乘法而已，所以实现起来较为容易，直接调用定义好的线性层即可，最终加上偏置。

def forward(self, x):
# 1.特征映射
out = self.linear(x)

# 2.添加偏置
if self.bias != None:
    out += self.bias

return out

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9

3.1.3 MLP层

接下来就可以定义MLP层了，该层实现了1个函数，分别是forward()

  • forward()：这个函数定义模型的传播过程，也就是上面公式的 H W HW HW，如果设置了偏置在加上偏置返回即可
# 2.定义MLP层
class MLP(nn.Module):
    def __init__(self, in_channels, out_channels, bias=True):
        super(MLP, self).__init__()
        self.in_channels = in_channels # 输入图节点的特征数
        self.out_channels = out_channels # 输出图节点的特征数
        
        # 线性层
        self.linear = pyg_nn.dense.linear.Linear(in_channels, out_channels, weight_initializer='glorot', bias=False)
        
        # 偏置
        if bias:
            self.bias = nn.Parameter(torch.Tensor(out_channels, 1))
            self.bias = pyg_nn.inits.glorot(self.bias)
        else:
            self.register_parameter('bias', None)
        
    def forward(self, x):
        # 1.特征映射
        out = self.linear(x)
        
        # 2.添加偏置
        if self.bias != None:
            out += self.bias
        
        return out

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26

对于我们实现这个网络的实现效率上来讲比PyG框架内置的 MLP 层稍差一点，因为我们是按照公式来一步一步利用矩阵计算得到，没有对矩阵计算以及算法进行优化，不然初学者可能看不太懂，不利于理解MLP公式的传播过程，有能力的小伙伴可以看下官方源码学习一下。

3.2 定义MLP网络

上面我们已经实现好了 MLP 的网络层，之后就可以调用这个层来搭建 MLP 网络。

# 3.定义MLP网络
class Model(nn.Module):
    def __init__(self, num_node_features, num_classes):
        super(Model, self).__init__()
        self.lin_1 = MLP(num_node_features, 16)
        self.lin_2 = MLP(16, num_classes)
        
    def forward(self, data):
        x = data.x
        
        x = self.lin_1(x)
        x = F.relu(x)
        x = F.dropout(x, training=self.training)
        x = self.lin_2(x)
        
        return F.log_softmax(x, dim=1)

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16

上面网络我们定义了两个 MLP 层，第一层的参数的输入维度就是初始每个节点的特征维度，输出维度是16。

第二个层的输入维度为16，输出维度为分类个数，因为我们需要对每个节点进行分类，最终加上softmax操作。

四、定义模型

下面就是定义了一些模型需要的参数，像学习率、迭代次数这些超参数，然后是模型的定义以及优化器及损失函数的定义，和pytorch定义网络是一样的。

device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') # 设备
epochs = 10 # 学习轮数
lr = 0.003 # 学习率
num_node_features = dataset.num_node_features # 每个节点的特征数
num_classes = dataset.num_classes # 每个节点的类别数
data = dataset[0].to(device) # Cora的一张图

# 3.定义模型
model = Model(num_node_features, num_classes).to(device)
optimizer = torch.optim.Adam(model.parameters(), lr=lr) # 优化器
loss_function = nn.NLLLoss() # 损失函数

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11

五、模型训练

模型训练部分也是和pytorch定义网络一样，因为都是需要经过前向传播、反向传播这些过程，对于损失、精度这些指标可以自己添加。

# 训练模式
model.train()

for epoch in range(epochs):
    optimizer.zero_grad()
    pred = model(data)
    
    loss = loss_function(pred[data.train_mask], data.y[data.train_mask]) # 损失
    correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() # epoch正确分类数目
    acc_train = correct_count_train / data.train_mask.sum().item() # epoch训练精度
    
    loss.backward()
    optimizer.step()
    
    if epoch % 20 == 0:
        print("【EPOCH: 】%s" % str(epoch + 1))
        print('训练损失为：{:.4f}'.format(loss.item()), '训练精度为：{:.4f}'.format(acc_train))

print('【Finished Training！】')

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19

六、模型验证

下面就是模型验证阶段，在训练时我们是只使用了训练集，测试的时候我们使用的是测试集，注意这和传统网络测试不太一样，在图像分类一些经典任务中，我们是把数据集分成了两份，分别是训练集、测试集，但是在Cora这个数据集中并没有这样，它区分训练集还是测试集使用的是掩码机制，就是定义了一个和节点长度相同纬度的数组，该数组的每个位置为True或者False，标记着是否使用该节点的数据进行训练。

# 模型验证
model.eval()
pred = model(data)

# 训练集（使用了掩码）
correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()
acc_train = correct_count_train / data.train_mask.sum().item()
loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()

# 测试集
correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()
acc_test = correct_count_test / data.test_mask.sum().item()
loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()

print('Train Accuracy: {:.4f}'.format(acc_train), 'Train Loss: {:.4f}'.format(loss_train))
print('Test  Accuracy: {:.4f}'.format(acc_test), 'Test  Loss: {:.4f}'.format(loss_test))

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16

七、结果

【EPOCH: 】1
训练损失为：1.9460 训练精度为：0.2071
【EPOCH: 】21
训练损失为：1.8583 训练精度为：0.2714
【EPOCH: 】41
训练损失为：1.7751 训练精度为：0.3643
【EPOCH: 】61
训练损失为：1.7049 训练精度为：0.4357
【EPOCH: 】81
训练损失为：1.5710 训练精度为：0.5929
【EPOCH: 】101
训练损失为：1.4686 训练精度为：0.6214
【EPOCH: 】121
训练损失为：1.3101 训练精度为：0.7286
【EPOCH: 】141
训练损失为：1.2317 训练精度为：0.7143
【EPOCH: 】161
训练损失为：1.2142 训练精度为：0.7571
【EPOCH: 】181
训练损失为：1.0434 训练精度为：0.8214
【Finished Training！】

>>>Train Accuracy: 0.9929 Train Loss: 0.8560
>>>Test  Accuracy: 0.3910 Test  Loss: 1.7350

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
训练集测试集
Accuracy0.99290.3910
Loss0.85601.7350

完整代码

import torch
import torch.nn as nn
import torch.nn.functional as F
from torch_geometric.utils import scatter
from torch_geometric.datasets import Planetoid
import torch_geometric.nn as pyg_nn

# 1.加载Cora数据集
dataset = Planetoid(root='../data/Cora', name='Cora')

# 2.定义MLP层
class MLP(nn.Module):
    def __init__(self, in_channels, out_channels, bias=True):
        super(MLP, self).__init__()
        self.in_channels = in_channels # 输入图节点的特征数
        self.out_channels = out_channels # 输出图节点的特征数
        
        # 线性层
        self.linear = pyg_nn.dense.linear.Linear(in_channels, out_channels, weight_initializer='glorot', bias=False)
        
        # 偏置
        if bias:
            self.bias = nn.Parameter(torch.Tensor(out_channels, 1))
            self.bias = pyg_nn.inits.glorot(self.bias)
        else:
            self.register_parameter('bias', None)
        
    def forward(self, x):
        # 1.特征映射
        out = self.linear(x)
        
        # 2.添加偏置
        if self.bias != None:
            out += self.bias
        
        return out

# 3.定义MLP网络
class Model(nn.Module):
    def __init__(self, num_node_features, num_classes):
        super(Model, self).__init__()
        self.lin_1 = MLP(num_node_features, 16)
        self.lin_2 = MLP(16, num_classes)
        
    def forward(self, data):
        x = data.x
        
        x = self.lin_1(x)
        x = F.relu(x)
        x = F.dropout(x, training=self.training)
        x = self.lin_2(x)
        
        return F.log_softmax(x, dim=1)

device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') # 设备
epochs = 200 # 学习轮数
lr = 0.0003 # 学习率
num_node_features = dataset.num_node_features # 每个节点的特征数
num_classes = dataset.num_classes # 每个节点的类别数
data = dataset[0].to(device) # Cora的一张图

# 4.定义模型
model = Model(num_node_features, num_classes).to(device)
optimizer = torch.optim.Adam(model.parameters(), lr=lr) # 优化器
loss_function = nn.NLLLoss() # 损失函数

# 训练模式
model.train()

for epoch in range(epochs):
    optimizer.zero_grad()
    pred = model(data)
    
    loss = loss_function(pred[data.train_mask], data.y[data.train_mask]) # 损失
    correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() # epoch正确分类数目
    acc_train = correct_count_train / data.train_mask.sum().item() # epoch训练精度
    
    loss.backward()
    optimizer.step()
    
    if epoch % 20 == 0:
        print("【EPOCH: 】%s" % str(epoch + 1))
        print('训练损失为：{:.4f}'.format(loss.item()), '训练精度为：{:.4f}'.format(acc_train))

print('【Finished Training！】')

# 模型验证
model.eval()
pred = model(data)

# 训练集（使用了掩码）
correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()
acc_train = correct_count_train / data.train_mask.sum().item()
loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()

# 测试集
correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()
acc_test = correct_count_test / data.test_mask.sum().item()
loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()

print('Train Accuracy: {:.4f}'.format(acc_train), 'Train Loss: {:.4f}'.format(loss_train))
print('Test  Accuracy: {:.4f}'.format(acc_test), 'Test  Loss: {:.4f}'.format(loss_test))

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34
  • 35
  • 36
  • 37
  • 38
  • 39
  • 40
  • 41
  • 42
  • 43
  • 44
  • 45
  • 46
  • 47
  • 48
  • 49
  • 50
  • 51
  • 52
  • 53
  • 54
  • 55
  • 56
  • 57
  • 58
  • 59
  • 60
  • 61
  • 62
  • 63
  • 64
  • 65
  • 66
  • 67
  • 68
  • 69
  • 70
  • 71
  • 72
  • 73
  • 74
  • 75
  • 76
  • 77
  • 78
  • 79
  • 80
  • 81
  • 82
  • 83
  • 84
  • 85
  • 86
  • 87
  • 88
  • 89
  • 90
  • 91
  • 92
  • 93
  • 94
  • 95
  • 96
  • 97
  • 98
  • 99
  • 100
  • 101
  • 102
文章知识点与官方知识档案匹配，可进一步学习相关知识
Python入门技能树人工智能深度学习237925 人正在系统学习中
AI人工智能研习社
微信公众号
主要分享前沿的论文动态
ACM基础(一)
国产数据库，又有好消息！