本篇内容介绍了“Pytorch+PyG实现GIN的方法是什么”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!
GIN简介
GIN(Graph Isomorphism Network)是一类基于图同构的神经网络。在传统的神经网络中,每个节点的特征只依赖于其自身特征,但在图数据中,节点的特征还与其邻居节点有关系。GIN网络通过定义可重复均值池化运算来学习节点及其邻居的特征表示,并使用多层感知器(MLP)作为逐层转换函数进行特征提取。
实现步骤
数据准备
这里我们仍然选用Cora数据集作为示例数据。由于GIN采用基于点、简单且无参数的邻域聚合方式,因此不需要额外对数据做处理,直接使用即可。
import torch.nn.functional as F from torch_geometric.datasets import Planetoid from torch_geometric.utils import from_networkx, to_networkx # 加载Cora数据集 dataset = Planetoid(root='./cora', name='Cora') data = dataset[0] # 将nx.Graph形式的图转换成PyG需要的格式 graph = to_networkx(data) data = from_networkx(graph) # 获取节点数量和特征向量维度 num_nodes = data.num_nodes num_features = dataset.num_features num_classes = dataset.num_classes # 建立需要训练的节点分割数据集 data.train_mask = torch.zeros(num_nodes, dtype=torch.bool) data.val_mask = torch.zeros(num_nodes, dtype=torch.bool) data.test_mask = torch.zeros(num_nodes, dtype=torch.bool) data.train_mask[:num_nodes - 1000] = True data.test_mask[-1000:] = True data.val_mask[num_nodes - 2000: num_nodes - 1000] = True
实现模型
接下来,我们需要定义GIN模型。
from torch_geometric.nn import global_mean_pool class GIN(torch.nn.Module): def __init__(self, hidden_dim, num_layers): super(GIN, self).__init__() self.conv1 = GINConv(mlp=nn.Sequential(nn.Linear(num_features, hidden_dim), nn.ReLU(), nn.Linear(hidden_dim, hidden_dim))) self.convs = nn.ModuleList() for _ in range(num_layers - 1): self.convs.append(GINConv(mlp=nn.Sequential(nn.Linear(hidden_dim, hidden_dim), nn.ReLU(), nn.Linear(hidden_dim, hidden_dim)))) self.classify = nn.Sequential(nn.Linear(hidden_dim, num_classes)) def forward(self, data): x, edge_index, batch = data.x, data.edge_index, data.batch x = F.relu(self.conv1(x, edge_index)) for conv in self.convs: x = F.relu(conv(x, edge_index)) out = global_mean_pool(x, batch) return self.classify(out)
在上述代码中,我们实现了多层GIN的“可重复均值池化”结构,并使用MLP作为转换函数进行多层特征提取。
模型训练
定义好模型后,可以开始针对Cora数据集进行模型训练了。训练模型前先设置好优化器和损失函数,并指定训练周期及其过程中需要记录输出信息的参数。
from torch_geometric.nn import GINConv, global_add_pool # 初始化GIN并指定参数 num_layers = 5 hidden_dim = 1024 model = GIN(hidden_dim=hidden_dim, num_layers=num_layers).to(device) optimizer = torch.optim.Adam(model.parameters(), lr=0.001, weight_decay=1e-06) loss_func = nn.CrossEntropyLoss() # 开始训练 for epoch in range(100): model.train() optimizer.zero_grad() pred = model(train_data) loss = loss_func(pred[train_mask], train_labels) loss.backward() optimizer.step() # 在各个测试阶段检测一下准确率 with torch.no_grad(): model.eval() pred = model(test_data) test_loss = loss_func(pred[test_mask], test_labels).item() pred = pred.argmax(dim=-1, keepdim=True) correct = float(pred[test_mask].eq(test_labels.view(-1, 1)[test_mask]).sum().item()) acc = correct / test_mask.sum().item() if epoch % 10 == 0: print("Epoch {:03d}, Train Loss {:.4f}, Test Loss {:.4f}, Test Acc {:.4f}".format( epoch, loss.item(), test_loss, acc))