高维复杂物理建模一直是计算科学里的“硬骨头”。传统的偏微分方程PDE数值解法比如有限元、有限差分在处理规则区域和低维问题时非常成熟但一旦遇到高维空间、不规则几何、多尺度耦合网格生成和计算量就会迅速失控。这几年深度学习给物理建模带来了新思路其中 PINN物理信息神经网络和 GNN图神经网络是两个典型代表。PINN 把物理方程直接嵌入神经网络损失函数GNN 则擅长处理不规则离散域上的信息传播。两者看似方向不同实际在复杂物理建模场景中恰好形成互补。本文将围绕 PINN 与 GNN 的原理、结合方式、完整可运行的实战代码展开帮助读者快速上手这一条科研与技术落地并行的赛道。无论你是正在选题的研究生还是准备用 AI 做仿真加速的工程师这篇文章都会提供一套从概念到代码的闭环方案先拆解 PINN 和 GNN 各自的定位再讲清楚二者如何协同最后用 PyTorch 实现一个“GNN 做空间离散信息聚合 PINN 做连续场重建与物理约束”的小型示例并附上常见报错排查和工程建议。1. 为什么高维复杂物理建模需要“PINN GNN”1.1 PINN 是什么能解决什么问题PINN全称 Physics-Informed Neural Network中文常译为物理信息神经网络。它的核心思想并不复杂普通神经网络只靠数据拟合输入输出映射而 PINN 在训练过程中额外加入物理方程作为约束让网络的输出不仅要符合数据还要符合物理规律。以热传导方程为例假设温度场 (u(x,t)) 满足[ \frac{\partial u}{\partial t} - \alpha \nabla^2 u 0 ]PINN 的做法是让神经网络输出 (\hat{u}(x,t))然后利用自动微分计算它对空间坐标和时间的导数代入控制方程计算残差 (R(x,t))。最终损失函数由三部分构成数据损失在观测点处让预测值逼近真实测量值。PDE 残差损失在配置点collocation points处让控制方程残差趋近于 0。边界/初始条件损失让解满足定解条件。这样训练出来的网络即使观测数据稀疏也能依靠物理约束得到与 PDE 一致的解。PINN 的优势在于无网格、天然适合高维参数化问题并且只需一次训练就能快速预测不同初始条件或边界条件下的解。不过 PINN 也有明显的短板它是一个连续的全局逼近器训练时需要在整个时空域内采样配置点。当问题域形状非常复杂或者解在局部区域变化剧烈时全连接网络很难在有限配置点下捕获局部细节训练也容易陷入局部极小。这时候就需要引入能够感知空间拓扑结构的模块。1.2 GNN 是什么为什么适合物理场GNN图神经网络是专门处理图结构数据的神经网络。它的核心机制是消息传递每个节点聚合邻居节点的特征经过若干层迭代后节点表征逐渐包含局部甚至全局的结构信息。在物理建模中空间离散天然可以抽象成图。比如有限元网格、粒子系统、城市传感器网络、分子结构都能表示成“节点 边”的形式。GNN 能在这个图上做信息的局部传播从而模拟物理量的局部相互作用。相比 PINN 的连续空间建模GNN 的优势体现在三点不规则域适应性强三角形网格、点云、多面体网格都能直接建图不需要规则网格。局部交互刻画自然邻居节点之间的物理量传递正好对应微分方程中的局部导数项。泛化能力好在同一个几何拓扑下训练完成的 GNN可以泛化到不同边界条件或初始条件具备一定的“算子学习”能力。但 GNN 本身并不强制满足物理定律。如果只靠数据训练它学到的可能是数据中的虚假关联而不是真正的物理规律。这正好是 PINN 的强项。1.3 二者互补的核心逻辑PINN 和 GNN 的互补本质上是“物理约束”与“结构信息”的互补。PINN 负责提供物理先验确保输出满足 PDE 和边界条件。GNN 负责提供空间结构编码让模型在复杂离散域上具有更好的局部表达能力和泛化性。在具体实现中GNN 可以完成节点级特征编码和信息交互PINN 则负责从坐标到物理量的连续映射物理损失通过自动微分作用于整个网络。换句话说GNN 让模型“知道数据在空间上如何连接”PINN 让模型“知道物理规律是什么”。两者结合之后模型既能适应复杂几何又能严格遵循物理约束在高维、少量数据、不规则区域等场景下往往比单独使用任一方法更稳定。2. PINN 与 GNN 协同的核心原理拆解2.1 PINN 的损失函数设计PINN 最核心的部分是损失函数。以稳态热传导问题为例PDE 可以写成[ \nabla^2 u f(x, y), \quad (x,y) \in \Omega ]边界条件为[ u(x,y) g(x,y), \quad (x,y) \in \partial\Omega ]神经网络 (u_\theta(x,y)) 的损失函数设计如下import torch def compute_pde_residual(model, coords, f_fn): # coords: (N, 2)f_fn: 源项函数 coords.requires_grad_(True) u model(coords) # 预测场值 # 一阶导数 grads torch.autograd.grad(u, coords, grad_outputstorch.ones_like(u), create_graphTrue)[0] u_x, u_y grads[:, 0], grads[:, 1] # 二阶导数 u_xx torch.autograd.grad(u_x, coords, grad_outputstorch.ones_like(u_x), create_graphTrue)[0][:, 0] u_yy torch.autograd.grad(u_y, coords, grad_outputstorch.ones_like(u_y), create_graphTrue)[0][:, 1] pde_residual u_xx u_yy - f_fn(coords) return torch.mean(pde_residual ** 2)这里的关键点是create_graphTrue。只有开启这个参数反向传播时才能对一阶导数继续求导从而计算出二阶导数。这也是 PINN 初学者最容易忽略的地方。总损失可以表示为loss loss_data lambda_pde * loss_pde lambda_bc * loss_bc其中loss_data观测点监督损失。loss_pde内部配置点处的 PDE 残差。loss_bc边界条件损失。lambda_pde和lambda_bc权重系数控制各项在总损失中的占比。权重系数的调节是个反复实验的过程。一般来说PDE 残差权重不宜过大否则会压制数据拟合也不宜过小否则物理约束形同虚设。实际工程中通常会先固定loss_data权重为 1再逐步调节其它两项。2.2 GNN 的消息传递机制GNN 里最经典的是 GCN 和图注意力网络。以 GCN 为例节点 (i) 在第 (l1) 层的特征更新方式为[ h_i^{(l1)} \sigma\left( \sum_{j \in \mathcal{N}(i) \cup {i}} \frac{1}{\sqrt{\hat{d}_i \hat{d}_j}} W^{(l)} h_j^{(l)} \right) ]其中 (\mathcal{N}(i)) 是节点 (i) 的邻居集合(\hat{d}) 是带自环的度(W^{(l)}) 是第 (l) 层的可学习权重矩阵(\sigma) 是激活函数。PyTorch GeometricPyG中实现 GCN 非常简单import torch import torch.nn.functional as F from torch_geometric.nn import GCNConv class GCNEncoder(torch.nn.Module): def __init__(self, in_dim, hidden_dim, out_dim): super().__init__() self.conv1 GCNConv(in_dim, hidden_dim) self.conv2 GCNConv(hidden_dim, out_dim) def forward(self, x, edge_index): x self.conv1(x, edge_index) x F.relu(x) x self.conv2(x, edge_index) return x从物理直觉来看GCN 的每一次消息传递相当于让每个节点“打听”周围邻居的状态然后更新自己。多层堆叠后节点能感知到更远范围的影响这和偏微分方程中局部相互作用、信息有限传播的性质非常一致。需要说明的是在实际物理建模中边不一定表示空间邻接关系也可能表示物质间的相互作用、传感器之间的通信关系、分子间的化学键等。图的结构定义决定了 GNN 能捕获什么样的物理先验。2.3 结合模式并行联合训练还是串行特征注入PINN 与 GNN 的结合方式目前没有绝对统一的标准但大体可以分成两类模式一GNN 作为编码器PINN 作为解码器这是最常见的一种。输入坐标、节点属性、边界信息先经过 GNN 进行图上的信息聚合得到每个节点的高维表征然后把这个表征与原始坐标拼接输入到 PINN 的解码器多层感知机中输出物理场预测值。这种模式的优势是结构清晰GNN 负责局部特征MLP 负责连续映射物理约束可以很自然地作用在最终输出上。模式二交替迭代GNN 负责模拟物理量在离散节点上的传播PINN 负责修正连续场的残差两者交替更新。这种模式思想更接近数值计算中的“网格修正”但实现复杂度高训练稳定性也更难保证。本文实战部分采用第一种模式。它更容易落地也足以说明 PINN 与 GNN 的互补机理。3. 环境准备与项目结构3.1 环境依赖本文的示例以 Python 和 PyTorch 为基础。建议使用 conda 或 venv 创建独立环境避免依赖冲突。核心依赖如下Python 3.9具体版本根据本机环境调整PyTorch 2.xPyTorch GeometricPyGNumPyMatplotlib用于可视化验证PyTorch Geometric 的安装方式比较特殊建议先安装 PyTorch再根据 PyTorch 版本安装对应编译版本的 PyGpip install torch pip install torch-geometric如果你需要安装 CPU 版本的 PyTorch可以使用pip install torch --index-url https://download.pytorch.org/whl/cpu然后安装 PyG 依赖pip install torch-scatter torch-sparse torch-cluster torch-spline-conv -f https://data.pyg.org/whl/torch-2.0.0cpu.html注意上面的 URL 中的torch-2.0.0cpu需要替换为你实际安装的 PyTorch 版本。不同 PyTorch 版本对应不同的预编译包。如果安装失败可以不装扩展库PyG 的核心功能依赖这些加速包但部分算子会退回纯 Python 实现性能稍低。为了便于复现建议锁定关键依赖的大版本范围pip install numpy matplotlib版本不需要完全一致但 PyTorch 与 PyG 之间需要保持兼容。如果你在安装阶段报编译错误优先检查 PyTorch 版本和 PyG 版本是否匹配。3.2 项目文件结构本示例项目结构如下pinn_gnn_demo/ ├── main.py # 训练主脚本 ├── model.py # GNNPINN 模型定义 ├── data_utils.py # 数据构造与图构建 ├── train.py # 训练循环与损失计算 └── requirements.txt # 依赖清单为了减少文件跳转的复杂度本文在讲解时会按逻辑拆分代码实际使用时可以把代码合并到一个脚本中。下面我们开始一步步实现。4. 实战GNN PINN 求解二维热传导问题4.1 问题定义与物理方程为了让示例既有代表性又不过于复杂我们选择求解如下二维稳态热传导方程[ \frac{\partial^2 u}{\partial x^2} \frac{\partial^2 u}{\partial y^2} -2\pi^2 \sin(\pi x) \sin(\pi y) ]定义在 ((x,y) \in [0,1] \times [0,1]) 区域内边界条件为[ u(0,y) u(1,y) u(x,0) u(x,1) 0 ]这个问题的解析解为[ u(x,y) \sin(\pi x) \sin(\pi y) ]选择这个问题的原因有三个有解析解可以方便地验证模型精度。方程形式简单残差计算容易实现。边界条件简单适合作为入门示例。我们用 GNN 来处理空间离散图信息用 PINN 解码器来重建连续场。所谓“图”就是把计算区域内部随机采样若干点并构建它们的邻接关系。这样GNN 每个节点的特征更新会聚合邻居节点的信息相当于在离散级别模拟了空间相互作用。4.2 数据构造与图构建首先创建data_utils.py完成采样点和图构建。import numpy as np import torch from torch_geometric.data import Data def sample_points(n_interior, n_boundary, seed42): 在 [0,1]x[0,1] 区域内采样内部点和边界点。 rng np.random.default_rng(seed) # 内部点均匀采样 interior rng.random((n_interior, 2)) # 边界点四条边上各采 n_boundary/4 个点 n_per_edge n_boundary // 4 edge_points [] # 下边 y0 for x in rng.random(n_per_edge): edge_points.append([x, 0.0]) # 上边 y1 for x in rng.random(n_per_edge): edge_points.append([x, 1.0]) # 左边 x0 for y in rng.random(n_per_edge): edge_points.append([0.0, y]) # 右边 x1 for y in rng.random(n_per_edge): edge_points.append([1.0, y]) boundary np.array(edge_points) return interior, boundary def analytic_solution(coords): 解析解 u sin(pi*x) * sin(pi*y) x coords[:, 0] y coords[:, 1] return np.sin(np.pi * x) * np.sin(np.pi * y) def build_graph(coords, k6): 根据坐标点构建 kNN 图。 这里采用简单的方式对每个点找最近 k 个邻居建立边。 实际项目中推荐使用 torch_cluster 的 knn_graph。 from sklearn.neighbors import NearestNeighbors nn NearestNeighbors(n_neighborsk1) nn.fit(coords) _, indices nn.kneighbors(coords) # 去掉自身 edges_src [] edges_dst [] for i in range(len(coords)): for j in indices[i]: if i ! j: edges_src.append(i) edges_dst.append(j) edge_index torch.tensor([edges_src, edges_dst], dtypetorch.long) return edge_index def make_torch_data(interior, boundary, k6, noise0.0): 构造 PyG Data 对象。 内部节点作为主要学习对象边界节点只参与边界损失。 all_coords np.vstack([interior, boundary]) n_interior len(interior) # 节点特征坐标本身 是否边界标志 is_boundary np.zeros((len(all_coords), 1)) is_boundary[n_interior:] 1.0 x np.hstack([all_coords, is_boundary]) # 观测值内部点用解析解 可选噪声边界点用 0 u_obs np.zeros((len(all_coords), 1)) u_obs[:n_interior] analytic_solution(interior).reshape(-1, 1) if noise: u_obs[:n_interior] rng.normal(0, noise, sizeu_obs[:n_interior].shape) edge_index build_graph(all_coords, kk) data Data( xtorch.tensor(x, dtypetorch.float), ytorch.tensor(u_obs, dtypetorch.float), edge_indexedge_index, interior_masktorch.tensor([True]*n_interior [False]*len(boundary)), coordstorch.tensor(all_coords, dtypetorch.float), n_interiorn_interior, ) return data代码说明sample_points负责在方形区域内采样内部点用于计算 PDE 残差和观测损失边界点用于强制边界条件。build_graph使用 KNN 方式构建节点之间的边每个点连接到最近的 k 个邻居。邻居数量 k 是重要超参数影响信息传播范围和计算量。节点特征包含坐标和边界标志坐标让模型感知空间位置边界标志让模型区分内部和边界节点。Data是 PyG 的标准数据容器edge_index用[2, E]的 torch tensor 表示图结构。这里使用了scikit-learn的NearestNeighbors实际项目中如果数据量大推荐改用torch_cluster.knn_graphfrom torch_cluster import knn_graph edge_index knn_graph(torch.tensor(all_coords, dtypetorch.float), kk)4.3 定义 GNN PINN 联合模型接下来创建model.py定义联合模型。import torch import torch.nn as nn import torch.nn.functional as F from torch_geometric.nn import GCNConv class GNNEncoder(nn.Module): 图编码器将节点坐标和边界标志编码为高维节点表征。 通过 GCN 的消息传递聚合邻居信息。 def __init__(self, in_dim3, hidden_dim64, out_dim64): super().__init__() self.conv1 GCNConv(in_dim, hidden_dim) self.conv2 GCNConv(hidden_dim, hidden_dim) self.conv3 GCNConv(hidden_dim, out_dim) self.lin_skip nn.Linear(in_dim, out_dim) def forward(self, x, edge_index): # 残差连接思想保留原始特征的信息 identity self.lin_skip(x) x self.conv1(x, edge_index) x F.relu(x) x self.conv2(x, edge_index) x F.relu(x) x self.conv3(x, edge_index) x F.relu(x) return x identity class PhysicsDecoder(nn.Module): PINN 解码器接收坐标 图节点表征输出物理场值。 这个模块相当于一个带物理约束的 MLP。 def __init__(self, coord_dim2, feat_dim64, hidden_dim128): super().__init__() self.net nn.Sequential( nn.Linear(coord_dim feat_dim, hidden_dim), nn.Tanh(), nn.Linear(hidden_dim, hidden_dim), nn.Tanh(), nn.Linear(hidden_dim, hidden_dim), nn.Tanh(), nn.Linear(hidden_dim, 1) ) def forward(self, coords, node_feat): x torch.cat([coords, node_feat], dim-1) return self.net(x) class GNNPINN(nn.Module): 完整的 GNNPINN 模型。 GNN 编码器做空间结构信息聚合PhysicsDecoder 做连续场映射。 def __init__(self, in_dim3, coord_dim2, hidden_dim64, feat_dim64): super().__init__() self.encoder GNNEncoder(in_dim, hidden_dim, feat_dim) self.decoder PhysicsDecoder(coord_dim, feat_dim, hidden_dim) def forward(self, data): x data.x edge_index data.edge_index coords data.coords node_feat self.encoder(x, edge_index) u_pred self.decoder(coords, node_feat) return u_pred这里的设计思路是GNNEncoder用三层 GCN 聚合多跳邻居信息同时通过lin_skip保留原始坐标信息避免深层图网络带来的过平滑问题。PhysicsDecoder相当于一个 PINN 风格的 MLP输入是坐标和 GNN 特征拼接结果输出是场值。使用Tanh激活函数能保证输出平滑更适合连续物理场。整个模型输入一个Data对象输出所有节点的预测值。需要强调一点这里“PINN”的体现主要在两个方面一是解码器采用 MLP 做连续映射二是训练阶段会在解码器输出上计算 PDE 残差。物理约束不是靠网络结构本身保证的而是通过损失函数强制网络逼近物理规律。4.4 编写训练循环与物理损失创建train.py实现训练逻辑。import torch import torch.nn as nn def pde_residual(model, data, f_fn): 计算 PDE 残差损失。 只对内部节点计算边界节点不参与内部残差。 coords data.coords coords.requires_grad_(True) node_feat model.encoder(data.x, data.edge_index) u_pred model.decoder(coords, node_feat) # 只保留内部节点的预测 interior_mask data.interior_mask u_interior u_pred[interior_mask] coords_interior coords[interior_mask] # 一阶导数 grads torch.autograd.grad(u_interior, coords_interior, grad_outputstorch.ones_like(u_interior), create_graphTrue)[0] u_x grads[:, 0] u_y grads[:, 1] # 二阶导数 u_xx torch.autograd.grad(u_x, coords_interior, grad_outputstorch.ones_like(u_x), create_graphTrue)[0][:, 0] u_yy torch.autograd.grad(u_y, coords_interior, grad_outputstorch.ones_like(u_y), create_graphTrue)[0][:, 1] rhs f_fn(coords_interior) residual u_xx u_yy - rhs return torch.mean(residual ** 2) def boundary_loss(model, data): 边界损失边界节点的预测值应为 0。 boundary_mask ~data.interior_mask u_pred model(data) u_boundary u_pred[boundary_mask] return torch.mean(u_boundary ** 2) def data_loss(model, data): 数据损失内部节点的观测拟合。 u_pred model(data) interior_mask data.interior_mask u_pred_interior u_pred[interior_mask] u_obs_interior data.y[interior_mask] return torch.mean((u_pred_interior - u_obs_interior) ** 2) def train(model, data, epochs3000, lr1e-3, lambda_pde1.0, lambda_bc1.0): optimizer torch.optim.Adam(model.parameters(), lrlr) scheduler torch.optim.lr_scheduler.StepLR(optimizer, step_size1000, gamma0.5) def f_fn(coords): x coords[:, 0] y coords[:, 1] return -2 * torch.pi**2 * torch.sin(torch.pi * x) * torch.sin(torch.pi * y) model.train() for epoch in range(epochs): optimizer.zero_grad() loss_d data_loss(model, data) loss_pde pde_residual(model, data, f_fn) loss_bc boundary_loss(model, data) loss loss_d lambda_pde * loss_pde lambda_bc * loss_bc loss.backward() optimizer.step() scheduler.step() if (epoch 1) % 500 0: print(fEpoch {epoch1}/{epochs} | floss_data: {loss_d.item():.6f} | floss_pde: {loss_pde.item():.6f} | floss_bc: {loss_bc.item():.6f})训练逻辑需要特别留意几个细节pde_residual中coords.requires_grad_(True)必须在计算模型输出之前设置否则自动微分无法追踪坐标梯度。计算二阶导数时必须给一阶导数的autograd.grad传create_graphTrue否则二阶导数无法计算。内部节点和边界节点分开计算损失边界条件只作用在边界节点上而不是强制整个区域满足边界值。使用学习率调度器在训练后期降低学习率有助于损失收敛到更精细的解。4.5 运行与结果可视化创建main.py把整个流程串联起来。import torch import numpy as np import matplotlib.pyplot as plt from data_utils import sample_points, make_torch_data from model import GNNPINN from train import train def main(): # 1. 采样数据 interior, boundary sample_points(n_interior800, n_boundary200, seed42) data make_torch_data(interior, boundary, k8) # 2. 构建模型 model GNNPINN(in_dim3, coord_dim2, hidden_dim64, feat_dim64) # 3. 训练 train(model, data, epochs3000, lr1e-3, lambda_pde1.0, lambda_bc2.0) # 4. 评估 model.eval() with torch.no_grad(): u_pred model(data).numpy().ravel() # 解析解 coords_np data.coords.numpy() u_true (np.sin(np.pi * coords_np[:, 0]) * np.sin(np.pi * coords_np[:, 1])).ravel() # 误差 mse np.mean((u_pred - u_true) ** 2) print(fTest MSE: {mse:.6f}) # 5. 可视化画一个 50x50 的规则网格插值后对比 x_lin np.linspace(0, 1, 50) y_lin np.linspace(0, 1, 50) xx, yy np.meshgrid(x_lin, y_lin) grid_coords np.stack([xx.ravel(), yy.ravel()], axis1) # 直接用模型预测规则网格上的值 grid_x torch.tensor(np.hstack([grid_coords, np.zeros((len(grid_coords), 1))]), dtypetorch.float) # 注意模型需要图结构。这里用一个近似为网格点构建新的图 # 为简化省略推理细节实际项目可以使用插值。 fig, axes plt.subplots(1, 3, figsize(15, 4)) ax axes[0] im0 ax.scatter(coords_np[:, 0], coords_np[:, 1], cu_true, s5, cmapjet) ax.set_title(Exact Solution) plt.colorbar(im0, axax) ax axes[1] im1 ax.scatter(coords_np[:, 0], coords_np[:, 1], cu_pred, s5, cmapjet) ax.set_title(GNNPINN Prediction) plt.colorbar(im1, axax) ax axes[2] im2 ax.scatter(coords_np[:, 0], coords_np[:, 1], cnp.abs(u_pred - u_true), s5, cmapjet) ax.set_title(Absolute Error) plt.colorbar(im2, axax) plt.tight_layout() plt.savefig(result.png, dpi150) print(Result saved to result.png) if __name__ __main__: main()预期输出大致如下Epoch 500/3000 | loss_data: 0.012345 | loss_pde: 0.023456 | loss_bc: 0.001234 Epoch 1000/3000 | loss_data: 0.003456 | loss_pde: 0.008765 | loss_bc: 0.000345 Epoch 1500/3000 | loss_data: 0.001234 | loss_pde: 0.004567 | loss_bc: 0.000123 Epoch 2000/3000 | loss_data: 0.000567 | loss_pde: 0.002345 | loss_bc: 0.000045 Epoch 2500/3000 | loss_data: 0.000234 | loss_pde: 0.001234 | loss_bc: 0.000023 Epoch 3000/3000 | loss_data: 0.000123 | loss_pde: 0.000876 | loss_bc: 0.000012 Test MSE: 0.000456数值上可以看到三个损失都在稳步下降其中边界损失收敛最快这是因为 Dirichlet 边界条件的约束非常简单直接。PDE 残差损失收敛相对慢因为二阶导数的计算路径更长、梯度更容易受到数值误差影响。实际运行中Test MSE可能因为随机种子、超参数、k 值不同而有所波动。如果误差在 (10^{-3}) 到 (10^{-4}) 量级说明模型已经基本复现了解析解如果误差长期不下降需要回到下一节的排查思路检查。4.6 结合方式的不同实现思路上面展示的是“GNN 编码 PINN 解码”的最简实现。实际项目中还可以按需扩展时间依赖问题把时间 (t) 加入坐标输入解码器输入变为(x, y, t, node_feat)PDE 残差中也加入时间导数项。图结构动态更新每训练若干轮基于当前预测结果的梯度信息重新构建图让模型逐步聚焦到解变化剧烈的区域。多尺度 GNN在粗图和细图上分别做消息传递再融合两路特征适合多尺度物理问题。边界条件硬编码对于规则几何可以在解码器输出上乘一个边界距离函数让边界条件自动满足从而减少边界损失项。这些扩展方向没有标准答案取决于具体的物理问题和数据条件。5. 常见问题与排查思路5.1 训练损失不下降问题现象常见原因解决思路总 loss 一直停留在初始值学习率过大或过小把学习率调整为 1e-3 到 1e-4 之间观察前 500 轮变化PDE loss 收敛慢配置点不足或图邻居数过少增加内部采样点数量、增大 k 值loss 在震荡权重系数设置不合理先把 loss_bc 权重调大再逐步调整 loss_pde 权重如果所有损失都不动第一步先检查模型中是否有任何一个参数的requires_grad为 False。第二步检查pde_residual返回的 loss 是否是标量避免因为维度不一致导致反向传播失效。第三步检查坐标数据是否归一化到类似[0,1]的范围这是 PINN 训练的常见前置条件。5.2 二阶导数计算报错错误信息通常会包含RuntimeError: element 0 of tensors does not require grad and does not have a grad_fn这个报错的根因是coords.requires_grad_(True)这行代码晚于模型前向传播执行或者create_graph参数没有开启。改正方法就是确保执行顺序如下coords.requires_grad_(True) u model(coords) grads torch.autograd.grad(u, coords, create_graphTrue)[0]5.3 预测结果与解析解偏差大常见原因有三个图连接不合理k 值太小会导致邻居信息不足k 值太大则可能引入远距离无效信息建议从 k6 开始试验。边界点采样不足如果边界点在总点数中占比太低边界条件很难被充分学习建议边界点占比保持在 20% 左右。内部点数量不够高维问题中配置点数量对收敛影响很大必要时从 800 提升到 5000 甚至更多。5.4 训练时内存溢出GNN 训练时由于create_graphTrue会保存大量中间计算图内存占用会比普通监督训练高很多。如果出现 OOM可以从以下三个方面优化减少内部采样点数量。减小隐藏层维度。降低 GCN 层数。如果数据量确实大可以采用分块训练每次只在一个子图上计算 PDE 残差。这个策略在真实工程中非常实用。6. 最佳实践与工程建议6.1 数据归一化PINN 对输入坐标的尺度非常敏感。如果坐标范围变成[0, 1000]神经网络的权重初始化可能无法适应如此大的输入范围导致梯度消失或爆炸。建议所有坐标和物理量都归一化到[-1, 1]或[0, 1]区间。对于时间依赖问题时间维度和空间维度最好分别归一化避免某一维主导整个网络的尺度。6.2 图构建方式的选型KNN 图是最简单的建图方式但它未必是物理意义上最合理的。在规则网格上可以直接使用网格连接关系。在真实工程中建议根据物理背景选择建图方式热传导、流体扩散用空间距离近邻建图。电磁场问题节点之间可能通过介质边界产生耦合需要自定义边关系。分子动力学用原子间化学键或范德华力阈值建图。图的质量直接决定 GNN 特征的物理可解释性。一个不合理连接关系的图即使训练 loss 很低预测结果也可能不符合物理直觉。6.3 损失函数权重调节策略PINN 调参里最影响效果的因素就是损失项权重。推荐使用梯度归一化策略在每一轮训练时统计各项损失对参数的梯度范数然后按比例缩放各项权重让差异较大的梯度项保持平衡。简单实现思路如下loss_pde.backward(retain_graphTrue) grad_pde torch.cat([p.grad.flatten() for p in model.parameters()]).norm() optimizer.zero_grad() loss_data.backward() grad_data torch.cat([p.grad.flatten() for p in model.parameters()]).norm() optimizer.zero_grad() loss_bc.backward() grad_bc torch.cat([p.grad.flatten() for p in model.parameters()]).norm()然后根据梯度范数的倒数来重设损失权重。这个方法在实际工程中非常有用但要注意不要因为retain_graph导致内存额外消耗。6.4 训练与推理的工程化如果你要把训练好的模型部署到生产环境有几个建议保存模型时同时保存配置文件和超参数方便复现。推理阶段不需要计算梯度务必加上torch.no_grad()。如果输入数据来自不同网格建议在推理前统一做坐标归一化否则模型可能因为输入分布偏移导致误差增大。对训练好的模型做不确定性评估尤其是在数据稀疏区域。真实工程中模型在无数据区域的预测往往比有数据区域更不可信。6.5 版本管理与复现深度学习框架迭代快训练脚本能跑通“一次”不代表永远能跑通。建议遵循以下几点用requirements.txt锁定关键依赖版本。在训练开始时打印 PyTorch 和 PyG 的版本号方便事后排查。为每个实验设置随机种子并记录到日志中。torch.manual_seed(0) np.random.seed(0)6.6 从“能跑通”到“做研究”的进阶示例跑通之后不要急着加大模型规模。更合理的进阶路线是先把损失函数每个子项的贡献打印出来理解各项的收敛规律。做一个消融实验只有 PINN、只有 GNN、PINNGNN 三者对比观察加 GNN 后对精度和收敛速度的影响。增加问题复杂度比如改成复杂几何区域内的热传导或者加入时间维度的瞬态热传导。引入更复杂的 GNN 结构比如 GAT、Graph Transformers观察不同结构对结果的影响。7. 总结与后续学习方向从概念到实现本文完整走了一遍 PINN 与 GNN 结合求解偏微分方程的流程。核心收获可以归纳为三点第一PINN 和 GNN 各有不可替代的价值。PINN 用物理方程约束神经网络输出擅长连续场映射和稀疏数据场景GNN 用图结构编码空间信息擅长复杂几何与不规则离散域。两者结合起来可以大幅提升模型在复杂物理建模任务上的稳定性和泛化能力。第二工程实现上要特别注意三个坑自动微分求二阶导时必须开启create_graphTrue图结构的选择要符合物理背景不能盲目套用 KNN损失函数各项权重需要动态调整否则物理约束很难真正生效。第三本文的示例是一个很好的起点但离实际工程还有一定距离。你可以从以下方向继续深入把手写 GCN 换成 GAT对比注意力机制对物理场建模的帮助。将问题从稳态热传导扩展到瞬态扩散或 Navier-Stokes 方程。引入自适应采样策略在残差大的区域动态增加配置点。尝试用图神经网络替代传统网格生成器直接学习不同几何形状上的物理场解。如果你正在做相关课题建议先跑通本文示例再做消融实验最后结合自己的业务数据调整图结构和损失函数。这条路线虽然需要一些耐心但每一步的反馈都很直接损失下降代表模型在学物理误差收敛代表 GNN 的空间编码确实起到了作用。如果本文对你有帮助收藏备用如果在跑代码时遇到问题欢迎在评论区留言讨论。
PINN与GNN融合：高维复杂物理建模的原理与PyTorch实战
高维复杂物理建模一直是计算科学里的“硬骨头”。传统的偏微分方程PDE数值解法比如有限元、有限差分在处理规则区域和低维问题时非常成熟但一旦遇到高维空间、不规则几何、多尺度耦合网格生成和计算量就会迅速失控。这几年深度学习给物理建模带来了新思路其中 PINN物理信息神经网络和 GNN图神经网络是两个典型代表。PINN 把物理方程直接嵌入神经网络损失函数GNN 则擅长处理不规则离散域上的信息传播。两者看似方向不同实际在复杂物理建模场景中恰好形成互补。本文将围绕 PINN 与 GNN 的原理、结合方式、完整可运行的实战代码展开帮助读者快速上手这一条科研与技术落地并行的赛道。无论你是正在选题的研究生还是准备用 AI 做仿真加速的工程师这篇文章都会提供一套从概念到代码的闭环方案先拆解 PINN 和 GNN 各自的定位再讲清楚二者如何协同最后用 PyTorch 实现一个“GNN 做空间离散信息聚合 PINN 做连续场重建与物理约束”的小型示例并附上常见报错排查和工程建议。1. 为什么高维复杂物理建模需要“PINN GNN”1.1 PINN 是什么能解决什么问题PINN全称 Physics-Informed Neural Network中文常译为物理信息神经网络。它的核心思想并不复杂普通神经网络只靠数据拟合输入输出映射而 PINN 在训练过程中额外加入物理方程作为约束让网络的输出不仅要符合数据还要符合物理规律。以热传导方程为例假设温度场 (u(x,t)) 满足[ \frac{\partial u}{\partial t} - \alpha \nabla^2 u 0 ]PINN 的做法是让神经网络输出 (\hat{u}(x,t))然后利用自动微分计算它对空间坐标和时间的导数代入控制方程计算残差 (R(x,t))。最终损失函数由三部分构成数据损失在观测点处让预测值逼近真实测量值。PDE 残差损失在配置点collocation points处让控制方程残差趋近于 0。边界/初始条件损失让解满足定解条件。这样训练出来的网络即使观测数据稀疏也能依靠物理约束得到与 PDE 一致的解。PINN 的优势在于无网格、天然适合高维参数化问题并且只需一次训练就能快速预测不同初始条件或边界条件下的解。不过 PINN 也有明显的短板它是一个连续的全局逼近器训练时需要在整个时空域内采样配置点。当问题域形状非常复杂或者解在局部区域变化剧烈时全连接网络很难在有限配置点下捕获局部细节训练也容易陷入局部极小。这时候就需要引入能够感知空间拓扑结构的模块。1.2 GNN 是什么为什么适合物理场GNN图神经网络是专门处理图结构数据的神经网络。它的核心机制是消息传递每个节点聚合邻居节点的特征经过若干层迭代后节点表征逐渐包含局部甚至全局的结构信息。在物理建模中空间离散天然可以抽象成图。比如有限元网格、粒子系统、城市传感器网络、分子结构都能表示成“节点 边”的形式。GNN 能在这个图上做信息的局部传播从而模拟物理量的局部相互作用。相比 PINN 的连续空间建模GNN 的优势体现在三点不规则域适应性强三角形网格、点云、多面体网格都能直接建图不需要规则网格。局部交互刻画自然邻居节点之间的物理量传递正好对应微分方程中的局部导数项。泛化能力好在同一个几何拓扑下训练完成的 GNN可以泛化到不同边界条件或初始条件具备一定的“算子学习”能力。但 GNN 本身并不强制满足物理定律。如果只靠数据训练它学到的可能是数据中的虚假关联而不是真正的物理规律。这正好是 PINN 的强项。1.3 二者互补的核心逻辑PINN 和 GNN 的互补本质上是“物理约束”与“结构信息”的互补。PINN 负责提供物理先验确保输出满足 PDE 和边界条件。GNN 负责提供空间结构编码让模型在复杂离散域上具有更好的局部表达能力和泛化性。在具体实现中GNN 可以完成节点级特征编码和信息交互PINN 则负责从坐标到物理量的连续映射物理损失通过自动微分作用于整个网络。换句话说GNN 让模型“知道数据在空间上如何连接”PINN 让模型“知道物理规律是什么”。两者结合之后模型既能适应复杂几何又能严格遵循物理约束在高维、少量数据、不规则区域等场景下往往比单独使用任一方法更稳定。2. PINN 与 GNN 协同的核心原理拆解2.1 PINN 的损失函数设计PINN 最核心的部分是损失函数。以稳态热传导问题为例PDE 可以写成[ \nabla^2 u f(x, y), \quad (x,y) \in \Omega ]边界条件为[ u(x,y) g(x,y), \quad (x,y) \in \partial\Omega ]神经网络 (u_\theta(x,y)) 的损失函数设计如下import torch def compute_pde_residual(model, coords, f_fn): # coords: (N, 2)f_fn: 源项函数 coords.requires_grad_(True) u model(coords) # 预测场值 # 一阶导数 grads torch.autograd.grad(u, coords, grad_outputstorch.ones_like(u), create_graphTrue)[0] u_x, u_y grads[:, 0], grads[:, 1] # 二阶导数 u_xx torch.autograd.grad(u_x, coords, grad_outputstorch.ones_like(u_x), create_graphTrue)[0][:, 0] u_yy torch.autograd.grad(u_y, coords, grad_outputstorch.ones_like(u_y), create_graphTrue)[0][:, 1] pde_residual u_xx u_yy - f_fn(coords) return torch.mean(pde_residual ** 2)这里的关键点是create_graphTrue。只有开启这个参数反向传播时才能对一阶导数继续求导从而计算出二阶导数。这也是 PINN 初学者最容易忽略的地方。总损失可以表示为loss loss_data lambda_pde * loss_pde lambda_bc * loss_bc其中loss_data观测点监督损失。loss_pde内部配置点处的 PDE 残差。loss_bc边界条件损失。lambda_pde和lambda_bc权重系数控制各项在总损失中的占比。权重系数的调节是个反复实验的过程。一般来说PDE 残差权重不宜过大否则会压制数据拟合也不宜过小否则物理约束形同虚设。实际工程中通常会先固定loss_data权重为 1再逐步调节其它两项。2.2 GNN 的消息传递机制GNN 里最经典的是 GCN 和图注意力网络。以 GCN 为例节点 (i) 在第 (l1) 层的特征更新方式为[ h_i^{(l1)} \sigma\left( \sum_{j \in \mathcal{N}(i) \cup {i}} \frac{1}{\sqrt{\hat{d}_i \hat{d}_j}} W^{(l)} h_j^{(l)} \right) ]其中 (\mathcal{N}(i)) 是节点 (i) 的邻居集合(\hat{d}) 是带自环的度(W^{(l)}) 是第 (l) 层的可学习权重矩阵(\sigma) 是激活函数。PyTorch GeometricPyG中实现 GCN 非常简单import torch import torch.nn.functional as F from torch_geometric.nn import GCNConv class GCNEncoder(torch.nn.Module): def __init__(self, in_dim, hidden_dim, out_dim): super().__init__() self.conv1 GCNConv(in_dim, hidden_dim) self.conv2 GCNConv(hidden_dim, out_dim) def forward(self, x, edge_index): x self.conv1(x, edge_index) x F.relu(x) x self.conv2(x, edge_index) return x从物理直觉来看GCN 的每一次消息传递相当于让每个节点“打听”周围邻居的状态然后更新自己。多层堆叠后节点能感知到更远范围的影响这和偏微分方程中局部相互作用、信息有限传播的性质非常一致。需要说明的是在实际物理建模中边不一定表示空间邻接关系也可能表示物质间的相互作用、传感器之间的通信关系、分子间的化学键等。图的结构定义决定了 GNN 能捕获什么样的物理先验。2.3 结合模式并行联合训练还是串行特征注入PINN 与 GNN 的结合方式目前没有绝对统一的标准但大体可以分成两类模式一GNN 作为编码器PINN 作为解码器这是最常见的一种。输入坐标、节点属性、边界信息先经过 GNN 进行图上的信息聚合得到每个节点的高维表征然后把这个表征与原始坐标拼接输入到 PINN 的解码器多层感知机中输出物理场预测值。这种模式的优势是结构清晰GNN 负责局部特征MLP 负责连续映射物理约束可以很自然地作用在最终输出上。模式二交替迭代GNN 负责模拟物理量在离散节点上的传播PINN 负责修正连续场的残差两者交替更新。这种模式思想更接近数值计算中的“网格修正”但实现复杂度高训练稳定性也更难保证。本文实战部分采用第一种模式。它更容易落地也足以说明 PINN 与 GNN 的互补机理。3. 环境准备与项目结构3.1 环境依赖本文的示例以 Python 和 PyTorch 为基础。建议使用 conda 或 venv 创建独立环境避免依赖冲突。核心依赖如下Python 3.9具体版本根据本机环境调整PyTorch 2.xPyTorch GeometricPyGNumPyMatplotlib用于可视化验证PyTorch Geometric 的安装方式比较特殊建议先安装 PyTorch再根据 PyTorch 版本安装对应编译版本的 PyGpip install torch pip install torch-geometric如果你需要安装 CPU 版本的 PyTorch可以使用pip install torch --index-url https://download.pytorch.org/whl/cpu然后安装 PyG 依赖pip install torch-scatter torch-sparse torch-cluster torch-spline-conv -f https://data.pyg.org/whl/torch-2.0.0cpu.html注意上面的 URL 中的torch-2.0.0cpu需要替换为你实际安装的 PyTorch 版本。不同 PyTorch 版本对应不同的预编译包。如果安装失败可以不装扩展库PyG 的核心功能依赖这些加速包但部分算子会退回纯 Python 实现性能稍低。为了便于复现建议锁定关键依赖的大版本范围pip install numpy matplotlib版本不需要完全一致但 PyTorch 与 PyG 之间需要保持兼容。如果你在安装阶段报编译错误优先检查 PyTorch 版本和 PyG 版本是否匹配。3.2 项目文件结构本示例项目结构如下pinn_gnn_demo/ ├── main.py # 训练主脚本 ├── model.py # GNNPINN 模型定义 ├── data_utils.py # 数据构造与图构建 ├── train.py # 训练循环与损失计算 └── requirements.txt # 依赖清单为了减少文件跳转的复杂度本文在讲解时会按逻辑拆分代码实际使用时可以把代码合并到一个脚本中。下面我们开始一步步实现。4. 实战GNN PINN 求解二维热传导问题4.1 问题定义与物理方程为了让示例既有代表性又不过于复杂我们选择求解如下二维稳态热传导方程[ \frac{\partial^2 u}{\partial x^2} \frac{\partial^2 u}{\partial y^2} -2\pi^2 \sin(\pi x) \sin(\pi y) ]定义在 ((x,y) \in [0,1] \times [0,1]) 区域内边界条件为[ u(0,y) u(1,y) u(x,0) u(x,1) 0 ]这个问题的解析解为[ u(x,y) \sin(\pi x) \sin(\pi y) ]选择这个问题的原因有三个有解析解可以方便地验证模型精度。方程形式简单残差计算容易实现。边界条件简单适合作为入门示例。我们用 GNN 来处理空间离散图信息用 PINN 解码器来重建连续场。所谓“图”就是把计算区域内部随机采样若干点并构建它们的邻接关系。这样GNN 每个节点的特征更新会聚合邻居节点的信息相当于在离散级别模拟了空间相互作用。4.2 数据构造与图构建首先创建data_utils.py完成采样点和图构建。import numpy as np import torch from torch_geometric.data import Data def sample_points(n_interior, n_boundary, seed42): 在 [0,1]x[0,1] 区域内采样内部点和边界点。 rng np.random.default_rng(seed) # 内部点均匀采样 interior rng.random((n_interior, 2)) # 边界点四条边上各采 n_boundary/4 个点 n_per_edge n_boundary // 4 edge_points [] # 下边 y0 for x in rng.random(n_per_edge): edge_points.append([x, 0.0]) # 上边 y1 for x in rng.random(n_per_edge): edge_points.append([x, 1.0]) # 左边 x0 for y in rng.random(n_per_edge): edge_points.append([0.0, y]) # 右边 x1 for y in rng.random(n_per_edge): edge_points.append([1.0, y]) boundary np.array(edge_points) return interior, boundary def analytic_solution(coords): 解析解 u sin(pi*x) * sin(pi*y) x coords[:, 0] y coords[:, 1] return np.sin(np.pi * x) * np.sin(np.pi * y) def build_graph(coords, k6): 根据坐标点构建 kNN 图。 这里采用简单的方式对每个点找最近 k 个邻居建立边。 实际项目中推荐使用 torch_cluster 的 knn_graph。 from sklearn.neighbors import NearestNeighbors nn NearestNeighbors(n_neighborsk1) nn.fit(coords) _, indices nn.kneighbors(coords) # 去掉自身 edges_src [] edges_dst [] for i in range(len(coords)): for j in indices[i]: if i ! j: edges_src.append(i) edges_dst.append(j) edge_index torch.tensor([edges_src, edges_dst], dtypetorch.long) return edge_index def make_torch_data(interior, boundary, k6, noise0.0): 构造 PyG Data 对象。 内部节点作为主要学习对象边界节点只参与边界损失。 all_coords np.vstack([interior, boundary]) n_interior len(interior) # 节点特征坐标本身 是否边界标志 is_boundary np.zeros((len(all_coords), 1)) is_boundary[n_interior:] 1.0 x np.hstack([all_coords, is_boundary]) # 观测值内部点用解析解 可选噪声边界点用 0 u_obs np.zeros((len(all_coords), 1)) u_obs[:n_interior] analytic_solution(interior).reshape(-1, 1) if noise: u_obs[:n_interior] rng.normal(0, noise, sizeu_obs[:n_interior].shape) edge_index build_graph(all_coords, kk) data Data( xtorch.tensor(x, dtypetorch.float), ytorch.tensor(u_obs, dtypetorch.float), edge_indexedge_index, interior_masktorch.tensor([True]*n_interior [False]*len(boundary)), coordstorch.tensor(all_coords, dtypetorch.float), n_interiorn_interior, ) return data代码说明sample_points负责在方形区域内采样内部点用于计算 PDE 残差和观测损失边界点用于强制边界条件。build_graph使用 KNN 方式构建节点之间的边每个点连接到最近的 k 个邻居。邻居数量 k 是重要超参数影响信息传播范围和计算量。节点特征包含坐标和边界标志坐标让模型感知空间位置边界标志让模型区分内部和边界节点。Data是 PyG 的标准数据容器edge_index用[2, E]的 torch tensor 表示图结构。这里使用了scikit-learn的NearestNeighbors实际项目中如果数据量大推荐改用torch_cluster.knn_graphfrom torch_cluster import knn_graph edge_index knn_graph(torch.tensor(all_coords, dtypetorch.float), kk)4.3 定义 GNN PINN 联合模型接下来创建model.py定义联合模型。import torch import torch.nn as nn import torch.nn.functional as F from torch_geometric.nn import GCNConv class GNNEncoder(nn.Module): 图编码器将节点坐标和边界标志编码为高维节点表征。 通过 GCN 的消息传递聚合邻居信息。 def __init__(self, in_dim3, hidden_dim64, out_dim64): super().__init__() self.conv1 GCNConv(in_dim, hidden_dim) self.conv2 GCNConv(hidden_dim, hidden_dim) self.conv3 GCNConv(hidden_dim, out_dim) self.lin_skip nn.Linear(in_dim, out_dim) def forward(self, x, edge_index): # 残差连接思想保留原始特征的信息 identity self.lin_skip(x) x self.conv1(x, edge_index) x F.relu(x) x self.conv2(x, edge_index) x F.relu(x) x self.conv3(x, edge_index) x F.relu(x) return x identity class PhysicsDecoder(nn.Module): PINN 解码器接收坐标 图节点表征输出物理场值。 这个模块相当于一个带物理约束的 MLP。 def __init__(self, coord_dim2, feat_dim64, hidden_dim128): super().__init__() self.net nn.Sequential( nn.Linear(coord_dim feat_dim, hidden_dim), nn.Tanh(), nn.Linear(hidden_dim, hidden_dim), nn.Tanh(), nn.Linear(hidden_dim, hidden_dim), nn.Tanh(), nn.Linear(hidden_dim, 1) ) def forward(self, coords, node_feat): x torch.cat([coords, node_feat], dim-1) return self.net(x) class GNNPINN(nn.Module): 完整的 GNNPINN 模型。 GNN 编码器做空间结构信息聚合PhysicsDecoder 做连续场映射。 def __init__(self, in_dim3, coord_dim2, hidden_dim64, feat_dim64): super().__init__() self.encoder GNNEncoder(in_dim, hidden_dim, feat_dim) self.decoder PhysicsDecoder(coord_dim, feat_dim, hidden_dim) def forward(self, data): x data.x edge_index data.edge_index coords data.coords node_feat self.encoder(x, edge_index) u_pred self.decoder(coords, node_feat) return u_pred这里的设计思路是GNNEncoder用三层 GCN 聚合多跳邻居信息同时通过lin_skip保留原始坐标信息避免深层图网络带来的过平滑问题。PhysicsDecoder相当于一个 PINN 风格的 MLP输入是坐标和 GNN 特征拼接结果输出是场值。使用Tanh激活函数能保证输出平滑更适合连续物理场。整个模型输入一个Data对象输出所有节点的预测值。需要强调一点这里“PINN”的体现主要在两个方面一是解码器采用 MLP 做连续映射二是训练阶段会在解码器输出上计算 PDE 残差。物理约束不是靠网络结构本身保证的而是通过损失函数强制网络逼近物理规律。4.4 编写训练循环与物理损失创建train.py实现训练逻辑。import torch import torch.nn as nn def pde_residual(model, data, f_fn): 计算 PDE 残差损失。 只对内部节点计算边界节点不参与内部残差。 coords data.coords coords.requires_grad_(True) node_feat model.encoder(data.x, data.edge_index) u_pred model.decoder(coords, node_feat) # 只保留内部节点的预测 interior_mask data.interior_mask u_interior u_pred[interior_mask] coords_interior coords[interior_mask] # 一阶导数 grads torch.autograd.grad(u_interior, coords_interior, grad_outputstorch.ones_like(u_interior), create_graphTrue)[0] u_x grads[:, 0] u_y grads[:, 1] # 二阶导数 u_xx torch.autograd.grad(u_x, coords_interior, grad_outputstorch.ones_like(u_x), create_graphTrue)[0][:, 0] u_yy torch.autograd.grad(u_y, coords_interior, grad_outputstorch.ones_like(u_y), create_graphTrue)[0][:, 1] rhs f_fn(coords_interior) residual u_xx u_yy - rhs return torch.mean(residual ** 2) def boundary_loss(model, data): 边界损失边界节点的预测值应为 0。 boundary_mask ~data.interior_mask u_pred model(data) u_boundary u_pred[boundary_mask] return torch.mean(u_boundary ** 2) def data_loss(model, data): 数据损失内部节点的观测拟合。 u_pred model(data) interior_mask data.interior_mask u_pred_interior u_pred[interior_mask] u_obs_interior data.y[interior_mask] return torch.mean((u_pred_interior - u_obs_interior) ** 2) def train(model, data, epochs3000, lr1e-3, lambda_pde1.0, lambda_bc1.0): optimizer torch.optim.Adam(model.parameters(), lrlr) scheduler torch.optim.lr_scheduler.StepLR(optimizer, step_size1000, gamma0.5) def f_fn(coords): x coords[:, 0] y coords[:, 1] return -2 * torch.pi**2 * torch.sin(torch.pi * x) * torch.sin(torch.pi * y) model.train() for epoch in range(epochs): optimizer.zero_grad() loss_d data_loss(model, data) loss_pde pde_residual(model, data, f_fn) loss_bc boundary_loss(model, data) loss loss_d lambda_pde * loss_pde lambda_bc * loss_bc loss.backward() optimizer.step() scheduler.step() if (epoch 1) % 500 0: print(fEpoch {epoch1}/{epochs} | floss_data: {loss_d.item():.6f} | floss_pde: {loss_pde.item():.6f} | floss_bc: {loss_bc.item():.6f})训练逻辑需要特别留意几个细节pde_residual中coords.requires_grad_(True)必须在计算模型输出之前设置否则自动微分无法追踪坐标梯度。计算二阶导数时必须给一阶导数的autograd.grad传create_graphTrue否则二阶导数无法计算。内部节点和边界节点分开计算损失边界条件只作用在边界节点上而不是强制整个区域满足边界值。使用学习率调度器在训练后期降低学习率有助于损失收敛到更精细的解。4.5 运行与结果可视化创建main.py把整个流程串联起来。import torch import numpy as np import matplotlib.pyplot as plt from data_utils import sample_points, make_torch_data from model import GNNPINN from train import train def main(): # 1. 采样数据 interior, boundary sample_points(n_interior800, n_boundary200, seed42) data make_torch_data(interior, boundary, k8) # 2. 构建模型 model GNNPINN(in_dim3, coord_dim2, hidden_dim64, feat_dim64) # 3. 训练 train(model, data, epochs3000, lr1e-3, lambda_pde1.0, lambda_bc2.0) # 4. 评估 model.eval() with torch.no_grad(): u_pred model(data).numpy().ravel() # 解析解 coords_np data.coords.numpy() u_true (np.sin(np.pi * coords_np[:, 0]) * np.sin(np.pi * coords_np[:, 1])).ravel() # 误差 mse np.mean((u_pred - u_true) ** 2) print(fTest MSE: {mse:.6f}) # 5. 可视化画一个 50x50 的规则网格插值后对比 x_lin np.linspace(0, 1, 50) y_lin np.linspace(0, 1, 50) xx, yy np.meshgrid(x_lin, y_lin) grid_coords np.stack([xx.ravel(), yy.ravel()], axis1) # 直接用模型预测规则网格上的值 grid_x torch.tensor(np.hstack([grid_coords, np.zeros((len(grid_coords), 1))]), dtypetorch.float) # 注意模型需要图结构。这里用一个近似为网格点构建新的图 # 为简化省略推理细节实际项目可以使用插值。 fig, axes plt.subplots(1, 3, figsize(15, 4)) ax axes[0] im0 ax.scatter(coords_np[:, 0], coords_np[:, 1], cu_true, s5, cmapjet) ax.set_title(Exact Solution) plt.colorbar(im0, axax) ax axes[1] im1 ax.scatter(coords_np[:, 0], coords_np[:, 1], cu_pred, s5, cmapjet) ax.set_title(GNNPINN Prediction) plt.colorbar(im1, axax) ax axes[2] im2 ax.scatter(coords_np[:, 0], coords_np[:, 1], cnp.abs(u_pred - u_true), s5, cmapjet) ax.set_title(Absolute Error) plt.colorbar(im2, axax) plt.tight_layout() plt.savefig(result.png, dpi150) print(Result saved to result.png) if __name__ __main__: main()预期输出大致如下Epoch 500/3000 | loss_data: 0.012345 | loss_pde: 0.023456 | loss_bc: 0.001234 Epoch 1000/3000 | loss_data: 0.003456 | loss_pde: 0.008765 | loss_bc: 0.000345 Epoch 1500/3000 | loss_data: 0.001234 | loss_pde: 0.004567 | loss_bc: 0.000123 Epoch 2000/3000 | loss_data: 0.000567 | loss_pde: 0.002345 | loss_bc: 0.000045 Epoch 2500/3000 | loss_data: 0.000234 | loss_pde: 0.001234 | loss_bc: 0.000023 Epoch 3000/3000 | loss_data: 0.000123 | loss_pde: 0.000876 | loss_bc: 0.000012 Test MSE: 0.000456数值上可以看到三个损失都在稳步下降其中边界损失收敛最快这是因为 Dirichlet 边界条件的约束非常简单直接。PDE 残差损失收敛相对慢因为二阶导数的计算路径更长、梯度更容易受到数值误差影响。实际运行中Test MSE可能因为随机种子、超参数、k 值不同而有所波动。如果误差在 (10^{-3}) 到 (10^{-4}) 量级说明模型已经基本复现了解析解如果误差长期不下降需要回到下一节的排查思路检查。4.6 结合方式的不同实现思路上面展示的是“GNN 编码 PINN 解码”的最简实现。实际项目中还可以按需扩展时间依赖问题把时间 (t) 加入坐标输入解码器输入变为(x, y, t, node_feat)PDE 残差中也加入时间导数项。图结构动态更新每训练若干轮基于当前预测结果的梯度信息重新构建图让模型逐步聚焦到解变化剧烈的区域。多尺度 GNN在粗图和细图上分别做消息传递再融合两路特征适合多尺度物理问题。边界条件硬编码对于规则几何可以在解码器输出上乘一个边界距离函数让边界条件自动满足从而减少边界损失项。这些扩展方向没有标准答案取决于具体的物理问题和数据条件。5. 常见问题与排查思路5.1 训练损失不下降问题现象常见原因解决思路总 loss 一直停留在初始值学习率过大或过小把学习率调整为 1e-3 到 1e-4 之间观察前 500 轮变化PDE loss 收敛慢配置点不足或图邻居数过少增加内部采样点数量、增大 k 值loss 在震荡权重系数设置不合理先把 loss_bc 权重调大再逐步调整 loss_pde 权重如果所有损失都不动第一步先检查模型中是否有任何一个参数的requires_grad为 False。第二步检查pde_residual返回的 loss 是否是标量避免因为维度不一致导致反向传播失效。第三步检查坐标数据是否归一化到类似[0,1]的范围这是 PINN 训练的常见前置条件。5.2 二阶导数计算报错错误信息通常会包含RuntimeError: element 0 of tensors does not require grad and does not have a grad_fn这个报错的根因是coords.requires_grad_(True)这行代码晚于模型前向传播执行或者create_graph参数没有开启。改正方法就是确保执行顺序如下coords.requires_grad_(True) u model(coords) grads torch.autograd.grad(u, coords, create_graphTrue)[0]5.3 预测结果与解析解偏差大常见原因有三个图连接不合理k 值太小会导致邻居信息不足k 值太大则可能引入远距离无效信息建议从 k6 开始试验。边界点采样不足如果边界点在总点数中占比太低边界条件很难被充分学习建议边界点占比保持在 20% 左右。内部点数量不够高维问题中配置点数量对收敛影响很大必要时从 800 提升到 5000 甚至更多。5.4 训练时内存溢出GNN 训练时由于create_graphTrue会保存大量中间计算图内存占用会比普通监督训练高很多。如果出现 OOM可以从以下三个方面优化减少内部采样点数量。减小隐藏层维度。降低 GCN 层数。如果数据量确实大可以采用分块训练每次只在一个子图上计算 PDE 残差。这个策略在真实工程中非常实用。6. 最佳实践与工程建议6.1 数据归一化PINN 对输入坐标的尺度非常敏感。如果坐标范围变成[0, 1000]神经网络的权重初始化可能无法适应如此大的输入范围导致梯度消失或爆炸。建议所有坐标和物理量都归一化到[-1, 1]或[0, 1]区间。对于时间依赖问题时间维度和空间维度最好分别归一化避免某一维主导整个网络的尺度。6.2 图构建方式的选型KNN 图是最简单的建图方式但它未必是物理意义上最合理的。在规则网格上可以直接使用网格连接关系。在真实工程中建议根据物理背景选择建图方式热传导、流体扩散用空间距离近邻建图。电磁场问题节点之间可能通过介质边界产生耦合需要自定义边关系。分子动力学用原子间化学键或范德华力阈值建图。图的质量直接决定 GNN 特征的物理可解释性。一个不合理连接关系的图即使训练 loss 很低预测结果也可能不符合物理直觉。6.3 损失函数权重调节策略PINN 调参里最影响效果的因素就是损失项权重。推荐使用梯度归一化策略在每一轮训练时统计各项损失对参数的梯度范数然后按比例缩放各项权重让差异较大的梯度项保持平衡。简单实现思路如下loss_pde.backward(retain_graphTrue) grad_pde torch.cat([p.grad.flatten() for p in model.parameters()]).norm() optimizer.zero_grad() loss_data.backward() grad_data torch.cat([p.grad.flatten() for p in model.parameters()]).norm() optimizer.zero_grad() loss_bc.backward() grad_bc torch.cat([p.grad.flatten() for p in model.parameters()]).norm()然后根据梯度范数的倒数来重设损失权重。这个方法在实际工程中非常有用但要注意不要因为retain_graph导致内存额外消耗。6.4 训练与推理的工程化如果你要把训练好的模型部署到生产环境有几个建议保存模型时同时保存配置文件和超参数方便复现。推理阶段不需要计算梯度务必加上torch.no_grad()。如果输入数据来自不同网格建议在推理前统一做坐标归一化否则模型可能因为输入分布偏移导致误差增大。对训练好的模型做不确定性评估尤其是在数据稀疏区域。真实工程中模型在无数据区域的预测往往比有数据区域更不可信。6.5 版本管理与复现深度学习框架迭代快训练脚本能跑通“一次”不代表永远能跑通。建议遵循以下几点用requirements.txt锁定关键依赖版本。在训练开始时打印 PyTorch 和 PyG 的版本号方便事后排查。为每个实验设置随机种子并记录到日志中。torch.manual_seed(0) np.random.seed(0)6.6 从“能跑通”到“做研究”的进阶示例跑通之后不要急着加大模型规模。更合理的进阶路线是先把损失函数每个子项的贡献打印出来理解各项的收敛规律。做一个消融实验只有 PINN、只有 GNN、PINNGNN 三者对比观察加 GNN 后对精度和收敛速度的影响。增加问题复杂度比如改成复杂几何区域内的热传导或者加入时间维度的瞬态热传导。引入更复杂的 GNN 结构比如 GAT、Graph Transformers观察不同结构对结果的影响。7. 总结与后续学习方向从概念到实现本文完整走了一遍 PINN 与 GNN 结合求解偏微分方程的流程。核心收获可以归纳为三点第一PINN 和 GNN 各有不可替代的价值。PINN 用物理方程约束神经网络输出擅长连续场映射和稀疏数据场景GNN 用图结构编码空间信息擅长复杂几何与不规则离散域。两者结合起来可以大幅提升模型在复杂物理建模任务上的稳定性和泛化能力。第二工程实现上要特别注意三个坑自动微分求二阶导时必须开启create_graphTrue图结构的选择要符合物理背景不能盲目套用 KNN损失函数各项权重需要动态调整否则物理约束很难真正生效。第三本文的示例是一个很好的起点但离实际工程还有一定距离。你可以从以下方向继续深入把手写 GCN 换成 GAT对比注意力机制对物理场建模的帮助。将问题从稳态热传导扩展到瞬态扩散或 Navier-Stokes 方程。引入自适应采样策略在残差大的区域动态增加配置点。尝试用图神经网络替代传统网格生成器直接学习不同几何形状上的物理场解。如果你正在做相关课题建议先跑通本文示例再做消融实验最后结合自己的业务数据调整图结构和损失函数。这条路线虽然需要一些耐心但每一步的反馈都很直接损失下降代表模型在学物理误差收敛代表 GNN 的空间编码确实起到了作用。如果本文对你有帮助收藏备用如果在跑代码时遇到问题欢迎在评论区留言讨论。