使用U-Net神经网络架构作为代理模型对基于Cellular-Potts的Agent-Based模型进行分割任务建模
Tien Comlekoglu J. Quetzalcóatl Toledo-Marín
Douglas W. DeSimone
Shayn M. Peirce
Tina Comlekoglu
James A. Glazier
摘要
Cellular-Potts模型是一种强大的通用框架,用于开发模拟复杂多细胞生物系统的计算模型。由于需要显式建模大量个体模型代理之间的相互作用以及由偏微分方程(PDEs)描述的扩散场,Cellular-Potts模型(CPMs)通常计算成本较高。在这项工作中,我们开发了一种基于U-Net架构的卷积神经网络(CNN)代理模型,该模型考虑了周期性边界条件。我们使用此模型加速了以前用于研究体外血管生成的机制性CPM的评估。代理模型被训练以预测100个计算步骤(蒙特卡罗步骤,MCS)后的结果,与CPM代码执行相比,加速了590倍的模拟评估。在多次递归评估中,我们的模型有效地捕捉到了原始Cellular-Potts模型所展示的涌现行为,例如血管芽生、延伸和吻合,以及血管腔收缩。这种方法展示了深度学习作为高效代理模型服务于CPM模拟的潜力,使更大空间和时间尺度上的生物学过程的CPM计算更加迅速。
1 引言
多细胞基于代理的模型在系统生物学中常用于研究复杂的生物现象。这些模型通常需要同时计算许多模型对象或代理的行为。每个代理通常代表单个细胞,其中每个细胞对其环境中的其他细胞作出反应。同时模拟具有许多细胞的大规模和复杂的生物现象会导致计算成本高昂的模型。显著的计算开销使得用户更难以调查或继续开发这些模型。
Cellular-Potts方法是一种计算建模方法,它允许基于代理的模拟和计算机内研究复杂的生物过程。最近使用Cellular-Potts建模方法的工作已经实现了对许多复杂生物过程机制的计算机内研究,例如血管生长[1]、受伤肌肉的再生[2]和胚胎发育[3-5]。在这些工作中的许多情况下,计算机内细胞代理不仅响应彼此,还响应由偏微分方程(PDEs)系统描述的扩散场,这进一步增加了计算需求。Cellular-Potts方法使用随机修改的Metropolis Monte-Carlo算法来模拟细胞运动。这种算法已被引用为在涉及大规模生物模拟时计算成本高[6-8]。耦合PDEs以建模生物系统也增加了这些计算机内模型的计算复杂度。虽然在表示复杂生物系统方面非常有效,但Cellular-Potts建模方法的能力也导致了评估缓慢的机制性计算模型。为了近似和加速此类建模方法,有效的代理模型将有助于更大空间尺度或更长时间尺度上准确地模拟这些生物系统。
基于深度神经网络的代理模型可能提供一种有效的方法来加速Cellular-Potts模型的计算模型评估。深度学习模型已经在解决物理系统如热传递和分子及亚原子粒子动力学的PDE系统方面显示出潜力[9-13]。此外,作者之前的研究所示,深度卷积神经网络在有效求解由PDE系统描述的稳态扩散方面具有潜力[14, 15]。然而,尚未彻底研究用于Cellular-Potts基于代理模型的神经网络代理的发展。
尚未实现开发针对Cellular-Potts方法的神经网络代理。Cellular-Potts方法产生的是随机基于代理的模型,而之前提到的用于求解PDE的神经网络代理则采用确定性方法。此外,基于代理的模型通常用于研究未明确描述或编码在模型中的涌现行为。在这项工作中,我们在先前努力的基础上,应用卷积神经网络作为稳态扩散求解器的模型代理。在这里,我们应用我们的U-Net来预测一个以前用于研究血管生成的随机CPM模型的100个计算时间步长之后的基于代理的机制模型配置,其中CPM模型代理的行为对由PDE系统描述的扩散细胞因子作出反应[1]。我们的工作展示了使用确定性神经网络架构预测随机基于代理模型的时间演化的有效性。
2 方法
2.1 Cellular-Potts基于代理的机制模型
我们选择了Merks等人[1]发表的血管生成模型,因为它是一个基于Cellular-Potts建模方法实现的复制生物系统基于代理模型的适当例子。Cellular-Potts(Glazier-Graner-Hogeweg)基于代理的模型在CompuCell3D(CC3D)[16]开源仿真环境版本4.6.0中重新实现。在CPM方法中,单个细胞被表示为二维方形晶格上的一组像素,尺寸为256×256256 \times 256256×256像素。细胞被赋予预定义体积、与周围细胞和介质的接触能量,以及趋向扩散细胞因子梯度的趋化倾向。这些性质通过数学上定义的有效能量函数HHH表示,如下方程1所示。这个有效能量函数在每个计算时间步长上逐细胞评估,在CPM方法中称为Monte-Carlo步骤(MCS)。
H=∑i,j, neighbors Jτ(σi),τ(σj)(1−δσi,σj)+λvolume (Vcell −Vtarget )2+λsurface (Scell −Starget )2+∑i,j−λchemotaxis [c(xdestination )sc(xdestination )+1−c(xsource )sc(xsource )+1] \begin{aligned} H= & \sum_{i, j, \text { neighbors }} J_{\tau\left(\sigma_{i}\right), \tau\left(\sigma_{j}\right)}\left(1-\delta_{\sigma_{i}, \sigma_{j}}\right) \\ & +\lambda_{\text {volume }}\left(V_{\text {cell }}-V_{\text {target }}\right)^{2} \\ & +\lambda_{\text {surface }}\left(S_{\text {cell }}-S_{\text {target }}\right)^{2} \\ & +\sum_{i, j}-\lambda_{\text {chemotaxis }}\left[\frac{c\left(\mathbf{x}_{\text {destination }}\right)}{s c\left(\mathbf{x}_{\text {destination }}\right)+1}-\frac{c\left(\mathbf{x}_{\text {source }}\right)}{s c\left(\mathbf{x}_{\text {source }}\right)+1}\right] \end{aligned} H=i,j, neighbors ∑Jτ(σi),τ(σj)(1−δσi,σj)+λvolume (Vcell −Vtarget )2+λsurface (Scell −Starget )2+i,j∑−λchemotaxis [sc(xdestination )+1c(xdestination )−sc(xsource )+1c(xsource )]
其中第一项描述了相邻细胞的接触能量,接触系数为JJJ,其中i,ji, ji,j描述相邻晶格点,σi\sigma_{i}σi和σj\sigma_{j}σj分别描述占据点iii和jjj的个别模型代理,τ(σ)\tau(\sigma)τ(σ)表示模型中细胞σ\sigmaσ的类型。第二项定义了应用于每个细胞的体积约束λvolume \lambda_{\text {volume }}λvolume ,其中Vcell V_{\text {cell }}Vcell 表示给定模拟点处细胞的当前体积,Vtarget V_{\text {target }}Vtarget 是分配给该细胞的体积,刚度为λvolume \lambda_{\text {volume }}λvolume 。同样,第三项应用了表面积约束,其中λsurface \lambda_{\text {surface }}λsurface 决定了分配周长Starget S_{\text {target }}Starget 的影响。第四项定义了对扩散梯度的趋化剂运动响应,其中λchemotaxis \lambda_{\text {chemotaxis }}λchemotaxis 是对每个MCS细胞代理像素复制目标位置和像素复制源位置化学浓度c(xdestination )c\left(\mathbf{x}_{\text {destination }}\right)c(xdestination )和c(xsource )c\left(\mathbf{x}_{\text {source }}\right)c(xsource )差异的约束或影响,sss表示饱和常数。
在每个MCS或计算时间步长中,CPM模型通过选择随机的相邻体素对(y,y′)\left(y, y^{\prime}\right)(y,y′)并评估位于yyy处的一个体素是否可以复制到其相邻对y′y^{\prime}y′来创建细胞运动。这种体素复制尝试,记为σ(y,t)→σ(y′,t)\sigma(y, t) \rightarrow \sigma\left(y^{\prime}, t\right)σ(y,t)→σ(y′,t),按照由Boltzmann接受函数定义的概率发生,该概率如方程2所示,对应于系统有效能量的变化ΔH\Delta HΔH,已在方程1中定义。
Pr(σ(y,t)→σ(y′,t))=e−max(0,ΔHB) \operatorname{Pr}\left(\sigma(y, t) \rightarrow \sigma\left(y^{\prime}, t\right)\right)=e^{-\max \left(0, \frac{\Delta H}{B}\right)} Pr(σ(y,t)→σ(y′,t))=e−max(0,BΔH)
每个晶格点处的扩散化学浓度值ccc由以下方程3描述:
∂c∂t=D∇2c−kc+ secretion \frac{\partial c}{\partial t}=D \nabla^{2} c-k c+\text { secretion } ∂t∂c=D∇2c−kc+ secretion
其中kkk是扩散场浓度ccc的衰减常数,DDD是扩散常数。分泌项表示在与CC3D模型代理位置相关的晶格点处添加的扩散场浓度,以模拟生物细胞分泌细胞因子。对于受Potts算法约束的细胞位置和由方程3描述的扩散场浓度,模拟域应用了周期性边界条件。
CPM模型参数被定义为在Merks等人[1]之前探索的参数空间内产生明显的分支延伸、新分支芽生和圆形腔缩小。CPM模型参数值显示在表1中。
表1: CPM参数表
| 参数 | 参数描述 | 参数值 |
|---|---|---|
| λvolume \lambda_{\text {volume }}λvolume | 体积约束的影响 | 5 |
| Vtarget V_{\text {target }}Vtarget | 每个细胞的体素数量 | 50 |
| λsurface \lambda_{\text {surface }}λsurface | 表面约束的影响 | 1 |
| Starget S_{\text {target }}Starget | 细胞周长中的体素数量 | 16.8 |
| Jcell,medium J_{\text {cell,medium }}Jcell,medium | 细胞-介质界面的接触能量 | 8.2 |
| Jcell,cell J_{\text {cell,cell }}Jcell,cell | 细胞-细胞界面的接触能量 | 6 |
| λchemotaxis \lambda_{\text {chemotaxis }}λchemotaxis | 趋化性的影响 | 2000 |
| sss | 趋化性的饱和常数 | 0.5 |
| kkk | 化学场的衰减常数 | 0.6 |
| H′H^{\prime}H′ | Cellular-Potts算法的温度 | 8 |
2.2 Cellular-Potts模型模拟和训练数据生成
大约1000个CPM细胞代理在模拟开始时随机放置在整个256×256256 \times 256256×256的模拟域中,并在模拟的前200个蒙特卡洛步骤(MCS)内形成类似血管的结构。通过保存从200到20,000MCS20,000 \mathrm{MCS}20,000MCS之间每次模拟的模型配置,创建了代理模型的训练数据。总共生成了20个独特的模拟来产生代理模型的训练数据。输入和真实标签对用于训练是通过将保存的MCS模型配置作为输入,与同一模拟中100 MCS后对应的配置配对生成的。模型配置包括一个2通道的256x256输入图像。第一个通道由Cellular-Potts模拟的细胞位置的二进制分割组成,第二个通道由模拟域晶格点的化学场浓度组成。因此,每次模拟产生了19,700个输入和真实标签对,包含给定模拟状态及其在同一模拟中100个时间步长后的对应状态。
2.3 代理模型架构、训练和性能评估
指定了一种具有循环填充的U-Net架构,以考虑Cellular-Potts模型中存在的周期性边界条件,并使用参数整流线性单元(PReLU)激活。模型架构的示意图为图1所示。我们将生成的训练数据按80%−20%80 \%-20 \%80%−20%的比例分为训练集和测试集,用于U-Net代理模型的训练。我们在生成的输入和真实标签对上训练了100个epoch的U-Net架构,损失函数结合了细胞分割层的二元交叉熵和化学场层的均方误差(MSE)。通过将MSE损失乘以10来平衡两个图像层预测对损失函数的影响。
代理模型性能在由20个新模拟生成的独立数据集上进行了评估,这些模拟未包含在训练集中。使用Dice分数作为细胞分割层的评估指标,使用MSE作为化学场层的评估指标。
图1:代理模型架构。说明了U-Net神经网络模型配置,允许预测比输入配置提前100个MCS的机制模型模拟配置。
量化模拟配置和真实值之间空隙面积分布的距离,使用Earth Mover’s Distance (EMD)作为评估训练模型性能的指标(见结果部分)。
我们定义了一个过程来计算给定模拟中空隙面积的分布,以便能够比较这些分布。首先通过在原始配置的上方、下方、左侧和右侧图案化图像来增强图像,以考虑原始Cellular-Potts模型中存在的周期性边界条件。然后我们标记所有连接的空隙区域并删除所有重复的空隙面积。通过计算所有已识别空隙列表的图像惯性张量特征值来去除重复的空隙面积。此操作定义了一个数学表示的空隙形状,我们用它来忽略重复区域。使用开源图像处理库scikit-image [17]对标记的孤立图像区域和这些区域的惯性张量进行计算。我们进一步过滤唯一域集合,移除所有面积小于3个晶格点的区域,因为在模拟中血管空隙通常较大,且由于Cellular-Potts算法期间的随机晶格点交换,很少出现1-3个晶格区域。这产生了一个非重复空隙面积列表,考虑了Cellular-Potts模型的周期性边界条件。该列表中的面积分布用于计算和比较预测和真实模拟状态之间的分布距离。
3 结果
3.1 问题定义和方法
所选的代表血管生成的Cellular-Potts模型在模拟过程中表现出一致的模式。这些模式是:1)新生血管的芽生;2)血管芽伸展进入大空隙并与其它芽吻合,导致大空隙被细分成小空隙;3)小空隙的缩小,如Merks等人[1]所述。在短时间尺度上,即单个计算时间步长(Monte Carlo Steps, MCS)的范围内,这些模式被Potts算法固有的随机噪声掩盖,使得代理模型难以预测。然而,在长时间尺度上,初始或参考配置可能会因模拟过程中血管网络的大幅位置变化而丢失。这同样给代理模型提出了一个挑战。
我们试图通过学习模型代理的中间时间尺度来捕捉这三种模型行为。我们发现,在100 MCS增量的情况下,血管网络偏离约一个Cellular-Potts代理长度。这个中间时间尺度为代理模型提供了可行的学习问题。在中间配置中,系统尚未偏离参考配置到参考位置不再明显的位置。中间时间尺度还捕捉了由Cellular-Potts模型描述的三种行为:新生血管分支的芽生、现有血管分支的延伸和合并以及小血管空隙的闭合,如图2所示。
我们将预测未来Cellular Potts模型状态的问题框架化为分割问题,将参考配置和未来模拟状态与从自然图像中预测标记掩码类似地对待。卷积神经网络,尤其是U-Net架构,已经被证明非常适合这些分割任务 [18, 19]。
3.2 代理预测性能评估
给定的Cellular-Potts模型模拟状态既包含关于血管网络位置的信息层,也包含关于血管网络响应的扩散场浓度信息层。在方法部分描述的U-Net规格和训练后,我们递归地应用U-Net多次迭代以视觉评估代理模型性能。给定模拟状态递归评估的代表性图示在图3中显示。电影1和2展示了扩展这种递归评估至98次迭代,以预测从未包含在训练数据中的模拟中MCS 2000参考配置起每100步至MCS 11800的模拟状态。电影1显示了代理模型预测的血管网络配置结果,电影2显示了化学场浓度预测结果。
为了定量评估多个模拟中血管网络位置的代理预测,我们使用了Sorenson-Dice系数(Dice得分),这是一种常用的评估分割任务准确性度量标准 [20-23]。我们使用均方误差(MSE)来评估扩散场预测的准确性。
(1) - 新生血管分支的芽生
◯\bigcirc◯ - 分支的延伸和合并
◯\bigcirc◯ - 小空隙的缩小/闭合
图2:模型代理的问题定义。来自示例参考配置(t0\left(t_{0}\right.(t0, 左侧) 和其对应的100 MCS后配置 (t0+100MCSt_{0}+100 \mathrm{MCS}t0+100MCS, 中间) 的细胞位置(顶部行)和扩散场浓度(底部行)。两种配置之间的差异显示(右侧),表明血管网络的位置移动大约为Cellular-Potts模型细胞长度。这个代表性示例展示了Cellular-Potts模型的三种主要行为:1)新生血管分支的芽生,2)血管芽的延伸和吻合,3)小空隙的闭合。
图3:训练好的代理模型的递归评估。将训练好的代理模型迭代应用于预测参考配置数百个MCS后的情况,可以捕捉基础Cellular-Potts模型的动力学。参考输入配置t0t_{0}t0 来自MCS 2000的一个代表性Cellular-Potts模型模拟的状态,该模拟数据单独生成,未用于代理训练。
组件。此外,我们使用Wasserstein距离,也称为Earth Mover’s Distance (EMD),计算模型预测和参考配置之间的空隙面积分布差异。Earth Mover’s Distance 是一种常用度量,用于量化数据分布之间的距离,例如图像相似性,适用于机器学习和计算机视觉应用 [24-26]。从代理模型预测与真值模拟状态在预测的MCS处计算的指标与参考配置在该MCS处与真值模拟状态比较的相同指标进行比较。我们使用这种比较来确定代理模型是否根据定量指标优于不变的参考配置。如果代理模型优于不变的参考配置,则表明代理模型至少学会了对未来状态有一定预测能力的模式。
图4:代理模型的定量评估。给定单一参考模拟配置(MCS 2000),代理模型递归应用于100次递归评估。(A) 显示了100次代理模型评估中代理预测和初始配置与给定时间步长的模拟状态的Dice得分。为清晰起见,前10次评估的数据以子图形式绘制。(B) 绘制了100次评估中扩散场浓度的均方误差(MSE),前10次评估的数据也以子图形式绘制。© 显示了100次递归迭代中模型预测和参考配置的空隙面积分布的Earth Mover’s Distance (EMD),前10次迭代以子图形式显示。所有子图的数据代表与真值模拟配置在指定时间步长下对比预测和初始参考的度量的平均值±标准差。数据代表从25个独特Cellular-Potts模型模拟生成用于性能评估的比较。
为了评估代理模型的性能,我们在MCS 2000处向代理模型提供初始配置以向前预测,并进行了100次递归预测。这导致了最多提前10000 MCS的预测,每隔100 MCS一次。衡量代理模型预测Cellular-Potts模型配置能力的比较指标如图4所示。数据使用从25个独特模拟生成的MCS 2000生成。图4显示了数据的平均值和标准差。
当在评估数据集上递归评估时,代理模型预测结果的平均Dice得分为0.82 (标准差 4.496×10−3,n=254.496 \times 10^{-3}, n=254.496×10−3,n=25 ),相比之下,输入参考配置相对于真值的Dice得分为0.77 (标准差 5.83×10−3,n=255.83 \times 10^{-3}, n=255.83×10−3,n=25 ),单次预测步长为100 MCS。对于这一单次预测步长,扩散场MSE为0.021 (标准差 1.6×10−3,n=251.6 \times 10^{-3}, n=251.6×10−3,n=25 ),相比于MSE为0.038 (标准差 4.22×10−3,n=254.22 \times 10^{-3}, n=254.22×10−3,n=25 )。量化预测、参考和真值模拟配置的空隙面积分布的距离结果显示,代理预测与真值的平均EMD值为20.41 (标准差 9.72,n=259.72, n=259.72,n=25 ),而参考配置与真值的平均EMD值为21.09 (标准差 7.77,n=257.77, n=257.77,n=25 )。这些值作为初始值绘制在图4的子图中。代理模型在单次评估迭代中表现出了最高的Dice得分。后续预测步长的Dice得分急剧下降,预测扩散场的MSE增加,预测配置的空隙面积的EMD增加。这些共同代表了随后模拟步骤中越来越差的预测以及与Cellular-Potts模型配置相比的预测模拟配置的发散。然而,代理模型在10次递归迭代中保持了比参考配置更高的Dice得分,预测最多提前1000 MCS (图4A),并在3次递归评估步骤中保持与参考配置相似的EMD值 (图4C),表明在短时间尺度上最多提前300 MCS或3次递归迭代的递归评估预测能力。在整个模拟过程中,代理模型保持了比参考配置更低的扩散场MSE。
在检查代表性时间序列的模拟血管网络配置(电影1)时,代理模型产生的芽生较少,且芽生的延伸速度较慢,与真值相比。我们的综合Dice + MSE损失函数(见方法)对此细节不敏感。因此,在训练过程中未能准确再现这些特定行为并未受到严重惩罚,这使得代理模型难以学习这些动态。观察代表性模拟时间进程中的化学场值(电影2),代理模型似乎整体预测较低的扩散场浓度。
为进一步调查代理模型在长时间尺度上未能再现模拟配置的原因,我们量化了对应于血管网络的Cellular-Potts晶格点数以及所有晶格点的扩散场值总和。代理模型无法在多次递归评估中保持血管面积(图5A)和扩散场值(图5B)。这代表了代理模型与真值发散的机制,导致在多次评估中表现不佳。
3.3 模型计算时间比较
代理模型在单次预测评估步骤中最为准确,可预测输入配置100 MCS之后的情况。为了研究代理模型加速Cellular-Potts模型评估的潜力,我们将计算给定参考配置100 MCS之后所需的时间与训练好的代理模型相比原生CompuCell3D (CC3D)代码进行了比较。我们生成了100个独特的模型配置,并计算了CC3D代码计算每个配置100 MCS所需的时间。
图5:代理模型在多次递归评估中未能保留血管面积和扩散场浓度。(A) 每次评估时间步长中预测模型配置和真值模拟配置的血管面积。显示了来自评估数据集中25个独特模拟的数据的平均值和标准差。(B) 预测和真值模拟状态中所有晶格点扩散场浓度的总和。显示了来自评估数据集中25个模拟的数据的平均值和标准差。
配置。我们将原生CC3D代码执行所需的时间与使用模型代理评估100 MCS所需的时间进行了比较。该实验的结果如图6所示。
与原生CompuCell3D代码执行相比,训练好的代理模型显著加速了Cellular-Potts模型100 MCS的评估。代理模型评估的中位时间为0.0041秒(标准差0.0078),而原生CC3D代码为2.45秒(标准差0.21),计算速度提高了590倍。两种模型都在同一台消费级工作站电脑上运行。代理模型评估是在NVIDIA RTX 3090 GPU上进行的,而CC3D代码是在AMD Ryzen 95950 X处理器上执行的。
4 讨论
在这项工作中,我们将预测Cellular-Potts基于代理模型的未来模拟状态视为分割任务,并成功应用了U-Net神经网络架构配置,以预测比给定输入配置提前100 MCS的Cellular-Potts模型配置。这展示了卷积神经网络作为Cellular-Potts模型代理模型的潜力。代理模型复制了Cellular-Potts模型中未明确编码但在模型代理和基于PDE的扩散场交互中出现的行为。
除了复制Cellular-Potts模型的动力学外,代理模型还允许通过单一评估步骤将未来的模拟状态提前100 MCS生成的速度加快590倍。
图6:代理模型评估速度比原Cellular-Potts模型快。p = 1.01×10−1831.01 \times 10^{-183}1.01×10−183,独立样本t检验,n = 100 每个模拟配置。代理模型评估的中位时间为0.0041秒(标准差0.0078),相比之下原生CC3D代码为2.45秒(标准差0.21),评估时间中位数提高590倍。代理模型评估在NVIDIA RTX 3090 GPU上进行,CC3D模拟执行在AMD Ryzen 95950 X处理器上进行。
这是因为代理模型可以在工作站计算机的图形处理单元(GPU)硬件上计算未来的模拟状态,并经过训练以在一个评估步骤中计算未来的配置。广泛使用的开源框架如CompuCell3D [16]、Morpheus [27]、Chaste [28]和Artistoo [29]等实现的Cellular-Potts模型在中央处理单元(CPU)上评估算法,并显式评估每个MCS,从而导致更高的计算要求和更长的评估时间。最近,已经开发了GPU加速的Cellular-Potts方法实现,大大减少了模型评估所需的计算时间 [30, 31]。然而,这似乎是一个活跃的研究领域,现有的广泛可用框架(允许指定多方法或多尺度模拟功能,例如响应分泌扩散化学场的代理行为)与GPU加速的Cellular-Potts算法实现不兼容。
我们的代理模型在单次预测步骤100 MCS中表现出最高的预测准确性,并在多次评估中表现出持续降低的预测准确性。我们证明了这种行为是由于与真值相比,在多次时间步长中未能维持模拟空间中的血管网络面积和扩散场浓度。我们的损失函数没有惩罚这种行为,未来的工作定义更优的训练策略可能会产生在额外递归评估中更准确的代理模型。几个附加因素可能导致代理模型在递归应用时表现不佳。Cellular Potts Model本质上是随机的,这些随机波动影响模拟中的模型配置,导致模型配置以U-Net难以在长时间尺度上预测的方式偏离参考配置。像这里提出的U-Net这样的卷积神经网络是确定性模型,因此缺乏复制CPM模拟随机性的能力。此外,构成神经网络模型的数学卷积和池化操作会产生平滑效果,滤除原始模拟中存在的嘈杂细胞边界。这可能是有问题的,因为CPM中不规则的细胞形状和随机的细胞运动促成了模型系统的涌现行为。平滑图像会导致预测误差,当该平滑图像用于后续预测步骤的参考时,累积的误差导致进一步偏离真值,从而导致在多次预测步骤中观察到的预测性能下降。深度生成建模方法,如变分自动编码器、归一化流或生成去噪扩散模型,可能更适合捕捉CPM方法的随机行为 [32]。未来的工作可以在开发CPM模型代理的背景下探索这些方法。在正在进行的工作中,我们的团队已经成功利用去噪扩散模型作为这里的ABM在长时间尺度上的代理,多达20,000 MCS的多个参数集 [33]。
因此,代理模型最适合进行单次预测步骤,但在递归应用时仍保留最多三次预测步骤的预测能力。考虑到这一点,以及与原生模型执行相比每个评估步骤显著增加的评估速度,表明如果与机械CPM模型一起使用,代理模型可能很有价值。未来的工作可以探索混合方法,例如在代理模型和机械模型之间交替。代理模型可以应用于单次预测步骤,并在Cellular-Potts求解器之间来回传递,以纳入Potts模型的随机性并重置代理配置的参考配置。尽管可以在CPU和GPU之间传递数据以将代理模型与CPM集成,但我们的方法需要将Potts模型数据转换为双通道图像,这可能会引入计算开销。
总之,我们展示了经典应用于分割任务的卷积神经网络可以作为包括基于PDE的扩散场在内的Cellular-Potts基于代理模型的代理。我们的代理模型比原生Cellular-Potts算法执行预测模拟配置的速度快得多,并能复制存在于但未明确定义在Cellular-Potts模型中的涌现行为。总体而言,这项工作突显了深度学习方法加速Cellular-Potts模型评估的潜力,为改进复杂生物模拟的计算效率提供了有希望的方向。
致谢
我们感谢Geoffrey Fox获得DOE ASCR资助## DE-SC0023452 “FAIR代理基准支持AI和模拟研究”。Tien Comlekoglu感谢国家卫生研究院资助T32-GM145443和T32-GM007267的支持。
数据可用性
本工作的代码将在https://github.com/tc2fh/CPM_ UNet_Surrogate发布之前公开。
参考文献
[1] Roeland MH Merks, Sergey V Brodsky, Michael S Goligorksy, Stuart A Newman, and James A Glazier. Cell elongation is key to in silico replication of in vitro vasculogenesis and subsequent remodeling. Developmental biology, 289(1):44-54, 2006. doi: 10.1016/j. ydbio.2005.10.003.
[2] Megan Haase, Tien Comlekoglu, Alexa Petrucciani, Shayn M Peirce, and Silvia S Blemker. Agent-based model demonstrates the impact of nonlinear, complex interactions between cytokines on muscle regeneration. eLife, 13:e91924, 2024. doi: 10.7554/eLife. 91924.
[3] Tien Comlekoglu et al. Modeling the roles of cohesotaxis, cell-intercalation, and tissue geometry in collective cell migration of xenopus mesendoderm. Biology Open, 13(8): bio060615, 2024. doi: 10.1242/bio.060615.
[4] Jeroen H Berkhout et al. A computational dynamic systems model for in silico prediction of neural tube closure defects. Current Research in Toxicology, 8:100210, 2025. doi: 10.1016/10.1016 /10.1016/ j.crtox.2024.100210.
[5] Priyom Adhyapok et al. A mechanical model of early somite segmentation. IScience, 24 (4):102317, 2021. doi: 10.1016/j.isci.2021.102317.
[6] Nan Chen, James A Glazier, Jesus A Izaguirre, and Mark S Alber. A parallel implementation of the cellular potts model for simulation of cell-based morphogenesis. Computer physics communications, 176(11-12):670-681, 2007. doi: 10.1016/j.cpc.2007.03.007.
[7] SA Wright, SJ Plimpton, and TP Swiler. Potts-model grain growth simulations: Parallel algorithms and applications. Technical report, Sandia National Labs., Albuquerque, NM (United States), 1997.
[8] Élio Gusatto, José Carlos M Mombach, Fernando P Cercato, and Gerson H Cavalheiro. An efficient parallel algorithm to evolve simulations of the cellular potts model. Parallel Processing Letters, 15(01n02):199-208, 2005. doi: 10.1142/S0129626405002155.
[9] Amir Barati Farimani, Joseph Gomes, and Vijay S Pande. Deep learning the physics of transport phenomena, 2017.
[10] Mahdi Edalatifar, Mohammad Bagher Tavakoli, Mohammad Ghalambaz, and Farid Setoudeh. Using deep learning to learn physics of conduction heat transfer. Journal of Thermal Analysis and Calorimetry, 146(3):1435-1452, 2021. doi: 10.1007/s10973-020-09875-6.
[11] Stefan Doerr et al. Torchmd: A deep learning framework for molecular simulations. Journal of Chemical Theory and Computation, 17(4):2355-2363, 2021. doi: 10.1021/acs. jctc.0c01343.
[12] Angran Li, Ruo Chen, Amir Barati Farimani, and Yong-Jie Zhang. Reaction diffusion system prediction based on convolutional neural network. Scientific reports, 10(1):3894, 2020. doi: 10.1038/s41598−020−60853−210.1038 / \mathrm{s} 41598-020-60853-210.1038/s41598−020−60853−2.
[13] Geoffrey Fox and Shantenu Jha. Learning everywhere: A taxonomy for the integration of machine learning and simulations. In 2019 15th International Conference on eScience (eScience), pages 439-448. IEEE, 2019. doi: 10.1109/eScience.2019.00057.
[14] J Quetzalcóatl Toledo-Marín, Geoffrey Fox, James P Sluka, and James A Glazier. Deep learning approaches to surrogates for solving the diffusion equation for mechanistic real-world simulations. Frontiers in Physiology, 12:667828, 2021. doi: 10.3389/fphys. 2021.667828.
[15] J Quetzalcóatl Toledo-Marín, James A Glazier, and Geoffrey Fox. Analyzing the performance of deep encoder-decoder networks as surrogates for a diffusion equation, 2023.
[16] Maciej H Swat, Gilberto L Thomas, Julio M Belmonte, Abbas Shirinifard, Davor Hmeljak, and James A Glazier. Multi-scale modeling of tissues using compucell3d. Methods in cell biology, 110:325-366, 2012. doi: 10.1016/B978-0-12-388403-9.00013-8.
[17] Stéfan van der Walt, Johannes L. Schönberger, Juan Nunez-Iglesias, François Boulogne, Joshua D. Warner, Neil Yager, Emmanuelle Gouillart, Tony Yu, and the scikit-image contributors. scikit-image: image processing in python. PeerJ, 2:e453, 2014. doi: 10.7717/peerj. 453 .
[18] Olaf Ronneberger, Philipp Fischer, and Thomas Brox. U-net: Convolutional networks for biomedical image segmentation, 2015.
[19] Jonathan Kugelman et al. A comparison of deep learning u-net architectures for posterior segment oct retinal layer segmentation. Scientific reports, 12(1):14888, 2022. doi: 10.1038/s41598−022−18646−210.1038 / \mathrm{s} 41598-022-18646-210.1038/s41598−022−18646−2.
[20] Kelly H Zou et al. Statistical validation of image segmentation quality based on a spatial overlap index. Academic radiology, 11(2):178-189, 2004. doi: 10.1016/S1076-6332(03) 00671−800671-800671−8. [21] Aaron Carass 等人. 使用改进的 Sørensen-Dice 分析评估白质病变分割. Scientific Reports, 10(1):8242, 2020. doi: 10.1038/s41598-020-64803-w.
[22] Zeki Soydan, Erhan Bayramoglu, Rustem Karasu, Idris Sayin, Serkan Salturk 和 Huseyin Uvet. 自动化深度分割和分类模型用于腰椎间盘退变及其对临床决策的影响澄清. Global spine journal, 15(2):554-563, 2025. doi: 10.1177/21925682231200783.
[23] Yen-Cheng Chen 等人. 使用胸部低剂量计算机断层扫描进行骨质疏松症筛查的自动分割和放射组学纹理分析. European Radiology, 33(7):5097-5106, 2023. doi: 10.1007/s00330-023-09421-6.
[24] Yossi Rubner, Carlo Tomasi 和 Leonidas J Guibas. 一种应用于图像数据库的分布度量. 在第六届国际计算机视觉会议(IEEE Cat. No. 98CH36271)上,第59-66页. IEEE, 1998. doi: 10.1109/ICCV.1998.710701.
[25] Yossi Rubner, Carlo Tomasi 和 Leonidas J Guibas. 作为图像检索度量的Earth Mover’s Distance. International Journal of Computer Vision, 40(2):99-121, 2000. doi: 10.1023/a:102654390005410.1023 / \mathrm{a}: 102654390005410.1023/a:1026543900054.
[26] Chi Zhang, Yujun Cai, Guosheng Lin 和 Chunhua Shen. DeepEMD:用于少样本学习的可微分Earth Mover’s Distance,2020.
[27] Jörn Starruss, Walter de Back, Lutz Brusch 和 Andreas Deutsch. Morpheus:一个多尺度和多细胞系统生物学的用户友好建模环境. Bioinformatics, 30(9):1331-1332, 2014. doi: 10.1093/bioinformatics/btt772.
[28] James M Osborne, Alexander G Fletcher, Joe M Pitt-Francis, Philip K Maini 和 David J Gavaghan. 比较多细胞组织自组织的基于个体的方法. PLoS computational biology, 13(2):e1005387, 2017. doi: 10.1371/journal.pcbi. 1005387 .
[29] Inge MN Wortel 和 Johannes Textor. Artistoo,一个在网页浏览器中构建、共享和探索细胞和组织模拟的库. Elife, 10:e61288, 2021. doi: 10.7554/ eLife. 61288 .
[30] Shabaz Sultan, Sapna Devi, Sebastian N Mueller 和 Johannes Textor. 一种并行化的Cellular Potts模型,能够进行组织规模的模拟,2023.
[31] J Jeffrey Tapia 和 Raissa M D’Souza. 在图形处理单元上并行化Cellular Potts模型. Computer Physics Communications, 182(4):857-865, 2011. doi: 10.1016/10.1016 /10.1016/ j.cpc.2010.12.011.
[32] Sam Bond-Taylor, Adam Leach, Yang Long 和 Chris G Willcocks. 深度生成建模:VAEs、GANs、归一化流、能量基和自回归模型的比较综述. IEEE transactions on pattern analysis and machine intelligence, 44(11):7327-7347, 2022. doi: 10.1109/TPAMI.2021.3116668.
[33] Tien Comlekoglu, J. Quetzalcóatl Toledo-Marín, Douglas W. DeSimone, Shayn M. Peirce, Geoffrey Fox 和 James A. Glazier. 生成扩散模型代理用于机制性基于代理的生物模型,2025.
参考论文:https://arxiv.org/pdf/2505.00316
更多推荐



所有评论(0)