隨機(jī)反應(yīng)網(wǎng)絡(luò)是物理學(xué)、化學(xué)、生物學(xué)和生態(tài)學(xué)中隨機(jī)過(guò)程的標(biāo)準(zhǔn)模型。代表性的例子包括生滅過(guò)程、自發(fā)不對(duì)稱(chēng)合成模型和基因調(diào)控網(wǎng)絡(luò)等。隨機(jī)反應(yīng)網(wǎng)絡(luò)通常通過(guò)化學(xué)主方程進(jìn)行建模，它描述了物種分子數(shù)的聯(lián)合概率分布隨時(shí)間的演化。然而，系統(tǒng)可能狀態(tài)數(shù)隨著物種的種類(lèi)數(shù)呈指數(shù)增長(zhǎng)，因此，獲得物種分子數(shù)隨時(shí)間演化的聯(lián)合概率分布是一個(gè)難題。

為了通過(guò)數(shù)值方法近似求解化學(xué)主方程，研究者已經(jīng)做出了許多努力。其中最常用的方法是Gillespie算法。Gillespie算法屬于動(dòng)力學(xué)蒙特卡羅方法，可以從所有可能的狀態(tài)軌跡中采樣以生成相關(guān)變量的統(tǒng)計(jì)數(shù)據(jù)。然而，為了獲得高精度的聯(lián)合概率分布數(shù)據(jù)需要進(jìn)行大量的軌跡模擬，系統(tǒng)的動(dòng)力學(xué)可能會(huì)受到罕見(jiàn)但重要的軌跡的顯著影響，而這些軌跡很難通過(guò)Gillespie算法進(jìn)行采樣。為了改善這些問(wèn)題，研究者提出了很多改進(jìn)，例如Gillespie算法的連續(xù)版本（化學(xué)Langevin方程）、對(duì)CME的狀態(tài)空間進(jìn)行截?cái)?、Finite state projection以及ACME等方法等。然而當(dāng)物種的分子數(shù)有很大波動(dòng)，或者種類(lèi)數(shù)和分子數(shù)都很大時(shí)，這些方法仍然具有高計(jì)算成本和低計(jì)算精度的問(wèn)題。盡管在這一方面已經(jīng)付出了很大的努力，目前仍然缺乏一種通過(guò)直接表示聯(lián)合概率分布演化的方式來(lái)求解化學(xué)主方程的通用方法。

近日，中科院理論物理所彭桓武青年訪(fǎng)問(wèn)科學(xué)家、北京師范大學(xué)復(fù)雜系統(tǒng)國(guó)際科學(xué)中心的湯迎副研究員和學(xué)生翁佳鈺與中國(guó)科學(xué)院理論物理研究所的張潘研究員合作，在Nature Machine Intelligence發(fā)表論文“Neural-network solutions to stochastic reaction networks”，提出了使用變分自回歸網(wǎng)絡(luò)來(lái)求解化學(xué)主方程的機(jī)器學(xué)習(xí)方法，提出用變分自回歸神經(jīng)網(wǎng)絡(luò)（VAN）[1] 來(lái)研究隨機(jī)反應(yīng)網(wǎng)絡(luò)中物種分子數(shù)的聯(lián)合概率分布,刻畫(huà)聯(lián)合分布演化并求解化學(xué)主方程（圖?1）。VAN是張潘研究員與合作者于2019年提出的神經(jīng)網(wǎng)絡(luò)變分方法，能夠?qū)y(tǒng)計(jì)物理微觀(guān)構(gòu)型進(jìn)行有效采樣，并計(jì)算不同構(gòu)型的歸一化概率，已被應(yīng)用于統(tǒng)計(jì)物理學(xué)、量子多體系統(tǒng)、開(kāi)放量子系統(tǒng)、量子電路和計(jì)算生物學(xué)。這項(xiàng)工作擴(kuò)展了VAN以表征隨機(jī)反應(yīng)網(wǎng)絡(luò)中物種分子數(shù)的聯(lián)合概率分布。作為VAN的神經(jīng)網(wǎng)絡(luò)單元，作者采用了遞歸神經(jīng)網(wǎng)絡(luò)（RNN）和Transformer架構(gòu)，它們可以靈活地表示高維概率分布并靈活調(diào)整物種分子數(shù)的上限。拓展的VAN也允許對(duì)每個(gè)物種添加物種分子數(shù)上限的約束，或者維持某些系統(tǒng)中物種分子總數(shù)守恒的約束，這都可以收縮概率空間以提高計(jì)算的準(zhǔn)確性。新方法采用強(qiáng)化學(xué)習(xí)框架中的策略梯度算法訓(xùn)練自回歸網(wǎng)絡(luò)，不需要使用其他方法先驗(yàn)?zāi)M的任何數(shù)據(jù)，給出了一個(gè)自動(dòng)歸一化分布作為任意有限時(shí)間內(nèi)化學(xué)主方程的解，得到隨時(shí)間演化的聯(lián)合分布，提供了高維狀態(tài)空間中每種構(gòu)型在不同時(shí)刻的概率。此外，此方法在表示多峰分布方面表現(xiàn)出可塑性，對(duì)于物種分子數(shù)守恒的系統(tǒng)，具有隨時(shí)間變化的反應(yīng)速率的系統(tǒng)和高維系統(tǒng)均是非常有效的。

作者將該方法應(yīng)用于物理學(xué)和生物學(xué)中的代表性示例，具體的應(yīng)用包括基因切換開(kāi)關(guān)、細(xì)胞內(nèi)信號(hào)級(jí)聯(lián)反應(yīng)、早期生命自我復(fù)制以及具有時(shí)變速率的流行病模型等，結(jié)果（見(jiàn)圖2和圖3）證明該方法是一種基于現(xiàn)代機(jī)器學(xué)習(xí)研究隨機(jī)反應(yīng)網(wǎng)絡(luò)的通用方法。