Nat Chem | 用深度學習方法求解薛定諤方程

結果

DNN電子波函數擬設

作者對電子薛定諤方程的深度學習解法的核心是一個稱為PauliNet的波函數擬設，它既包含了可以很好地描述電子波函數的基本物理學方法——Slater行列式、多行列式擴展、Jastrow factor、backflow transformation和尖峰（cusp）條件，也包含了能夠編碼異質分子體系中電子運動的復雜特征的DNN。作者提出的波函數屬于多行列式Slater-Jastrow-backflow類型。?

其中，Jastrow factor J，和backflow f都由DNN表示，可訓練參數為θ?（圖2）。這些DNN為PauliNet提供了卓越的表示能力，而行列式、單電子分子軌道φ_μ、及電子尖峰γ組成了PauliNet的物理基礎。

圖2 PauliNet架構

數據來源：Nature Chemistry

每個有效的電子波函數都必須相對于自旋電子的交換是不對稱的，一如量子化學中常見的方式，作者通過矩陣行列式實現反對稱性，因為行列式在交換任何兩行或兩列時都會改變符號。

為確保變分優化問題的良好起點，作者采用了近似HF方法。具體來說，作者使用具有較小完整活動空間的多參考HF計算，并根據其線性系數的大小選擇最主要的行列式及其軌道。使用HF優化的單電子的分子軌道，φ_μ(r)隨后被用作PauliNet輸入，并在訓練期間由且僅由backflow transformation修改。

當電子彼此接近并且原子核接近時，任何基態電子波函數都遵循由尖峰條件定義的精確漸近行為。作者選擇將尖峰條件直接構建到PauliNet函數形式中，因為這樣可以消除局部電子能量的差異，從而使訓練更加高效穩定。

穩健的深度Jastrow factor和backflow

PauliNet與常規QMC擬設的不同之處在于：它使用DNN來表示Jastrow factor和backflow 函數。為了保留波函數的反對稱性，用以計算Jastro factor和backflow的DNN在設計之初即分別具有針對相同自旋電子交換（mathcal{P}_ij）的不變性和等變性。

作者發現嘗試用DNN表示耦合電子坐標的標準backflow形式會導致優化比較困難。因此，PauliNet的backflow的形式是將裸露的單電子分子軌道與多電子等變函數f（方程（1））相乘。結合少數幾個行列式，就可以很好地表示電子節點表面。另外，構建用以學習勢能函數的DNN與以下兩者密切相關：粒子排列的不變性和等變性、以及粒子相互作用是其距離的函數。最終，PauliNet使用了一種這樣的DNN架構——SchNet——的修改版本。

用更少的行列式得到更精確的結果

作者通過變分原理訓練PauliNet，使總電子能最小化（變異QMC）。通過采樣電子分布|ψ|^2，在運行時生成的電子構型作為訓練數據。我們首先測試了在DeepWF中使用過的測試體系，特別是氫分子（H_2）、氫化鋰（LiH）、鈹（Be）、硼（B）和線性氫鏈H_10。在單個GTX 1080 Ti圖形處理單元(GPU)上訓練幾十分鐘到幾小時后，對于單原子和雙原子體系PauliNet可以準確計算97%到99.9%的電子相關能量（圖3），在所有情況下都遠超DeepWF的精度。作者將這些結果與標準的單行列式和多行列式、包括或不包括backflow的變分蒙特卡洛（VMC）方法進行比較。在所有情況下，使用6個行列式的PauliNet都比單行列式和少數行列式的的擬設表現更好，并且僅被具有數十或數百個構型狀態函數（CSF）的波函數所超越，而這些相當于數百到數千行列式。

圖3 PauliNet的性能

數據來源：Nature Chemistry

圖4強調了作者方法的兩個關鍵方面。首先，隨著訓練從最初的HF基線水平發展到最終報告的值，相關能量的誤差單調減少。在大多數情況下，學習曲線還沒有完全穩定下來，這表明了PauliNet具有很強的表示能力，并表明使用更多的計算資源可以實現更高的準確性。其次，作者將完整的擬設與僅使用單個行列式的變體、與沒有backflow的變體分別進行了比較，發現這兩個組件對于優化HF基線的節點表面并因此達到較高的準確性非常重要。通過強大的backflow transformation，增加的每個行列式都大大增加了擬設的靈活性。

圖4 backflow和多行列式在PauliNet訓練中的作用

數據來源：Nature Chemistry

作者進一步分析了按比例增加行列式數目和體系大小時PauliNet的表現。在四種同元素雙原子分子（Li_2到C_2）中，PauliNet均可以以較少的行列式得到高準確度的結果。在幾到幾十個行列式范圍內，PauliNet超過了現有的變分方法結果；甚至在大多數情況下，達到了相應擴散蒙特卡羅（DMC）結果的準確性。作者注意到，使用PauliNet實現DMC并不困難，而這有望進一步提高其準確性。?

圖5 PauliNet準確度與行列式數量

數據來源：Nature Chemistry

捕獲強相關能

與原子和雙原子不同，線性氫鏈H_10顯示出很強的相關性，相關能占電子能量的重要部分而單行列式或少數行列式的HF方法無法描述這類體系。

對于H_10的平衡構象和拉伸構象，PauliNet使用16個行列式可分別計算出98.41(8)％和98.4(3)％的相關能（圖6）。使用一個單獨的行列式（98.10(9)％和97.5(4)％），結果只會稍差一些，但是當同時移除backflow時（93.7(2)％和82(2)％），結果則明顯變差。與標準的VMC擬設相比，PauliNet效果更好。

圖6 PauliNet與H_10?

數據來源：Nature Chemistry

?

應用到更大的體系上

前面兩節展示了PauliNet在相對較小的基準體系上的性能，對于這些體系，已經可以從成熟的方法中得到基本準確的結果。在本節中，作者直接將PauliNet用于具有復雜電子結構的大分子上，對于這些分子，只有高度定制化量子化學方法才能提供令人滿意的結果。作者選擇了環丁二烯的互變異構化（圖7a，28個電子），這一化學過程同時受到了實驗化學和理論化學的極大關注。實驗估計勢壘范圍在1.6到10 kcal/mol之間，而CCSD(T)方法預測結構為18 kcal/mol，高估了2倍左右。從MR-CC方法中得到的結果是目前最好的，為7到11 kcal/mol之間。

圖7計算環丁二烯互變異構化的勢壘

數據來源：Nature Chemistry

使用PauliNet 和10個行列式和與此前小體系上相同的超參數，作者獲得了環丁二烯的最小能級和過渡態的全電子變分能量，從而獲得了勢壘。由于能量屏障僅占總能量的0.01％，因此作者使用改進的優化協議來穩定神經網絡的訓練。通過此修改，總能量平穩收斂（圖7b）。通過以250和375次迭代的同步周期運行兩個獨立的優化，作者獲得了分別為9.9±0.6和7.7±0.6 kcal/mol的能壘估計值，兩個結果都在MR-CC方法預測值所覆蓋的范圍內。作者提到，與需要使用特定于系統和狀態的波函數擬設的MR-CC方法相比，PauliNet擬設可以對所有體系使用同一套參數。對于環丁二烯的每個同步優化，在單個GTX 1080 Ti GPU上每次迭代需要50s。

討論

PauliNet，作為一個實數空間中電子波函數的DNN表示，效果優于不使用大量行列式擴展的最先進的變分量子化學方法。因此，PauliNet可以高精度地擴展到更大的體系。

與QMC中使用的標準函數形式相比，使用DNN有幾個優點。首先，DNN更高的靈活性使得變分方法可以達到或超過DMC的精度，這有助于精確計算出包括電子能在內的各種電子性質。第二，除了編碼電子間更復雜的多體相關性外，DNN在空間自由度上的靈活性基本不受限制，規避了量子化學不完全基組的“詛咒”。第三，標準QMC中接近重核的局部能量的快速振蕩，使得過渡金屬等較重元素必須使用偽勢。DNN的靈活性可以通過平滑這種振蕩來避開這種必要性。

在經典量子化學方法中，強相關性通常是通過使用大量的多行列式擴展來處理的，這對計算要求很高，并引入了如何選擇適當的行列式的問題。作者表明，DNN能夠學習電子之間的強相關性，而不需要任何專門的調整。雖然目前還不清楚這在嚴格的數學意義上是否具有優勢，但這恰恰是DNN在各種現實世界應用中被證明為強項的任務。

簡單的對比了PauliNet與FermiNet可以發現兩種架構潛在的改進方向。將在FermiNet的架構設計和優化方法與PauliNet的物理約束相結合，用于發展一種計算上負擔得起的、可擴展的、且高度精確的量子化學黑盒方法，似乎是一個很有希望的方向。

參考文獻

Hermann, J., Sch?tzle, Z. & Noé, F. Deep-neural-network solution of the electronic Schr?dinger equation. Nat. Chem. 12, 891–897 (2020).