用鈣鈦礦取代矽研製電子器件，居然還能被用來完成 AI 計算？？？眾所周知，鈣鈦礦作為一種重要的材料，摻雜後主要用於生產 SCI 及博士論文（手動狗頭）。這次被用在開發新型 AI 電子器件上，還登上了 Science，結果讓人眼前一亮：其心律識別任務的平均效能是傳統硬體的 5.1 倍，並且還能靈活模擬動態網路、降低訓練能耗。

用神經形態計算降能耗

這項研究主要是通過向鈣鈦礦中摻入不同量的氫，來模擬人類神經元活動，從而完成不同機器學習任務。這主要是基於鈣鈦礦自身的特性。鈣鈦礦具備獨特的晶體結構，很容易吸收氫離子。氫離子的加入可以改變材料的導電性，由此也就可以讓材料製備成一種可切換狀態的 AI 電子器件。

在這裡研究人員使用了一種混合了釹和鎳的鈣鈦礦材料。通過向這一材料中混合不同含量的氫離子，來改變元件的不同狀態，以此實現對大腦神經元活動的模擬。

具體來看，在這種材料中加入大量氫離子後，它的電子最終會轉移到鎳原子上，導致原子電性發生改變，進而影響材料的導電性。這時，施加外部電場可以控制氫的電子轉移；再控制氫的含量，則可以讓該電子元件在 4 種不同模式之間切換。這 4 種模式分別是神經元模式、突觸模式、電阻器模式和記憶電容器模式。

其中，在不摻雜或少量摻雜氫離子的情況下，該材料處於電阻器模式，可以用來儲存和處理資訊。在經過一個電子脈衝刺激後，該硬體可切換到記憶電容器模式。記憶電容器是模仿大腦結構神經網路系統的常見元件。神經元模式會積累多個訊號，此時元件電阻會發生明顯變化，可以模擬人類大腦神經元被刺激時的活動狀態。突觸模式則是根據神經元訊號的強度來轉換輸入。

之所以會想到向鈣鈦礦這種材料中摻入氫，是因為研究人員想要利用神經擬態計算來構建這一新器件。這是一種不同於普通馮・諾依曼計算體系的結構，它主要通過模擬人腦神經元和突觸的活動來完成機器學習任務。它最大的好處就是可以降低計算能耗，這對於解決未來更復雜、更大規模的 AI 計算具有重大意義。由此一來，在進行 AI 計算時，便無需在硬體上啟用、關閉不同的部分，只需控制硬體調整到相應模式即可。研究人員還表示，這種電子器件的內部是亞穩定狀態，可以保持 6 個月不用替換氫離子。

實驗結果

那麼，這種硬體在不同神經網路中的表現如何？就成為了驗證其效能的關鍵。在這裡，研究人員使用了兩個神經網路作為測試。

第一個是一種儲層計算網路，這是一種模擬人類大腦運作方式的機器學習系統。它的運作過程是將資訊輸入到一個儲層，其中的資料以各種方式連線在一起，然後這些資料再被送出儲層進行分析。由此一來，該網路也就無需預訓練大量資料，僅對輸出前的最後一層網路做梯度下降即可。其中的關鍵儲層，將分別用此次提出的新電子器件和傳統硬體來完成運算。

與傳統理論儲層和實驗儲層相比，這種新型儲層（H-NNO）在 MINIST（手寫數字識別）、SpokenDight（音訊數字識別）、ECGHeartBeat（心率識別）三個任務上都能使用更少的裝置、實現相同的效能。平均效能則分別高出 1.4 倍、1.2 倍和 5.1 倍。

此外，基於這一新型電子器件設計的動態神經網路，在處理增量學習上的表現也非常好。如下網路（GWR）是一個可以識別紅鳥、黃鳥的系統。理想狀態下，當網路檢測到新型別（藍鳥）的輸入時，系統會通過增加節點的方式來擴大網路規模。

如果其中任何一類動物長時間沒有出現在輸入中，其對應的節點也會隨之關閉，以此來節省能耗。

研究人員繼續使用了手寫數字識別這一資料集來進行測試。首先，他們讓網路識別 0-4 範圍內的數字。然後將範圍擴大到 0-9 訓練一段時間，之後再只識別 0-4。結果顯示，隨著後來 5-9 的數字不再出現，網路中的相關節點也在逐漸關閉。下圖 i-iii 中，數字表示對應開啟節點，黑色區域則表示關閉的節點。

再將這一動態神經網路與靜態網路對比，研究人員發現在增量學習場景下，對於 MNIST、CUB-200 兩個資料集，動態網路的表現都更好。從如下圖 B-E 中可以看到，在 MINIST 資料集測試中，動態網路最終準確性是靜態網路的 2.1 倍；資料集 CUB-200 的最終準確性則是靜態網路的 2.5 倍。

北航張海天教授為共同一作及通訊作者

北京航空航天大學張海天教授為該論文的共同一作及通訊作者。

他博士畢業於美國賓夕法尼亞州立大學材料科學與工程專業。2018 年獲得美國吉爾佈雷斯學者基金（Gilbreth Research Fellow），於普渡大學工程院開展獨立研究工作（合作教授：Shriram Ramanathan 以及 Kaushik Roy）。去年 9 月，張海天全職加入北京航空航天大學材料科學與工程學院。主要研究領域為功能相變材料的調控及神經計算學器件應用、磁性功能材料、奈米材料等。

論文連結：

https://www.science.org/doi/10.1126/science.abj7943

參考連結：

https://arstechnica.com/science/2022/02/hydrogen-soaked-crystal-lets-neural-networks-expand-to-match-a-problem/