一種超維計算系統，可在內存中執(zhí)行所有核心計算

超維計算(HDC)是一種新興的計算方法，受到人腦神經活動模式的啟發(fā)。這種獨特的計算類型可以使人工智能系統根據以前遇到的數據或場景保留內存并處理新信息。

過去開發(fā)的大多數HDC系統只能在特定任務上表現出色，例如自然語言處理(NLP)或時間序列問題。在《自然電子》上發(fā)表的一篇論文中，蘇黎世IBM研究中心和蘇黎世聯邦理工學院的研究人員介紹了一種新的HDC系統，該系統可以在內存中執(zhí)行所有核心計算，并且可以應用于各種任務。

這項研究的兩位主要研究人員Abu Sebastian和Abbas Rahimi對TechXplore說：“我們的工作是由內存計算和超維計算這兩個概念之間的自然契合開始的。”“在蘇黎世的IBM研究中心，我們一直在開發(fā)基于相變存儲器(PCM)的內存計算平臺，而在蘇黎世聯邦理工學院，我們一直在探索一種大腦啟發(fā)的計算范例，稱為超維計算。”

研究人員在過去的工作中觀察到，HDC涉及的主要操作，即編碼和關聯內存搜索，都涉及對系統內存中大型分布模式的操縱和比較。由于此特性，可以使用PCM交叉開關陣列有效地制造這些系統，從而實現模擬內存計算的優(yōu)勢。

塞巴斯蒂安和拉希米解釋說：“這種量身定制的組合不僅避免了馮·諾伊曼的瓶頸(又名記憶墻)，而且還顯著提高了能源效率以及對可，噪聲和故障的魯棒性。”“大約兩年前，這一發(fā)現促使我們在ETH和IBM之間朝這個方向發(fā)起了一項聯合研究。”

為了對神經活動模式進行建模，HDC系統使用豐富的代數，該代數定義了一組規(guī)則來構建，綁定和捆綁不同的超向量。超向量是具有獨立且分布相同的分量的全息10,000維(偽)隨機向量。通過使用這些超向量，HDC可以創(chuàng)建功能強大的計算系統，該系統可用于完成復雜的認知任務，例如對象檢測，語言識別，語音和視頻分類，時間序列分析，文本分類和分析推理。

Sebastian，Rahimi及其同事在論文中提出了一個完整的內存HDC系統，該系統可以處理各種任務。他們的系統有兩個關鍵組成部分：HDC編碼器和關聯存儲器。

Sebastian和Rahimi說：“我們的系統通過憶阻器件上的邏輯和點積運算在內存中執(zhí)行核心計算。”“由于HDC固有的魯棒性，有可能近似于與HDC相關的數學運算，使其適合于硬件實現，并在不影響精度的情況下使用模擬內存計算。”

過去開發(fā)的大多數內存HDC體系結構僅適用于有限的任務集，例如單語言識別或二進制分類任務。此外，這些系統主要在仿真中進行了評估，并使用了基于小型原型的緊湊型模型，帶有少量電阻裝置。

相比之下，由Sebastian和Rahimi開發(fā)的系統利用了700,000多個PCM設備。因此，它可以說是迄今為止提供的最大內存內HDC實驗演示之一。

該原型是最早被編程為支持不同的超向量表示，尺寸以及輸入符號和輸出類別的HDC系統之一。這使其適用于從NLP到新聞分類和生物信號處理的多種應用。

塞巴斯蒂安和拉希米說：“我們的工作通過在嘈雜的硬件基板上執(zhí)行各種分類任務，同時達到與精確軟件實現相當的準確性，真正證明了模擬內存計算的潛在優(yōu)勢。”“這種強大的模擬內存計算是通過對數據表示，具有優(yōu)美近似值的關聯操作以及自然使它們能夠實現的材料和基底提供新穎的外觀來實現的。”

研究人員通過一系列實驗對系統進行了評估，測試了它們在AI技術通常解決的三個任務上的性能，這些任務是基于肌電信號分析的語言分類，新聞分類和手勢識別。在所有這些任務中，他們的HDC系統在任務的復雜性和分類精度之間實現了接近最佳的權衡。Sebastian，Rahimi及其同事使用760,000個相變存儲設備測試了他們的系統，該設備執(zhí)行了模擬內存計算過程，發(fā)現該系統實現了與流行軟件技術類似的精度。

“我們通過實驗證明，與基于65納米CMOS技術的優(yōu)化數字系統相比，使用基于PCM的內存計算的HDC平臺可以節(jié)省600%的能源。”

將來，在最近的這項研究中引入的HDC系統將可以創(chuàng)建具有高級存儲功能的新技術，從而可以完成許多不同的分類任務。該系統很快將在各種實際環(huán)境中實施和測試，這將使研究人員可以進一步評估其性能。

塞巴斯蒂安和拉希米說：“在我們的HDC體系結構中，信息的編碼和內存的存儲在構造上是分開的過程。”“最近在現代深度神經網絡中，人們認識到這種關鍵的解開關系，以使它們擺脫災難性的遺忘，并能實現短時學習和終身保留。我們的架構和表示系統將在下一代AI的開發(fā)中發(fā)揮核心作用。提供可以快速學習的系統，在整個生命周期中保留信息，即使使用正確的材料和基材也可以有效地做到這一點。”