並行處理系統

計算機的並行處理有流水線、超流水線、超標量、多功能單元、陣列處理和多機處理等技術。流水線、超流水線、超標量和多功能單元技術已在各種計算機中得到廣泛應用。因而，並行處理系統主要指多處理機和多功能部件系統。

20世紀60年代，指令之間並行的流水線和多功能單元技術發展很快，並得到廣泛應用。

70年代中期，以流水線為基礎的可對有序的數據集進行並行處理的向量機和多台向量機構成的並行系統成為主流。這種機型屬單指令流多數據流(SIMD)計算機。

90年代以後，程序、任務或過程間並行的多機系統迅速發展，成為並行處理系統的主流。這種機型屬多指令流多數據流(MIMD)計算機。多指令流多數據流計算機主要有3種類型：

①共享存儲多處理機系統(SMP)。系統中所有處理機通過互聯網共享一個存儲器，並有統一的存儲器地址空間，各個處理機通過共享變量通信。為提高系統可擴展性，亦可將共享存儲器分佈在各個處理機中，稱為可擴展共享存儲型多處理機系統(SSMP)。

②消息傳遞多處理機系統。系統中每個處理機都有自己的局部存儲器，由互聯網將各處理機連接成整機系統。系統中的每個處理機都運行自己的操作系統，通過消息傳遞方式進行通信。其中，採用互聯網絡將多台工作站或微機連接起來的並行處理系統又稱為機羣系統(cluster)。

③混合型多處理機系統。先由若干處理機共享一個局部存儲器，構成一個結點，再由多個這樣的結點通過互聯網構成一個計算機系統，結點間採用消息傳遞方式進行通信。此外，採用很多向量機構成的並行處理系統稱為多向量機處理系統。單指令流多數據流計算機主要有向量機和陣列處理機兩種機型。

陣列處理機是由一個控制器解釋指令，控制多個功能相同的處理部件對各自數據進行同樣操作的並行處理系統。開發多機並行處理系統的關鍵技術是各處理機之間實現通信和同步。常用總線、交叉開關、格柵網、超立方體、胖樹和多級互聯網等互聯網絡實現機間通信，較大規模的多機系統往往採用硬件支持處理機的同步。並行操作系統一般分佈駐於各處理機，負責調度各處理機滿負荷、協調一致地工作。並行語言一般由串行語言發展或擴充而成，並行語言編譯器要充分發揮不同結構並行處理系統的特點，獲得高效率。此外，並行編程環境、並行調試環境、並行算法也十分重要。規模不大的並行處理多機系統，由於性價比高，將會更加普及。大規模並行處理系統在提高性能的同時將向低功耗、低佔地面積和低價格的目標發展，開發含有多處理機以及多線程的芯片將是實現這種系統的好途徑。大規模並行的向量機系統結點處理速度快、訪存帶寬高，可獲得更高的系統性能，已展現出良好的發展前景。量子計算、量子器件、超導開關、光開關是未來有發展前景的技術，特別是量子器件構成的量子計算機將提供更大規模的並行計算環境，成為並行計算系統十分重要的發展方向。 ^[1]