CPU緩存

CPU緩存的容量比內存小的多但是交換速度卻比內存要快得多。緩存的出現主要是為了解決CPU運算速度與內存讀寫速度不匹配的矛盾，因為CPU運算速度要比內存讀寫速度快很多，這樣會使CPU花費很長時間等待數據到來或把數據寫入內存。　 ^[1] 

緩存大小是CPU的重要指標之一，而且緩存的結構和大小對CPU速度的影響非常大，CPU內緩存的運行頻率極高，一般是和處理器同頻運作，工作效率遠遠大於系統內存和硬盤。實際工作時，CPU往往需要重複讀取同樣的數據塊，而緩存容量的增大，可以大幅度提升CPU內部讀取數據的命中率，而不用再到內存或者硬盤上尋找，以此提高系統性能。但是從CPU芯片面積和成本的因素來考慮，緩存都很小。

按照數據讀取順序和與CPU結合的緊密程度，CPU緩存可以分為一級緩存，二級緩存，部分高端CPU還具有三級緩存，每一級緩存中所儲存的全部數據都是下一級緩存的一部分，這三種緩存的技術難度和製造成本是相對遞減的，所以其容量也是相對遞增的。當CPU要讀取一個數據時，首先從一級緩存中查找，如果沒有找到再從二級緩存中查找，如果還是沒有就從三級緩存或內存中查找。一般來説，每級緩存的命中率大概都在80%左右，也就是説全部數據量的80%都可以在一級緩存中找到，只剩下20%的總數據量才需要從二級緩存、三級緩存或內存中讀取，由此可見一級緩存是整個CPU緩存架構中最為重要的部分。

一級緩存（Level 1 Cache）簡稱L1 Cache，位於CPU內核的旁邊，是與CPU結合最為緊密的CPU緩存，也是歷史上最早出現的CPU緩存。由於一級緩存的技術難度和製造成本最高，提高容量所帶來的技術難度增加和成本增加非常大，所帶來的性能提升卻不明顯，性價比很低，而且現有的一級緩存的命中率已經很高，所以一級緩存是所有緩存中容量最小的，比二級緩存要小得多。

一般來説，一級緩存可以分為一級數據緩存（Data Cache，D-Cache）和一級指令緩存（Instruction Cache，I-Cache）。

二者分別用來存放數據以及對執行這些數據的指令進行即時解碼。大多數CPU的一級數據緩存和一級指令緩存具有相同的容量，例如AMD的Athlon XP就具有64KB的一級數據緩存和64KB的一級指令緩存，其一級緩存就以64KB 64KB來表示，其餘的CPU的一級緩存表示方法以此類推。

Intel的採用NetBurst架構的CPU（最典型的就是Pentium 4）的一級緩存有點特殊，使用了新增加的一種一級追蹤緩存（Execution Trace Cache，T-Cache或ETC）來替代一級指令緩存，容量為12KμOps，表示能存儲12K條即12000條解碼後的微指令。一級追蹤緩存與一級指令緩存的運行機制是不相同的，一級指令緩存只是對指令作即時的解碼而並不會儲存這些指令，而一級追蹤緩存同樣會將一些指令作解碼，這些指令稱為微指令（micro-ops），而這些微指令能儲存在一級追蹤緩存之內，無需每一次都作出解碼的程序，因此一級追蹤緩存能有效地增加在高工作頻率下對指令的解碼能力，而μOps就是micro-ops，也就是微型操作的意思。它以很高的速度將μops提供給處理器核心。Intel NetBurst微型架構使用執行跟蹤緩存，將解碼器從執行循環中分離出來。這個跟蹤緩存以很高的帶寬將uops提供給核心，從本質上適於充分利用軟件中的指令級並行機制。Intel並沒有公佈一級追蹤緩存的實際容量，只知道一級追蹤緩存能儲存12000條微指令（micro-ops）。所以，我們不能簡單地用微指令的數目來比較指令緩存的大小。實際上，單核心的NetBurst架構CPU使用8Kμops的緩存已經基本上夠用了，多出的4kμops可以大大提高緩存命中率。而如果要使用超線程技術的話，12KμOps就會有些不夠用，這就是為什麼有時候Intel處理器在使用超線程技術時會導致性能下降的重要原因。

例如Northwood核心的一級緩存為8KB 12KμOps，就表示其一級數據緩存為8KB，一級追蹤緩存為12KμOps；而Prescott核心的一級緩存為16KB 12KμOps，就表示其一級數據緩存為16KB。在這裏12KμOps絕對不等於12KB，單位都不同，一個是μOps，一個是Byte（字節），而且二者的運行機制完全不同。所以那些把Intel的CPU一級緩存簡單相加，例如把Northwood核心説成是20KB一級緩存，把Prescott核心説成是28KB一級緩存，並且據此認為Intel處理器的一級緩存容量遠遠低於AMD處理器128KB的一級緩存容量的看法是完全錯誤的，二者不具有可比性。在架構有一定區別的CPU對比中，很多緩存已經難以找到對應的東西，即使類似名稱的緩存在設計思路和功能定義上也有區別了，此時不能用簡單的算術加法來進行對比；而在架構極為近似的CPU對比中，分別對比各種功能緩存大小才有一定的意義。

L1Cache（一級緩存）是CPU第一層高速緩存，分為數據緩存和指令緩存。內置的L1高速緩存的容量和結構對CPU的性能影響較大，不過高速緩衝存儲器均由靜態RAM組成，結構較複雜，在CPU管芯面積不能太大的情況下，L1級高速緩存的容量不可能做得太大。一般服務器CPU的L1緩存的容量通常在32—256KB。

cpu緩衝，其實是cpu全頻處理cmos時間，而cmos時間只要緩衝一點就足夠，其餘的跳到cmos外，來處理操作系統和ms-DOS，就像cmos密碼一樣，修改setup後才是保護計算機安全，與cpu緩衝是一樣的，除緩衝外就是用來進行處理硬盤數據，並非緩衝達到高速水平。也就是説,

開機速度是按檢測數據，cmos數據沒有cpu處理，速度是很慢的！主板上並沒有通道來處理Bios（cmos）中的數據,顯存從中起到一點作用！

而內存是否緩衝，就要看是否已跳出cmos區，來進行處理硬盤數據。對於系統是否要緩存，就看內存是否有包裹！內存是否要分流，按硬盤結構應當是不用的！IE是否連接主板芯片，是否在主板上緩衝，還是在系統是緩衝，這也一樣！

L2 Cache（二級緩存）是CPU的第二層高速緩存，分內部和外部兩種芯片。內部的芯片二級緩存運行速度與主頻相同，而外部的二級緩存則只有主頻的一半。L2高速緩存容量也會影響CPU的性能，原則是越大越好，現在家庭用CPU容量最大的是4MB，而服務器和工作站上用CPU的L2高速緩存普遍大於4MB，有的高達8MB或者19MB。

三級緩存是為讀取二級緩存後未命中的數據設計的—種緩存，在擁有三級緩存的CPU中，只有約5%的數據需要從內存中調用，這進一步提高了CPU的效率。

L3 Cache（三級緩存），分為兩種，早期的是外置，截止2012年都是內置的。而它的實際作用即是，L3緩存的應用可以進一步降低內存延遲，同時提升大數據量計算時處理器的性能。降低內存延遲和提升大數據量計算能力對遊戲都很有幫助。而在服務器領域增加L3緩存在性能方面仍然有顯著的提升。比方具有較大L3緩存的配置利用物理內存會更有效，故它比較慢的磁盤I/O子系統可以處理更多的數據請求。具有較大L3緩存的處理器提供更有效的文件系統緩存行為及較短消息和處理器隊列長度。

其實最早的L3緩存被應用在AMD發佈的K6-III處理器上，當時的L3緩存受限於製造工藝，並沒有被集成進芯片內部，而是集成在主板上。在只能夠和系統總線頻率同步的L3緩存同主內存其實差不了多少。後來使用L3緩存的是英特爾為服務器市場所推出的Itanium處理器。接着就是P4EE和至強MP。Intel還打算推出一款9MB L3緩存的Itanium2處理器，和以後24MB L3緩存的雙核心Itanium2處理器。

但基本上L3緩存對處理器的性能提高顯得不是很重要，比方配備1MB L3緩存的Xeon MP處理器卻仍然不是Opteron的對手，由此可見前端總線的增加，要比緩存增加帶來更有效的性能提升。

高速緩衝存儲器Cache是位於CPU與內存之間的臨時存儲器，它的容量比內存小但交換速度快。

在Cache中的數據是內存中的一小部分，但這一小部分是短時間內CPU即將訪問的，當CPU調用大量數據時，就可避開內存直接從Cache中調用，從而加快讀取速度。由此可見，在CPU中加入Cache是一種高效的解決方案，這樣整個內存儲器（Cache+內存）就變成了既有Cache的高速度，又有內存的大容量的存儲系統了。

Cache對CPU的性能影響很大，主要是因為CPU的數據交換順序和CPU與Cache間的帶寬引起的。

CPU要讀取一個數據時，首先從Cache中查找，如果找到就立即讀取並送給CPU處理；如果沒有找到，就用相對慢的速度從內存中讀取並送給CPU處理，同時把這個數據所在的數據塊調入Cache中，可以使得以後對整塊數據的讀取都從Cache中進行，不必再調用內存。

正是這樣的讀取機制使CPU讀取Cache的命中率非常高（大多數CPU可達90%左右），也就是説CPU下一次要讀取的數據90%都在Cache中，只有大約10%需要從內存讀取。這大大節省了CPU直接讀取內存的時間，也使CPU讀取數據時基本無需等待。總的來説，CPU讀取數據的順序是先Cache後內存。

前面是把Cache作為一個整體來考慮的，下面分類分析。Intel從Pentium開始將Cache分開，通常分為一級高速緩存L1和二級高速緩存L2。在以往的觀念中，L1 Cache是集成在CPU中的，被稱為片內Cache。在L1中還分數據Cache（D-Cache）和指令Cache（I-Cache）。它們分別用來存放數據和執行這些數據的指令，而且兩個Cache可以同時被CPU訪問，減少了爭用Cache所造成的衝突，提高了處理器效能。

在P4處理器中使用了一種先進的一級指令Cache——動態跟蹤緩存。它直接和執行單元及動態跟蹤引擎相連，通過動態跟蹤引擎可以很快地找到所執行的指令，並且將指令的順序存儲在追蹤緩存裏，這樣就減少了主執行循環的解碼週期，提高了處理器的運算效率。

以前的L2 Cache沒集成在CPU中，而在主板上或與CPU集成在同一塊電路板上，因此也被稱為片外Cache。但從PⅢ開始，由於工藝的提高L2 Cache被集成在CPU內核中，以相同於主頻的速度工作，結束了L2 Cache與CPU大差距分頻的歷史，使L2 Cache與L1 Cache在性能上平等，得到更高的傳輸速度。L2Cache只存儲數據，因此不分數據Cache和指令Cache。在CPU核心不變化的情況下，增加L2 Cache的容量能使性能提升，同一核心的CPU高低端之分往往也是在L2 Cache上做手腳，可見L2 Cache的重要性。CPU的L1 Cache與L2 Cache惟一區別在於讀取順序。

CPU在Cache中找到有用的數據被稱為命中，當Cache中沒有CPU所需的數據時（這時稱為未命中），CPU才訪問內存。從理論上講，在一顆擁有2級Cache的CPU中，讀取L1 Cache的命中率為80%。也就是説CPU從L1 Cache中找到的有用數據佔數據總量的80%，剩下的20%從L2 Cache讀取。在一些高端領域的CPU（像Intel的Itanium）中，我們常聽到L3 Cache，它是為讀取L2 Cache後未命中的數據設計的—種Cache。

為了保證CPU訪問時有較高的命中率Cache中的內容應該按一定的算法替換，其計數器清零過程可以把一些頻繁調用後再不需要的數據淘汰出Cache，提高Cache的利用率。緩存技術的發展

總之，在傳輸速度有較大差異的設備間都可以利用Cache作為匹配來調節差距，或者説是這些設備的傳輸通道。在顯示系統、硬盤和光驅，以及網絡通訊中，都需要使用Cache技術。但Cache均由靜態RAM組成，結構複雜，成本不菲，使用現有工藝在有限的面積內不可能做得很大，不過，這也正是技術前進的源動力，有需要才有進步！

緩存的工作原理是當CPU要讀取一個數據時，首先從緩存中查找，同時把這個數據所在的數據塊調入緩存中，可以使得以後對整塊數據的讀取都從緩存中進行，不必再調用內存。

緩存基本上都是採用SRAM存儲器，SRAM是英文Static RAM的縮寫，它是一種具有靜態存取功能的存儲器，不需要刷新電路即能保存它內部存儲的數據。不像DRAM內存那樣需要刷新電路，每隔一段時間，固定要對DRAM刷新充電一次，否則內部的數據即會消失，因此SRAM具有較高的性能，但是SRAM也有它的缺點，即它的集成度較低，相同容量的DRAM內存可以設計為較小的體積，但是SRAM卻需要很大的體積，這也是不能將緩存容量做得太大的重要原因。它的特點歸納如下：優點是節能、速度快、不必配合內存刷新電路、可提高整體的工作效率，缺點是集成度低、相同的容量體積較大、而且價格較高，只能少量用於關鍵性系統以提高效率。

最早先的CPU緩存是個整體的，而且容量很低，英特爾公司從Pentium時代開始把緩存進行了分類。當時集成在CPU內核中的緩存已不足以滿足CPU的需求，而製造工藝上的限制又不能大幅度提高緩存的容量。因此出現了集成在與CPU同一塊電路板上或主板上的緩存，此時就把 CPU內核集成的緩存稱為一級緩存，而外部的稱為二級緩存。一級緩存中還分數據緩存（Data Cache，D-Cache）和指令緩存（Instruction Cache，I-Cache）。二者分別用來存放數據和執行這些數據的指令。英特爾公司在推出Pentium 4處理器時，用新增的一種一級追蹤緩存替代指令緩存，容量為12KμOps，表示能存儲12K條微指令。

隨着CPU製造工藝的發展，二級緩存也能輕易的集成在CPU內核中，容量也在逐年提升。用集成在CPU內部與否來定義一、二級緩存，已不確切。而且隨着二級緩存被集成入CPU內核中，以往二級緩存與CPU大差距分頻的情況也被改變，此時其以相同於主頻的速度工作，可以為CPU提供更高的傳輸速度。同一核心的CPU高低端之分往往也是在二級緩存上有差異，由此可見二級緩存對於CPU的重要性。

CPU產品中，一級緩存的容量基本在4KB到64KB之間，二級緩存的容量則分為128KB、256KB、512KB、1MB、2MB等。一級緩存容量各產品之間相差不大，而二級緩存容量則是提高CPU性能的關鍵。二級緩存容量的提升是由CPU製造工藝所決定的，容量增大必然導致CPU內部晶體管數的增加，要在有限的CPU面積上集成更大的緩存，對製造工藝的要求也就越高。

雙核心CPU的二級緩存比較特殊，和以前的單核心CPU相比，最重要的就是兩個內核的緩存所保存的數據要保持一致，否則就會出現錯誤，為了解決這個問題不同的CPU使用了不同的辦法。

一、二級緩存比較

L1 cache vs L2 Cache用於存儲數據的緩存部分通常被稱為RAM，掉電以後其中的信息就會消失。RAM又分兩種，其中一種是靜態RAM(SRAM）；另外一種是動態RAM（DRAM）。前者的存儲速度要比後者快得多，我們使用的內存一般都是動態RAM。CPU的L1級緩存通常都是靜態RAM，速度非常的快，但是靜態RAM集成度低（存儲相同的數據，靜態RAM的體積是動態RAM的6倍），而且價格也相對較為昂貴（同容量的靜態RAM是動態RAM的四倍）。擴大靜態RAM作為緩存是一個不太合算的做法，但是為了提高系統的性能和速度又必須要擴大緩存，這就有了一個折中的方法：在不擴大原來的靜態RAM緩存容量的情況下，僅僅增加一些高速動態RAM做為L2級緩存。高速動態RAM速度要比常規動態RAM快，但比原來的靜態RAM緩存慢，而且成本也較為適中。一級緩存和二級緩存中的內容都是內存中訪問頻率高的數據的複製品（映射），它們的存在都是為了減少高速CPU對慢速內存的訪問。而同一核心的CPU高低端之分往往也是在二級緩存上存在差異，由此可見二級緩存對CPU的重要性。較高端CPU中，為讀取二級緩存後未命中的數據設計了三級緩存，從某種意義上説，預取效率的提高，大大降低了生產成本卻提供了非常接近理想狀態的性能。除非某天生產技術變得非常強，否則內存仍會存在，緩存的性能遞增特性也仍會保留。CPU緩存與內存的關係既然CPU緩存能夠在很大程度上提高CPU的性能，那麼，有些朋友可能會問，是不是將來有可能，系統內存將會被CPU取代呢？

答案應該是否定的，首先，儘管CPU緩存的傳輸速率確實很高，但要完全取代內存的地位仍不可行，這主要是因為緩存只是內存中少部分數據的複製品，所以CPU到緩存中尋找數據時，也會出現找不到的情況（因為這些數據沒有從內存複製到緩存中去），這時CPU還是會到內存中去找數據，與此同時系統的速度就慢了下來，不過CPU會把這些數據複製到緩存中去，以便下一次不用再到內存中去取。也即是説，隨着緩存增大到一定程度，其對CPU性能的影響將越來越小，在性能比上來説，越來越不合算。就緩存容量、成本以及功耗表現來看，還遠遠無法與內存抗衡，另外從某種意義上來説，內存也是CPU緩存的一種表現形式，只不過在速率上慢很多，然而卻在容量、功耗以及成本方面擁有巨大優勢。如果內存在將來可以做到足夠強的話，反而很有取代CPU緩存的可能。緩存的讀寫算法同樣重要即便CPU內部集成的緩存數據交換能力非常強，也仍需要對調取數據做一定的篩選。這是因為隨着時間的變化，被訪問得最頻繁的數據不是一成不變的，也就是説，剛才還不頻繁的數據，此時已經需要被頻繁的訪問，剛才還是最頻繁的數據，又不頻繁了，所以説緩存中的數據要經常按照一定的算法來更換，這樣才能保證緩存中的數據經常是被訪問最頻繁的。命中率算法中較常用的“最短最少使用算法”（LRU算法）。當需要替換時淘汰行計數器計數值最大的數據行出局。這是一種高效、科學的算法，提高緩存的利用率。高速緩存做為CPU不可分割的一部分，已經融入到性能提升的考慮因素當中，伴隨生產技術的進一步發展，緩存的級數還將增加，容量也會進一步提高。作為CPU性能助推器的高速緩存，仍會在成本和功耗控制方面發揮巨大的優勢，而性能方面也會取得長足的發展。

cpu運轉速度