Hvordan fungerer CPU-cache, og hvad er L1, L2 og L3?

Computerprocessorer har fremskredt en hel del i de sidste par år, med størrelsen på transistorer bliver mindre hvert år, og fremskridt rammer et punkt, hvor Moore's Law hurtigt bliver overflødig.

Når det kommer til processorer, er det ikke kun transistorer og frekvenser, der tæller, men også cachen.

Du har muligvis hørt om cachehukommelse, når CPU'er (Central Processing Units) diskuteres. Vi er dog ikke opmærksomme på disse numre, og de er heller ikke virkelig det primære højdepunkt i reklamerne for disse CPU'er.

Så nøjagtigt hvor vigtigt er CPU-cache, og hvordan fungerer det?

Hvad er CPU-cache?

Kort sagt er en cache bare en rigtig hurtig type hukommelse. Som du måske ved, har en computer flere typer hukommelse inde i sig. Der er en primær lagerplads, som en harddisk eller en SSD, der lagrer størstedelen af ​​data-operativsystemet og alle programmer.

Dernæst har vi Random Access Memory, ofte kendt som RAM. Dette er meget hurtigere end det primære lager.

Endelig har CPU'en endnu hurtigere hukommelsesenheder i sig selv, som vi kender som cachen.

Hukommelsen i en computer har et hierarki, baseret på hastigheden, og cachen står øverst i dette hierarki, idet den er den hurtigste. Det er også det tættest på, hvor den centrale behandling sker, idet den er en del af selve CPU'en.

Cache er en statisk RAM (SRAM) sammenlignet med system RAM, som er en dynamisk RAM (DRAM). Statisk RAM er en, der kan indeholde data uden at skulle konstant opdateres, i modsætning til DRAM, hvilket gør SRAM ideel til at blive brugt til cache.

Hvordan fungerer cache-cache?

Som du måske allerede er klar over, er et program designet som et sæt instruktioner, der skal køres af CPU'en. Når du kører et program, skal disse instruktioner gøre vej fra det primære lager til CPU'en. Det er her hukommelseshierarkiet kommer i spil.

Dataene indlæses først i RAM og sendes derefter til CPU'en. CPU'er i disse dage er i stand til at udføre et gigantisk antal instruktioner pr. Sekund. For at kunne udnytte kraften fuldt ud kræver CPU'en adgang til super hurtig hukommelse. Det er her cachen kommer ind.

Hukommelsescontrolleren udfører jobbet med at tage dataene fra RAM og sende dem til cachen. Afhængig af hvilken CPU der er i dit system, kan denne controller enten være på North Bridge-chipset på bundkortet eller inde i selve CPU'en.

Cachen udfører derefter frem og tilbage af data i CPU'en. Hukommelseshierarkiet findes også i cachen.

(Hvis du er interesseret i at vide, hvordan selve CPU'en fungerer, så tjek vores artikel, der forklarer det grundlæggende i CPU Hvad er en CPU, og hvad gør den? Hvad er en CPU, og hvad gør den? Computing akronymer er forvirrende. Hvad er en CPU alligevel? Og har jeg brug for en quad- eller dual-core-processor? Hvad med AMD eller Intel? Vi er her for at hjælpe med at forklare forskellen!.)

Niveauerne af cache: L1, L2 og L3

CPU-cache er opdelt i tre hoved 'Levels', L1, L2 og L3. Hierarkiet her er igen i overensstemmelse med hastigheden og dermed størrelsen på cachen.

L1-cache (niveau 1) er den hurtigste hukommelse, der findes i et computersystem. Med hensyn til prioritering af adgang har L1-cache de data, som CPU'en mest sandsynligvis har brug for, mens den udfører en bestemt opgave.

For så vidt størrelsen går, går L1-cachen typisk op til 256 KB. Imidlertid tager nogle virkelig kraftige CPU'er det nu tæt på 1 MB. Nogle serverchipsæt (som Intels top-end Xeon CPU'er) har nu et sted mellem 1-2MB L1-cache.

L1-cache er også normalt opdelt på to måder i instruktionscachen og datacachen. Instruktionscachen omhandler informationen om den operation, som CPU'en skal udføre, mens datacachen indeholder de data, som operationen skal udføres på..

Billedkredit: Intel

L2-cache (niveau 2) er langsommere end L1-cache, men større i størrelse. Dens størrelse varierer typisk mellem 256 KB til 8 MB, selvom de nyere, kraftfulde CPU'er har en tendens til at gå forbi det. L2-cache indeholder data, som sandsynligvis får adgang til CPU'en næste. I de fleste moderne CPU'er er L1- og L2-cachen til stede på selve CPU-kernerne, hvor hver kerne får sin egen cache.

L3 (niveau 3) cache er den største cachehukommelsesenhed og også den langsomste. Det kan variere mellem 4MB og op til 50MB. Moderne CPU'er har dedikeret plads på CPU-døren til L3-cachen, og det optager en stor del af pladsen.

Cache Hit eller Miss and Latency

Data flyder fra RAM til L3-cachen, derefter L2 og til sidst L1. Når processoren er på udkig efter data til at udføre en handling, forsøger den først at finde dem i L1-cachen. Hvis CPU'en er i stand til at finde den, kaldes betingelsen et cache-hit. Derefter fortsætter den med at finde den i L2 og derefter L3.

Hvis den ikke finder dataene, forsøger den at få adgang til dem fra hovedhukommelsen. Dette kaldes en cache-miss.

Som vi ved er cachen nu designet til at fremskynde frem og tilbage af information mellem hovedhukommelsen og CPU'en. Den tid, der kræves for at få adgang til data fra hukommelsen, kaldes latens. L1 har den laveste latenstid, idet den er den hurtigste og tættest på kernen, og L3 har den højeste. Latensen øges meget, når der er en cache-miss. Dette skyldes, at CPU'en skal hente dataene fra hovedhukommelsen.

Efterhånden som computere bliver hurtigere og bedre, ser vi et fald i latenstid. Vi har DDR4 RAM med lav latens nu, og supersnelle SSD'er med lave adgangstider som den primære lagerplads, som begge reducerer den samlede latenstid markant. Hvis du vil vide mere om, hvordan RAM fungerer, her er vores hurtige og beskidte guide til RAM En hurtig og beskidt guide til RAM: Hvad du har brug for at vide En hurtig og beskidt guide til RAM: Hvad du skal vide RAM er en afgørende rolle komponent på enhver computer, men det kan være forvirrende. Vi fordeler det på let at forstå, du forstår. .

Tidligere har cache-design tidligere brugt L2- og L3-cachen uden for CPU'en, hvilket havde en negativ effekt på latenstiden.

Fremskridtene i fremstillingsprocesser relateret til CPU-transistorer har imidlertid gjort det muligt at placere milliarder af transistorer i et mindre rum end før. Som et resultat er der mere plads til cache, som lader cachen være så tæt på kernen som muligt, hvilket markant reducerer latenstiden.

Cache's fremtid

Cache-design er altid under udvikling, især når hukommelsen bliver billigere, hurtigere og tættere. Intel og AMD har haft deres retmæssige andel af eksperimentering med cache-design, hvor Intel endda eksperimenterede med en L4-cache. CPU-markedet går hurtigere frem end nogensinde nu.

Med det er vi nødsaget til at se cache-design holde trit med den stadigt voksende magt af CPU'er.

Derudover gøres der meget for at skære ned på de flaskehalse, som moderne computere har. At reducere hukommelseslatens er måske den største enkeltdel af det. Branchen arbejder på løsninger for det samme, og fremtiden ser virkelig lovende ud.

Du har måske endda hørt om Intel Optane, som kan bruges som en slags ekstern hybridcache. Hvis du ikke har gjort det, kan du se vores artikel, der undersøger de potentielle applikationer fra Intel Optane. Er Intel Optane Memory Billig DDR3 RAM? Er Intel Optane Memory DDR3 RAM billig? Undrer du dig over, hvad Intels Optane-hukommelse handler om? Er det billig RAM, eller noget mere? Her er hvad du har brug for at vide. .