Linux KSM memory deduplikering

Nyheder om Open Source, Ubuntu, andre distributioner og meget mere.
lath
Indlæg: 5095
Tilmeldt: 27. apr 2008, 02:16
IRC nickname: lars_t_h
Geografisk sted: Fyn

Linux KSM memory deduplikering

Indlægaf lath » 26. aug 2015, 14:02

Kernen kan noget smart, og det hedder: "Linux KSM memory deduplikering" - og hvad betyder det så?

Først skal vi lige have nogle begreber på plads (simplificerede forklaringer):
  • page: en sammenhængende blok af hukommelse på (oftest) 4 KB (=4096 bytes). Der er pages i fysisk RAM, swap, og så virtuel hukommelse.
    Virtuel hukommelse består af hukommelse fra fysisk RAM og swap + en liste af pages inde i kernen.
  • copy-on-write: Når mere end 1 program (processer) eller 1 library deler den samme page, og den page er markeret copy-on-write, så laver kernen en kopi af en page, hvis et program begynder at skrive til den page. Når kernen er færdig med at kopiere har de 2 programmer en forskellig page, som indeholder indholdet af den page de før delte. Derefter gentager kernen maskinkodeinstruktionen for det program der ville skrive til copy-on-write pagen, og denne gang lykkedes skrivningen så for programmet, da den skriver til sin egen page.

Linux KSM memory deduplikering betyder at kernen kan finde 2 ens (som i nøjagtig ens) pages.
Kernen laver så 2 ændringer i sin liste over pages:
  • Den lader den ene af de 2 pages pege på den anden page, og markerer den nu delte page for en copy-on-write page.
  • Den lader den anden page markeres som fri hukommelse

Det betyder at hvis kernen kan finde - lad os sige - 1025 ens pages vil det resultere i at 1024 pages bliver til fri hukomelse (det er 4 MB, hvis 1 page= 4KB), og at den ene page vil så blive delt 1025 gange.
(ekstrem sammenligning, men det fremmer måske forståelsen).

Læs mere:

/Lars
Jeg er Software ingeniør (Diplomingeniør) i Informationsteknologi og indlejede systemer, hvor indlejrede systemer er computer (microcontroller) + elektronik i for eksempel et TV, en router, en vaskemaskine og den slags

AJenbo
Admin
Indlæg: 20684
Tilmeldt: 15. nov 2009, 15:04
IRC nickname: AJenbo
Geografisk sted: Vanløse, København

Re: Linux KSM memory deduplikering

Indlægaf AJenbo » 26. aug 2015, 14:31

Det lyder som om den største fordel ville være ved virtuelle host maskiner hvor den samme stack er indlæst flere gange (1 for hver klient maskine). Kender du nogle yderligere måliger af hvad det har af konsekvenser for eks en desktop maskine?

lath
Indlæg: 5095
Tilmeldt: 27. apr 2008, 02:16
IRC nickname: lars_t_h
Geografisk sted: Fyn

Re: Linux KSM memory deduplikering

Indlægaf lath » 26. aug 2015, 19:19

AJenbo skrev:Det lyder som om den største fordel ville være ved virtuelle host maskiner hvor den samme stack er indlæst flere gange (1 for hver klient maskine). Kender du nogle yderligere måliger af hvad det har af konsekvenser for eks en desktop maskine?

Konsekvenser for eks en desktop maskine er at kun et lib*.so bibliotek eller et program - efter noget tid - er indlæst nøjagtig en gang i den virtuelle hukommelse, hvis, og kun hvis, de er identiske binært.

Overnævnte gælder ikke JVM (Java), Mono (.NET), Node.js, og lign. programmer, da de ændrer i maskinkode instruktionerne under udførelsen af programmet (JIT kompilering af bytecode/et AST).

/Lars
Jeg er Software ingeniør (Diplomingeniør) i Informationsteknologi og indlejede systemer, hvor indlejrede systemer er computer (microcontroller) + elektronik i for eksempel et TV, en router, en vaskemaskine og den slags

AJenbo
Admin
Indlæg: 20684
Tilmeldt: 15. nov 2009, 15:04
IRC nickname: AJenbo
Geografisk sted: Vanløse, København

Re: Linux KSM memory deduplikering

Indlægaf AJenbo » 26. aug 2015, 19:53

Jo det forstår jeg. Det har dog stadig have en vis effekt for jit og script sprog, især hvis der er opcode cache. .NET compiler vist dele af programmet og gemmer det på disken, jeg ville forvente at Mono gør noget af det samme.

Ville nu gerne se tal for ydelse og ram forbrug.

lath
Indlæg: 5095
Tilmeldt: 27. apr 2008, 02:16
IRC nickname: lars_t_h
Geografisk sted: Fyn

Re: Linux KSM memory deduplikering

Indlægaf lath » 26. aug 2015, 21:25

AJenbo skrev:Jo det forstår jeg. Det har dog stadig have en vis effekt for jit og script sprog, især hvis der er opcode cache. .NET compiler vist dele af programmet og gemmer det på disken, jeg ville forvente at Mono gør noget af det samme.

Ville nu gerne se tal for ydelse og ram forbrug.


Jeg fandt noget at kigge på her:

/Lars
Jeg er Software ingeniør (Diplomingeniør) i Informationsteknologi og indlejede systemer, hvor indlejrede systemer er computer (microcontroller) + elektronik i for eksempel et TV, en router, en vaskemaskine og den slags

AJenbo
Admin
Indlæg: 20684
Tilmeldt: 15. nov 2009, 15:04
IRC nickname: AJenbo
Geografisk sted: Vanløse, København

Re: Linux KSM memory deduplikering

Indlægaf AJenbo » 26. aug 2015, 22:04

Svært at følge med alt kinesiske tekst, men det ser ud til at det ville give en rimelig besparelse uden at koste alt for meget CPU, så måske kunne det også være brugbart for computere med meget lidt ram, både ældre eller indlejrede. Hukommelse er dog også noget man efterhånden får smidt i nakken.

Brugeravatar
NickyThomassen
Admin
Indlæg: 3645
Tilmeldt: 5. mar 2010, 19:58
IRC nickname: nicky
Geografisk sted: 192.168.20.42

Re: Linux KSM memory deduplikering

Indlægaf NickyThomassen » 27. aug 2015, 13:26

Spændende stuff, tak for delingen :)

Jeg har dog lidt problemer med at læse den indiske afhandling, uden at læse den med indisk accent...

Tilbage til "Linux"

Hvem er online

Brugere der læser dette forum: [Crawler] og 0 gæster