[OS] 캐시 메모리의 지역성(Locality)과 매핑 기법

캐시 메모리란?

캐시 메모리는 컴퓨터 시스템의 성능을 향상시키기 위한 메모리입니다.

메모리 4계층

 

메모리 계층을 보면 레지스터 - 캐시 - 주기억장치(RAM, 메모리) - 보조기억장치(HDD,SDD) 순으로 접근성과 속도가 높은 것을 볼 수 있습니다. CPU가 RAM에 진입하는 속도가 비교적 느리기 때문에, 조금이라도 더 빠르게 데이터들을 처리해야 하는 CPU 입장에서 봤을 때  이 점을 보완하고자 중간 캐시 메모리 계층을 사용하는 것입니다 !

 

 

즉, 그림과 같이 CPU가 RAM에서 데이터를 빠르게 가져오기 위해 메모리로부터 중간 계층인 캐시 메모리에 데이터를 담아두고 캐시 메모리에서 데이터를 가져와 효율과 속도를 높이는 것입니다.

 

여기서 말하는 "캐시 히트"는 캐시 메모리로부터 원하는 데이터를 찾은 것을 말하며, "캐시 미스"는 캐시에서 원하는 데이터를 찾지 못해 메모리로부터 원하는 데이터를 가져오는 것을 말합니다.

 

캐시 적중률 

• 캐시가 미스되지 않고 히트 된 횟수를 비율로 나타낸 것으로 캐시 적중률이 높을수록 CPU의 메모리 접근횟수를 줄여 처리속도를 향상시킬 수 있습니다.
• 캐시 적중률 = (캐시 히트 횟수) / (캐시 미스 횟수 + 캐시 히트 횟수)
• 캐시 적중률을 높이기 위해서는 지역성의 원리를 바탕으로 CPU의 접근위치를 잘 파악해야 합니다.

 

캐시 지역성(Locality)의 원리

캐시를 설정할 때는 자주 사용할 데이터를 캐시에 설정해야 합니다. 이 때 지역성을 기반으로 설정되는데 지역성은 시간 지역성과 공간 지역성으로 나뉩니다.

• 시간 지역성 : 최근 사용한 데이터에 다시 접근하려는 특성
• 공간 지역성 : 최근 접근한 공간 또는 그 근처에 다시 접근하려는 특성

 

캐시 매핑 기법 / 직접 매핑, 연관 매핑, 집합 연관 매핑

캐시의 크기는 메모리보다 작기 때문에 효율적으로 메모리의 데이터를 매핑하는 것이 중요합니다. 매핑하는 기법으로는 크게 세 가지가 있는데요. 직접 매핑, 연관 매핑, 집합 연관 매핑입니다.

 

직접 매핑(Direct Mapping)

 

직접매핑은 메모리의 특정 블록을 특정 캐시에만 매핑하는 것을 말합니다.

예를들어 메모리의 주소가 1~100까지 있고 캐시의 주소가 1~10까지 있다고 하면, 1~10까지의 주소는 1에, 11~20까지의 주소는 2에, ... 91~100까지의 주소는 10에 매핑하는 방식입니다. 

 

• 모듈러 나머지 연산을 사용하여 특정 메모리를 특정 캐시 주소에만 매핑합니다.
• 장점 : 구현이 단순하고 접근속도가 빠르다.
• 단점 : 교체가 자주 일어나기 때문에 적중률이 저조하고, 특정 동일한 캐시 블록에 매핑되는 다른 메모리 블록을 번갈아 참조할 때 블록 충돌이 발생하여 적중률이 낮아짐.
  • ex) A, B, A, B 순서대로 참조할 경우 매번 캐시미스가 발생
• 따라서 캐시 메모리가 대용량인 경우에만 주로 직접 매핑 방식을 이용합니다.

 

연관 매핑 (Associative Mapping)

• 순서를 일치시키지 않고 관련있는 캐시와 메모리를 매핑하여 메모리의 컨텐츠가 캐시의 어느 위치에도 올라갈 수 있음. 찾는 과정이 직접매핑에 비해서는 오래 걸리지만, 적중률이 높음.

 

집합 연관 매핑 (Set Associative Mapping)

• 연관매핑 + 직접매핑 방식. 순서를 일치시키고 저장하되 일정 그룹을 두어 그 그룹 내에서 연관매핑하는 방식.
• 예를들어 1~100까지 메모리 주소가 있고 캐시가 1~10까지 있다면, 1~50의 데이터는 1~5에, 51~100은 6~10에 무작위로 저장하는 방식.
• 블록화가 되어있기 때문에 검색은 좀 더 효율적으로 되면서, 직접매핑처럼 저장위치에 제약이 있지 않으므로 적중률이 크게 떨어지지도 않음.
• 즉, 연관매핑과 직접매핑의 장점만을 가지는 가장 캐시메모리 매핑 기법.

 

 

<참고 자료>

캐시 메모리 매핑 기법