CPU와 메모리

운영체제(OS, Operating System) 가 뭔가요?

---

사용자가 컴퓨터를 쉽게 다루게 해주는 인터페이스입니다.

한정된 메모리나 시스템 자원을 효율적으로 분배해주고, 하드웨어와 소프트웨어를 관리합니다 💁‍♀️

 

 

운영체제의 역할은 어떻게 될까요?

1. CPU 스케줄링과 프로세스 관리
2. 메모리 관리
3. 디스크 파일 관리
4. I/O 디바이스 관리

 

운영체제의 구조는 어떻게 될까요?

1. GUI
2. 시스템콜
3. 커널
4. 드라이버

이 중 우리는 오늘 CPU와 메모리에 대해 알아볼 예정입니다 🧐

 

 

 

 

 

컴퓨터의 요소

---

CPU, DMA 컨트롤러, 메모리, 타이머, 디바이스 컨트롤러 등으로 이루어져 있습니다.

여기서 CPU는 계산 담당을, 메모리는 기억 담당을 한다고 이해하면 되겠습니다👏

 

 

1. CPU(Central Processing Unit)

CPU는 중앙 처리 장치로 산술논리연산 장치, 제어 장치, 레지스터로 구성된 컴퓨터 장치입니다. 아래에서 하나씩 설명해드리겠습니다!

인터럽트에 의해 단순히 메모리에 존재하는 명령어를 해석해서 실행합니다. 관리자 역할을 하는 운영체제의 커널, 프로그램을 메모리에 올려 프로세스로 만들면 일꾼인 CPU가 처리하는 구조입니다.

 

산술논리연산 장치(ALU, Arithmetic Logic Unit)

덧셈과 뺄셈 같은 두 숫자의 산술 연산과, 배타적 논리합과 논리곱 같은 논리 연산을 계산하는 디지털 회로입니다.

 

제어 장치 (CU, Control Unit)

프로세스 조작을 지시하는 CPU의 한 부품입니다.

입출력 장치 간 통신을 제어하고, 명령어를 읽고 해석하며, 데이터 처리를 위한 순서를 결정합니다.

 

레지스터

CPU 안에 있는 매우 빠른 임시 기억 장치입니다. CPU와 직접 연결되어 있어 연산 속도가 메모리보다 수십 배, 수백 배 빠릅니다.

CPU는 자체적으로 데이터를 저장할 방법이 없기 때문에 레지스터를 거쳐 데이터를 전달합니다.

 

 

 

CPU의 연산처리

그렇다면 CPU에서 제어장치, 레지스터, 산술논리연산장치를 통해 연산하는 과정은 어떻게 될까요?

1. 제어장치가 메모리와 레지스터에 계산할 값 로드
2. 제어장치가 레지스터에 있는 값을 계산하라고 산술논리연산장치에 명령
3. 제어장치가 계산된 값을 다시 '레지스터에서 메모리로' 계산한 값 저장

 

 

2. 메모리(Memory)

메모리는 전자회로에서 데이터나 상태, 명령어 등을 기록하는 장치입니다. 보통 RAM(Random Access Memory)을 일컬어 메모리라고도 합니다. 즉, 메모리 == 램

메모리가 크면 클수록 많은 일을 동시에 가능합니다.

CPU는 그저 메모리에 올라와 있는 프로그램의 명령어를 실행할 뿐입니다.

메모리 계층

왜 램(RAM)을 일컬어 메모리라고도 할까요? 그 이유는 RAM이 CPU에서 능동적으로 처리되는 데이터를 일시적으로 저장하기 위해 컴퓨터에서 사용하는 기본 메모리 유형이기 때문입니다.

이 RAM이 메모리 계층에 해당되는데요, 메모리 계층이란 메모리를 필요에 따라 여러 가지 종류로 나누어 둔 구조를 말합니다 🧐

계층 위로 올라갈 수록 가격은 비싸지고 용량은 적어지며 속도는 빨라지는 특징을 가지고 있습니다. 그 이유는 경제성과 캐시 때문에 계층을 두어 관리하기 때문입니다.

게임의 ‘로딩 중’ 메시지를 예로 들어보자면, 하드 디스크 또는 인터넷에서 데이터를 읽어 RAM으로 전송하는 과정이 아직 끝나지 않았음을 의미합니다.

램(RAM)

하드 디스크로부터 일정량의 데이터를 복사해서 임시 저장하고 이를 필요 시마다 CPU에 빠르게 전달하는 역할을 합니다.

 

 

메모리 계층을 사용하는 이유는 무엇일까요?

대부분의 경우 CPU가 메모리에 더 빨리 접근하기 위함입니다.

 

 

 

 

메모리 계층의 구성

---

메모리 계층의 구성은 레지스터, 캐시, 메모리(RAM), 하드디스크(저장장치) 로 구성되어 있습니다.

• 레지스터와 캐시는 CPU 내부에 존재해서 CPU는 아주 빠르게 접근할 수 있습니다.
• 메모리는 CPU 외부에 존재해서 레지스터와 캐시보다 더 느리게 접근할 수 밖에 없습니다.
• 하드 디스크는 CPU가 직접 접근할 방법조차 없습니다. 그래서 CPU가 하드 디스크에 접근하기 위해서는 하드 디스크의 데이터를 메모리로 이동시키고, 메모리에서 접근해야 합니다.

전반적으로 메모리 계층 구조는 속도, 용량 및 비용 간의 균형을 제공하도록 설계되어 컴퓨터 시스템이 비용을 최소화하면서 대량의 데이터를 효율적으로 처리하고 저장할 수 있습니다. 계층 구조의 다양한 유형의 메모리는 주어진 제약 조건에 대해 가능한 최상의 성능을 제공하기 위해 함께 작동하도록 설계되었습니다.

메모리 계층의 구성에 대해 하나씩 살펴보겠습니다 👀

 

 

캐시(cache)

• L1, L2 캐시 지칭

캐시는 데이터를 미리 복사해놓는 임시 저장소이고 CPU 내부에 위치하고 있습니다.

빠른 장치와 느린 장치에서 속도 차이에 따른 병목 현상 을 줄이기 위한 메모리인 것입니다.

CPU가 데이터에 접근하는 시간이 오래 걸리는 경우를 해결하여 무언가 다시 계산하는 시간을 절약하는데에 사용됩니다.

캐시는 레벨 L1, L2, L3등 여러 단계로 나누어져 있습니다. 레벨이 낮을수록 빠르지만 저장 용량은 적습니다.

CPU가 자주 사용하는 데이터를 저장하고 있기 때문에, 같은 데이터를 다시 읽어들일 때 메모리에 접근할 필요없이 캐시에서 바로 읽어들일 수 있습니다. 이렇게 함으로써 CPU의 성능을 향상시킬 수 있습니다.

 

 

캐싱 계층

메모리와 CPU 사이의 속도 차가 너무 크기 때문에 그 중간에 레지스터 계층을 둬서 속도 차이를 해결합니다. 이때 캐시 메모리와 보조기억장치 사이에 있는 주기억장치를 보조기억장치의 캐싱 계층이라고 합니다.

 

 

 

지역성의 원리

캐시 계층을 두는 것 말고 캐시를 직접 설정할 때는 어떻게 해야 할까요?

이는 자주 사용하는 데이터 기반으로 설정해야 합니다. 그렇다면 자주 사용하는 데이터에 대한 근거가 되는 것은 무엇일까요? 바로 지역성입니다.

 

지역성이란..

이는 주어진 시간에 메모리의 상대적으로 작은 부분에 액세스하는 프로그램의 경향을 나타냅니다. 지역성을 이용함으로써 컴퓨터 시스템은 자주 액세스하는 데이터를 저장하기 위해 더 빠르고 더 비싼 메모리(예: CPU 캐시)를 사용하고 덜 자주 액세스하는 데이터를 저장하기 위해 더 느리고 저렴한 메모리(예: 하드 드라이브)를 사용할 수 있습니다.

지역성은 시간 지역성 과 공간 지역성 두 가지로 나뉩니다.

• 시간 지역성(temporal locality) : 최근 사용한 데이터에 다시 접근하려는 특성
• 공간 지역성(spatial locality) : 최근 접근한 데이터를 이루고 있는 공간이나 그 가까운 공간에 접근하는 특성

 

 

 

정리

CPU : 메모리에 저장된 데이터를 읽어들이거나 쓰기 위해 메모리에 접근합니다.
메모리 : CPU가 데이터를 읽어들이거나 쓰기 위해 필요한 데이터를 저장하고 있는 장치
CPU는 메모리에 접근하여 필요한 데이터를 읽어들이거나 쓰기 위해서 주소 버스와 데이터 버스 를 사용합니다.
메모리 계층 구조 : CPU가 레지스터나 캐시와 같은 빠른 속도의 저장 장치에 먼저 접근하도록 하여 성능을 향상시키고, 메모리와 같은 느린 속도의 저장 장치에는 최소한의 접근만 하도록 합니다.

메모리 계층 구조를 사용하면 상황에 맞게 여러 저장 장치를 각각의 역할이나 특징을 기반으로 사용할 수 있도록 하여 최적의 효율을 낼 수 있도록 합니다.

레지스터 : CPU 안에 있는 작은 메모리
캐시 : CPU가 자주 사용하는 데이터를 미리 복사해놓는 임시 저장소
메모리 : 주기억장치 지칭
하드디스크 : 저장장치(HDD, SSD) 지칭

 

 

추가로 공부하면 좋을 것들

• 캐싱
  • 캐싱은 데이터에 대한 액세스 속도를 높이기 위해 더 빠르고 더 비싼 메모리(예: CPU 캐시)에 데이터를 임시로 저장하는 프로세스입니다. 컴퓨터 시스템은 성능을 향상시키기 위해 다양한 캐싱 기술을 사용합니다. 여기에는 프리페칭(다음에 어떤 데이터가 필요할지 예측하여 캐시에 로드) 및 대체 정책(새 데이터를 위한 공간을 만들기 위해 캐시에서 제거해야 하는 데이터 결정)이 포함됩니다.
• 메모리 액세스 패턴
  • 프로그램이 메모리에 액세스하는 방식은 성능에 상당한 영향을 미칠 수 있습니다. 예를 들어 순차적이거나 연속적인 패턴("스트라이드" 액세스라고 함)으로 메모리에 액세스하는 것이 무작위 또는 분산된 패턴으로 메모리에 액세스하는 것보다 빠를 수 있습니다.
• 메모리 대역폭
  • 메모리 대역폭은 주어진 시간 동안 메모리와 CPU 간에 전송할 수 있는 데이터의 양을 의미합니다. 메모리 대역폭이 높을수록 성능이 향상될 수 있으며, 특히 메모리와 CPU 간에 대량의 데이터를 전송해야 하는 작업의 경우 더욱 그렇습니다.
• 대기 시간
  • 대기 시간은 CPU가 특정 메모리 위치에 액세스하는 데 걸리는 시간을 나타냅니다. 낮은 대기 시간은 특히 메모리에 자주 액세스해야 하는 작업의 경우 성능을 향상시킬 수 있습니다.

전반적으로 이러한 주요 개념을 이해하면 개발자와 시스템 설계자가 성능과 효율성을 위해 컴퓨터 시스템을 설계하고 최적화하는 방법에 대해 정보에 입각한 결정을 내리는 데 도움이 될 수 있습니다.