잠시만요, 달이 떠오르면 글도 환해질 거예요.
int add(int a, int b) {
return a + b;
}mov eax, 10 ; 数据移动
add eax, 20 ; 整数加法
sub eax, 5 ; 整数减法
imul eax, ebx ; 整数乘法
and eax, ebx ; 按位与
cmp eax, ebx ; 比较
jmp target ; 无条件跳转if (a > b) {
return a;
}
return b;int add(int a, int b) {
return a + b;
}
소프트웨어와 하드웨어 사이의 추상화 경계
우리가 평소 프로그램을 작성할 때 사용하는 것은 C, Java, Go, Rust 같은 고수준 언어입니다. 이런 언어들은 변수, 함수, 루프, 조건문, 객체 등의 추상화를 제공해, 개발자가 프로세서를 직접 조작하지 않아도 되게 합니다.
하지만 어떤 언어를 쓰든, 결국 실제 계산은 컴퓨터가 수행해야 합니다.
문제는 이렇습니다.CPU는 우리가 작성한 고수준 언어를 알아들을지 못합니다.
CPU는int a = 10이 무엇 뜻인지 이해하지 못하며, Java 메서드나 Go 함수를 직접 실행하지도 않습니다. 프로세서가 실제로 실행할 수 있는 것은 미리 정의된 기계 명령어뿐입니다.
그렇다면 고수준 언어에서 CPU 실행까지 도대체 어떤 과정이 있을까요? 서로 다른 업체가 만든 CPU는 왜 같은 소프트웨어를 실행할 수 있을까요? x86-64용으로 컴파일한 프로그램은 왜 보통 ARM 프로세서에서 바로 실행되지 않을까요?
이 질문들에 답하려면 먼저 중요한 개념 하나를 알아야 합니다.바로 인스트럭션 세트 아키텍처(Instruction Set Architecture, ISA)입니다.
1. 고수준 언어에서 CPU 실행까지
먼저 간단한 C 프로그램 하나를 살펴보겠습니다.
이 코드의 로직은 단순합니다. 정수 두 개를 입력받아 더한 뒤, 결과를 반환합니다.
하지만 CPU 입장에서는 이 코드 자체는 실행 가능한 의미를 갖지 않습니다. 컴파일러를 거쳐 변환된 뒤에야 프로세서가 알아들을 수 있는 기계 명령어가 됩니다.
x86-64 아키텍처를 예로 들면, Linux System V AMD64 ABI 기준으로 컴파일러는 다음과 비슷한 어셈블리 코드를 생성할 수 있습니다.
여기서rdi와rsi에는 앞의 두 정수 인자가 각각 저장되고,eax에는 반환값이 저장됩니다.lea는 본래 유효 주소를 계산하는 명령어지만, 컴파일러가 정수 덧셈을 수행하는 데에도 쓸 수 있고,ret는 호출 규약에 따라 호출한 곳으로 돌아갑니다.
CPU가 최종적으로 실행하는 것은lea나ret같은 어셈블리 텍스트가 아니라, 이들에 대응하는 바이너리 기계 코드입니다. 예를 들어 위의 두 명령어는 일반적인 인코딩 기준으로 다음과 같습니다.
어셈블리 언어는 기계 명령어를 읽기 쉽게 표현한 한 가지 형태일 뿐이고, 실제 프로세서가 명령어를 가져오고 해독할 때 처리하는 대상은 기계 코드입니다.
이 사슬은 핵심적인 문제를 드러냅니다. 고수준 언어와 CPU 사이에는 양쪽 모두 따르는 기계 수준의 규칙이 필요합니다. 그 규칙이 바로 ISA입니다.
2. ISA: 소프트웨어와 프로세서 사이의 계약
ISA는 소프트웨어와 프로세서 사이의 계약서라고 이해할 수 있습니다.
소프트웨어 쪽은 ISA가 정한 규칙에 따라 기계 명령어를 생성하고, 하드웨어 쪽은 이 규칙을 구현해 규격을 만족하는 명령어가 규정된 동작을 수행하도록 보장합니다.
예를 들어, 소프트웨어가 정수 덧셈을 수행하고 싶다고 하면 다음과 같습니다.
이 명령어가 표현하는 것은 어떤 CPU가 내부적으로 덧셈을 어떻게 수행하는지가 아니라, 관찰 가능한 의미입니다. 두 레지스터의 값을 더하고, 명령어의 규정에 따라 대상 레지스터와 관련 상태를 갱신합니다.
CPU 내부에서 어떤 회로를 쓰는지, 몇 개의 클럭 사이클이 걸리는지, 여러 내부 동작으로 쪼개는지 여부까지는 ISA가 직접 규정하지 않습니다.
이것이 ISA가 갖는 가장 큰 가치입니다.프로세서가 반드시 어떤 식으로 구현해야 하는지가 아니라, 프로세서가 소프트웨어에 무엇을 약속할지를 정의하기 때문입니다.
2.1 ISA는 구체적으로 무엇을 정의하는가
ISA는 단순한 명령어 이름 목록이 아닙니다. 보통 하나의 완전한 기계 수준 가시 규칙 집합을 정의합니다.
구성 요소
주요 내용
역할
명령어 집합
덧셈·뺄셈·곱셈·나눗셈, 데이터 이동, 분기, 논리 연산 등
프로세서가 어떤 연산을 수행할 수 있는지 정의
레지스터 모델
레지스터의 개수, 폭, 용도, 가시 상태
명령어가 어떤 프로세서 상태에 직접 접근할 수 있는지 정의
데이터 타입과 폭
정수, 부동소수점, 벡터 데이터 등
데이터를 어떻게 해석하고 연산할지 정의
주소 지정 방식
레지스터, 메모리 주소, 즉시값을 어떻게 지정하는가
명령어가 피연산자에 접근하는 방식을 정의
메모리 모델
메모리 접근 순서, 원자 연산 및 관련 제약
여러 메모리 연산 사이의 가시 관계를 정의
예외와 인터럽트
0으로 나누기, 페이지 폴트, 잘못된 명령어 등의 처리 규칙
예외 발생 시 소프트웨어가 관찰할 수 있는 동작을 정의
특권 메커니즘
특권 레벨, 제어 레지스터, 보호된 동작
운영 체제가 프로세서 자원을 관리하도록 지원
이 모든 내용들이 함께 소프트웨어가 의존할 수 있는 기계 수준 환경을 정의합니다.
2.2 명령어 집합: 프로세서가 무엇을 할 수 있는가
가장 직관적인 부분이 바로 명령어 집합입니다.
예를 들어 x86-64는 서로 다른 유형의 명령어를 다수 제공합니다.
이 명령어들은 임의로 정한 동작 이름이 아니라, 인코딩과 피연산자 제약, 실행 의미가 명확히 정의된 기계 수준 연산입니다.
컴파일러는 바로 이 기능들을 바탕으로 고수준 언어의 표현식, 분기, 루프를 대상 ISA가 지원하는 명령어열로 변환합니다.
예를 들어,
컴파일러는 이를 비교와 조건부 점프로 변환할 수 있습니다.
고수준 언어의if는 CPU의 고정된 명령어 하나가 아니라, 컴파일러가 비교·분기 등의 명령어를 조합해 만들어 내는 제어 흐름입니다.
2.3 레지스터 모델: 프로세서가 소프트웨어에 드러내는 상태
레지스터는 프로세서 내부에 있는 빠른 저장소입니다. ISA는 소프트웨어가 어떤 레지스터를 보고 사용할 수 있는지, 그리고 각각의 용도가 무엇인지를 규정합니다.
x86-64를 예로 들면, 흔히 쓰이는 범용 레지스터는 다음과 같습니다.
레지스터
주요 용도
`rax`
범용 계산, 함수 반환값
`rbx`
범용 데이터 저장
`rcx`
범용 계산, 루프 카운터 등
`rdx`
범용 계산, 일부 연산에서의 보조 레지스터
`rsi`
범용 계산, 함수 인자
`rdi`
범용 계산, 함수 인자
`rsp`
스택 포인터
`rbp`
범용 계산, 스택 프레임 관리에도 자주 사용
`rip`
명령어 포인터, 현재 실행 위치를 가리킴
레지스터는 하드웨어 내부 구현 세부사항만은 아닙니다. ISA가 레지스터를 소프트웨어에 노출하기 때문에, 컴파일러는 레지스터의 개수와 폭, 사용 규칙을 파악해야 올바른 명령어를 생성할 수 있습니다.
레지스터가 인자를 전달할 때 구체적으로 어떤 역할을 맡는지는 ABI(Application Binary Interface, 애플리케이션 바이너리 인터페이스)의 제약도 받습니다. ISA는 레지스터 자체를 정의하고, ABI는 함수 인자를 어떻게 넘기고, 반환값을 어디에 두고, 어떤 레지스터를 호출한 쪽이 저장하고 어떤 쪽이 보존해야 하는지와 같은 규약을 추가로 정합니다.
2.4 메모리 모델: 프로그램이 메모리를 관찰하는 방식을 정의
프로세서가 프로그램을 실행할 때 레지스터만으로 처리할 수는 없습니다. 프로그램은 메모리에 담긴 변수, 배열, 객체 같은 데이터에도 접근해야 합니다.
ISA는 로드, 스토어, 원자 연산, 그리고 서로 다른 메모리 접근 사이의 순서 제약을 규정합니다.
예를 들어,
첫 번째 명령어는rbx가 가리키는 메모리 주소에서 데이터를 읽고, 두 번째 명령어는rcx가 가리키는 메모리 주소에 데이터를 씁니다.
하지만 멀티코어 프로세서에서는 메모리 접근 순서 문제가 복잡해집니다. CPU 아키텍처마다 메모리 연산 순서에 대한 제약이 다르기 때문에, 소프트웨어는 해당 아키텍처의 메모리 모델을 따라야 락, 원자 변수, 스레드 간 통신을 올바르게 구현할 수 있습니다.
따라서 ISA는 계산 방법뿐만 아니라, 소프트웨어가 메모리 시스템과 어떻게 상호작용하는지도 정의합니다.
3. ISA와 마이크로아키텍처: 규칙과 구현의 차이
ISA를 이해한 다음에는 또 다른 개념 하나를 구분할 필요가 있습니다. 바로 마이크로아키텍처(Microarchitecture)입니다.
둘은 자주 혼동되지만, 서로 다른 계층에 속합니다.
간단한 비유로 이해할 수 있습니다. ISA는 인터페이스 명세서처럼, 호출자가 어떤 인터페이스를 쓸 수 있고 그 인터페이스가 어떤 결과를 내야 하는지를 정하고, 마이크로아키텍처는 그 인터페이스 뒤에 있는 구체적인 구현입니다.
프로세서가 동일한 ISA를 올바르게 구현하기만 하면, 그 ISA에 맞는 소프트웨어는 해당 프로세서에서 실행할 수 있습니다. 서로 다른 프로세서는 완전히 다른 내부 설계를 채택할 수 있습니다.
3.1 같은 ISA인데 왜 성능 차이가 큰가
x86-64를 모두 지원하는 프로세서 두 개가 있다고 가정해 봅시다.
둘은 다음과 같은 면에서 차이가 날 수 있습니다.
이런 차이는 명령어 실행 효율에 영향을 주지만, 기본 ISA가 서로 다르다는 뜻은 아닙니다.
예를 들어 같은 정수 덧셈 명령어라도 서로 다른 프로세서에서는 다른 실행 유닛이 담당할 수 있고, 지연 시간과 처리량도 달라질 수 있습니다. 아키텍처에서 보이는 결과만 ISA 규정에 맞으면, 소프트웨어는 내부 구현 세부사항을 알 필요가 없습니다.
그 덕분에 프로세서 업체는 소프트웨어 인터페이스를 바꾸지 않고 하드웨어 최적화를 계속할 수 있습니다.
3.2 ISA는 프로세서 모델 이름이 아니다
특히 주의할 점이 있습니다. ISA는 특정 CPU 제품의 이름이 아닙니다.
예를 들어,
아키텍처가 규칙을 정의하고, 마이크로아키텍처가 그 규칙을 구현하며, 구체적인 프로세서 제품은 마이크로아키텍처를 실제 칩으로 내보냅니다.
4. 주류 ISA: x86, ARM, RISC-V
현재 흔히 쓰이는 프로세서 아키텍처는 주로 x86, ARM, RISC-V입니다.
셋 다 범용 계산을 지원하지만, 설계 철학과 생태계, 활용 장면은 서로 다릅니다.
4.1 x86 / x86-64
x86은 처음 Intel이 내놓았고, 이후 거대한 호환성 생태계가 형성됐습니다. x86-64는 64비트로 확장된 뒤의 주류 x86 아키텍처로, AMD64나 Intel 64라는 이름으로도 불립니다.
주요 특징은 다음과 같습니다.
x86-64는 개인용 컴퓨터, 서버, 클라우드 컴퓨팅 인프라에 널리 쓰입니다.
4.2 ARM / AArch64
ARM 아키텍처는 오랫동안 모바일 기기, 임베디드 기기, 저전력 컴퓨팅 영역에 활용되어 왔고, 최근에는 개인용 컴퓨터와 서버 시장으로도 널리 진입했습니다.
AArch64는 ARM 아키텍처의 64비트 실행 상태로, 특징은 다음과 같습니다.
ARM 아키텍처 명세와 구체적인 프로세서 제품은 구분해야 합니다. ARM사는 아키텍처와 프로세서 IP를 제공하며, 칩 업체는 라이선스를 바탕으로 자체 프로세서를 설계할 수도 있습니다.
4.3 RISC-V
RISC-V는 개방형 인스트럭션 세트 아키텍처 명세입니다. 모듈형 설계로, 기본 인스트럭션 세트와 선택형 확장을 조합해 다양한 능력을 구성합니다.
특징은 다음과 같습니다.
개방적이라는 것이 모든 RISC-V 프로세서의 능력이 같다는 뜻은 아닙니다. 구체적인 프로세서가 어떤 확장을 지원하는지는 여전히 그 구현과 플랫폼 명세를 확인해야 합니다.
아키텍처
주요 특징
주요 활용 분야
x86-64
성숙한 호환성 생태계, 복잡한 명령어 인코딩
PC, 서버
ARM AArch64
강한 저전력 생태계, 폭넓은 활용
스마트폰, 임베디드, PC, 서버
RISC-V
개방형 명세, 모듈형 확장
교육, 임베디드, 맞춤형 칩
5. 왜 서로 다른 ISA의 프로그램은 바로 실행되지 않는가
이제 꽤 현실적인 질문에 답할 수 있습니다. x86-64 컴퓨터에서 컴파일한 프로그램은 왜 보통 ARM64 기기에서 바로 실행되지 않을까요?
이유는 운영 체제가 반드시 다른 것도, CPU 성능이 다른 것도 아니라,기계 명령어의 인코딩과 의미 자체가 다를 수 있기 때문입니다.
예를 들어 두 아키텍처 모두 정수 덧셈을 수행해야 하지만, 명령어 형식, 피연산자 위치, 레지스터 번호, 인코딩 규칙은 서로 다릅니다.
같은 소스 코드는 서로 다른 컴파일러 백엔드를 통해 아키텍처별 기계 코드를 생성할 수 있지만, 생성된 바이너리 파일이 그에 따라 범용적이 되는 것은 아닙니다.
5.1 소스 코드는 아키텍처를 넘을 수 있지만, 기계 코드는 보통 안 된다
예를 들어,
이 C 코드는 특정 ISA에 의존하지 않습니다. 대상 플랫폼에 적합한 컴파일러와 런타임 환경만 있으면 x86-64, ARM64, RISC-V 프로그램으로 각각 컴파일할 수 있습니다.
하지만 컴파일이 끝나면, 오브젝트 파일 안의 기계 명령어는 이미 특정 아키텍처를 대상으로 생성되어 있습니다.
따라서 다음을 구분해야 합니다.
5.2 운영 체제도 호환성에 관여한다
프로그램이 실행될 수 있는지는 CPU가 해당 ISA를 지원하는지만으로 결정되지 않습니다.
운영 체제가 프로그램에 필요한 시스템 호출, 동적 링크 라이브러리, 파일 형식, 런타임 환경까지 제공해야 합니다.
예를 들어 Linux x86-64 프로그램은 보통 Linux ARM64 시스템에서 바로 실행되지 않습니다. 두 시스템이 모두 Linux를 쓰더라도 기계 명령어 아키텍처와 애플리케이션 바이너리 인터페이스의 차이를 무시할 수는 없습니다.
아키텍처를 넘은 실행은 에뮬레이터, 동적 바이너리 변환, 호환 계층 등을 통해 구현할 수 있지만, 이는 이미 대상 CPU가 원래 기계 코드를 직접 실행하는 것이 아닙니다.
6. ISA가 컴퓨터 아키텍처에서 차지하는 위치
앞의 내용을 모두 모아 보면 다음과 같은 완전한 관계 체인을 얻을 수 있습니다.
각 계층은 서로 다른 역할을 담당합니다.
ISA가 중요한 이유는 소프트웨어와 하드웨어를 서로 분리(decoupling)해 주기 때문입니다.
소프트웨어는 CPU 내부에 파이프라인이 몇 단계인지, 어떤 분기 예측 알고리즘을 쓰는지 알 필요가 없습니다. 하드웨어 역시 프로그램이 처음 C로 작성되었는지 Rust로 작성되었는지 신경 쓸 필요가 없습니다. 양쪽 모두 공동의 기계 수준 계약만 지키면 됩니다.
7. 정리
인스트럭션 세트 아키텍처는 단순한 명령어 목록이 아니라, 프로세서가 소프트웨어에 공개하는 완전한 기계 수준 명세입니다.
여기에는 프로세서가 어떤 명령어를 실행할 수 있는지, 소프트웨어가 어떤 레지스터를 볼 수 있는지, 메모리에 어떻게 접근하는지, 예외와 특권 메커니즘은 어떻게 동작해야 하는지가 규정되어 있습니다.
ISA를 이해할 때 가장 중요한 것은 다음 세 가지 인식을 세우는 것입니다.
이것들을 이해했다면, 컴퓨터의 저수준 동작 메커니즘을 들여다볼 통로가 생깁니다.
다음 편에서는 소프트웨어에서 하드웨어로 이어지는 방향으로 한 걸음 더 깊이 들어가겠습니다.프로그램은 어떤 단계를 거쳐야 소스 코드에서 CPU가 실행할 수 있는 기계 명령어가 될까요?