x86-64 어셈블리어

어셈블리 언어

프로그래밍 언어(C, C++, JAVA, Python) 보다 저수준 언어로 컴퓨터가 이해할 수 있도록 만든 언어.

종류 : IA-32(intel 32bit), x86-64, ARM, MIPS

어셈블리어(Assembly Language)

• 기계어와 일대일 대응이 되는 저수준 언어
• 사용자가 이해하기 어려운 기계어 대신에 명령 기능을 쉽게 연상할 수 있는 기호를 기계어와 1:1로 대응시켜 코드화한 기호 언어

기계어(Machine Language)

• 프로그램을 나타내는 가장 낮은 단계의 개념.
• 중앙처리장치(CPU)가 직접 판독하고 실행할 수 있는 비트(0과 1의 조합) 단위로 쓰인 컴퓨터 언어

 

기본구조

기본형태 : 명령어(옵코드) + 인자(오퍼랜드)

명령어 (옵코드)

명령 코드	설명
데이터 이동(Data Transfer)	mov, lea
산술 연산(Arithmetic)	inc, dec, add, sub
논리 연산(Logical)	and, or, xor, not
비교(Comparison)	cmp, test
분기(Branch)	jmp,  je, jg, jl , jnz
스택(Stack)	push, pop, pushad, popad
프로시져(Procedure)	call, ret, leave
시스템 콜(System call)	syscall
인터럽트	int (cpu가 잠깐 멈추는 명령어)

인자 (오퍼랜드)

BYTE, WORD, DWORD, QWORD가 올 수 있으며, 각각 1바이트, 2바이트, 4바이트, 8바이트

• 상수(Immediate Value)
• 레지스터(Register)
• 메모리(Memory)

 

데이터 이동 (Data Transfer)

1. mov dst, src : src에 들어있는 값을 dst에 대입합니다.

mov eax, ebx	ebx의 값을 eax에 대입
mov QWORD PTR[rdi], ebx	ebx의 값을 eax가 가리키는 주소에 대입

 

2. lea dst, src : src의 주소를 dst에 대입합니다.

lea eax, [ebx]

ebx의 메모리 주소를 eax에 대입

3. xchg dst, src : src의 값과 dst의 값을 교체합니다.

xchg eax, ebx	eax와 ebx의 값을 교환
xchg al, BYTE PTR [ebx]	al 레지스터와 ebx 메모리에 저장된 바이트 값을 교환
xchg eax, DWORD PTR [ebx]	eax 레지스터와 ebx 메모리에 저장된 4바이트 값을 교환

 

 

산술 연산 (Arithmetic)

1. add dst, src : dst에 src의 값을 더합니다.

add eax, 3	eax += 3
add eax, DWORD PTR[ebx]	ebx 메모리에 저장된 값을 eax에 더함

 

2. sub dst, src : dst에서 src의 값을 뺍니다.

sub eax, 3	eax -= 3
sub eax, DWORD PTR[ebx]	ebx 메모리에 저장된 값을 eax에 뺌

 

3. inc op: op의 값을 1 증가시킴

inc eax

eax += 1

4. dec op: op의 값을 1 감소 시킴

dec eax

eax -= 1

 

논리 연산 (Logical)

 

1. and dst, src : dst와 src의 값을 비트 단위로 AND 연산합니다.

and eax, 0xFF	eax &= 0xFF
and eax, DWORD PTR[ebx]	ebx 메모리에 저장된 값과 eax를 AND 연산

 

2. or dst, src : dst와 src의 값을 비트 단위로 OR 연산합니다.

or eax, 0xFF	eax |= 0xFF
or eax, DWORD PTR[ebx]	ebx 메모리에 저장된 값과 eax를 OR 연산

 

3. xor dst, src : dst와 src의 값을 비트 단위로 XOR 연산합니다.

xor eax, eax	eax ^= eax (결과적으로 eax = 0)
xor eax, DWORD PTR[ebx]	ebx 메모리에 저장된 값과 eax를 XOR 연산

 

4. not op : op의 비트를 반전시킵니다.

not eax

eax = ~eax

 

비교 (Comparison)

1. cmp dst, src : dst와 src의 값을 비교합니다.

cmp eax, 5	eax와 5를 비교
cmp eax, DWORD PTR[ebx]	eax와 ebx 메모리에 저장된 값을 비교

 

2. test dst, src : dst와 src의 비트 단위 AND 연산을 수행합니다.

test eax, eax	eax와 eax의 비트 단위 AND 연산 (결과적으로 eax가 0인지 확인)
test eax, 0x01	eax와 0x01의 비트 단위 AND 연산

 

분기 (Branch)

 

1. 조건에 따라 지정된 주소로 점프합니다.

jmp 0x00401000	무조건 주소 0x00401000으로 점프
je 0x00401000	ZF == 1이면 주소 0x00401000으로 점프
jne 0x00401000	ZF == 0이면 주소 0x00401000으로 점프
jg 0x00401000	eax > 0이면 주소 0x00401000으로 점프
jl 0x00401000	eax < 0이면 주소 0x00401000으로 점프
jge 0x00401000	eax >= 0이면 주소 0x00401000으로 점프
jle 0x00401000	eax <= 0이면 주소 0x00401000으로 점프

 

 

스택 (Stack)

1. push src : src의 값을 스택에 푸시합니다. 스택 포인터가 감소하고, 그 위치에 값이 저장됩니다.

push eax	eax의 값을 스택에 푸시 (rsp 감소, *rsp = eax)
push 0x1234	값 0x1234를 스택에 푸시 (rsp 감소, *rsp = 0x1234)
push rax	rax의 값을 스택에 푸시 (rsp 감소, *rsp = rax)

 

2. pushad : 모든 범용 레지스터를 스택에 푸시합니다. (eax, ecx, edx, ebx, esp, ebp, esi, edi를 순서대로 푸시)

pushad

모든 범용 레지스터를 스택에 푸시 (rsp 감소, 각 레지스터의 값이 순서대로 스택에 저장)

3. pop dst : 스택에서 값을 팝하여 dst에 저장합니다. 스택 포인터가 증가하고, 그 위치에서 값을 읽어 dst에 저장합니다.

pop ebx	스택에서 값을 팝하여 ebx에 저장 (*rsp = ebx, rsp 증가)
pop eax	스택에서 값을 팝하여 eax에 저장 (*rsp = eax, rsp 증가)
pop rax	스택에서 값을 팝하여 rax에 저장 (*rsp = rax, rsp 증가)

 

4. popad : 스택에서 모든 범용 레지스터 값을 팝합니다. (순서대로 eax, ecx, edx, ebx, esp, ebp, esi, edi에 저장)

popad

스택에서 모든 범용 레지스터 값을 팝

 

프로시저 (Procedure)

1. call address : 지정된 주소로 함수를 호출합니다. 호출 전에 현재의 명령어 포인터를 스택에 푸시하여 나중에 ret 명령어로 복귀할 수 있도록 합니다.

call 0x00401000

주소 0x00401000으로 함수 호출 ([rsp] = return address, rsp 감소)

2. ret : 현재 스택에서 반환 주소를 팝하여 그 주소로 점프합니다. 함수 호출 이후 호출된 지점으로 복귀합니다.

ret	스택에서 반환 주소를 팝하여 그 주소로 점프 (rsp 증가)

3. leave : 현재 스택 프레임을 정리합니다. 보통 ret 명령어와 함께 사용됩니다. 스택 포인터(rsp)를 복원하고, 프레임 포인터rbp를 복원합니다.

leave

현재 스택 프레임 정리 (rsp = rbp, pop rbp)

 

시스템 콜 (System Call)

syscall : 사용자 모드에서 커널 모드로 전환하는 명령어로 시스템 콜을 수행합니다. 이 명령어는 사용자 모드에서 커널 모드로의 전환을 수행하며, 운영 체제의 서비스를 요청합니다.

syscall 현재 레지스터에 설정된 시스템 콜 번호와 인수로 커널 모드로 전환하여 시스템 콜을 실행

예시 코드:

mov rax, 60	시스템 콜 번호 60 (리눅스에서 exit 시스템 콜) 설정
mov rdi, 0	exit 시스템 콜의 인수로 0 (종료 상태 코드) 설정
syscall	exit 시스템 콜을 호출하여 프로세스를 종료

 

예시:

mov rax, 1        ; 시스템 콜 번호 1 (sys_write)
mov rdi, 1        ; 파일 디스크립터 1 (stdout)
mov rsi, message  ; 메시지의 주소
mov rdx, 13       ; 메시지의 길이
syscall           ; 시스템 콜 호출

 

위의 예시에서, sys_write 시스템 콜을 사용하여 표준 출력(stdout)에 메시지를 출력합니다. rax에 시스템 콜 번호를 설정하고, rdi, rsi, rdx에 인수를 설정한 후 syscall 명령어로 커널 모드에서 시스템 콜을 수행합니다.

 

 

인터럽트 (Interrupt)

int n : 소프트웨어 인터럽트를 발생시킵니다. n은 인터럽트 벡터를 나타내며, 해당 벡터에 의해 지정된 인터럽트 핸들러가 호출됩니다. 일반적으로 운영 체제나 하드웨어와의 상호작용을 위해 사용됩니다.

• 하드웨어 인터럽트: 하드웨어 장치가 CPU의 주의를 요구할 때 발생합니다 (예: 키보드 입력, 타이머 이벤트).
• 소프트웨어 인터럽트: 소프트웨어가 CPU에 특정 작업을 수행하도록 요청할 때 발생합니다 (예: 시스템 콜).

인터럽트 처리 과정:

1. 현재 명령어 저장 : 인터럽트가 발생하면 CPU는 현재 실행 중인 명령어의 주소를 스택에 저장하여 나중에 복귀할 수 있도록 합니다.
2. 인터럽트 벡터 조회 : 인터럽트 벡터 테이블에서 인터럽트 핸들러의 주소를 조회합니다.
3. 인터럽트 핸들러 실행 : 조회된 핸들러 주소로 점프하여 인터럽트 핸들러를 실행합니다.
4. 복귀 : 핸들러 실행이 완료되면 스택에서 저장된 명령어 주소를 가져와 복귀합니다.

예시 코드:

int 0x80	리눅스 시스템 콜 인터럽트 호출
mov eax, 1	시스템 콜 번호 1 (sys_exit) 설정
mov ebx, 0	종료 코드 0 설정
int 0x80	시스템 콜 호출 (프로세스 종료)

 

예시 설명:

mov eax, 1      ; 시스템 콜 번호 1 (sys_exit)
mov ebx, 0      ; 종료 상태 코드 0
int 0x80        ; 리눅스 커널로 시스템 콜 요청

이 코드 예제는 int 0x80 인터럽트를 사용하여 리눅스에서 프로세스를 종료하는 시스템 콜을 호출합니다. eax 레지스터에 시스템 콜 번호를 설정하고, ebx에 인수를 설정한 후 int 0x80을 통해 커널 모드로 전환하여 시스템 콜을 실행합니다.