컴퓨터에서의 수 표현

개요

본문에서는 컴퓨터가 정수를 표현하는 방식에 대해서만 다룬다.

0보다 작은 정수 표현하기

sign-magnitude

첫번째 bit를 부호를 지정하는sign bit로 사용하는 방식이다.

• sign bit 0: 양수 01010101₂ = +85₁₀
• sign bit 1: 음수 11010101₂ = -85₁₀

장점과 단점이 존재한다.

2의 보수법

2의 보수법(Two's Complement)이란 각각의 bit를 다음의 방식으로 해석하는 표현법이다.

[math]\displaystyle{ x_{w-1}\cdot(-2^{w-1})+\sum_{n=0}^{w-2}{x_i\cdot2^i} }[/math]

이때 2의 보수법을 적용하는 2진수에서의 first bit를 MSB(Most Significant Bit)라고 한다. MSB가 1이면 음수, 0이면 0이상의 정수이다.

아래는 2의 보수법을 적용하여 해석한 2진수이다.

• 0b01010 = 0 + 8 + 2 + 0 = 10
• 0b10110 = -16 + 0 + 4 + 2 + 0 = -10

Unsigned vs Signed

2의 보수법을 적용하여 동일한 2진 벡터를 다른 방식으로 해석할 수 있다. 아래는 그 예시이다.

• unsigned: 0b10110 = 16 + 0 + 4 + 2 + 0 = 22
• 2의 보수법: 0b10110 = -16 + 0 + 4 + 2 + 0 = -10

서로 다른 해석법 때문에 2진 벡터의 길이가 w일 때 unsigned 해석법과 2의 보수법은 각각 다른 범위를 가진다.

• unsigned 범위: 0 ~ 2^w-1
• 2의 보수법 범위: -2^w-1 ~ 2^w-1 - 1

이때 x > 0이라면, 2의 보수법으로 해석된 음의 정수 -x를 unsigned 방식으로 해석하면 2^w-x에 대응한다.

• B2S_w(1011) = -5, B2U_w(1011) = 11

Unsigned와 Signed 사이의 변환

파일:TypeCasting.png

signed 정수와 unsigned 정수사이에서의 변환은 해당 정수의 bit 패턴을 재해석하여 이루어진다. 오른쪽 그림은 컴퓨터 내에서 explicit 타입 변환이 어떤 방식으로 이루어지는지 보여준다. 또한 Unsigned 정수와 Signed 정수 사이의 변환에는 다음과 같은 관계가 성립한다.

• S2U(x) = x + 2^w [math]\displaystyle{ \times }[/math] MSB(x)
• U2S(x) = x - 2^w [math]\displaystyle{ \times }[/math] MSB(x)

또한 C에서의 형변환은 implicitly하게 발생하기도 한다. 예를 들어서 signed 정수와 unsigned 정수가 한 수식 내에서 혼용되어 사용된다면, signed 정수는 unsigned 정수로 암묵적으로 형변환된다.