Search
Duplicate
🛥️

컴퓨터에서 실수 표현하기

간단소개
컴퓨터에서 실수를 어떻게 저장하는지에 대해서 정리했습니다.
팔만코딩경 컨트리뷰터 (Library DB (속성)에 관계됨)에 관계됨
ContributorNotionAccount
주제 / 분류
CS
태그
Float
Scrap
8 more properties

컴퓨터에서의 실수 표현

컴퓨터는 메모리에 0과 1을 이용한 2진수로 정보를 저장한다. 정수의 경우 단순히 2진수로 정확히 표현할 수 있지만, 실수는 그렇지 않다. 컴퓨터에서 실수를 표현하기 위해 메모리에 어떻게 저장하며, 그에 대한 두 가지 방법 부동 소수점과 고정 소수점을 살펴보도록하자.

부동 소수점

IEEE 754 32bits

부동 소수점에 대한 표준
부동 소수점에 대한 표준은 IEEE 754로 정의되어있다. 총 32비트 (4바이트)의 저장 공간에 실수를 저장하며, C/C++의 float형이 이를 따른다. 실제로 저장되는 값은 다음과 같다.
mantissa2exponent127mantissa * 2^{exponent - 127}
부호 비트 (sign bit, 1bit)
실수의 부호를 결정하는 비트이다. 정수에서와 마찬가지로 0일 경우 양수, 1일 경우 음수로 저장한다.
sign bit 가 1인 경우 나머지 값들은 정수와 마찬가지로 2의 보수로 저장한다.
지수 비트 (exponent bit, 8bit)
지수 비트는 2의 지수에 해당하는 부분을 저장한다. 이 때 유의할 것은 실제로 저장되는 값은 0~255의 값이며 실제로 사용할 때는 exponent - 127 값을 활용하게 된다.
가수 비트 (mantissa bit, 23bit)
가수 비트는 실수를 표현하기 위해 생성된 정규화된 2진수를 저장하는 부분이다.
가수 비트를 이해하기 위해서는 실제로 부동 소수점이 어떻게 비트로 표현되는 지 이해해야한다.

실수를 부동 소수점으로 표현하기

부동 소수점을 만들기 위해서는 우선, 정수부와 소수부를 나누어 2진수로 표현해야한다. 양수인 실수 3.14와 음수인 실수 -3.14를 예시로 살펴보자.
1.
정수부를 2진수로 표현하기
3
3의 경우 2진수로 표현하면 11 이다. 이를 기록하자.
2.
소수부를 2진수로 표현하기
소수부의 경우 정수와 달리 정확도의 문제가 있다. 이는 컴퓨터가 2진수로 소수부를 표현하기 위해 2^n 의 합으로 해당 소수를 나타내기 때문이다.
0.14
0.14를 표현하기 위해서 0.14와 가장 근접한 2^n 의 합을 구해야한다.
00011110101110000101001 이 이에 해당한다.
1/2 * 0 + 1/2^2 * 0 + 1/2^3 *0 + 1/2^4 *1 …. 과 같은 방식으로 계산된다.
3.
1.xxxx 형태의 가수, 지수 표현하기
정수부와 소수부를 모두 비트로 표현했다. 이를 2진법으로 다음과같이 나타내보자.
11.00011110101110000101001
이를 1.xxxxxx 형태로 가수부를 정규화한다.
1.1000011110101110000101001
가장 맨 앞의 1을 제외한 1000011110101110000101001 라는 값을 가수부로 활용한다.
정규화하는 과정에서 총 1비트만큼 우측으로 밀렸다 (2^1을 곱한 결과와 같음). 이를 지수부에 기록한다.
exponent = 1 + 127 == 10000000
4.
부호 맞추기
sign 비트에 양수일 경우 0 음수일 경우 1을 저장한다.
결과
sign | exponent | mantissa
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
3.14 → 0 |10000000 | 10010001111010111000011
-3.14 → 1 |10000000 | 10010001111010111000011
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -

부동 소수점 데이터를 실수 값으로 계산하기

실수를 부동 소수점을 통해서 구현했다. 이번에는 부동 소수점을 통해서 표현된 비트를 다시 실수로 옮겨보자.
sign | exponent | mantissa
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
3.14 → 0 |10000000 | 10010001111010111000011
-3.14 → 1 |10000000 | 10010001111010111000011
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
1.
sign 구하기
sign 영역은 총 32 비트의 영역 중 맨 좌측 1비트이다.
0 or 1
2.
exponent 구하기
exponent 영역은 총 32비트의 영역 중 좌측 2번째 비트부터 총 8비트이다.
10000000 ⇒ 128 (128 - 127) ⇒ 1
3.
mantissa 구하기
mantissa 영역은 우측으로부터 총 23비트이다. 이를 구한다. 이 때, mantissa가 부동소수점으로 표현될 때, 맨 앞의 1이 손실 된 것을 반영해야한다.
(1 << 23) | 10010001111010111000011110010001111010111000011
4.
exponent 값을 통해서 소수점의 위치 구하기
exponent 의 값은 128로 bias를 조정하면 1의 값을 가진다. 따라서 소수점의 위치는 다음과 같이 조정된다.
1.1001000111101011100001111.0010001111010111000011
5.
정수부와 소수부를 분리하여 계산하기
정수부113
소수부00100011110101110000110.1400001049041748046875
3.14 를 저장했지만, 실제 값은 정확히 3.14가 아니다. 이는 0.14 라는 값이 2의 지수합으로 나타낼 수 없기 때문이다. 이런 이유에서 부동 소수점간의 비교 연산을 신뢰할 수 없는 것이다.
이런 문제를 해결하기 위해 두 값 간의 차이가 아주 작은 수로 설정한 epsilon 보다 작은 경우 같은 수로 판단하는 방법을 활용한다.
6.
부호 반영하기 (결과)
sign 비트가 1일 경우 -1을 곱한다.
3.14 ← 0 |10000000 | 10010001111010111000011
-3.14 ← 1 |10000000 | 10010001111010111000011
IEEE 754에서는 예약된 수가 있다. 바로 NaN, -infinity, infinity 이다. Positive and negative infinity
Positive and negative infinity are represented thus:
sign = 0 for positive infinity, 1 for negative infinity.biased exponent = all 1 bits.fraction = all 0 bits.

NaN

Some operations of floating-point arithmetic are invalid, such as taking the square root of a negative number. The act of reaching an invalid result is called a floating-point exception. An exceptional result is represented by a special code called a NaN, for "ㅣㅣNumber". All NaNs in IEEE 754-1985 have this format:
sign = either 0 or 1.biased exponent = all 1 bits.fraction = anything except all 0 bits (since all 0 bits represents infinity).

연산

고정 소수점

부동 소수점의 경우 소수점의 위치가 유동적이었다. 그러나, 고정 소수점의 경우 데이터의 표현에서 정수부의 위치와 소수부의 위치가 명확하게 결정되어있다는 것이 특징이다. 때문에, 고정 소수점의 경우 표현할 수 있는 범위가 작다.

실수를 고정 소수점으로 표현하기

실수를 고정 소수점으로 표현하는 과정은 부동 소수점과 유사하다. 따라서, 정수, 소수부를 이진법으로 변환하는 과정은 생략한다. 아래 예시는 소수부 8비트로 고정 소수점을 구성하는 과정을 표현했다.
1.
정수부, 소수부를 2진법으로 변환하기
2.
정수부, 소수부에 2진법으로 변환된 값을 넣기
정수부113
소수부0010001111010111000011
3.
부호 반영하기
부동 소수점과 마찬가지로 좌측 첫 1비트는 부호로 사용한다. sign 값에 맞춰 0, 1을 대입한다.
그러나, 고정 소수점의 경우 연산상의 이점을 취하기 위해 정수형과 마찬가지로 음수일 경우 2의 보수를 취한다.
결과적으로 다음과 같이 구성된다.
3.14 의 경우
sign | integer | fraction
0 | 00000000000000000000011 | 00100011
-3.14 의 경우
sign | integer | fraction
1 | 11111111111111111111101 | 11011101

고정 소수점을 실수로 표현하기

고정 소수점을 실수로 표현하는 과정 또한 간단하다. 정수부의 부분을 정수로, 소수부의 부분을 소수로 변환한다. 이 때, 음수의 경우 2의 보수를 반드시 고려해야한다.
3.14 의 경우
sign | integer | fraction
0 | 00000000000000000000011 | 00100011
→ 3 + 0.13671875 = 3.13671875
-3.14 의 경우
sign | integer | fraction
1 | 11111111111111111111101 | 11011101
→ -3 + -0.13671875 = -3.13671875
소수부의 비트가 작은만큼 그로 인한 손실이 크게 발생한 것을 볼 수 있다.

부동 소수점을 고정 소수점으로 바꾸기

그렇다면, 부동 소수점으로 표현된 데이터를 고정 소수점으로 표현하기 위해서는 어떻게 해야할까? 이 또한 크게 어렵지 않다. 앞서 부동 소수점에서 지수, 가수를 통해서 2진법으로 표현된 실수를 구한 뒤, 이를 고정 소수점 형태로 변환하면 된다.
1.
부동 소수점에서 정수부, 소수부 추출하기
3.140 | 10000000 | 10010001111010111000011
11.0010001111010111000011
-3.141 | 10000000 | 10010001111010111000011
11.0010001111010111000011 (negative)
2.
부호에 맞춰 고정 소수점으로 바꾸기
3.1411.0010001111010111000011
→ 정수부 = 11 -> 23비트 → 00000000000000000000011
→ 소수부 = 0010001111010111000011 → 8비트 → 00100011
→ 결과 = 0 | 00000000000000000000011 | 00100011
(3.13671875)
-3.1411.0010001111010111000011
→ 정수부 = 11(negative) → (2의 보수 + 23비트) 11111111111111111111101
→ 소수부 = 0010001111010111000011 → 8비트 → 00100011 → 2의 보수 → 11011101
→ 결과 = 1 | 11111111111111111111101 | 11011101
(-3.13671875)

연산

이렇게 고정 소수점을 만들면 하나의 장점이 있다. 연산시 floating point 를 별도로 계산하지 않아도 되기 때문에 정수의 연산처럼 활용할 수 있기 때문이다.
아래 블로그에서 아주 자세히 이 연산 과정이 설명되어있다.

부동소수점 vs 고정 소수점

부동 소수점 장점 & 고정 소수점 단점

부동 소수점의 경우 소수점이 유동적으로 움직이기 때문에 담을 수 있는 수의 범위가 아주 크다.
고정 소수점의 경우 소수점이 고정되어있어, 담을 수 있는 수의 범위가 부동 소수점에 비해 작다.
또한 fraction 부분의 비트 수가 작은 경우, 정확도 또한 낮아질 수 있다.

부동 소수점 단점 & 고정 소수점 장점

고정 소수점의 경우 단순히 정수 연산과 같이 연산을 처리할 수 있고, 이는 부동 소수점보다 빠르다.
부동 소수점의 경우 소수점이 유동적이기 때문에 이를 계산하는 과정이 연산에 포함된다. 이 때문에 고정 소수점에 비해 느리다.
이런 장단으로 인해 실수를 적극적으로 활용하는 딥러닝 환경에서 최적화를 위해 고정 소수점을 활용하기도 한다.

참고 문서