실수 표현

[Java] 컴퓨터가 실수를 표현하는 방법과 실수 연산시 주의사항(IEEE 754)

안녕하세요. 개발자 Jindory입니다. 오늘은 컴퓨터가 실수를 표현하는 방법과 실수 연산시 주의사항에 대해서 알아보고자 합니다. # 글 작성 이유 Java에서 0.1+0.2가 0. 30000000000000004가 나오는 이유에 대해서 알아보고 어떻게 정확한 방법으로 연산할 수 있을지에 대해서 알아보고자 합니다. 숫자의 표현 방법 일상생활에서 사람이 숫자를 표현 할 때 2와 9.625처럼 10진수를 사용하여 표현합니다. 아마도 손가락이 10개인 생리적 특성 때문에 10진법이 숫자를 세는 기본 단위가 된것 같습니다. 이와는 다르게 컴퓨터는 전기 신호로 정보를 처리하기 때문에 에 디지털 신호인 0과 1을 통해 2진법으로 데이터를 처리 및 관리합니다. 그래서 위 숫자들을 2진법으로 변환하면 2는 10(2) ..