디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

부동소수점이고 나발이고 나도 좆도 모르는데

(168.126) 2013.03.09 14:22:19
조회 56 추천 0 댓글 1

표면적으로 보이는거밖에 모르고 내부 수학적으로 어떻게 돌아가는건
나도모르는데 일단 아닌건 아니잖아

그래서 펌글을 첨부한당.
 
0.14 가 float 형에 어떻게 담기는지 알아보겠다.

우선.. 2의 -승수 값에 가장 근접하는.. 0.125 가 지수부가 된다. 1/8 이며.. 2^-3 이다.

부호비트 0, 지수부 124..

그리고 남는 0.015 에 대해 소수부 처리가 되는데..

2의 승수 값으로 계산한다면..

1/128 (0.0078125) + 1/256 (0.00390625) + 1/512 (0.001953125) + 1/1024 (0.0009765625)

15/1024 가 되며.. 15/1000 보다 작다..

계속해서 + 1/2048 하면 31/2048 이고, 이때 30/2000 보다 커진다.. 1/2048 은 제외..

 + 1/4096 하면.. 61/4096.. 이거 끝이없네;; 괜히 건드렸다;;; ㄷㄷㄷ;  1/8192 제외다.

 

2^-7 + 2^-8 + 2^-9 + 2^-10 + 2^-12 + 2^-14 대략 이정도 되겠다;; ㄷㄷㄷ;

지수가 -3 이므로.. 모두 해당 지수에 상대지수로 표현하면..

2^-4 + 2^-5 + 2^-6 + 2^-7 + 2^-9 + 2^-11  <== 이것도 정확한 값은 아니다..

000 1111 0101 0000 0000 0000 이고.. 흠.. 소수부는 대략 0x0F5000 되겠다..

 

a.b.s = 0;  a.b.g = 0x7C; a.b.f = 0x0F5000;

printf ( "%.20e\n", a.f );

// 출력해보니.. 1.3995361328125 e-1 이 나온다....

 

 

소수부 임의 수정으로 최적의 값을 찾아본 결과..

0x0F5C28 < 0.015 < 0x0F5C29 이다.. float 으로 0.14 를 정확하게 표현할 수 없음을 알게된다.

참고로.. 0.015 의 값에는.. 0x0F5C29 가 더 근접하다...

 

또한, float 에 0.14 를 주면.. 소수부는 0x0F5C29 를 취한다.. 근사치를 갖는 것이다.

 

a.f = 0.14;

printf ( "%X %X %X\n", a.b.s, a.b.g, a.b.f );

출력값 : 0 7C F5C29

 


추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 현역으로 군대 안 간게 의아한 스타는? 운영자 25/06/30 - -
AD 휴대폰 바꿀까? 특가 구매 찬스! 운영자 25/07/02 - -
348888 신컨 [2] MEECL(218.232) 13.03.11 103 0
348886 큭큭..다크사이드해커가되고싶습니다.. xjdiiwjse(203.226) 13.03.11 101 0
348885 온라인게임같은거에서 핑같은건 어떻게만듬?? 개발개발(110.47) 13.03.11 41 0
348884 프로그래밍 언어에 '마스터'란 개념이 있냐? [4] benene갤로그로 이동합니다. 13.03.11 115 0
348883 서버관리 공부하려는데 노트북 필수인가요/ [3] Nkidman갤로그로 이동합니다. 13.03.11 104 0
348882 코뿔소 책 샀다 [4] 에어로홍갤로그로 이동합니다. 13.03.11 140 0
348881 프갤 공식책이 [1] 나리링갤로그로 이동합니다. 13.03.11 89 0
348880 프로그래밍 관련 트위터 리트윗 165회 글 에어로홍갤로그로 이동합니다. 13.03.11 62 0
348879 NHN next가려는데 지금 너무 늦나요? [4] 21345(211.189) 13.03.11 195 0
348878 돌아옴 백이(112.155) 13.03.11 36 0
348877 오랜만에 플밍갤이 활기차네 [2] rere(222.99) 13.03.11 51 0
348876 공부용으로 노트북살려는데 어떤게 나음? [4] 11(175.223) 13.03.11 175 0
348875 MFC 고급 개발자 있음? ㅁㄴㄻㄹ갤로그로 이동합니다. 13.03.11 87 0
348874 프갤이 왠일이지 [2] d(1.214) 13.03.11 79 0
348873 넷북으로 코딩하기 힘들다는 새기도 있는반면에 [1] 김삿갓(119.201) 13.03.11 121 0
348870 요맨피플은 낚시꾼 내지 댓글알바 [2] 에어로홍갤로그로 이동합니다. 13.03.11 72 0
348868 형들 질문이 있습니다 [4] 대학전공은쓰(118.43) 13.03.11 49 0
348866 자바 배울라고 하는데 [3] 123(61.83) 13.03.11 70 0
348864 정리해둔다. [7] ㅇㅇ(119.203) 13.03.11 154 0
348862 횽들 삼성5급s/w프로그래머 VS 속기공무원 [7] 영녕이갤로그로 이동합니다. 13.03.11 348 0
348860 영어야 이태원 백마꼬시면 된다. ㅋㅋㅋ(1.231) 13.03.11 347 0
348859 도서관에 왔는데 어떤 아줌마가 공룡책 [1] 에어로홍갤로그로 이동합니다. 13.03.11 123 0
348858 복지에 대한 편견. [11] ㅇㅇ(119.203) 13.03.11 107 0
348857 리눅스에서 api나 mfc 공부는 불가능한가? [5] 입에붙는거갤로그로 이동합니다. 13.03.11 98 0
348855 선진국들 복지가 좋은건, [6] ㅇㅇ(119.203) 13.03.11 144 0
348854 요즘같은 핵가족 시대에, 외국 생활이라. [3] ㅇㅇ(119.203) 13.03.11 84 0
348852 이거 공부할까 저거 공부할까 망설여질 땐, [1] ㅇㅇ(119.203) 13.03.11 69 1
348851 니들 갤질할 시간이면 [2] ㅇㅇ(119.203) 13.03.11 72 0
348848 제일 유망한 언어를 알려주마.. [3] ㅇㅇ(119.203) 13.03.11 207 0
348847 자바해봤자. 한국IT시스템의 노예가 될뿐이야.. [3] ㅋㅋㅋ(1.231) 13.03.11 149 0
348843 제가 컴공3년제인데요 [1] 전문대생2(221.154) 13.03.11 144 0
348841 실무에서 static 전역변수 자주쓰임? [4] 12(59.18) 13.03.11 130 0
348840 춥고 손시렵다 에어로홍갤로그로 이동합니다. 13.03.11 32 0
348839 nodejs 공부할 가치있냐? [2] ㅋㅋㅋ(1.231) 13.03.11 130 0
348838 "북한이…" 정몽준의 무서운 경고 에어로홍갤로그로 이동합니다. 13.03.11 70 0
348837 애들아 형 큰일났다. [3] ㅇㅇ(115.92) 13.03.11 107 0
348836 전문대 1학년인데요 [1] 전문대생(221.154) 13.03.11 83 0
348831 오피녀 예약 관리 프로그램 만들었는데 [3] ㅁㅇㄴㅇㅁㄴ(59.11) 13.03.11 150 0
348829 딸바보가 될 수 밖에 없는 이유 (19금 아청법 경고) 멍청닭(182.211) 13.03.11 99 0
348828 시스템엔지니어 vs 네트워크 엔지니어 vs jsp 개발 [4] dd(210.205) 13.03.11 329 0
348827 비쥬얼 스튜디오 2010 C++ 익스프레션 키등록도 했는데 [1] 미샤(211.104) 13.03.11 51 0
348825 MFC 코드흐름 하고있는데 [5] 미샤(211.104) 13.03.11 85 0
348821 판문점 닫았다는데? [1] 이모군(175.114) 13.03.11 62 0
348820 좃문대 나와도 공부 열심히 하면 짱짱맨 될수있나요? [4] 좃문대생(221.154) 13.03.11 113 0
348819 게임 개발 관련 커뮤니티 질문 [1] ㄴㄴ(39.7) 13.03.11 60 0
348816 공룡책 삿다 질문받는다 [1] (39.7) 13.03.11 84 0
348815 매일 근무일지 쓰는 분 있나요? [1] 에어로홍갤로그로 이동합니다. 13.03.11 103 0
348814 친구가 계속 지네 회사 오라고 하는데 짜증 폭발 [1] 멍청닭(182.211) 13.03.11 151 0
348813 정보처리기사 13개나 틀렸네 dot(113.30) 13.03.11 78 0
348812 이클립스 도움좀 부탁함 [1] 이지 포우갤로그로 이동합니다. 13.03.11 72 0
뉴스 '추성훈의 밥값은 해야지' 추성훈-곽준빈-이은지, 사진 촬영도 범상치 않은 이들의 리얼 생존 여행이 온다! 디시트렌드 07.01
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2