디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

부동소수점이고 나발이고 나도 좆도 모르는데

(168.126) 2013.03.09 14:22:19
조회 59 추천 0 댓글 1

표면적으로 보이는거밖에 모르고 내부 수학적으로 어떻게 돌아가는건
나도모르는데 일단 아닌건 아니잖아

그래서 펌글을 첨부한당.
 
0.14 가 float 형에 어떻게 담기는지 알아보겠다.

우선.. 2의 -승수 값에 가장 근접하는.. 0.125 가 지수부가 된다. 1/8 이며.. 2^-3 이다.

부호비트 0, 지수부 124..

그리고 남는 0.015 에 대해 소수부 처리가 되는데..

2의 승수 값으로 계산한다면..

1/128 (0.0078125) + 1/256 (0.00390625) + 1/512 (0.001953125) + 1/1024 (0.0009765625)

15/1024 가 되며.. 15/1000 보다 작다..

계속해서 + 1/2048 하면 31/2048 이고, 이때 30/2000 보다 커진다.. 1/2048 은 제외..

 + 1/4096 하면.. 61/4096.. 이거 끝이없네;; 괜히 건드렸다;;; ㄷㄷㄷ;  1/8192 제외다.

 

2^-7 + 2^-8 + 2^-9 + 2^-10 + 2^-12 + 2^-14 대략 이정도 되겠다;; ㄷㄷㄷ;

지수가 -3 이므로.. 모두 해당 지수에 상대지수로 표현하면..

2^-4 + 2^-5 + 2^-6 + 2^-7 + 2^-9 + 2^-11  <== 이것도 정확한 값은 아니다..

000 1111 0101 0000 0000 0000 이고.. 흠.. 소수부는 대략 0x0F5000 되겠다..

 

a.b.s = 0;  a.b.g = 0x7C; a.b.f = 0x0F5000;

printf ( "%.20e\n", a.f );

// 출력해보니.. 1.3995361328125 e-1 이 나온다....

 

 

소수부 임의 수정으로 최적의 값을 찾아본 결과..

0x0F5C28 < 0.015 < 0x0F5C29 이다.. float 으로 0.14 를 정확하게 표현할 수 없음을 알게된다.

참고로.. 0.015 의 값에는.. 0x0F5C29 가 더 근접하다...

 

또한, float 에 0.14 를 주면.. 소수부는 0x0F5C29 를 취한다.. 근사치를 갖는 것이다.

 

a.f = 0.14;

printf ( "%X %X %X\n", a.b.s, a.b.g, a.b.f );

출력값 : 0 7C F5C29

 


추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 끝까지 다 본 걸 후회하게 만든 용두사미 드라마는? 운영자 25/07/07 - -
AD 휴대폰 바꿀까? 특가 구매 찬스! 운영자 25/07/02 - -
349358 하나의 배열에 다양한 종류의 데이터를 저장해서 전송하려면 [8] 신입뉴비(115.126) 13.03.15 114 0
349357 ㅇㅇ행님 메일좀 [2] 백이(223.62) 13.03.15 78 1
349355 이산수학 증명문제 질문좀 [8] 야간편돌이(175.116) 13.03.15 163 0
349354 ㅇㅇ형 나도 이메일좀 알려줘 [67] ㅇㅇ(121.163) 13.03.15 1786 0
349353 결국 전산실 떄려침 [4] ㅁㄴㅇㄹ(121.66) 13.03.15 234 0
349350 ㅇㅇ야 인증 없으면 모다? [1] dd(1.214) 13.03.15 136 0
349349 야. 다방레지가 뭐하는애냐 ? [4] LastCorona갤로그로 이동합니다. 13.03.15 95 0
349348 시스템콜 관련해서 좀 아는형없어?? [5] 애송이(112.187) 13.03.15 112 0
349347 ㅇㅇ님 온라인 강의하시는 건 어떤가요? [5] 에어로홍갤로그로 이동합니다. 13.03.15 115 0
349346 ㅇㅇ님 게임 뭐만듬 [2] d(168.126) 13.03.15 114 0
349345 ㅇㅇ형아 수업체계도 같은건 없음? [18] ㄷㄷ(168.115) 13.03.15 221 0
349343 다음주 일요일에 밥먹을사람 있니 [3] 루비•‿•갤로그로 이동합니다. 13.03.15 96 0
349342 정보보안 진로상담 좀 부탁드려요 [1] 킁킁(61.72) 13.03.15 123 0
349341 형님들 질문점요. [7] ㅇㅇ(115.41) 13.03.15 115 0
349339 호호 오늘은 즐거운 c프로그래밍 배우는 날~ ㅇㅇ(115.41) 13.03.15 68 0
349337 근데 ㅇㅇ횽 지금 그 일을 하려는 이유가 뭔가요 [23] 야간편돌이(175.116) 13.03.15 2004 0
349335 루비•‿•갤로그로 이동합니다. 13.03.15 45 0
349334 나한테 프로그래밍 배우고 싶은 사람 있나? [52] ㅇㅇ(119.203) 13.03.15 3575 7
349333 광역 어그로 시전 실패 [1] ㅇㅇ(119.203) 13.03.15 80 0
349330 책 읽기 좋아하는 10세 전후의 남자아이 [14] ㅇㅇ(119.203) 13.03.15 197 0
349329 ##컴학 대학교3학년...고민입니다## [4] .(121.140) 13.03.15 201 0
349328 프갤 교수님들덕에 공부가 가능함 [2] 야간편돌이(175.196) 13.03.15 79 0
349327 인간의 눈으로 들이오는 시각정보의 시간당 크기는 얼마쯤 될까? [5] (110.70) 13.03.15 81 0
349326 잌ㅋㅋ벤다이어그램 질문좀ㅋㅋㅋ [3] 야간편돌이(175.196) 13.03.15 57 0
349325 아가들아 횽아는 일하러 간다. [4] ㅇㅇ(119.203) 13.03.15 93 0
349324 오빠들 졸업작품 뭘만드는게 좋을까요? [1] 밀크쉐이크(124.54) 13.03.15 118 1
349323 아바타 구현하려면 소프트웨어 측면에선 뭐가 필요할까? [9] (110.70) 13.03.15 84 0
349322 ㅇㅇ횽 명제 하나만 더 질문 ㅜㅜ [21] 야간편돌이(175.196) 13.03.15 169 0
349321 형들 항진명제 질문좀 [4] 야간편돌이(175.196) 13.03.15 373 0
349320 새벽반 형들 나좀 도와줘. [35] f(211.196) 13.03.15 185 0
349319 [API] WM_COMMAND 를 사용 후 방향키입력시 반응하지않습니다. [1] API초보자(175.210) 13.03.15 110 0
349318 님들아 삼각형 관련 문제인데 답변좀 알면 방법좀 갈켜주세욤 ㅠㅠ [9] ㅇㅇ(58.233) 13.03.15 115 0
349317 제일 바보같은 생각이 ㅇㅇ(119.203) 13.03.15 101 0
349316 수학도 쫌 알아야함? [3] 소패왕손책갤로그로 이동합니다. 13.03.15 106 0
349315 살다 살다 Windows API 체계적이란 말 또 첨 들어봄. [1] ㅇㅇ(119.203) 13.03.15 140 0
349314 NT 총괄 책임자가 한 말이 있지. [3] ㅇㅇ(119.203) 13.03.15 144 0
349313 컴공과에서 좋은 직업 기려면 어떻게 해야하나요! [1] 횽들(121.180) 13.03.15 96 0
349312 컴공과 나오면 진로 살리나요? [1] 횽들(121.180) 13.03.15 264 0
349311 제가 이런 이야기까지는 하려고 안했는데. [4] 횽들(121.180) 13.03.15 106 0
349310 제가 왜 어그로입니까 형님들. 소통 좀 합시다. [3] 횽들(121.180) 13.03.15 75 0
349309 자료구조 과제 다했다... 점심땡갤로그로 이동합니다. 13.03.15 73 0
349308 웃대에서옴 서브루틴(211.243) 13.03.15 44 0
349307 저희 학교 OS수업 들은 선배가 그러던데요, MS는 신이래요 [2] 횽들(121.180) 13.03.15 156 0
349306 아 아까 시스템콜 질문한 애인데..한번만 더 도와줘.. [1] 도와줍쇼(112.187) 13.03.15 75 0
349305 MS OS 가 좆같은 이유 [7] ㅇㅇ(119.203) 13.03.14 326 0
349304 [3] 루비•‿•갤로그로 이동합니다. 13.03.14 94 0
349301 횽들 컴공에서 대학원가면 뭐 해요? [2] 횽들(119.202) 13.03.14 183 0
349300 야 갑자기 생각난건데.... [13] LastCorona갤로그로 이동합니다. 13.03.14 110 0
349299 횽들 컴퓨터구조라는 과목 강의 목표인데요 영어로 써져있어서 읽기 어렵네요 [3] 횽들(119.202) 13.03.14 94 0
349298 힉스입자가 프로그래밍에 끼칠영향 [3] ㅇㅇ(61.98) 13.03.14 129 0
뉴스 [티처스2] ‘IQ143’ 초3, 고3 수능 ‘4점 문제’ 암산으로 정복! 특급 초등영재 등장에 정승제 초흥분 “최상 수준” 디시트렌드 07.06
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2