디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

부동소수점이고 나발이고 나도 좆도 모르는데

(168.126) 2013.03.09 14:22:19
조회 58 추천 0 댓글 1

표면적으로 보이는거밖에 모르고 내부 수학적으로 어떻게 돌아가는건
나도모르는데 일단 아닌건 아니잖아

그래서 펌글을 첨부한당.
 
0.14 가 float 형에 어떻게 담기는지 알아보겠다.

우선.. 2의 -승수 값에 가장 근접하는.. 0.125 가 지수부가 된다. 1/8 이며.. 2^-3 이다.

부호비트 0, 지수부 124..

그리고 남는 0.015 에 대해 소수부 처리가 되는데..

2의 승수 값으로 계산한다면..

1/128 (0.0078125) + 1/256 (0.00390625) + 1/512 (0.001953125) + 1/1024 (0.0009765625)

15/1024 가 되며.. 15/1000 보다 작다..

계속해서 + 1/2048 하면 31/2048 이고, 이때 30/2000 보다 커진다.. 1/2048 은 제외..

 + 1/4096 하면.. 61/4096.. 이거 끝이없네;; 괜히 건드렸다;;; ㄷㄷㄷ;  1/8192 제외다.

 

2^-7 + 2^-8 + 2^-9 + 2^-10 + 2^-12 + 2^-14 대략 이정도 되겠다;; ㄷㄷㄷ;

지수가 -3 이므로.. 모두 해당 지수에 상대지수로 표현하면..

2^-4 + 2^-5 + 2^-6 + 2^-7 + 2^-9 + 2^-11  <== 이것도 정확한 값은 아니다..

000 1111 0101 0000 0000 0000 이고.. 흠.. 소수부는 대략 0x0F5000 되겠다..

 

a.b.s = 0;  a.b.g = 0x7C; a.b.f = 0x0F5000;

printf ( "%.20e\n", a.f );

// 출력해보니.. 1.3995361328125 e-1 이 나온다....

 

 

소수부 임의 수정으로 최적의 값을 찾아본 결과..

0x0F5C28 < 0.015 < 0x0F5C29 이다.. float 으로 0.14 를 정확하게 표현할 수 없음을 알게된다.

참고로.. 0.015 의 값에는.. 0x0F5C29 가 더 근접하다...

 

또한, float 에 0.14 를 주면.. 소수부는 0x0F5C29 를 취한다.. 근사치를 갖는 것이다.

 

a.f = 0.14;

printf ( "%X %X %X\n", a.b.s, a.b.g, a.b.f );

출력값 : 0 7C F5C29

 


추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 현역으로 군대 안 간게 의아한 스타는? 운영자 25/06/30 - -
AD 휴대폰 바꿀까? 특가 구매 찬스! 운영자 25/07/02 - -
349253 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [1] 루비•‿•갤로그로 이동합니다. 13.03.14 64 0
349252 centos 하고 페도라 둘중에 페도라쓸려고하는데 페도라좋음? [8] ㄷㅈㄱ2(175.215) 13.03.14 125 0
349251 클라스 설계요 [6] dd(121.163) 13.03.14 120 0
349250 유니티로 2d게임 만들기 [3] bibibic(115.41) 13.03.14 213 0
349244 개초본데 반복문 습관 [2] ㅇㅇ햏들(1.216) 13.03.14 90 0
349242 시발 인터넷속도 이게말이되냐? 개발손(110.47) 13.03.14 53 0
349240 학원 지잡, 이러고 계급 나누는거 보면 [5] D(168.126) 13.03.14 135 0
349237 서버용 컴퓨터 구매안하고 직접 조립해서 써도됨? [4] ㄷㅈㄱ2(175.215) 13.03.14 99 0
349235 C++하는데 멘붕이다 좀 도와줄래? [21] 컴공 복학생(221.139) 13.03.14 231 0
349234 정적 코드와 동적 코드가 뭐냐 [2] ㅁㅇㄴ(59.11) 13.03.14 118 0
349232 아놔 이 정도면 사기아님? [5] savior(180.231) 13.03.14 113 0
349231 그리고만약 당신이 죽을때까지 컴퓨터관련 직종이면 학교 공부 안해도 불안하 티모티모(211.112) 13.03.14 79 0
349229 야 알고리즘 짜는 능력은 필요없다. [4] 티모티모(211.112) 13.03.14 213 0
349228 웹사이트 동접수 200명이면 호스팅 얼마짜리받으면 원활히돌아감? ㄷㅈㄱ2(175.215) 13.03.14 98 0
349227 학원과 지잡애들아 잘있냐 오늘도 이야기 보따ㅍㅣ 풀고간다 [5] 티모티모(211.112) 13.03.14 148 0
349225 아... 좆문대생인데 좆나빡세게 하면 됨? [2] 답잉벗다(182.216) 13.03.14 104 0
349219 클래스 설계할 때 어떻게 하십니까 [5] dd(121.163) 13.03.14 115 0
349218 아이티는 무슨 시발 지진나면 다듸지는 아이티? [1] 영꼰이갤로그로 이동합니다. 13.03.14 60 0
349217 왜 스마트폰이랑 피쳐폰 처음에 키면 로딩 바 뜨냐? [3] f(211.196) 13.03.14 85 0
349216 형들 뭐 준다고 해놓고 안주고 뜸들이는 경우는 어떻게 봐야돼? [3] savior(180.231) 13.03.14 66 0
349213 님들 저녁 먹음? [3] 백이(115.89) 13.03.14 62 0
349210 오늘선생이내꿈깨버림 [5] 백이(115.89) 13.03.14 120 0
349209 집에가고싶다 [7] 루비•‿•갤로그로 이동합니다. 13.03.14 152 0
349208 김연아 콧구멍에 숨겨진 비밀 공개 [1] 에어로홍갤로그로 이동합니다. 13.03.14 213 0
349207 나 학부 때 c c++ c# mfc opengl directx 이런거하다 [3] 영꼰이갤로그로 이동합니다. 13.03.14 205 0
349205 질문이 있어요.. [2] 리듬게이머갤로그로 이동합니다. 13.03.14 56 0
349202 아 노트북샀는데 비쥬얼2010되다가 안되는데 왜이래 ㅁㅁ(203.226) 13.03.14 60 0
349201 오늘이 화이트데이였냐? [1] 이모군(175.114) 13.03.14 60 0
349200 프로그래밍 갤러리님들아 가르침을 주십시오 구원이필요함(222.104) 13.03.14 66 0
349198 우리나라엔 구글 같은 회사 없냐 [6] ㅁㄴㄻㄹ갤로그로 이동합니다. 13.03.14 232 0
349197 여기말고 더 괜찮은 프로그래밍 관련 사이트 추천해줘 [4] 티몽(121.134) 13.03.14 171 0
349196 삼성 컨버젼스 아카데미 [2] DART(116.41) 13.03.14 177 0
349195 코드잡이라는 사이트 아시나요? ㄹㄹ(121.134) 13.03.14 69 0
349194 프갤형님들 C++ 파일생성이 안되용 왜그러져 [2] ㅎㅋㅋㅋ(59.152) 13.03.14 83 0
349193 조회수 테스트 때릴꺼야?(116.40) 13.03.14 73 0
349191 댓글 달아라 연봉 맞춰준다 [4] 연봉감별사 (61.72) 13.03.14 128 0
349190 형들아 취업하려면 개발자로써 실력이 어느정도되어야 함? [2] ㅇㅅ(112.187) 13.03.14 163 0
349189 프갤 형님들 점심식사는 하셨나요? [1] ㅎㅋㅋㅋ(59.152) 13.03.14 79 0
349187 형들 독순법이나 구화법 모바일로 구현할수 있을까?? [3] 티버애니갤로그로 이동합니다. 13.03.14 352 0
349186 윤년계산식 [5] 프로그래머(121.134) 13.03.14 107 0
349185 ABAP 어디서 배우냐 ?? ㅇㅇ(210.109) 13.03.14 89 0
349184 더러운 GIL [1] 천회장(118.131) 13.03.14 105 0
349183 NSIS vs. INNO ㅁㄴㄻㄹ갤로그로 이동합니다. 13.03.14 66 0
349182 님들 수학 꼴통이 질문 하나만 할게요 [8] 야간편돌이(175.116) 13.03.14 145 0
349181 프갤 횽들 지금 구글리더가 폐쇄된다는데 호떡집에 불난 급 아님?;;;; [4] ㅇㅇ(1.240) 13.03.14 167 0
349180 형들 뭐가 잘못됐는지 봐줘. [8] savior(210.105) 13.03.14 103 0
349177 영어공부법 알려드린다. (168.126) 13.03.14 98 0
349176 미드로 영어공부하는거 효과좋음? [5] ㄱ2ㄱ(175.215) 13.03.14 117 0
349175 영어공부법좀 알려주셈; wer2r(175.215) 13.03.14 65 0
349173 고수 횽들 이거 좀 도와주세요 ㅠㅠ [10] 김삼디(110.9) 13.03.14 139 0
뉴스 정동원, ‘걍남자’서 임영웅과 1박 2일 캠핑 여행 "찐형제 케미" 디시트렌드 07.04
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2