디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

부동소수점이고 나발이고 나도 좆도 모르는데

(168.126) 2013.03.09 14:22:19
조회 62 추천 0 댓글 1

표면적으로 보이는거밖에 모르고 내부 수학적으로 어떻게 돌아가는건
나도모르는데 일단 아닌건 아니잖아

그래서 펌글을 첨부한당.
 
0.14 가 float 형에 어떻게 담기는지 알아보겠다.

우선.. 2의 -승수 값에 가장 근접하는.. 0.125 가 지수부가 된다. 1/8 이며.. 2^-3 이다.

부호비트 0, 지수부 124..

그리고 남는 0.015 에 대해 소수부 처리가 되는데..

2의 승수 값으로 계산한다면..

1/128 (0.0078125) + 1/256 (0.00390625) + 1/512 (0.001953125) + 1/1024 (0.0009765625)

15/1024 가 되며.. 15/1000 보다 작다..

계속해서 + 1/2048 하면 31/2048 이고, 이때 30/2000 보다 커진다.. 1/2048 은 제외..

 + 1/4096 하면.. 61/4096.. 이거 끝이없네;; 괜히 건드렸다;;; ㄷㄷㄷ;  1/8192 제외다.

 

2^-7 + 2^-8 + 2^-9 + 2^-10 + 2^-12 + 2^-14 대략 이정도 되겠다;; ㄷㄷㄷ;

지수가 -3 이므로.. 모두 해당 지수에 상대지수로 표현하면..

2^-4 + 2^-5 + 2^-6 + 2^-7 + 2^-9 + 2^-11  <== 이것도 정확한 값은 아니다..

000 1111 0101 0000 0000 0000 이고.. 흠.. 소수부는 대략 0x0F5000 되겠다..

 

a.b.s = 0;  a.b.g = 0x7C; a.b.f = 0x0F5000;

printf ( "%.20e\n", a.f );

// 출력해보니.. 1.3995361328125 e-1 이 나온다....

 

 

소수부 임의 수정으로 최적의 값을 찾아본 결과..

0x0F5C28 < 0.015 < 0x0F5C29 이다.. float 으로 0.14 를 정확하게 표현할 수 없음을 알게된다.

참고로.. 0.015 의 값에는.. 0x0F5C29 가 더 근접하다...

 

또한, float 에 0.14 를 주면.. 소수부는 0x0F5C29 를 취한다.. 근사치를 갖는 것이다.

 

a.f = 0.14;

printf ( "%X %X %X\n", a.b.s, a.b.g, a.b.f );

출력값 : 0 7C F5C29

 


추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 반응이 재밌어서 자꾸만 놀리고 싶은 리액션 좋은 스타는? 운영자 25/07/28 - -
AD 휴대폰 액세서리 세일 중임! 운영자 25/07/28 - -
350187 나도 마우스로 그린거.jpg [1] ?(175.203) 13.03.18 57 0
350182 프통령님 서울사시나요? 근성가이(211.237) 13.03.18 38 0
350181 나도 마우스로 그린거 [1] dot(113.30) 13.03.18 46 0
350178 웹쪽 잘아는 흉들 있나요 아 힘드네요 [1] 오뎅(112.205) 13.03.18 72 0
350177 쇼핑몰같은거 웹솔루션에서 의뢰하면 그후로 관리는 내가 못하나? qqq(121.186) 13.03.18 30 0
350174 조꼬딩은 학교때문에 자러감 백이.갤로그로 이동합니다. 13.03.18 32 0
350173 형들 과제하다가 질문좀 리눅스 관련 [8] 1(58.238) 13.03.18 86 0
350171 아제는 어느 직종에 일하든 다 잘할거같음 [2] 백이.갤로그로 이동합니다. 13.03.18 63 0
350170 사실 난 원화가가 되려고 했는데..... [3] 1234124213(211.189) 13.03.18 63 0
350169 다들 10년 전으로 돌아가면 어떻게 할 생각인가여 [5] 야간편돌이(175.116) 13.03.18 92 0
350164 학교 다니면서 따로 공부하는 시간은 어떻게 만듬? [2] 야간편돌이(175.116) 13.03.18 73 0
350161 형들 공부 한시간도 안 하는 날 있음?? [3] 야간편돌이(175.116) 13.03.18 79 0
350160 학교에서 시간을 어찌써야할까 [4] 백이.갤로그로 이동합니다. 13.03.18 47 0
350159 나도 1학년때 a보다 a+이 많았는데 [6] 야간편돌이(175.116) 13.03.18 121 0
350157 아 핏자 참 인증... [2] DART(116.41) 13.03.18 1151 0
350156 PATH 변수 설정 어찌할까요(119.198) 13.03.18 41 0
350155 big data 다루는 업무쪽으로 진로를 생각한다면 대형기업을 가야하나요 [2] 수수(220.117) 13.03.18 115 0
350154 진짜로 여자들이 차이나는 이유는.진지 DART(116.41) 13.03.18 57 0
350152 codesafer행님을 [2] 백이.갤로그로 이동합니다. 13.03.18 88 0
350150 근데 safer형 함수형언어에 대해 어떻게 생각해? [2] DART(116.41) 13.03.18 75 0
350149 며칠만에눈팅왓는데 프갤 글리젠수랑 수준 클라스가 달라졋네 암살상향좀(223.33) 13.03.18 53 0
350148 문제좀 간단하게 내줭 백이.갤로그로 이동합니다. 13.03.18 42 0
350145 님들 프로그래밍할때 장치별 처리속도같은거 중요함? [1] 야간편돌이(175.116) 13.03.18 59 0
350144 프로그래머 취직 전문대가 일반대한테 많이 꿇림? [3] 123(121.155) 13.03.18 141 0
350141 레노미나횽 처음 왔을 때 보는거 같다. [1] 생물학(120.50) 13.03.18 68 0
350140 C배우고나서 C++안배우고 VC++배우기 [7] 야간편돌이(175.116) 13.03.18 109 0
350139 고점성 물질 구현된 물리엔진 있음? [1] 생물학(120.50) 13.03.18 72 0
350138 여자 개발자 모임 센터 d(125.177) 13.03.18 67 0
350136 printf 와 write 함수 성능비교 질문좀요 [13] ㅅㅌㅇ(175.214) 13.03.17 216 1
350135 오늘 내가짠 코드 보고있는데... LastCorona갤로그로 이동합니다. 13.03.17 48 0
350134 형들 c++입문한 초본데요 [9] 손잭스(202.31) 13.03.17 139 0
350133 VC 2010한글 [11] 백이.갤로그로 이동합니다. 13.03.17 85 0
350132 휴대폰 액정에 멍이 들었는데 못 바꾸고 있다 [10] 에어로홍갤로그로 이동합니다. 13.03.17 100 0
350131 확실히 codesafer횽 오고 나서 프갤 클라스가 올라감 [2] dd(1.214) 13.03.17 136 0
350130 serializing and deserializing 무슨뜻인가요? [2] 근성가이(211.237) 13.03.17 110 0
350128 징기즈칸 어그로 그리 끌어대더니 성공하고 가네 [2] Colombia갤로그로 이동합니다. 13.03.17 89 0
350126 자바서버 개발해본사람답변좀 [7] ttp(110.47) 13.03.17 106 0
350125 가비다 영자님?? 저 웹 배우고싶은데 html 강의좀 후딱올려주시죠 [2] dd(118.221) 13.03.17 77 0
350124 자야할 시간이다.. [4] ㅋㄱ(183.96) 13.03.17 63 0
350123 안녕하십니까 프갤형님들 좋은 밤입니다. [3] ㅎㅋㅋㅋ(59.152) 13.03.17 129 0
350122 삼성전자 소프트웨어 R&D센터 서초구에 착공했음여 [5] 수수(220.117) 13.03.17 287 0
350119 자칭 왕의 소유자 백왕님의 위치를 밝혀보자 [8] 에어로홍갤로그로 이동합니다. 13.03.17 156 0
350118 형들 개발자 커뮤니티 사이트 만들었어 평가좀요ㅠㅠ [19] ㅠㅠ우잉(203.250) 13.03.17 243 0
350114 ㅇㅇ형 파일 다 보냈어요 [4] 징기스칸4(112.140) 13.03.17 80 0
350111 ㅇㅇ형 파일 보낸거 사용법 [10] 징기스칸4(112.140) 13.03.17 146 0
350110 백왕님 마포구 사시나요? [3] 에어로홍갤로그로 이동합니다. 13.03.17 94 0
350109 웹에서 특정영역만 화면 움직일수잇게 하는법좀 [3] wefw(175.215) 13.03.17 80 0
350108 16년 전에 여자친구랑 통화할때 [10] ㅇㅇ(119.203) 13.03.17 214 0
350107 아니시발아아아ㅏ tcp인데 왜패킷이 증발하는거야 ㅅㅂㅅㅂ [3] ttp(110.47) 13.03.17 74 0
350105 ㅇㅇ형 정말 감사합니다. 통한의 눈물을흘립니다 [7] 징기스칸4(112.140) 13.03.17 147 0
뉴스 여리(如理)∙Raynes∙Bright World, 7월 5주 차 위클리 키트앨범 스포트라이트 선정! 디시트렌드 10:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2