즐겨찾기 | 현재접속자 (1) | 최근게시물
로그인 | 회원가입
 
작성일 : 25-04-13 16:35
유효숫자 처리
 글쓴이 : 유효숫자
조회 : 94  
만약에 실험 결과 1.3920103이 나왔습니다. 유효숫자  2자리와 5자리의 곱이라 1.4라고 정리를 했습니다. 이 수를 어떤 공식에 대입하여 값을 구해야한다면 1.3920103을 대입해여하나요? 아니면 1.4를 대입해야하나요?

만렙물리학 25-04-13 17:29
답변  
최종결과값에서 정리할 유효숫자개수보다 두자리정도만 더넣으면 되겠습니다. 그러면 공식이 그닥 지저분해지지않을 것입니다.

즉 1.392까지만 대입하면 되겠네요. 실제 계산도 이 값으로 하면 됩니다.
그럼 열공하세요 ~