즐겨찾기 | 현재접속자 (2) | 최근게시물
로그인 | 회원가입
 
작성일 : 25-03-30 18:43
정저미찰계수 측정 실험관련하여
 글쓴이 : ...
조회 : 83  
임계각 평균 유효숫자 몇개로잡나요?
(19+21+22)/3이면20.666666667인데
유효숫자2개로잡아서21인가요?

만렙물리학 25-03-30 19:47
답변  
유효숫자라기 보다는 정밀도 계산입니다.

합과 차는 정밀도가 가장 낮은 수에 맞추므로 결과값은 1의 자리를 가져야 하는 것이죠.

나눠주는 3은 측정치가 아니므로 유효숫자의 대상이 아닙니다.

따라서 결과값은 1의 자리에 맞춰야 하므로 0에서 끊고 뒤의 한 자리는 봐줘야 하므로 6은 반올림해서 21이라고 쓰면 되겠습니다.

그럼 열공하세요~