site map > 질의응답게시판 > 유효숫자 계산 관련 질문

즐겨찾기 | 현재접속자 (6) | 최근게시물

로그인 | 회원가입

α β γ δ ε ζ η θ ι κ λ μ ν ξ ο π ρ σ τ υ φ χ ψ ω Γ Δ Θ ΙΛ Ξ Π ∏ Σ Φ Ψ Ω ½ ⅓ ⅔ ¼ ¾ ⅛ ⅜ ⅝ ⅞ ¹ ² ³ ⁴ⁿ ₁ ₂ ₃ ₄± × ÷ ≠ ≤ ≥ ∞ ∴ ∠ ⊥ ⌒ ∂ ∇ ≡ ≒ ≪ ≫ √ ∽ ∝ ∵ ∫ ∮∬ ∈ ∋ ⊆ ⊇ ⊂ ⊃ ∪ ∩ ∧ ∨ ⇒ ∥˚ ℃ A ℉ ℓ ☆ ○ ◎ ◇ □ △ ▽ → ← ↑ ↓ ↔ ⊙ ☜ ☞ ↕ ↗ ↙ ↖ ↘ ♪ ♬ ⋅ ▀ ▄ █ █▌

작성일 : 25-04-22 18:25

유효숫자 계산 관련 질문

글쓴이 : ay

유효숫자를 고려해서 계산할때 계산이 연속적일때 질문이 있습니다.
중간 과정의 결과를 적어야할때는 유효숫자를 고려해서 적고 계산할때는 안전하게 두자리 더 포함해서 계산하여 결과에 유효숫자를 고려해서 적는 방식으로 하면 된다고 들었습니다.
대부분의 결과는 중간과정의 결과를 적은 값으로 계산한 값과 두자리를 더 포함해서 계산한값이 같지만, 간혹 다른 경우에는 어떤 답을 적어야할지 궁금합니다.
예를 들면 중간값의 결과가 0.469이고 두자리를 포함한 값이 0.46875일때 0.469*164.1=76.9629로 77.0을 적어야하지만, 0.46875*164.1=76.921875로 76.9를 적어야 하는 상황에서 어느 결과값을 적어야하는지 알고싶습니다.



만렙물리학 25-04-22 19:53 (a)에서 구하는 값을 제시할 때는 유효숫자를 정리해서 0.469을 얻었다고 할 때, (b)에서는 (a)의 결과를 이용해서 다시 계삲해야 할 경우가 있습니다. 이때는 정리되지 않은 값인 0.46875을 이용해서 계산을 한 후 그 결과를 유효숫자 정리하여 답을 해야 하겠습니다. 즉 0.46875164.1=76.921875로 76.9를 써야 한다는 것이죠. (a)의 rule로 계산한 값을 (b)에게 넘겨주면서 자신이 계산한 값으로 결과를 내라고 한다면 (b)는 또 자기자신만의 rule 있으므로 조금 불쾌하게 생각할 수 있을 것입니다. (b)의 입맛에 맞게 다시 계산할 수 있게끔 유효숫자 정리하지 않은 값을 줘야 하는 것이죠. 그럼 열공하세요~ (a)에서 구하는 값을 제시할 때는 유효숫자를 정리해서 0.469을 얻었다고 할 때, (b)에서는 (a)의 결과를 이용해서 다시 계삲해야 할 경우가 있습니다. 이때는 정리되지 않은 값인 0.46875을 이용해서 계산을 한 후 그 결과를 유효숫자 정리하여 답을 해야 하겠습니다. 즉 0.46875164.1=76.921875로 76.9를 써야 한다는 것이죠. (a)의 rule로 계산한 값을 (b)에게 넘겨주면서 자신이 계산한 값으로 결과를 내라고 한다면 (b)는 또 자기자신만의 rule 있으므로 조금 불쾌하게 생각할 수 있을 것입니다. (b)의 입맛에 맞게 다시 계산할 수 있게끔 유효숫자 정리하지 않은 값을 줘야 하는 것이죠. 그럼 열공하세요~