유효숫자의 연산
-곱셈
곱셈의 결과의 유효숫자의 개수는 두 숫자의 유효숫자의 개수 중 적은 쪽을 따르게 돼요.
예) (2.567 X10^4 )X(1.23 X10^2)
2.567 X10^4의 유효숫자 개수= 4개(2,5,6,7)
1.23 X10^2의 유효숫자 개수= 참값= 3개(1,2,3)
곱셈 결과는 25670X123=3157410 인데,
유효숫자의 개수가 적은 쪽인 3개를 따라야 해요.
3,1,5가 유효숫자이고, 그 다음 숫자인 7을 반올림하여 3160000을 과학적으로 표기하면,
답: 3.16X10^6
-나눗셈
나눗셈도 곱셈과 마찬가지로 나눗셈 결과의 유효숫자의 개수는 두 숫자의 유효숫자의 개수 중 적은 쪽을 따르게 됩니다.
예) (4.23 X10^3)/(1.2 X 10^2)
4.23 X10^3의 유효숫자는 4,2,3으로 총 3개
1.2 X 10^2의 유효숫자는 1,2로 총 2개
4230X120=507600에서 유효숫자는 2개여야 해요.
5,0이 유효숫자이고 그 다음 자리 7을 반올림하여 510000을 과학적으로 표기해요.
답: 5.1X10^5
[유효숫자의 의미와 덧셈,뺄셈]
https://blog.naver.com/miseo0ju/221912795667
유효숫사 의미와 계산(덧셈, 뺄셈)
유효숫자란? - 유효숫자란? 근삿값을 구할 때 반올림 등에 의하여 처리되지 않은 부분으로 오차를 고려한...
blog.naver.com
오류 지적과 질문은 언제나 환영입니다!
'study > 공학' 카테고리의 다른 글
[산과 염기]물의 자체양성자이전반응 이해하기 (0) | 2020.04.19 |
---|
댓글