본문 바로가기
study/공학

유효숫자의 연산(곱셈, 나눗셈)

by 새벽두루미 2020. 4. 17.

유효숫자의 연산

 

-곱셈

곱셈의 결과의 유효숫자의 개수는 두 숫자의 유효숫자의 개수 중 적은 쪽을 따르게 돼요.

 

예) (2.567 X10^4 )X(1.23 X10^2)

 

2.567 X10^4의 유효숫자 개수= 4개(2,5,6,7)

1.23 X10^2의 유효숫자 개수= 참값= 3개(1,2,3)

 

곱셈 결과는 25670X123=3157410 인데,

유효숫자의 개수가 적은 쪽인 3개를 따라야 해요.

 

3,1,5가 유효숫자이고, 그 다음 숫자인 7을 반올림하여 3160000을 과학적으로 표기하면,

 

답: 3.16X10^6

 

 

-나눗셈

나눗셈도 곱셈과 마찬가지로 나눗셈 결과의 유효숫자의 개수는 두 숫자의 유효숫자의 개수 중 적은 쪽을 따르게 됩니다.

 

예) (4.23 X10^3)/(1.2 X 10^2)

 

4.23 X10^3의 유효숫자는 4,2,3으로 총 3개

1.2 X 10^2의 유효숫자는 1,2로 총 2개

 

4230X120=507600에서 유효숫자는 2개여야 해요.

5,0이 유효숫자이고 그 다음 자리 7을 반올림하여 510000을 과학적으로 표기해요.

 

답: 5.1X10^5

 

 

 

 

 

 

 

 

 

 

[유효숫자의 의미와 덧셈,뺄셈]

https://blog.naver.com/miseo0ju/221912795667

 

유효숫사 의미와 계산(덧셈, 뺄셈)

유효숫자란? ​- 유효숫자란? 근삿값을 구할 때 반올림 등에 의하여 처리되지 않은 부분으로 오차를 고려한...

blog.naver.com

 


오류 지적과 질문은 언제나 환영입니다!

'study > 공학' 카테고리의 다른 글

[산과 염기]물의 자체양성자이전반응 이해하기  (0) 2020.04.19

댓글