계측 알고리즘 개발시 주의사항

전압, 전류, 온도, RPM 등을 정밀하게 계측하기 위해서는 기본적으로 하드웨어가 정밀해야 한다. 그 이후 소프트웨어에서 정밀한 계측을 위한 알고리즘을 사용해야 한다.

정밀한 계측을 위한 가장 기본적인 알고리즘은 평균을 취하는 것이다. 계측 노이즈는 보통 평균이 0인 정균분포를 이루기 때문에 평균을 하면 분산이 감소하면서 계측 정밀도가 증가한다.

전압이나 전류 계측 정밀도를 0.5%로 맞추기 위해서는 1초 동안 1000번 정도의 샘플을 평균 해야 한다. 어떤 엔지니어는 고속 계측이 필요 없는 상황에서 100ms 주기로 평균하여 0.5% 정밀도를 어렵게 맞추는 경우가 있다. 

고속 계측에서 정밀도를 맞추기는 매우 어렵다. 그래서, 오실로스코프는 계측 정밀도가 매우 떨어진다. 어떤 경우 멀티미터와 비교하여 10% 정도 차이가 나기도 한다.

기술이 좋은 회사의 제품은 저사양의 하드웨어를 사용하면서도 높은 정밀도의 계측을 할 수 있다. 그래서, 기술이 앞선 유럽이나 미국의 제품과 비교하여 우리나라 제품은 매우 고가의 부품들을 사용하면서도 전체 정밀도는 떨어지는 경우가 많다.