ANEXO A
Abaixo estão as tabelas dos dados obtidos na calibração da medição de
tensão feita pelo conversor A/D pelos seus dois canais: canal 0 e canal 1.
A.1 Dados da calibração dos canais do conversor A/D
TABELA A.1 – Dados da calibração do canal 0 do conversor A/D
Ponto
VVC
[V]
Média das indicações
[V]
Tendência
[V]
Repetitividade (95%)
[V]
1 0,0000 -0,0007 -0,0007 0,0000
2 0,1001 0,0996 -0,0005 0,0001
3 0,2006 0,2002 -0,0004 0,0002
4 0,3004 0,3000 -0,0004 0,0001
5 0,4007 0,4003 -0,0004 0,0001
6 0,5004 0,5000 -0,0004 0,0001
7 0,6003 0,6001 -0,0002 0,0001
8 0,7005 0,7003 -0,0002 0,0001
9 0,8010 0,8008 -0,0002 0,0001
10 0,9005 0,9004 -0,001 0,0001
11 1,0000 1,0000 0,0000 0,0001
12 1,1008 1,1008 0,0000 0,0001
13 1,2004 1,2004 0,0000 0,0001
14 1,3018 1,3019 0,0001 0,0001
15 1,3999 1,4000 0,0001 0,0001
16 1,5014 1,5015 0,0001 0,0001
17 1,6001 1,6002 0,0001 0,0001
18 1,6997 1,6999 0,0002 0,0001
19 1,8011 1,8014 0,0003 0,0001
20 1,8999 1,9002 0,0003 0,0001
21 2,0008 2,0011 0,0003 0,0001
22 2,1009 2,1013 0,0004 0,0001
23 2,2010 2,2014 0,0004 0,0001
24 2,3005 2,3010 0,0005 0,0001
25 2,4005 2,4010 0,0005 0,0001
26 2,5004 2,5009 0,0005 0,0001
27 2,5996 2,6002 0,0006 0,0001
28 2,7000 2,7006 0,0006 0,0001
29 2,8009 2,8015 0,0006 0,0001
30 2,9008 2,9014 0,0006 0,0001
31 3,0004 3,0011 0,0007 0,0001