Не врёт ли сам мультиметр?
Да много чего.
Только гадать. Приводи схемы, фотки, код, тогда можно подумать.
И да, вот ты пишешь что тебе нужно повысить ТОЧНОСТЬ измерений, при этом поддаёшься на глупости.
Ну зачем тебе применять сдвиг? Зачем? Куда ты денешь такое количество высвободившегося процессорного времени и памяти?
При этом ты не хочешь понять, что применяя сдвиг ты отбрасываешь остаток. Да, можно сдвинуть в другую сторону и сохранить остаток, но и его придётся делить...
Зачем усложнять? А как ты разберёшься в этом коде через год? Два? Ты вспомнишь зачем ты делал такие хитрые манипуляции?
Что может быть проще? Считывай значение АЦП, умножай на 10(чтобы получить 1 знак после запятой при этом не забираясь во флоат, нужно 2 знака? - умножай на 100). Далее выполняй измерения много раз. Сколько позволяет время. 10 раз, 100, 200. Каждый раз прибавляя значение в переменную. Тут инта не хватит, нужен лонг. Далее дели на это количество раз. И получишь значение в 10(100) раз большее чем реальное. Т.е. последняя цифра это будет десятая или сотая соответственно часть! Подели + получи остаток. В итоге ты повысишь точность измерения.


